(一)开篇与方阵的左右逆

线性代数 机器学习基础

---

开篇

线性代数是机器学习入门的基础之一，过去在学校的时候，不懂得珍惜，现在后悔也没有用了。作为一名学渣，在学习机器学习相关理论基础知识的时候，发现有很多过去可能根本不会细想，但是实际上却非常重要的常识性的知识点，而且它们的大多可以通过较为直观的理解清晰地呈现出来，所以我就打算写一系列的总结文章，在稳步夯实基础的同时，分享给有需要的人看。如果您有幸看到这些文章，可能会觉得我很傻，为什么一个问题要那么啰嗦的阐述出来，那也请包含吧，我就是想把一个问题简单化。
作为第一篇简单的总结文章，我想先探讨一个可能很多人在接触线性代数，并且求解方阵的逆矩阵的时候，通常会忽略思考的一个简单问题，那就是方阵的左逆矩阵为什么等于右逆矩阵？可能我们对于问题的理解总是会不自觉的忽略其内在的原因，我不知道是不是人对于问题究竟是否理解的判断是不是都是认为只要感觉上记住了，熟悉了，就认为是理解了，但是我觉得对于数学上的理解应该总是需要以一种简单直观的形式呈现出来才算得上是真正的理解了，这种形式可能是几何上边的理解，也可能是某种简单的一目明了的公式化的呈现。而且这种理解最好是可以从一个问题的源头和目的开始，逐步展现得到结论的整个直观的过程。国内的教育我觉得总是过分强调了对于公式严谨地推导，总是摆出一个结论，然后设法以各种方式去证明，但是实际上却难以给人一种对于这个结论最为直观的理解。可能一时通过公式推导记住了，但是很久不用后，可能就会完全忘记，甚至都没有一点印象，没有把握住精髓。而于此相反，如果一开始对于问题的思考可以从直观的层面理解，能够在大脑中建立起直观的印象，那么可能过了很久之后，接触到这个问题后，很可能马上就可以知道为什么会这样。这种直觉，我觉得才是推动一个人学习的源泉。当然我恐怕也做不到能够总结得多么的直观，有时候也是公式的推导呈现，但是至少可以通过这个系列的总结文章，逐步地靠近我最终想要说明的那些相对比较复杂的问题的简单理解。通过一步步简单的推导，最终得到了过去认为的比较复杂问题的简单表示。

方阵的左右逆

矩阵可以表达二维的数据集，所以矩阵可以看作是一个二维的数据结构，而一个普通的实数，就是一个一维的数据结构，对于三维或者是更高维度的数据的表示结构，其实就是张量了。过去在小学的时候，学到除法，分数，倒数，就会发现一个数乘以它的倒数，等于1，而且不管是左乘还是右乘，都等于1，所以到了学习线性代数的时候，被告知方阵存在逆矩阵的时候，而且有

$$AA^{-1}=I$$ 的时候，自然而然的也会觉得 $$A^{-1}A=I$$ 是再正常不过的现象了，不会思考为什么，若方阵$A$有 $$AB=I$$ 实际上就可以认为$B$是$A$的逆矩阵，那为什么 $$BA=I$$ 也成立呢？如果我们把等式$AB=I$左乘$B$，那么就会得到 $$BAB=B \implies (BA - I)B = 0$$ 所以明眼人这样一看就会觉得，$BA=I$直接成立了。首先$A$是可逆的$n \times n$的方阵，这意味着$A$由$n$个线性无关的向量构成，$B$也是，一个矩阵被另外一个矩阵左乘，相当于对这个矩阵的行向量进行线性组合，所以要把$n$个线性无关的向量组合为0，只能够是因为这个矩阵是零矩阵。所以$BA=I$成立。
上边的表述是基于公式化的描述，其实对于任何函数来说都可以定义$inverse$的，矩阵可以看作是一个线性变换的函数。对于方阵来说，逆矩阵可以看作是对矩阵的向量进行基变换，比如说$AB=I$，那么其实就是$B$把$A$矩阵表示的基向量变换到了标准正交基当中，$B$是一个基变换过渡矩阵。只不过是说，$B$左乘把$A$的列向量变换成了标准正交基，而右乘则是把行向量变成了标准正交基。感觉上是一种对称性，不过更加详细的直观理解我恐怕无法给出了，应该可以通过代数上更高层次的理论来解释，但是我觉得这里这样应该就够了。

作者 @fsfzp888
2018 年 03月 30日