设$n$阶矩阵$A,B$可交换，证明： $$r(A+B)\leq r(A)+r(B)-r(AB)$$

证明：先证一个引理：

设$A,B$是数域$K$上两个$n\times n$矩阵且$AB=BA$.又设

$$r(A)+r(B)\geq r(C)+r(AB)$$

证明：考察奇次线性方程组$AX=0$和$BX=0$,它们的全部公共解向量恰好为$CX=0$的解向量。故设$CX=0$的一个基础解系是

$$\varepsilon_{1},\varepsilon_{2},\cdots\varepsilon_{r}$$

这里$r=n-r(C)$，我们知道，它可以分别扩充到$AX=0$的一个基础解系

$$\varepsilon_{1},\varepsilon_{2},\cdots\varepsilon_{r},\eta_{1},\eta_{2}\cdots,\eta_{s}$$

和$BX=0$的一个基础解系

$$\varepsilon_{1},\varepsilon_{2},\cdots\varepsilon_{r},\omega_{1},\omega_{2}\cdots,\omega_{t}$$

这里$r+s=n-r(A),r+t=n-r(B)$.而线性组合

$$a_{1}\eta_{1}+\cdots+a_{s}\eta_{s}$$

是$AX=0$的解向量，但当它非零时它不是$BX=0$的解向量，否则它就是两者的公共解向量，即有$CX=0$,从而可以被$CX=0$的解系线性表示

$$a_{1}\eta_{1}+\cdots+a_{s}\eta_{s}=k_{1}\varepsilon_{1}+\cdots k_{r}\varepsilon_{r}$$

此时由于$\varepsilon_{1},\varepsilon_{2},\cdots\varepsilon_{r},\eta_{1},\eta_{2}\cdots,\eta_{s}$线性无关，所以得到$a_{1}=a_{2}=\cdots a_{s}=k_{1}=\cdots k_{r}=0$,这与$a_{1}\eta_{1}+\cdots+a_{s}\eta_{s}$非零矛盾，由此可见

$$\varepsilon_{1},\varepsilon_{2},\cdots\varepsilon_{r},\eta_{1},\eta_{2}\cdots,\eta_{s},\omega_{1},\omega_{2}\cdots,\omega_{t}$$

线性无关。

现在，上面都是$ABX=BAX=0$的解向量，它们又线性无关，故$r+s+t\leq n-r(AB)$即

$$(r+s)+(r+t)-r=n-r(A)+n-r(B)-(n-r(C))\leq n-r(AB)$$

$$\Leftrightarrow r(C)+r(AB)\leq r(A)+r(B)$$

引理证明完毕！

 

最后回到原题，只要注意到

则

$$r(A+B)\leq r(C)$$

故马上有

$$r(A+B)\leq r(A)+r(B)-r(AB)$$

Done!