线性代数A矩阵乘以A的转置的含义或者几何意义 线性代数A矩阵乘以A的转置的含义或者几何意义
\u7ebf\u6027\u4ee3\u6570\u4e2d\u7684\u4e00\u4e2a\u77e9\u9635\u5de6\u4e58[A]\u53f3\u4e58[A]\u8f6c\u7f6e\u662f\u4ec0\u4e48\u610f\u601d\uff1f\u5de6\u4e58A\u5c31\u662f\u8fd9\u4e2a\u77e9\u9635\u7684\u5de6\u8fb9\u4e58\u4ee5A\uff0c\u53f3\u4e58A\u7684\u8f6c\u7f6e\u5c31\u662f\u8fd9\u4e2a\u77e9\u9635\u7684\u53f3\u8fb9\u4e58\u4ee5A\u7684\u8f6c\u7f6e\uff0c\u56e0\u4e3a\u77e9\u9635\u4e58\u6cd5\u4e0d\u6ee1\u8db3\u4ea4\u6362\u5f8b\uff0c\u6240\u4ee5\u4ece\u5de6\u8fb9\u4e58\u548c\u4ece\u53f3\u8fb9\u4e58\u7ed3\u679c\u4e0d\u4e00\u5b9a\u4e00\u6837\u7684\u3002\u6240\u4ee5\u4e58\u4e00\u4e2a\u77e9\u9635\u8981\u8bf4\u660e\u4e58\u5de6\u8fb9\u8fd8\u662f\u53f3\u8fb9\uff0c\u671b\u91c7\u7eb3
SVD\u5206\u89e3\u4e2d\uff0c\u9996\u5148A'A\u4e3a\u65b9\u9635\uff0c\u53ea\u6709\u65b9\u9635\u624d\u53ef\u4ee5\u6c42\u7279\u5f81\u503c\u3002A'A\u4e0eAA'\u5177\u6709\u76f8\u540c\u7684\u975e\u96f6\u7279\u5f81\u503c\uff0c\u8fd9\u4e2a\u53ef\u4ee5\u901a\u8fc7\u6784\u9020\u5206\u5757\u77e9\u9635\u7684\u884c\u5217\u5f0f\u8bc1\u660e\u3002
对于任意矩阵A（甚至是非方的），A(T)A（这个时候就变成方阵了，可以算特征值了）的特征值就称为A的奇异值。奇异值有个特性，就是A(T)A和AA(T)特征值相同。证明如下：
假定A(T)A做了一个特征分解，为：A(T)A = QΣQ(T)
对上式取转置，有AA(T) = QΣ(T)Q(T)
显然，Σ是个对角阵，因而，Σ(T) = Σ
故而，AA(T)和A(T)A有完全一致的特征分解，即共特征值。
扩展资料：
将A的所有元素绕着一条从第1行第1列元素出发的右下方45度的射线作镜面反转，即得到A的转置。一个矩阵M, 把它的第一行变成第一列，第二行变成第二列，......,最末一行变为最末一列， 从而得到一个新的矩阵N。
设A为n阶方阵，X=(x1，… ，xn)′，二次型f= X′AX的矩阵为：
解：因为未假设A对称，所以f= X′AX虽然是n元二次型，但不能肯定其矩阵是A。只有A对称时，二次型f= X′AX的矩阵才是A。
由于一阶矩阵的转置不变，所以(X′AX)′=X′AX，即就是：X′A′X= X′AX。
由此可得：f= X′AX= X′*1/2*(A+ A′)*X。
注意到1/2(A+ A′)是对称矩阵，所以二次型f= X′AX的矩阵为1/2(A+ A′)。
无论采用的设备多精密，方法有多好，总是会存在一些误差的。由于大的奇异值对应着矩阵中的主要信息，因此可以运用奇异值分解进行数据分析，提取矩阵的主要信息。
参考资料来源：百度百科——奇异值
参考资料来源：百度百科——转置
（下面以A(T)表示A的转置。）
先从奇异值说起。我个人的理解，奇异值是特征值的一种推广。因为只有方阵才可能具有特征值，对于实际遇到的一些问题（比如最小二乘问题），往往遇上长方阵，长方阵根本没有特征值。因而就有必要对特征值做推广，这就是奇异值。
再看什么是奇异值。对于任意矩阵A（甚至是非方的），A(T)A（这个时候就变成方阵了，可以算特征值了）的特征值就称为A的奇异值。奇异值有个特性，就是A(T)A和AA(T)特征值相同。证明如下：
【假定A(T)A做了一个特征分解，为：
A(T)A = QΣQ(T)
对上式取转置，有
AA(T) = QΣ(T)Q(T)
显然，Σ是个对角阵，因而，Σ(T) = Σ
故而，AA(T)和A(T)A有完全一致的特征分解，即共特征值】
再看特征值和奇异值的关系。对于长方阵来说，它根本不存在特征值，所以之后再讨论。对于方阵来说，容易证明，其所有奇异值恰好为其所有特征值的模长的平方（即奇异值全实非负），因而奇异值和特征值有相当良好的对应关系。证明如下：
【假定方阵A有如下特征分解：
A = QΣQ(T)
则A(T)A = (QΣQ(T))(QΣQ(T)) = QΣΣQ(T)
因而，A(T)A的特征值，也就是A的奇异值，恰好为A的特征值的模长的平方】
【当然，对于复数域情况，里边的T要改成H，那么前一个Σ自然会带上复共轭】
再看奇异值为什么重要。我们知道，对于一个方阵来说，特征分解后，从特征值和特征向量我们就可以知道矩阵的大量性质。对于非方阵来说，我们也希望得到一个这样信息量巨大的分解，这就是奇异值分解（SVD）。这个SVD分解里边左右奇异向量分别是什么你的书上肯定都有，就不写在这里了。
最后看一下SVD分解和最小二乘的关系。我们知道，最小二乘有个解法，对于Ax = b的最小二乘问题，等价于求解其法方程A(T)Ax = A(T)b，这个时候就变成方阵的问题了。但是这种算法是不稳定的。一种更为有效的算法就是SVD分解并利用广义逆求解。
看一下广义逆和最小二乘、SVD的关系。广义逆可以百度一下。定义有很多式子。但是，对于可逆阵来说，广义逆就是逆。这里把A的广义逆记作A(+)。则Ax = b的最小二乘解就是x = A(+)b。所以，现在的问题就是，怎么求A的广义逆A(+)。通过SVD分解，广义逆可以这么求：
如果A有SVD分解如下：
A = VΣU(T)
则A(+) = UΣV(T)
当然，这里叙述可能不那么严谨。因为还涉及到Σ的形状什么的，所以两个式子的Σ形状大小不一样，形状变了，补0就行。
因此，SVD分解就完美解决了最小二乘问题。
-----更正---------
说错了一点点，奇异值不是特征值的模长的平方，它就是模长，因为奇异值要对Σ(H)Σ对角线开算术平方根。
SVD分解中，首先A'A为方阵，只有方阵才可以求特征值。A'A与AA'具有相同的非零特征值，这个可以通过构造分块矩阵的行列式证明。
最小二乘法的时候也可以不从“两边乘转置之后再求解”。
我们写成矩阵之后假如是Y=Xb+e YXb都是矩阵，e是那个误差（error）
所以e=Y-Xb,要求(Y-Xb)^2的最小值，(Y-Xb)^2=(Y-Xb)'(Y-Xb)=-2X'(Y-Xb) 这一步就是公式变换
另 -2X'(Y-Xb) =0 就可以求解b了
The London and South Western Railway seemed
绛旓細瀵逛簬浠绘剰鐭╅樀A锛堢敋鑷虫槸闈炴柟鐨勶級锛孉(T)A锛堣繖涓椂鍊欏氨鍙樻垚鏂归樀浜嗭紝鍙互绠楃壒寰佸间簡锛夌殑鐗瑰緛鍊煎氨绉颁负A鐨濂囧紓鍊笺傚寮傚兼湁涓壒鎬э紝灏辨槸A(T)A鍜孉A(T)鐗瑰緛鍊肩浉鍚屻傝瘉鏄庡涓嬶細鍋囧畾A(T)A鍋氫簡涓涓壒寰佸垎瑙ｏ紝涓猴細A(T)A = Q危Q(T)瀵逛笂寮忓彇杞疆锛屾湁AA(T) = Q危(T)Q(T)鏄剧劧锛屛ｆ槸涓瑙掗樀锛...
绛旓細SVD鍒嗚В涓紝棣栧厛A'A涓烘柟闃碉紝鍙湁鏂归樀鎵嶅彲浠ユ眰鐗瑰緛鍊笺侫'A涓嶢A'鍏锋湁鐩稿悓鐨勯潪闆剁壒寰佸硷紝杩欎釜鍙互閫氳繃鏋勯犲垎鍧鐭╅樀鐨勮鍒楀紡璇佹槑銆
绛旓細鐭╅樀a涔榓鐨勮浆缃绛変簬(a^t)(b^t)=(ba)^t锛屽湪鏁板涓紝鐭╅樀锛圡atrix锛夋槸涓涓寜鐓ч暱鏂归樀鍒楁帓鍒楃殑澶嶆暟鎴栧疄鏁伴泦鍚堬紝鏈鏃╂潵鑷簬鏂圭▼缁勭殑绯绘暟鍙婂父鏁版墍鏋勬垚鐨勬柟闃碉紝杩欎竴姒傚康鐢19涓栫邯鑻卞浗鏁板瀹跺嚡鍒╅鍏堟彁鍑恒傜煩闃垫槸楂樼瓑浠ｆ暟瀛︿腑鐨勫父瑙佸伐鍏凤紝涔熷父瑙佷簬缁熻鍒嗘瀽绛夊簲鐢ㄦ暟瀛﹀绉戜腑銆傚湪鐗╃悊瀛︿腑锛岀煩闃典簬鐢佃矾瀛︺佸姏瀛...
绛旓細棣栧厛锛屾垜浠璇佹槑鐨勬槸鐭╅樀A涔樹互鍏杞疆AT鐨勭З绛変簬A鐨勭З銆傝繖娑夊強鍒板榻愭绾挎鏂圭▼缁勭殑鐞嗚В銆傚亣璁炬垜浠湁涓涓柟绋嬬粍锛屽叾涓寘鍚簡A鍜孉T锛屽嵆 AX = 0 鍜 ATX = 0銆傛樉鐒讹紝鎵鏈夊睘浜庨浂绌洪棿鐨勫悜閲忥紝鍗矨鐨勯浂绌洪棿锛屽悓鏃朵篃鏄疉T鐨勯浂绌洪棿鐨勫厓绱犮傜幇鍦紝鍋囪鏈変竴涓悜閲弙婊¤冻 ATv = 0锛岄偅涔坴鍙互琚〃绀轰负鐭╅樀A...
绛旓細缁撹宸茬粡鏄庣‘锛屾垜浠潵鐩磋瑙ｉ噴锛氬湪绾挎т唬鏁涓紝濡傛灉鏈変竴涓崟浣嶅垪鍚戦噺a锛岄偅涔鐭╅樀a涓庡叾杞疆a鐨勪箻绉锛堣涓AA锛夌殑绉╋紙r(AA)锛変笌a鐨勭З锛坮(A)锛夋槸鐩哥瓑鐨勶紝鍏跺间负1銆傝繖涓粨璁虹殑璇佹槑鍩轰簬绉╃殑鎬ц川鍜屽悜閲忕殑绾挎х粍鍚堛傞鍏堬紝鎴戜滑娉ㄦ剰鍒扮Зr(A)琛ㄧず绾挎ф柟绋嬬粍AX=0鐨勫熀纭瑙ｇ郴涓殑鍚戦噺涓暟銆傚綋鎴戜滑灏嗚繖涓...
绛旓細绛変簬鍗曚綅鐭╅樀I銆備竴涓煩闃佃绉颁负姝ｄ氦鐭╅樀锛屾槸鎸囧叾杞疆鐭╅樀绛変簬鍏堕嗙煩闃电殑鐭╅樀銆傚嵆a*a^T=I锛宎鏄竴涓猲脳n鐨勬浜ょ煩闃碉紝a^T鏄a鐨勮浆缃煩闃锛孖鏄痭脳n鐨勫崟浣嶇煩闃点傝繖涓ц川鍦绾挎т唬鏁鍜屽嚑浣曞涓叿鏈夊緢澶氶噸瑕佺殑搴旂敤锛屼緥濡傛棆杞煩闃电殑杩愮畻銆佹浜ゅ彉鎹佹浜ゆ姇褰辩瓑銆
绛旓細绾挎т唬鏁涓紝褰撴湁涓涓崟浣嶅垪鍚戦噺a鏃讹紝鎴戜滑鑰冭檻鍏朵笌鑷韩鐨勮浆缃a'鐨勪箻绉痑涔樹互a'鐨勭З銆傛牴鎹嚎鎬т唬鏁扮殑鎬ц川锛屾垜浠彲浠ヨ瘉鏄庤绉╃瓑浜1銆傚叧閿湪浜庣悊瑙ｇЗ鐨勫畾涔夛紝绉﹔(A)琛ㄧず鐭╅樀A鐨鍒楀悜閲忕粍鐨勬瀬澶х嚎鎬ф棤鍏崇粍鐨勫ぇ灏忋備负浜嗚瘉鏄巖(A'A)绛変簬r(A)锛屾垜浠渶瑕佸睍绀烘柟绋嬬粍AX=0鍜孉'AX=0鐨勮В闆嗙浉鍚屻傚鏋淎X=0锛...
绛旓細鐭╅樀鍒嗚В鏄皢涓涓煩闃靛垎瑙ｄ负姣旇緝绠鍗曠殑鎴栧叿鏈夋煇绉嶇壒鎬х殑鑻ュ共鐭╅樀鐨鍜屾垨涔樼Н 锛岀煩闃电殑鍒嗚В娉曚竴鑸湁涓夎鍒嗚В銆佽氨鍒嗚В銆佸寮傚煎垎瑙ｃ佹弧绉╁垎瑙ｇ瓑銆傚湪绾挎т唬鏁涓紝鐩镐技鐭╅樀鏄寚瀛樺湪鐩镐技鍏崇郴鐨勭煩闃点傜浉浼煎叧绯绘槸涓や釜鐭╅樀涔嬮棿鐨勪竴绉嶇瓑浠峰叧绯汇備袱涓猲脳n鐭╅樀A涓嶣涓虹浉浼肩煩闃靛綋涓斾粎褰撳瓨鍦ㄤ竴涓猲脳n鐨勫彲閫嗙煩闃礟銆
绛旓細绉╂槸1銆傜敤A'琛ㄧずA鐨勮浆缃锛岃璇佹槑r(A'A)=r(A)锛屽彧闇璇佹槑鏂圭▼缁凙X=0鍜孉'AX=0鍚岃В銆傚鏋淎X=0锛屼袱杈瑰垎鍒乏涔楢'锛屽緱A'AX=0锛岃繖璇存槑鏂圭▼缁凙X=0鐨勮В閮芥槸鏂圭▼缁凙'AX=0鐨勮В锛涘彟涓鏂归潰锛屽鏋淎'AX=0锛屼袱杈瑰垎鍒乏涔榅'锛屽緱X'A'AX=0锛屽嵆(AX)'AX=0锛屼护Y=AX锛屽垯Y'Y=0锛屾敞鎰廦=AX涓簄缁...
绛旓細宸︿箻A灏辨槸杩欎釜鐭╅樀鐨勫乏杈逛箻浠锛屽彸涔楢鐨 杞疆 灏辨槸杩欎釜鐭╅樀鐨勫彸杈涔樹互A鐨勮浆缃锛屽洜涓 鐭╅樀涔樻硶 涓嶆弧瓒 浜ゆ崲寰 锛屾墍浠ヤ粠宸﹁竟涔樺拰浠庡彸杈逛箻缁撴灉涓嶄竴瀹氫竴鏍风殑銆傛墍浠ヤ箻涓涓煩闃佃璇存槑涔樺乏杈硅繕鏄彸杈癸紝鏈涢噰绾
