⇐ Use this menu to view and help create subtitles for this video in many different languages.
You'll probably want to hide YouTube's captions if using these subtitles.
Linear Algebra: Least Squares Examples : An example using the least squares solution to an unsolvable system
相關課程
- 已知R2中的三條直線
- 我要求出它們的交點
- 第一條直線是2x-y=2
- 第二條是x+2y=1
- 第三條是x+y=4
- 我們先來作圖
- 來從直觀上
- 考慮我們要做的事情
- 我習慣把這些寫成y=mx+b的形式
- 那麽上面這條直線就化成什麽？
- 化成-y=-2x+2
- 我就是在兩邊減去2x
- 或者寫成y=2x-2
- 這是第一條直線
- 第二條直線―― 我用綠色的來寫――
- 可以寫成
- 等式2y=-x+1
- 或者寫成
- 等式y=-1/2x+1/2
- 我就是在兩邊同時除以2
- 下面處理最後一條直線
- 我們可以寫成
- 等式y=-x+4
- 直接寫到這裡
- 即y=-x+4
- 我來畫出它們的圖像
- 先畫出坐標軸 這是y軸
- 我稱其爲y軸
- 因爲我們是在處理x和y
- 我畫得淺一些
- 用灰色來畫
- 這是x軸
- 就像這樣
- 第一條直線是y=2x-2
- 其在y軸上的截距爲-2
- 直線的斜率爲2
- 這是一個很陡的直線
- 就像這樣
- 這是第一條直線 就像這樣
- 即y=2x-2
- 第二條直線是y=-1/2x+1/2
- 向上1/2個單位 在這裡
- 然後斜率是-1/2
- 即每向右移動2個單位 就向下移動1個單位
- 就像這樣
- 二者是垂直的 對嗎？
- 因爲它是這項的負倒數
- 就像這樣
- 我畫出來 就像這樣
- 最後一條直線是y=-x+4
- 向上4個單位 然後做-x
- 每移動1個單位 就向下1個單位
- 所以這條直線就像這樣
- 這最後一條直線
- 就像這樣
- 就像這樣
- 我在影片開始時講過
- 我要求出
- 這三條直線的交點
- 但是注意
- 其實這三者並沒有交點
- 它們是兩兩相交的
- 但是不交於一點
- 我們稱這個係統是超定的
- 限制條件過多了
- 導致這三條直線沒有交點
- 如果從代數上解相關的方程組
- 結果是沒有解的
- 我們成這個方程組沒有解
- 就等價於說對於這個矩陣
- 或者這個方程組沒有解
- 我寫下來
- 我把這個方程組寫成這樣
- 它等價於這個矩陣
- 我要確定我寫的是正確的
- 一個矩陣乘以向量[x,y]等於[2,1,4]
- 第一個方程
- 就是2x-y
- 就是2和-1
- 2x-y等於2
- 這是第一個方程
- 第二個方程―― 我甚至可以……
- 我不用顏色來區別――
- 就是x+2y=1
- 然後是x+y=4
- 這個方程組和這個方程組
- 是等價的
- 我們知道它是無解的
- 你可以試著對這個方程求解
- 你可以建立增廣矩陣
- 把它化成行簡化階梯形
- 但是三者沒有交點
- 從而你不能夠
- 找到這個方程的解――
- 我們稱這個向量爲x―― 即方程Ax=b
- 換句話說
- b不屬於
- 這個矩陣的列空間
- 我們從上次課所學知道
- 不能求出Ax=b的解
- Ax=b無解
- 我們可以從圖像上看出
- 這三條直線不交於一點
- 你可以從代數上來證明
- 試著去求出它的解
- 你會得到0=1 從而産生矛盾
- 但是我們可以通過
- 求最小平方解來給出近似的解
- 如果等式兩邊乘以A'
- 就能求出最小平方解
- 我們知道
- A'A再乘以最小平方解
- 等於A'b
- 我們至少可以求出一個近似解
- 我們來求出向量x
- 即最小平方解
- A'A是多少？
- A'就像這樣
- 即[2,-1;1,2;1,1]'
- 這是A'
- 顯然A就是這個矩陣
- 即[2,-1;1,2;1,1]
- 從而A'A等於――
- 這是一個2×3矩陣乘以一個3×2矩陣
- 所以結果是一個2×2矩陣
- 得到一個2×2矩陣
- 得到什麽呢？ 我們得到2<i>2=4</i>
- 加上1<i>1 加上1<i>1</i></i>
- 就是4+1+1
- 結果是6
- 然後有2<i>(-1)=-2</i>
- 加上1<i>2 這些消去了</i>
- -2+2=0 加上1<i>1</i>
- 結果是1
- 然後有(-1)<i>2=-2</i>
- 加上2<i>1=2</i>
- 就有-2+2=0 再加上1<i>1</i>
- 結果是1
- 最後是(-1)<i>(-1)</i>
- 得到1
- 加上2<i>2=4 現在得到5</i>
- 再加上1<i>1 最後結果是6</i>
- 這就是A'A
- 那麽A'b是多少呢？
- A'是[2,1,1;-1,2,1]
- 而b是一個3階向量
- 它屬於R3 即[2,1,4]
- 那麽這等於多少？
- 它等於――
- 抱歉這是一個2×3矩陣乘以一個3×1矩陣
- 得到的是一個2×1的向量
- 得到的是一個2×1的向量
- 從而有2<i>2=4 加上1<i>1</i></i>
- 就是加上1 結果是5
- 加上―― 我將它寫下來
- 我不能犯錯誤――
- 2<i>2=4 加上1<i>1</i></i>
- 也就是1 再加上1<i>1=4</i>
- 然後這裡有(-1)<i>2</i>
- 也就是-2 而2<i>1=2</i>
- 加上1<i>4=4</i>
- 所以A'b就等於
- 向量[9,4]
- 我把它寫在這
- 矩陣A'A就等於
- 矩陣[6,1;1,6]
- 乘以最小平方解――
- 事實上它屬於
- A的列空間――
- 然後等於A'b
- 也就是向量[9,4]
- 這樣就可以直接求出
- 方程的解了
- 事實上 解是存在的
- 我們上次課證明過
- 爲了求出解
- 我們來建立增廣矩陣
- 即矩陣[6,1;1,6]
- 增廣的部分是[9;4]
- 就像這樣
- 我們把左邊的部分化成行簡化階梯形
- 事實上 首先我要將這兩列調換
- 這是我選擇要處理的第一行
- 意味我習慣這裡是個1
- 這是一個很好的主值
- 從而化爲[1,6,4;6,1,9]
- 然後我用第二行減去6倍的第一行
- 代替原來的第二行
- 保持第一行不變
- 從而有1 6 4
- 然後是第二行
- 我用第二行減去6倍的第一行
- 來代替原來的第二行
- 於是6-6=0
- 1-6<i>6等於1-36</i>
- 就是-35
- 然後9-6<i>4=9-24</i>
- 我總對這種形式感到別扭
- 其實9-24就是-(24-9)
- 即-15
- 我要確定我沒有算錯
- 1-36=-35 並且9-24=-15
- 這就是得到的結果
- 我繼續計算
- 我對這一行做除法
- 對其除以-35
- 保持第一行不變
- 即[1,6,4]
- 然後對於第二行
- 我對其除以-35
- 從而得到0 1
- 然後是-15/-35
- 就是15/35 即3/7
- 所以就是3/7
- 那後我把這個矩陣
- 化成行簡化階梯形
- 那樣就好了
- 保持第二行不變
- 第二行是[0,1,3/7]
- 然照射燃料再處理第一行
- 我用第一行減去6倍的第二行
- 替代原來的第一行
- 從而1-6<i>0=1 6-6<i>1=0</i></i>
- 然後是4-6<i>3/7</i>
- 而4就是28/7
- 我寫在這
- 4就是28/7 減去6<i>3/7</i>
- 就是減去18/7
- 它是6<i>3/7</i>
- 從而這就等於10/7
- 就這樣 我解出了這個方程
- 從而有―― 我這麽來寫
- 我們可以寫x<i>――</i>
- 這是x<i>的第一項</i>
- 稱之爲x
- 它等於10/7
- 我寫出來
- x 這個解就是[10/7,3/7]
- 如果取x=10/7
- 取y=3/7
- 就能得到盡可能近似的解
- 我們從直觀上來考慮？
- 10/7是多少？
- 我寫下來 x<i>=[10/7,3/7]</i>
- 從而最接近的――
- 最小平方解就是x=10/7
- x稍稍大於1
- 然後y=3/7 比1/2小一點
- 從最小平方解
- 就是這一項
- 當把這個值賦給x時
- 當令x=10/7
- 令y=3/7時
- 它就是使得到這三個點的距離的平方和
- 最小的點
- 我圖畫得有些小
- 但是我來指出
- 最小的距離是多少
- 注意這裡的關鍵在於
- 求距離的最小值
- 即求Ax<i>與b之間距離的最小值</i>
- 或者說是b與Ax<i>的距離</i>
- 那麽Ax<i>等於多少？</i>
- Ax<i>等於9/4</i>
- 就在這裡
- 抱歉 Ax<i>不等於9/4</i>
- 其實是A'Ax<i>等於9/4</i>
- Ax<i>中的原始矩陣A</i>
- 也就是這個矩陣 就是――
- 我寫下來
- 快沒有地方了
- 原始矩陣是A=[2,-1;1,2;1,1]
- 這就是原始矩陣A
- 然後是x
- 我們已經求出它是[10/7,3/7]
- 從而Ax<i>就是二者的乘積</i>
- 它等於多少？
- 它等於…… 它是一個3×1矩陣
- 從而有2<i>10/7=20/7</i>
- (-1)<i>3/7就等於-3/7</i>
- 這項就是(20-3)/7
- 然後有10/7-2<i>3/7</i>
- 抱歉 這裡是加號
- 對嗎？
- 2<i>10/7等於20/7 (-1)<i>3/7=-3/7</i></i>
- 然後是1<i>10/7+2<i>3/7</i></i>
- 然後有10/7+3/7
- 從而這是A和x
- 或者說是x的最小平方逼近
- 它等於什麽？
- 這是17/7 這是16/7 這是13/7
- 我們要求出這項的最小距離
- 我們看看它等於多少
- 從而有[17/7,16/7,13/7]減去向量b
- 向量b=[2,1,4]
- 我已經聲明了剛剛求出的解
- 它使得這個距離達到最小
- 因爲這是
- b在A的列空間中的投影
- 我們之前學過
- 向量b等於[2,1,4]
- 就像這樣
- 如果取這一項的長度――
- 我換種顏色――
- 這項就等於
- 我把這裡的分母都化成7――
- 用心算
- 我不想浪費時間
- 這是17/7-14/7 對嗎？
- 2就等於14/7 所以結果是3/7
- 然後有16/7-7/7=9/7
- 然後就是13/7-28/7
- 它就等於-15/7
- 從而這個向量就是
- 不屬於A的零核空間的向量b
- 與b在平面上投影之間的距離
- 如果我們求出這個長度
- 這個長度等於――
- 我們先來求這個長度的平方
- 這個長度的平方就是(3/7)?
- 它等於9/49 加上(9/7)2=81/49
- 加上(-15/7)?
- 15的平方是多少？
- 15的平方是225
- 我來確定一下
- 我經常算錯
- 5<i>5等於25 1<i>5 這等於75</i></i>
- 然後是150
- 結果是225
- 從而加上225/49
- 這等於―― 9+81=90
- 於是225+90=315
- 這就等於315/49
- 如果要求出距離
- 只需對它開根號
- 如果要求出距離
- 它就等於這項的平方根
- 它等於(√315)/7
- 而√315
- 它看起來好像能化簡
- 9是它的因子嗎？
- 9好像是它的因子 也許是35乘以？
- 它等於什麽 等於(3√35)/7
- 這是一個長度
- 我這麽寫
- 你不能夠找到任何R2中的向量
- 任何的x和y
- 使得它比這個值還小
- 當求出這兩個向量
- 之間的距離之後
- 所以這個最小平方解
- 是最好的估計
- x等於10/7
- y等於3/7
- 就像這樣
- 無論如何 希望你覺得這有用
- 希望你能感受到
- 最小平方解的用處
留言:
新增一則留言(尚未登入)