載入中...
相關課程
登入觀看
⇐ Use this menu to view and help create subtitles for this video in many different languages.
You'll probably want to hide YouTube's captions if using these subtitles.
Linear Algebra: Another Least Squares Example : Using least squares approximation to fit a line to points
相關課程
0 / 750
- 已知四個笛卡爾坐標
- 第一個點是(-1,0)
- 我已經畫出來了
- (-1,0)就是這個點
- 我用新的顏色來畫
- 第二個點是(0,1)
- 就是這個點
- 下個點是(1,2)
- 它在這裡
- 最後一個點是(2,1)
- 就是這個點
- 本次課的目的是求出
- 某條經過這些點的直線y=mx+v
- 首先我要聲明
- 不存在
- 經過這些點的直線
- 你馬上就會明白
- 你可能會找到
- 過這些點的一條直線
- 但它不會經過
- 這個點
- 如果你做出
- 過這兩個點的直線
- 那麽它就不會經過這兩個點
- 從而不可能求出
- 經過所有這幾個點的直線
- 我們來建立我們熟知的方程
- 我們不能求出它的解
- 我們可以用最小平方逼近
- 求出一條近似經過這些點的直線
- 或者說它是經過這點的直線的
- 最佳的近似
- 對於第一個點
- 我可以表示直線y=mx+b
- 我將它表示成f(x)=mx+b
- 或者y=f(x)
- 我們可以這麽寫
- 從而第一個點――
- 我用橘黃色來寫――
- 這表明f(-1)
- 等於m乘以――
- 我這麽來寫――
- 等於-1<i>m 也就是-m+b</i>
- 結果等於0
- 這是由第一個方程得到的
- 第二個方程表明f(0)
- 等於0<i>m</i>
- 也就是0+b=1
- 即f(0)=1
- 這是f(x)
- 下一個方程―― 我用黃色的來寫――
- 我們有f(1) 它等於1<i>m</i>
- 就是m+b 右邊等於2
- 最後這個式子表明f(2)
- 也就是2<i>m+b</i>
- 右邊等於1
- 這些是限制條件
- 如果我們假設
- 直線經過所有這些點
- 那麽所有這些式子就是成立的
- 現在你可以
- 立即解出這些方程
- 但你會發現它沒有解
- 我們要求出滿足這些方程的
- 某個m和b
- 換種方式來寫――
- 我將它寫成
- 矩陣向量或者矩陣方程
- 我寫成這樣
- 即[-1,1;0,1;1,1;2,1]
- 乘以向量[m;b]
- 等於向量[0;1;2;1]
- 這兩個方程組
- 即這個方程組和這個方程組
- 是等價的 對嗎？
- -1<i>m加上1<i>b</i></i>
- 等於0
- 0<i>m+1<i>b等於1</i></i>
- 它與這個式子是等價的
- 這個方程組沒有解
- 它的解需要滿足經過所有這些點
- 我們來試著求出最小平方解
- 稱這個爲A 這個爲x
- 稱這個爲b
- Ax=b沒有解
- 也許我們可以求出――
- 我們一定可以求出最小平方解
- 我們來求出最小平方解
- 即A'A乘以最小平方解
- 等於A'b
- 最小平方解
- 就是滿足這個方程的解
- 我們在兩節課之前證明過
- 我們來求出A'A
- 以及A'v 從而就能解出這個方程
- A'就像這樣
- 即[-1,1;0,1;1,1;2,1]'
- 第一列成爲了第一行
- 第二列成爲了第二行
- 從而我們取
- A'與A的乘積――
- A就是這個矩陣――
- 即[-1,0,1,2;1,1,1,1]'
- 這等於多少？
- 這是2×4的矩陣乘以4×2的矩陣
- 得到的是一個2×2矩陣
- 它等於―― 我這麽來做
- 我們有(-1)<i>(-1)</i>
- 結果是1 加上0<i>0=0――</i>
- 現在總共等於1―― 再加上1<i>1</i>
- 也就有1+1=2
- 再加上2<i>2</i>
- 2<i>2=4 最後得到6</i>
- 這是這一行點乘這一列
- 結果等於6
- 現在用這一行乘以這一列
- 它等於(-1)<i>1+0<i>1</i></i>
- 就是所有這些都乘以1 然後加到一起
- 即-1+0+1―― 這等於0――
- 再加上2
- 所以結果等於2
- 我就是用這一行點乘這一列
- 現在我用這一行乘以這一列
- 它等於1<i>(-1)</i>
- 加上1<i>0+1<i>1+1<i>2</i></i></i>
- 就是用1乘以所有項
- 就是-1+0+1 也就是0+2
- 結果是2
- 最後――
- 我想你應該能看出對稱
- 我們用這一行
- 點乘這一列
- 等於多少？
- 即1<i>1=1</i>
- 再加上1<i>1 就等於2</i>
- 加上1<i>1</i>
- 就是1自加四次
- 結果就是4
- 所以這是A'A
- 我們來求A'b
- 向下一些
- A'就是這個矩陣――
- 我換種顏色―― 第一行是-1,0,1,2
- 第二行都是1
- 而矩陣b是[0,1,2,1]'
- 就是一個2×4矩陣乘以4×1矩陣
- 得到的是一個2×1矩陣
- 所以結果是一個2×1矩陣
- 我們來算一下 (-1)<i>0=0</i>
- 加上0<i>1=0</i>
- 加上1<i>2=2</i>
- 再加上2<i>1 就等於4</i>
- 這是2+2 結果就是4
- 然後有1<i>0+1<i>2 加上――</i></i>
- 就是1乘以所有這些項 在相加
- 即0+1+2+1=4
- 所以這項就是A'b
- 就像這樣
- 我們知道最小平方解
- 就是這個方程組的解
- [6,2;2,4]乘以最小平方解
- 就等於[4;4]
- 或者可以這麽寫
- 寫成[6,2;2,4]
- 乘以最小平方解 我寫成――
- 注意 第一項是m
- 我寫成m
- 這是最小平方解m
- 這是最小平方解b
- 等於[4,4]
- 我可以把它當做一個增廣矩陣
- 或者寫成一個含有兩個未知數的方程組
- 這很簡單
- 我們這樣來做
- 如果要將它寫成一個方程組
- 就是6m<i>+2b<i>=4</i></i>
- 然後是2m<i>+4b</i>
- 右邊等於4
- 我來解出m<i>和b</i>
- 我們將第二個方程加倍
- 我還是將第一個方程乘以2吧
- 這是代數1中的內容
- 乘以2之後得到什麽呢？
- 我們得到12m<i>+4b<i>=8</i></i>
- 我們是將第一個方程乘以2
- 現在對這個紫紅色的方程乘以-1
- 從而這裡變成了負號 這也是負號
- 這也變成負號
- 現在將這兩個方程相加
- 從而得到(-2+12)m 也就是10m
- 然後-4b和4b消去了
- 右邊等於4
- 從而m<i>=4/10</i>
- 也就等於2/5
- 現在將其回代
- 有6m<i>――</i>
- 這也是代數1中的知識
- 6m<i>就是6乘以2/5</i>
- 加上2b 等於4
- 我換成黃色來寫
- 從而有12/5+2b<i>=4</i>
- 或者說2b<i>――</i>
- 再向下一些――
- 有2b<i>等於4減去……</i>
- 也就是20/5-12/5
- 就等於――
- 我就是在等式兩邊同時減去12/5――
- 也就等於8/5
- 然後在等式兩邊同時除以2
- 得到b<i>=4/5</i>
- 從而我們得出了m<i>和b</i>
- 最小平方解是2/5和4/5
- 故m=2/5 b=4/5
- 注意 處理這個問題的關鍵在於
- 求出這條直線的方程
- 即y=mx+b
- 其實我們不能找到一條直線
- 它經過所有這些點
- 但是這是一個最小平方解
- 它是使得a乘以目標向量與b之間的距離
- 達到最小的解
- 不存在一個向量 當你將其乘以矩陣A時――
- 不是矩陣A 應該是A'――
- 其他任何的解
- 都沒有我們所求出的解x
- 更加接近
- 我們所求出的是最佳解
- 它使得到b的距離最短
- 我寫出來
- 這是y=mx+b
- 從而y=2/5x+2/5
- 我畫出來
- 畫出y=2/5x+2/5的圖像
- 它在y軸上的截距是2/5 大約在這裡
- 這裡是1
- 2/5大約在這
- 其斜率爲2/5
- 我們這麽來考慮
- 每向右移動5/2個單位
- 就想上移動了一個單位
- 如果向右移動5/2個單位 就向上移動了1個單位
- 向上移動一個單位
- 從而直線―― 當然這個圖像不精確――
- 得到的直線就像這樣
- 我盡量把它畫好
- 因爲這很有趣
- 它就像這樣
- 這條直線就是過這些點的直線的
- 最小平方估計
- 沒有其他的直線
- 比它的誤差更小
- 當你以這個向量
- 與Ax<i>之間的距離爲依據</i>
- 衡量誤差時
- 無論如何 希望你能理解這個方法