Tài liệu Phương pháp bình phương cực tiểu

PHƢƠNG PHÁP BÌNH PHƢƠNG CỰC TIỂU Ths: Nguyễn Thị Huệ Bộ môn : Cơ Bản cơ Sở Trƣờng Đại học Dân Lập Hải Phòng Summarization The least squares method The method of least squares assumes that the best-fit curve of a given type is the curve that has the minimal sum of the deviations squared (least square error) from a given set of data. Suppose that the data points are (x1,y1), (x2, y2), … , (xn, yn) where (xi,yi) is the independent variable and (xi,yi) is the dependent variable. The fitting curve (xi,yi) has the deviation (error) (xi,yi)from each data point, The method of least squares is a standard approach to the approximate solution of overdetermined systems, i.e., sets of equations in which there are more equations than unknowns. "Least squares" means that the overall solution minimizes the sum of the squares of the errors made in the results of every single equation. The most important application is in data fitting. 1 1>GIỚI THIỆU CHUNG Phƣơng pháp bình phƣơng bé nhất thƣờng đƣợc dùng để lập công thức thực nghiệm. Giả sử cần tìm mối quan hệ hàm số giữa hai đại lƣợng x và y, muốn thế ta tiến hành thí nghiệm rồi quan sát, đo đạc, ta nhận đƣợc bảng tƣơng ứng: x x1 x2 … xi … xn y y1 y2 … yi … yn Việc từ bảng trên lập ra mối quan hệ hàm số y = f(x) cụ thể gọi là lập công thức thực nghiệm. Nói chung việc tìm ra hàm số f(x) là gần đúng, việc tìm ra hàm số xấp xỉ của hàm số f(x) bằng phƣơng pháp bình phƣơng cực tiểu sẽ rất phức tạp nếu không biết trƣớc dạng của hàm số xấp xỉ. Một trong các hàm số xấp xỉ đã biết và rất hay dùng trong các bài toán thực tế có dạng: a) y = ax + b b) y = ax2 + bx + c 2) GIẢI PHƢƠNG TRÌNH HỒI QUY DẠNG Y = A X + B BẰNG PHƢƠNG PHÁP BÌNH PHƢƠNG CỰC TIỂU. +) Vì các cặp số (x1,y1), (x2, y2), … , (xn, yn) nhận đƣợc từ thí nghiệm chỉ là những giá trị gần đúng của x, y nên chúng không hoàn toán là nghiệm đúng của phƣơng trình y = ax + b nghĩa là: y1 – ax2 – b = v1 y2 – ax2 – b = v2 ……………….. yn – axn – b = vn trong đó các vi là các sai số. Phƣơng pháp bình phƣơng bé nhất nhằm xác định các các hệ số a và b sao cho tổng bình phƣơng của các sai số nói trên là bé nhất. Nghĩa là : n S v  i 1 2 i n   ax i 1  bi  yi   min 2 i Nhƣ vậy a, b phải thỏa mãn hệ phƣơng trình: n  S  2  ax i  bi  yi  .xi  0    a i 1   n  S  2  ax  b  y   0  i i i  b i 1  S  a  0   S  0  b Rút gọn ta có hệ sau: n  n 2 a x  b xi    i   i 1 i 1  n a x  nb  i   i 1 n x y i 1 i i n y i 1 i Đây là hệ 2 phƣơng trình hai ẩn số a và b, n là số lần làm thí nghiệm. Giải hệ này ta tìm đƣợc a và b nhƣ sau: 2 n a n n n n xi yi   xi  yi i 1 i 1 i 1   n xi2    xi  i 1  i 1  n n ; 2 b  yi i 1 n n i 1 i 1 n  xi2   xi  xi yi i 1 2   n xi2    xi  i 1  i 1  n n 3) GIẢI PHƢƠNG TRÌNH HỒI QUY DẠNG Y = A X2 + BX + C BẰNG PHƢƠNG PHÁP BÌNH PHƢƠNG CỰC TIỂU. Hàm hồi quy có dạng Y = ax2 + bx + c Sai số : vi = (ax2 + bx + c ) – yi với i = 1, 2 ,…, n Tổng các bình phƣơng của các sai số trên là bé nhất nghĩa là: n S   vi2  i 1   ax n i 1 2 i  bxi  c  yi   min 2 Nhƣ vậy a, b, c thỏa mãn hệ phƣơng trình:  S  a  0   S  0   b   S  c  0  n  S 2 2  a  2  ax i + bx i  c  yi  .xi  0 i 1  n  S    2  ax i2 + bx i  c  yi  xi  0 i 1  b n  S  2  ax i2 + bx i  c  yi   0  i 1  c Rút gọn ta đƣợc hệ phƣơng trình chính tắc sau: n n n  n 4 3 2 2 a  xi  b xi  c xi   xi yi i 1 i 1 i 1  i 1 n n n  n 3 2 a  xi  b xi  c xi   xi yi i 1 i 1 i 1  i 1 n n  n 2 a  xi  b xi  nc   yi i 1 i 1  i 1 Giải hệ ta tìm đƣợc các giá trị của a, b, c +) lập bảng dạng sau: n 1 2 … n  xi yi xi2 x3i xi4 xiyi xiyi2 xi yi xi2 xi3 x4i xiyi xiyi2 4> VÍ DỤ VỀ BÀI TOÁN HỢP KIM Trong hợp kim, ta có bảng số liệu về phần trăm lƣợng chì và điểm chảy tƣơng ứng 0C . Tìm quan hệ hàm giữa nhiệt độ và lƣợng chì trong hợp kim. 3 %lƣợng chứa Pb(p) 36,9 46,7 63,7 77,8 84 0C 1810 1970 2350 2700 2830 *> Giải bài toán trên bằng phƣơng pháp bình phƣơng cực tiểu +) Theo phƣơng pháp bình phƣơng cực tiểu có:  = a0 + a1p +) Lập bảng tính toán: n 1 2 3 4 5 6  pi 36,9 46,7 63,7 77,8 84 87,5 396,6 i 181 197 235 270 283 292 1458 87,5 2920 pii 6678,9 9199,9 14969,5 21006,0 23772,0 25550,0 101176,3 pi2 1361,61 2180,89 4057,69 6052,84 7056,00 7656,25 28365,28 Vậy áp dụng công thức tính a0 và a1 ta đƣợc phƣơng trình hồi quy nhƣ sau:  = 95,3530 + 2,2337p Sai số của phƣơng pháp: n 1 2 3 4 5 6  pi 36,9 46,7 63,7 77,8 84 87,5 396,6 i 181 197 235 270 283 292 1458 pii 6678,9 9199,9 14969,5 21006,0 23772,0 25550,0 101176,3 pi2 1361,61 2180,89 4057,69 6052,84 7056,00 7656,25 28365,28 tt 177,8 199,7 237,6 269,1 283,0 290,8 vi 3,2 -2,7 -2,6 0,9 0 1,2 vi2 10,24 7,29 6,76 0,81 0 1,44 26,54 Sai số xác suất đƣợc tính bởi công thức: n r  0, 675  vi2 i 1 n2 6  0, 675 v i 1 2 i 62  0, 675 26,54  1, 7 4 Vậy hàm hồi quy có dạng sau:  = 95,3530 + 2,2337p  1,7 KẾT LUẬN Với cùng dữ liệu đầu vào nhƣng khi giải theo 3 phƣơng pháp ta đƣợc kết qủa nhƣ sau: +) Phƣơng pháp bình phƣơng bé nhất:  = 95,3530 + 2,2337p  1,7 +) Phƣơng pháp thƣơng sai phân:  = 97,35175 + 2,20368 p  1,8 +) Phƣơng pháp bình quân:  = 92,6547 + 2,2745 p  1,8 Nói chung về cách làm thì phƣơng pháp bình quân là phƣơng pháp đơn giản nhất, nhƣng cũng khá hiệu quả. Phƣơng pháp bình phƣơng bé nhất tỏ ra hiệu quả hơn, tính toán không quá phức tạp trong việc giải quyết bài toán, còn phƣơng pháp thƣơng sai phân có độ phức tạp nằm giữa hai phƣơng pháp trên. 4 TÀI LIỆU THAM KHẢO [1] : Dƣơng Thuỷ Vỹ, Phương pháp tính, Nhà xuất bản khoa học và kỹ thuật, 2002. [2]: Tạ Văn Đĩnh, Phương pháp sai phân và phương pháp phần tử hữu hạn, Nhà xuất bản khoa học và kỹ thuật, 2001. 5