Tài liệu Phân tích số liệu của vài công trình xây dựng bằng thống kê toán học

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN ----------------------------------------------------- ĐẶNG THỊ PHƯƠNG MAI PHÂN TÍCH SỐ LIỆU CỦA MỘT SỐ CÔNG TRÌNH XÂY DỰNG BẰNG THỐNG KÊ TOÁN HỌC LUẬN VĂN THẠC SĨ Chuyên ngành: Lý thuyết xác suất và thống kê toán học Hà Nội - 2012 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN ----------------------------------------------------- ĐẶNG THỊ PHƯƠNG MAI PHÂN TÍCH SỐ LIỆU CỦA MỘT SỐ CÔNG TRÌNH XÂY DỰNG BẰNG THỐNG KÊ TOÁN HỌC LUẬN VĂN THẠC SĨ Chuyên ngành: Lý thuyết xác suất và thống kê toán học Mã số:60 46 15 Người hướng dẫn khoa học: PGS. TS. Hồ Đăng Phúc Hà Nội - 2012 MỤC LỤC Trang Lời cảm ơn…………………………………………………………………………… Lời mở đầu…………………………………………………………………………..1 Chương 1. Mô hình tuyến tính tổng quát………………………………………...2 1.1. Giới thiệu mô hình tuyến tính tổng quát………………………………………2 1.1.1. Mục đích của hồi quy bội…………………………………………………..…2 1.1.2. Những tính toán để giải phương trình hồi quy bội……………………..…..…3 1.1.3. Mở rộng của mô hình hồi quy bội thành mô hình tuyến tính tổng quát..…….6 1.2. Một số ví dụ về mô hình tuyến tính tổng quát………………………………...9 1.2.1. Lập phương trình dạng ma trận……………………………………………...11 1.2.2. Ước lượng tham số…………………………………………………………..12 1.2.3. Quan điểm hình học…………………………………………………..……..16 1.3. Mô hình tuyến tính tổng quát đa biến ………………………………….……18 1.3.1. Ước lượng bình phương bé nhất cho mô hình tuyến tính tổng quát………...18 1.3.2. Tính chất của ma trận sai số……..……………..………………..…….…….20 1.3.3. Tính chất của ma trận hệ số hồi quy………..……………..………………...21 1.3.4. Tổng các bình phương và tích chéo ứng với giả thuyết và ứng với sai số…..21 1.3.5. Thống kê kiểm định giả thuyết tuyến tính tổng quát đa biến………..……....22 1.4. Phân phối phần dư trong mô hình tuyến tính tổng quát…..………………..24 1.4.1. Phần dư đơn biến…………………………..……………..…………….........29 1.4.2. Phân phối đồng thời của phần dư đơn biến………………………….............33 1.4.3. Phân phối đồng thời của phần dư đa biến…………………………...............35 1.4.4. Phân phối đồng thời cho trường hợp đặc biệt của phần dư đa biến…............40 Chương 2. Phân tích số liệu kiểm toán của một số công trình xây dựng……...43 2.1. Mô tả số liệu…………………………………………………………………..43 2.1.1. Địa điểm thi công……………………………………………………….…...44 2.1.2. Loại công trình phân theo đặc tính kỹ thuật…………………………….…...47 2.1.3. Loại công trình phân theo chức năng sử dụng………………………….…...48 2.1.4. Cỡ công trình…………………………………………………………….…..51 2.2. Phân tích mức ảnh hưởng của các nhân tố đến tỷ lệ sai phạm……………..54 2.2.1. Phân tích phương sai cho 4 nhân tố …………………………………….…..54 2.2.2. Mô hình hồi quy tuyến tính tổng quát…………………………………..…..55 Kết luận và kiến nghị……………………………………………………………...61 Tài liệu tham khảo………………………………………………………………...62 LỜI CẢM ƠN Lời cảm ơn chân thành và sâu sắc nhất của tôi xin dành tặng cho PGS. TS. Hồ Đăng Phúc. Chính nhờ sự hướng dẫn tận tình của thầy mà tôi mới thực hiện và hoàn thành được luận văn này. Bên cạnh đó, tôi xin gửi lời cảm ơn chân thành tới Ban Giám đốc cùng các nhân viên phòng Kiểm toán đầu tư xây dựng của công ty Hợp danh kiểm toán Việt Nam (CPA Việt Nam) vì đã cung cấp cho tôi những số liệu chính xác, có giá trị thống kê của các công trình xây dựng mà công ty đã thực hiện kiểm toán. Nhờ những số liệu này mà tôi đã thực hiện được phần phân tích ở chương 2 của luận văn. Tôi cũng xin chân thành cảm ơn Ban Chủ nhiệm khoa, các giảng viên trong Khoa Toán – Cơ – Tin học và các học viên của lớp Cao học Toán 2007 – 2009 trường Đại học Khoa học Tự nhiên, Đại học Quốc gia Hà Nội đã động viên, khuyến khích, chia sẻ kinh nghiệm, kiến thức và hướng dẫn tôi trong suốt quá trình học tập vừa qua. Trong quá trình làm luận văn chắc chắn không thể tránh khỏi những thiếu sót, tôi rất mong nhận được sự chỉ bảo tận tình của các thầy cô và bạn bè đồng nghiệp. 1 LỜI MỞ ĐẦU Mô hình tuyến tính tổng quát đã được nhiều nhà khoa học nghiên cứu và ứng dụng trong nhiều lĩnh vực khoa học và đời sống khác nhau. Trong luận văn này, tôi trình bày các cơ sở lý thuyết của mô hình tuyến tính tổng quát và ứng dụng của nó trong việc phân tích các kết quả kiểm toán của một số công trình xây dựng. Luận văn được chia thành 2 chương. Chương đầu tiên là những giới thiệu về mô hình tuyến tính tổng quát. Trong chương này, tôi đưa ra sự mở rộng của mô hình hồi quy bội thành mô hình tuyến tính tổng quát. Sau đó là một vài ví dụ về mô hình tuyến tính tổng quát như mô hình hồi quy tuyến tính, mô hình so sánh hai mẫu bằng phép kiểm định t, mô hình ANOVA một nhân tố… Tiếp theo là phương trình của mô hình tuyến tính đa biến và các tính chất của ước lượng tổng bình phương bé nhất, tính chất của ma trận sai số, tính chất của ma trận hệ số hồi quy,… Phần cuối của chương 1 là nội dung trình bày về phân phối phần dư trong mô hình tuyến tính tổng quát. Trong đó, chúng ta xem xét các định nghĩa, định lí của phần dư đơn biến, phân phối đồng thời của phần dư đơn biến, phân phối đồng thời của phần dư đa biến và phân phối đồng thời cho trường hợp đặc biệt của phần dư đơn biến. Chương thứ hai giới thiệu kết quả ứng dụng mô hình tuyến tính tổng quát vào việc nghiên cứu số liệu kiểm toán của 129 công trình xây dựng đã được công ty CPA Việt Nam thực hiện công tác kiểm toán trong thời gian gần đây. Chương này tìm hiểu, xem xét các yếu tố của công trình như địa điểm, đặc điểm, chức năng sử dụng và cỡ công trình ảnh hưởng như thế nào đối với khả năng xảy ra sai sót trong công tác quyết toán tài chính đối với mỗi công trình. Thông qua việc áp dụng mô hình tuyến tính tổng quát, chương này chỉ ra trong các yếu tố trên thì yếu tố nào tác động một cách có ý nghĩa lên tỷ lệ sai phạm của các các công trình khi quyết toán (so với kiểm toán). Từ đó có thể rút ra được một số kết luận có ý nghĩa thực tế. 2 CHƯƠNG 1: MÔ HÌNH TUYẾN TÍNH TỔNG QUÁT 1.1. GIỚI THIỆU MÔ HÌNH TUYẾN TÍNH TỔNG QUÁT Mô hình tuyến tính tổng quát có thể xem là mở rộng của hồi quy tuyến tính bội. Hiểu rõ về mô hình hồi quy bội là bước chuẩn bị để tìm hiểu về mô hình tuyến tính tổng quát. Vì vậy chúng ta sẽ xem xét mục đích của hồi quy bội, các thuật toán tính toán được sử dụng để giải quyết vấn đề hồi quy và làm thế nào để mở rộng mô hình hồi quy bội thành mô hình tuyến tính tổng quát. 1.1.1. Mục đích của hồi quy bội Mục đích chung của hồi quy bội là định lượng mối quan hệ giữa một vài biến độc lập (còn gọi là biến dự báo) và một biến phụ thuộc (biến đáp ứng). Ví dụ, một đại lý bất động sản có thể dựa trên kích thước của mỗi căn nhà, số lượng phòng ngủ, thu nhập trung bình trong khu phố tương ứng theo số liệu điều tra dân số để đánh giá chủ quan về giá bán của căn nhà. Sau khi thông tin này được tổng hợp lại nó sẽ cho ta biết xem liệu yếu tố nào liên quan và ảnh hưởng như thế nào đến mức giá mà một ngôi nhà được bán. Ví dụ, người ta có thể thấy rằng số lượng phòng ngủ có vai trò dự báo tốt hơn về giá mà một ngôi nhà bán tại một khu phố cụ thể so với yếu tố ”nhà đẹp” (đánh giá chủ quan). Các nhà quản lý nhân sự thường sử dụng phương pháp hồi quy bội để xác định mức lương thích hợp cho nhân viên được tuyển dụng. Họ có thể xác định một số yếu tố như "khả năng đáp ứng" (KNDU) hoặc “số người cần giám sát" (No_GS) là một trong những đóng góp vào giá trị của công việc. Các nhà phân tích thường tiến hành một cuộc khảo sát lương so sánh giữa các công ty trên thị trường, ghi mức lương và những đặc điểm tương ứng (ví dụ, mức độ công việc) cho các vị trí khác nhau. Thông tin này có thể được sử dụng trong một phân tích hồi quy bội để xây dựng một phương trình hồi quy có dạng: Mức lương = 0,5 * KNDU + 0.8 * No_GS 3 Khi phương trình hồi quy đã được xác định, các nhà phân tích bây giờ có thể dễ dàng xây dựng một biểu đồ của mức lương dự kiến (dự đoán) và tiền lương thực tế của những người đang đương chức trong công ty của họ. Vì vậy, các nhà phân tích có thể xác định các vị trí đã trả lương thấp (dưới đường hồi quy) hoặc trả quá nhiều (ở trên đường hồi quy), hoặc trả lương công bằng. Trong xã hội và khoa học tự nhiên, phương pháp hồi quy bội được sử dụng rất rộng rãi trong nghiên cứu. Nói chung, hồi quy bội cho phép các nhà nghiên cứu đặt ra câu hỏi (và hy vọng câu trả lời) về những vấn đề tổng quát "dự báo tốt nhất về … là gì". Ví dụ, các nhà nghiên cứu giáo dục có thể muốn tìm hiểu các yếu tố dự đoán tốt nhất về kết quả học tập ở trường trung học là gì. Xã hội học có thể muốn tìm ra nhiều chỉ số xã hội dự đoán tốt nhất về việc nhóm người nhập cư mới có thích ứng và được hoà nhập vào xã hội hay không, ... 1.1.2. Những tính toán để giải phương trình hồi quy bội Không gian con một chiều trong không gian hai chiều là một đường thẳng được định nghĩa bởi phương trình Y = b 0 + b1 X . Theo phương trình này, biến Y có thể được biểu diễn như một hàm của hằng số (0) và tích của hệ số (1) với biến X. Hằng số 0 cũng được gọi là hệ số chặn, còn 1 được gọi là hệ số dốc hay hệ số hồi quy. Ví dụ, điểm trung bình các môn học của học sinh được dự đoán bằng công thức 1 + 0,02 * IQ. Vì vậy, khi biết rằng một học sinh có chỉ số IQ là 130, chúng ta sẽ dự đoán rằng điểm trung bình các môn học của học sinh đó sẽ là 3,6. Trong trường hợp hồi quy bội, khi có nhiều biến dự báo, không gian con hồi quy thường không được hình dung trong một không gian hai chiều, nhưng tính toán là một sự mở rộng trực tiếp của các tính toán trong trường hợp dự báo đơn biến. Ví dụ, nếu ngoài các yếu tố IQ chúng ta có thêm vài yếu tố để dự đoán (ví dụ: Động lực, ý thức kỷ luật), chúng ta có thể xây dựng một phương trình tuyến tính có chứa tất cả các biến đó. Nói chung, các phương pháp hồi quy bội sẽ ước lượng một phương trình tuyến tính có dạng: 4 Y = b 0 + b1 X 1 + b 2 X 2 + ... + b k X k với k là số các yếu tố dự báo. Lưu ý rằng trong phương trình này, các hệ số hồi quy (1, ..., k) đại diện cho những đóng góp độc lập của mỗi biến dự báo vào giá trị của biến phụ thuộc. Nói cách khác thì đó chính là sự tương quan của biến Xi với biến Y, sau khi kiểm soát tác động của tất cả các biến độc lập khác. Loại tương quan này cũng được gọi là tương quan riêng phần. Ví dụ sau sẽ làm rõ vấn đề này. Bình thường người ta có thể thấy sự tương quan có ý nghĩa giữa chiều dài tóc và chiều cao con người (người thấp có mái tóc dài hơn). Tuy nhiên, nếu chúng ta thêm biến Giới tính vào phương trình hồi quy bội, sự tương quan này sẽ biến mất. Điều này là do tính trung bình thì phụ nữ có mái tóc dài hơn nhưng cũng thấp hơn so với nam giới. Như vậy, sau khi chúng ta loại bỏ sự khác biệt giới tính bằng cách đưa biến giới tính vào phương trình, mối quan hệ giữa chiều dài tóc và chiều cao biến mất bởi vì chiều dài tóc không có tác động đặc biệt nào cho các dự báo chiều cao. Nói một cách khác, sau khi kiểm soát biến giới tính, sự tương quan giữa chiều dài tóc và chiều cao là không có ý nghĩa. Không gian con hồi quy (một đường thẳng trong hồi quy đơn, một phẳng hoặc không gian con có số chiều cao hơn trong hồi quy bội) là dự đoán tốt nhất của biến phụ thuộc Y, được đưa ra bởi các biến độc lập X. Tuy nhiên, thực tế là rất hiếm khi chúng ta hoàn toàn dự đoán được chính xác giá trị của Y và thường có sự sai lệch giữa những điểm quan sát được so với không gian con hồi quy thích hợp. Độ lệch của một điểm cụ thể từ điểm tương ứng gần nhất trên không gian con hồi quy dự đoán (dự đoán giá trị của nó) được gọi là phần dư. Vì mục tiêu của các phương pháp hồi quy tuyến tính là đưa ra một không gian con là một hàm tuyến tính của các biến X nhằm quan sát biến Y càng gần càng tốt, các giá trị dư cho những điểm quan sát có thể được sử dụng để đưa ra một tiêu chuẩn "phù hợp nhất". Cụ thể, trong bài toán hồi quy, không gian con được tính sao cho tổng các bình phương độ lệch của các điểm quan sát được so với không gian con đó là nhỏ nhất. Như vậy, phương pháp chung gọi là ước lượng bình phương bé nhất. 5 Các tính toán thực tế liên quan đến việc giải quyết các bài toán hồi quy có thể được biểu diễn gọn gàng và tiện lợi bằng cách sử dụng ma trận. Giả sử rằng n giá trị quan sát của Y và n giá trị quan sát cho k biến X khác nhau. Sau đó Yi, Xik và i có thể đại diện tương ứng cho các quan sát thứ i của biến Y, các quan sát thứ i của các biến X, và giá trị phần dư chưa biết. Tập hợp những số hạng này đưa vào ma trận, ta có é1 X 11 éY1 ù êM M ê Mú ê ê ú ê ú Y = M , X = êM M ê ê ú M êM M ê ú êë1 X n1 êëYn úû L L L X 1k ù ée1 ù ú êMú M M M M ú ê ú ú M M M M , e = ê M ú. ú ê ú M M M M ú êMú êëe n úû L L L X nk úû Mô hình hồi quy bội theo ký hiệu ma trận có thể được biểu diễn như sau Y = Xb +e trong đó  là một vector cột của các hệ số cần ước lượng, bao gồm hệ số chặn và k hệ số hồi quy chưa biết. Vì mục tiêu của hồi quy bội là tổng bình phương độ lệch nhỏ nhất nên hệ số hồi quy cần tìm thoả mãn phương trình chuẩn tắc X ' X b = X 'Y . Khi các biến X là độc lập tuyến tính thì phương trình trên có một nghiệm duy nhất. Khi nhân cả hai vế của phương trình với nghịch đảo của X'X ta được (X 'X ) -1 X ' X b = ( X ' X ) X 'Y -1 hay b = ( X ' X ) X 'Y . -1 Kết quả này đưa ra lời giải cho phương trình hồi quy trong đó chỉ có 2 ma trận X và Y với 3 phép toán cơ bản của ma trận là: (1) chuyển vị ma trận bao gồm việc đổi chỗ các phần tử của hàng và của cột trong một ma trận, (2) phép nhân ma trận, 6 trong đó bao gồm việc tìm tổng các tích của các phần tử cho mỗi tổ hợp hàng và cột của hai hoặc nhiều ma trận, và (3) nghịch đảo ma trận, trong đó bao gồm việc tìm ma trận có tính chất giống với số nghịch đảo, nghĩa là ma trận thỏa mãn A-1 AA = A cho một ma trận A. Tuy nhiên mô hình hồi quy bội còn có những hạn chế cần chú ý là (1) nó được sử dụng để phân tích duy nhất một biến phụ thuộc, (2) nó không thể cung cấp một lời giải cho các hệ số hồi quy khi các biến X là không độc lập tuyến tính và do đó nghịch đảo của X'X không tồn tại. Khi khắc phục những hạn chế này thì mô hình hồi quy bội được chuyển thành mô hình tuyến tính tổng quát. 1.1.3. Mở rộng của mô hình hồi quy bội thành mô hình tuyến tính tổng quát Một trong những điểm mà mô hình tuyến tính tổng quát khác với mô hình hồi quy bội là số lượng của các biến phụ thuộc có thể được phân tích. Véc tơ Y của n quan sát của một biến Y duy nhất có thể được thay thế bằng một ma trận Y gồm n quan sát của m biến Y khác nhau. Tương tự, vector  của hệ số hồi quy cho một biến Y duy nhất có thể được thay thế bởi ma trận B của hệ số hồi quy, với một véc tơ của hệ số B cho mỗi biến trong số m biến phụ thuộc. Những thay thế đó cho phép mô hình được gọi là mô hình hồi quy đa biến, nhưng cần nhấn mạnh rằng các công thức ma trận của mô hình hồi quy bội và đa biến là giống hệt nhau, ngoại trừ số lượng các cột trong ma trận Y và B. Phương pháp giải các hệ số B cũng giống nhau, đó là, tập m các hệ số hồi quy khác nhau được xác định riêng rẽ cho m biến phụ thuộc khác nhau trong mô hình hồi quy đa biến. Mô hình tuyến tính tổng quát tiến một bước vượt lên trên mô hình hồi quy đa biến bằng cách chấp nhận các phép biến đổi tuyến tính hoặc tổ hợp tuyến tính của nhiều biến phụ thuộc. Sự mở rộng này mang lại cho mô hình tuyến tính tổng quát nhiều lợi thế quan trọng hơn mô hình hồi quy bội và mô hình hồi quy đa biến. Một lợi thế đầu tiên là các kiểm định đa biến có thể được áp dụng trên một tập nhiều 7 biến phụ thuộc có liên quan. Các phép kiểm định riêng rẽ về ý nghĩa của các biến phụ thuộc liên quan là không độc lập với nhau và có thể không thích hợp. Các phép kiểm định đa biến của các tổ hợp tuyến tính độc lập của các biến phụ thuộc có thể giúp thấy rõ những tổ hợp nào của các biến độc lập liên quan đến các biến dự báo, tổ hợp nào không liên quan. Một lợi thế khác là khả năng phân tích ảnh hưởng của các nhân tố được đo lặp lại. Các thiết kế phép đo lặp lại hoặc các thiết kế nội đối tượng thường được phân tích bằng cách sử dụng kỹ thuật phân tích phương sai ANOVA. Các tổ hợp tuyến tính của các biến đáp ứng phản ánh hiệu quả của phép đo lặp (biến độc lập được đo dưới những điều kiện khác nhau) có thể được thiết kế và kiểm định ý nghĩa bằng cách tiếp cận đơn biến hoặc đa biến để phân tích các phép đo lặp trong mô hình tuyến tính tổng quát. Một điều quan trọng thứ hai mà mô hình tuyến tính tổng quát khác với mô hình hồi quy bội là nó có thể cung cấp một lời giải cho các phương trình chuẩn tắc khi các biến X không độc lập tuyến tính và nghịch đảo của X'X không tồn tại. Sự dư thừa của các biến X có thể là không thực chất (ví dụ, có thể xảy ra hai biến dự báo hoàn toàn tương quan trong một tập dữ liệu nhỏ), là ngẫu nhiên (ví dụ, hai bản sao của cùng một biến có thể vô tình được sử dụng trong một phân tích) hoặc có chủ định (ví dụ, biến chỉ thị với các giá trị đối nhau có thể được sử dụng trong phân tích, như khi cả hai biến dự báo Nam và Nữ được sử dụng trong việc thể hiện giới tính). Tìm nghịch đảo chính quy của một ma trận có hạng không đầy đủ cũng giống như việc tìm nghịch đảo của số 0 trong số học thông thường. Không có nghịch đảo bởi vì không được phép chia cho số 0. Vấn đề này được giải quyết trong mô hình tuyến tính tổng quát bằng cách sử dụng một nghịch đảo suy rộng của ma trận X'X trong việc giải các phương trình chuẩn tắc. Một nghịch đảo suy rộng cho một ma trận A là ma trận A- bất kỳ thỏa mãn AA- A = A . Ma trận nghịch đảo suy rộng là không duy nhất và chỉ duy nhất khi ma trận A có hạng đầy đủ. Khi đó, nó chính là ma trận nghịch đảo chính quy. Ma trận nghịch đảo 8 suy rộng của một ma trận có hạng không đầy đủ có thể được tính bằng cách đơn giản bằng cách thay các phần tử 0 vào các hàng và cột dư của ma trận. Giả sử rằng có một ma trận X'X với r-cột độc lập tuyến tính (với r là hạng của X’X) thì ta phân chia như sau é A11 A12 ù X 'X = ê ú ë A21 A22 û với A11 là ma trận vuông cấp r. Sau đó, nghịch đảo chính quy của A11 tồn tại và một nghịch đảo tổng quát của X'X là é A11-1 012 ù X ' X = ( ) ê ú ë 021 022 û với mỗi ma trận 0 (không) gồm các số 0 và có số chiều giống như ma trận A tương ứng. Tuy nhiên trong thực tế, một nghịch đảo tổng quát đặc biệt của X'X để tìm một lời giải cho các phương trình chuẩn tắc thường được tính bằng cách sử dụng toán tử quét. Nghịch đảo suy rộng này, được gọi là nghịch đảo g2, có hai tính chất quan trọng. Một là việc gán các phần tử 0 trong các hàng và các cột dư là không cần thiết. Hai là sự phân vùng hoặc sắp xếp lại các cột của X'X là không cần thiết, vì vậy ma trận có thể tự nghịch đảo “tại chỗ”. Có vô số nghịch đảo tổng quát của một ma trận X'X không có hạng đầy đủ, do đó có vô số nghiệm của các phương trình chuẩn tắc. Điều này có thể gây ra sự khó hiểu về bản chất của mối quan hệ của các biến dự báo và biến phụ thuộc, bởi vì các hệ số hồi quy có thể thay đổi tùy thuộc vào nghịch đảo suy rộng cụ thể được chọn để giải các phương trình chuẩn tắc. Tuy nhiên, điều đó không đáng ngại vì tính chất bất biến quan trọng của nhiều kết quả có thể thu được bằng cách sử dụng mô hình tuyến tính tổng quát. Sau đây là một ví dụ đơn giản để minh họa các tính chất bất biến quan trọng nhất của việc sử dụng nghịch đảo suy rộng trong mô hình tuyến tính tổng quát. Nếu 9 cả hai biến dự báo Nam và Nữ với giá trị đối nhau được sử dụng trong một phân tích giới tính, tùy vào từng trường hợp mà biến dự báo được coi là phần dư thừa (ví dụ, biến Nam có thể được coi là phần dư thừa với biến Nữ, hoặc ngược lại). Bất kỳ biến dự báo nào được coi là phần dư thừa, bất kỳ nghịch đảo suy rộng tương ứng nào được sử dụng trong việc giải các phương trình chuẩn tắc, và bất kỳ kết quả phương trình hồi quy nào được sử dụng để tính toán các giá trị dự đoán về các biến phụ thuộc, các giá trị dự đoán và các phần dư tương ứng cho nam và nữ sẽ không thay đổi. Trong việc sử dụng mô hình tuyến tính tổng quát, người ta phải nhớ rằng việc tìm kiếm một nghiệm cụ thể của các phương trình chuẩn tắc chỉ là một bước trung gian để xác định giá trị đáp ứng của các biến phụ thuộc. Không giống như mô hình hồi quy bội thường được áp dụng cho trường hợp các biến X liên tục, mô hình tuyến tính tổng quát hay sử dụng để phân tích cho một mô hình phân tích phương sai ANOVA hoặc MANOVA với các biến dự báo rời rạc hoặc với cả hai loại biến dự báo rời rạc và liên tục, cũng như mô hình hồi quy bội hay đa biến với các biến dự báo liên tục. Ví dụ, giới tính rõ ràng là một biến độc lập rời rạc. Có hai phương pháp cơ bản mà giới tính có thể được mã hoá thành một hay nhiều biến dự báo và được phân tích bằng cách sử dụng mô hình tuyến tính tổng quát. 1.2. MỘT SỐ VÍ DỤ VỀ MÔ HÌNH TUYẾN TÍNH TỔNG QUÁT Giả thiết rằng chúng ta sẽ tiến hành một thí nghiệm trong đó chúng ta sẽ quan sát một biến đáp ứng hay biến phụ thuộc Yj , trong đó j = 1,…,J là các chỉ số của quan sát. Yj là một biến ngẫu nhiên. Chúng ta cũng giả thiết rằng với mỗi một quan sát chúng ta có một tập gồm K (K < J) biến giải thích hay biến độc lập xjk (được đo đạc mà không có sai số), với k = 1,…,K là chỉ số của các biến độc lập (hay biến giải thích). Các biến độc lập có thể là các hiệp biến liên tục hoặc rời rạc, các hàm của các hiệp biến, hoặc chúng có thể là các biến hình thức chỉ thị các mức độ của một nhân tố thực nghiệm. 10 Một mô hình tuyến tính tổng quát biểu diễn các biến đáp ứng Yj theo các số hạng của một tổ hợp tuyến tính của các biến độc lập cộng với phần sai số, Y j = x j1b1 + ... + x jk b k + ... + x jK b K + e j . (1.1) Ở đây βk là các tham số (chưa biết) tương ứng với mỗi một tập hợp K các biến giải thích xjk . Các sai số εj là các biến ngẫu nhiên độc lập có phân bố chuẩn giống nhau với trung bình 0 và phương sai σ2, được viết là e j : N ( 0, s 2 ) . Các mô hình iid tuyến tính với các phân bố sai số khác là các mô hình tuyến tính tổng quát hóa, thường được ký hiệu là GLM. Nhiều phương pháp thống kê tham số cổ điển là các trường hợp riêng của mô hình tuyến tính tổng quát. Chúng ta sẽ minh họa điểm này bằng việc xem xét các phương trình của hai mô hình nổi tiếng sau. a. Mô hình hồi quy tuyến tính. Một ví dụ đơn giản là hồi quy tuyến tính trong đó chỉ một biến độc lập liên tục duy nhất xj được quan sát (không có sai số) trong mỗi quan sát j = 1,…,J. Mô hình thường được viết như sau Yj = m + x j b + e j . Trong đó các tham số chưa biết là µ, một hằng số trong mô hình, hệ số hồi quy β và sai số e j : N ( 0, s 2 ) . Biểu thức này có thể được viết lại theo dạng mô hình tuyến iid tính tổng quát bằng việc sử dụng một biến hình thức lấy giá trị xj1 = 1 cho mọi j, Y j = x j1 m + x j 2 b 2 + e j mà đó là một dạng của phương trình (1.1) khi thay thế β1 bằng µ. b. Mô hình so sánh hai mẫu bằng phép kiểm định t. Mô hình so sánh hai mẫu là một trường hợp đặc biệt của một mô hình tuyến tính tổng quát, trong đó giả thiết rằng Yj1 và Yj2 là hai nhóm độc lập của các biến ngẫu 11 nhiên, phép so sánh Yqj : N ( mq , s 2 ) , với q = 1, 2, và đánh giá giả thuyết H: µ1 = µ2. iid Chỉ số j đánh số các điểm dữ liệu trong cả hai nhóm. Phương pháp biểu diễn mô hình thống kê theo quy chuẩn như sau Yqj = m q + e qj . Chỉ số q ở µq chỉ ra rằng có hai mức đối với hiệu ứng nhóm, µ1 và µ2. Ở đây iid ( ) e qj : N 0, s 2 . Biểu thức này có thể được viết lại sử dụng các biến hình thức xqj1 và xqj2 như sau Yqj = xqj1m1 + xqj 2 m 2 + e qj . (1.2) Phương trình (1.2) có dạng của phương trình (1.1) sau khi đánh số lại cho qj. Ở đây các biến hình thức cho biết nó là thành viên của nhóm nào, trong đó xqj1 chỉ ra khi nào quan sát Yqj ở nhóm thứ nhất, trong trường hợp đó nó có giá trị 1 khi q = 1, và 0 khi q = 2. Tương tự như vậy ì0 xqj 2 = í î1 nếu q = 1 nếu q = 2. 1.2.1. Lập phương trình dạng ma trận Mô hình tuyến tính tổng quát có thể được biểu diễn một cách ngắn gọn bằng cách sử dụng ký kiệu ma trận. Viết lại phương trình (1.1) ở dạng đầy đủ cho mỗi quan sát j cho ta một tập hợp các phương trình sau Y1 = x11b1 + ... + x1k b k + ... + x1K b K + e1 M Y j = x j1b1 + ... + x jk b k + ... + x jK b K + e j M YJ = xJ 1b1 + ... + xJk b k + ... + xJK b K + e J Hệ trên có dạng ma trận tương đương như sau 12 æ Y1 ö æ x11 L x1k L x1K ö æ b1 ö æ e1 ö ç ÷ ç ÷ç ÷ ç ÷ çM ÷ ç M O M O M ÷ çM ÷ çM ÷ ç Y j ÷ = ç x j1 L x jk L x jK ÷ ç b k ÷ + ç e j ÷ , ç ÷ ç ÷ç ÷ ç ÷ çM ÷ ç M O M O M ÷ çM ÷ çM ÷ ç ÷ ç ÷ç ÷ ç ÷ è YJ ø è xJ 1 L xJk L xJK ø è b K ø è e J ø có thể được viết dưới dạng ma trận Y = Xb +e , trong đó Y là vector cột của các quan sát, ε là vector cột của các số hạng sai số, β là vector cột của các tham số b = [ b1 ,¼, b k ,¼, b K ] . Ma trận X có cấp J x K, với T phần tử thứ jk là xjk, được gọi là ma trận thiết kế. Ma trận này có một dòng cho mỗi quan sát, và một cột (biến giải thích) cho mỗi tham số của mô hình. Điểm quan trọng về ma trận thiết kế đó là nó là một mô tả gần hoàn chỉnh mô hình với phần dư của mô hình là các số hạng sai số. 1.2.2. Ước lượng tham số Khi một thực nghiệm đã được hoàn tất, chúng ta có các quan sát của các biến ngẫu nhiên Yj , được ký hiệu là yj. Thông thường các phương trình của hệ biểu diễn mô hình tuyến tính tổng quát (với ε = 0) không thể giải được vì số lượng K các tham số thường được chọn nhỏ hơn số lượng J của các quan sát. Do đó một số phương pháp ước lượng tham số đòi hỏi dữ liệu “thích hợp nhất” cần phải được sử dụng. Điều này đạt được bằng cách sử dụng phương pháp bình phương bé nhất thông thường. ° = éb ° ±ù Ký hiệu một tập các giá trị ước lượng tham số bởi b ë 1 ,K , b K û . Các tham T T ° , cho các sai số phần dư số đó dẫn đến các giá trị tương ứng Y° = éëY°1 ,K , Y°J ùû = X b J T e = [ e1 ,K , eJ ] = Y - Y° = Y - X b° . Tổng bình phương phần dư S = å j =1 e 2j = eT e là tổng của các bình phương hiệu số giữa các giá trị tính toán và giá trị thực, và do 13 đó đo đạc mức độ phù hợp của mô hình với các ước lượng đó của các tham số. Các ước lượng bình phương bé nhất là các ước lượng tham số làm nhỏ nhất tổng bình phương các phần dư, với dạng đầy đủ là J S =å j =1 ( ° - K - x b° Y j - x j1 b K 1 jK 2 ). Giá trị này nhỏ nhất khi J ¶S ° - K - x b° = 0 . = 2 - x jk ) Y j - x j1 b ( å K 1 jK ° ¶b k j =1 ( ) ( ) ° . Do đó các ước lượng Phương trình này là dòng thứ k của X T Y = X T X b bình phương bé nhất, ký hiệu bởi bµ thỏa mãn phương trình: µ X TY = ( X T X ) b Đối với mô hình tuyến tính tổng quát, các ước lượng bình phương bé nhất là các ước lượng vững, và là các ước lượng không chệch tuyến tính tốt nhất. Đó là vì, liên quan đến tất cả các ước lượng tham số tuyến tính xây dựng nên từ kết hợp tuyến tính của dữ liệu được quan sát có kỳ vọng là giá trị đúng của các tham biến, ước lượng bình phương bé nhất có phương sai bé nhất. Nếu (XTX) khả nghịch, mà thực tế nó sẽ là như vậy nếu và chỉ nếu ma trận tính toán X có hạng đầy đủ, thì các ước lượng bình phương bé nhất sẽ là µ = ( X T X ) -1 X T Y . b (1.3) a. Các mô hình không có lời giải duy nhất Nếu X có các cột phụ thuộc tuyến tính, nó sẽ là ma trận có hạng không đầy đủ, khi đó (XTX) suy biến và không khả nghịch. Trong trường hợp này mô hình được gọi là tham số hóa dư thừa: có vô hạn các tập hợp tham số mô tả cùng một mô hình. 14 Tương ứng, sẽ có vô hạn các ước lượng bình phương bé nhất bµ thỏa mãn các phương trình. b. Mô hình ANOVA một nhân tố Một ví dụ đơn giản về một mô hình như vậy là mô hình phân tích phương sai một nhân tố cổ điển (ANOVA). Một cách tổng quát, một mô hình ANOVA xác định biến thiên của một biến đáp ứng được quan sát chịu các ảnh hưởng của các mức tác nhân. Phần biến thiên không giải thích còn lại được sử dụng để đánh giá mức ý nghĩa của các tác động. Mô hình ANOVA một nhân tố được viết như sau: Yqj = m + a q + e qj Trong đó Yqj là quan sát thứ j trong nhóm q = 1,…,Q. Các tham số của mô hình này rõ ràng không xác định duy nhất với bất kỳ µ và αq nào, các tham số µ’ = µ + d và αq’ = αq – d cho một mô hình tương đương với bất kỳ hằng số d nào. Đó chính là mô hình là không xác định cho đến mức của một hằng số cộng giữa biểu thức hằng số µ và các tác động nhóm αq. Có thể lập luận tương tự như trên cho bất kỳ tập các µ , a¶ nào. Ở đây có một bậc vô định trong mô ước lượng bình phương bé nhất m q hình, điều đó làm cho ma trận tính toán có hạng Q nhỏ hơn số các tham số (số các cột của ma trận X). Nếu vector dữ liệu Y có các quan sát được sắp xếp theo nhóm, khi đó trong trường hợp 3 nhóm (Q = 3), ma trận tính toán và các vector tham số là: é1 êM ê ê1 ê ê1 X =ê M ê ê1 ê1 ê êM ê1 ë 1 0 0 ù M M M úú 1 0 0 ú ém ù ú 0 1 0ú êa ú 1 ú M M M ; b=ê ú êa 2 ú ú 0 1 0ú ê ú ëa 3 û 0 0 1ú ú M M M ú 0 0 1 úû 15 Rõ ràng rằng ma trận này có hạng không đầy đủ: cột đầu tiên là tổng của các cột khác. Do đó trong mô hình này, người ta không thể kiểm tra trong mô hình này tác động của một hay nhiều nhóm. Tuy nhiên lưu ý rằng việc cộng vào hằng số µ không tác động đến các hiệu số tương đối giữa các cặp của các tác động nhóm. Do đó các hiệu số trong các tác động nhóm được ước lược duy nhất mà không cần xét đến tập cụ thể của các ước lượng tham số được sử dụng. Nói cách khác, thậm chí nếu mô hình là tham số hóa dư thừa, vẫn có các tổ hợp tuyến tính có ích của các tham số (chính là các hiệu số giữa các cặp của các tác động nhóm). c. Ràng buộc nghịch đảo suy rộng Trong mô hình với tham số không xác định duy nhất, một tập các ước lượng bình phương bé nhất có thể được xác định bằng việc đưa vào các ràng buộc đối với các ước lượng hoặc bằng việc sử dụng cho (XTX). Trong trường hợp nào thì cũng cần chú ý rằng các ước lượng thực sự thu nhận được phụ thuộc vào ràng buộc cụ thể hoặc phụ thuộc vào phương pháp lấy nghịch đảo suy rộng được lựa chọn. Có một số ràng buộc cụ thể dựa trên việc loại bỏ các cột từ ma trận tính toán. Trong ví dụ ANOVA một nhân tố, người ta có thể loại bỏ biểu thức hằng số để xây dựng một ma trận tính toán có các cột là độc lập tuyến tính. Với các tính toán phức tạp hơn, dạng của ma trận tính toán có thể thay đổi rất nhiều làm cho mô hình ban đầu trở nên khó nhận biết. Một cách khác là phương pháp lấy nghịch đảo suy rộng ma trận có thể được sử dụng. Đặt ( X T X ) ký hiệu cho một ma trận nghịch đảo suy rộng của (XTX). Khi đó - chúng ta có thể sử dụng ( X T X ) thay vì ( X T X ) - -1 trong phương trình (1.3). Một µ = XTX tập các ước lượng bình phương bé nhất được cho bởi b ( ) - X T Y = X -Y . Điều đó cho các ước lượng tham số bình phương bé nhất với tổng các bình phương µ || ). Ví dụ, với mô hình ANOVA một nhân tố, là bé nhất (cực tiểu L2 theo chuẩn || b 2 ( ) µ = Q Y q· phương pháp này cho các ước lượng tham số m å q=1 (1 + Q ) và