Tài liệu Tập ngẫu nhiên hữu hạn trong thống kê

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM TP. HỒ CHÍ MINH TRƯƠNG NGỌC TRIẾT TẬP NGẪU NHIÊN HỮU HẠN TRONG THỐNG KÊ Chuyên ngành: Toán Giải Tích Mã số: 604601 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC TS. NGUYỄN CHÍ LONG Thành phố Hồ Chí Minh – 2012 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM TP. HỒ CHÍ MINH TRƯƠNG NGỌC TRIẾT TẬP NGẪU NHIÊN HỮU HẠN TRONG THỐNG KÊ LUẬN VĂN THẠC SĨ TOÁN HỌC Thành phố Hồ Chí Minh – 2012 LỜI CÁM ƠN Lời cám ơn sâu sắc nhất, tôi xin chân thành cảm ơn cố PGS-TS. Đậu Thế Cấp, người đã giảng dạy cho tôi trong khóa học, người đã gợi mở cho tôi đến với đề tài này; xin gửi lời cám ơn sâu sắc đến Thầy của tôi – TS. Nguyễn Chí Long, người đã tận tình hướng dẫn tôi trong suốt quá trình thực hiện luận văn Thạc sĩ này. Tôi xin gửi lời cám ơn đến quý Thầy, Cô trong Hội đồng chấm luận văn đã dành thời gian đọc và cho tôi những nhận xét về luận văn. Tôi xin chân thành cám ơn Ban Giám hiệu, quý Thầy, Cô của Khoa Toán – Tin học, quý Thầy, Cô thuộc Phòng Quản lý Khoa học Sau Đại học Trường Đại học Sư phạm TP.HCM đã trang bị cho tôi kiến thức cũng như đã tạo điều kiện thuận lợi cho tôi trong suốt quá trình học tập tại trường. Tôi xin bày tỏ lòng biết ơn đến quý Thầy Cô – những đồng nghiệp của tôi Trường THPT Chuyên Trần Hưng Đạo – Phan Thiết – Bình Thuận đã nhiệt tình giúp đỡ tôi trong công việc để tôi thuận lợi hơn trong quá trình học tập. Tôi cũng xin cám ơn các bạn học viên cùng lớp Cao học Giải Tích khóa 20 đã chia sẻ, giúp đỡ nhau trong suốt quá trình học tập. Cuối cùng là lời cám ơn tôi dành cho những người thân trong gia đình tôi, những người luôn động viên tôi trong suốt thời gian qua. TP. Hồ Chí Minh, Tháng 3 năm 2012 Trương Ngọc Triết MỤC LỤC LỜI CÁM ƠN .................................................................................................................. 1 MỞ ĐẦU .......................................................................................................................... 3 CHƯƠNG 1: ĐẠI CƯƠNG XÁC SUẤT ........................................................................ 5 1.1 Đại số và σ -đại số .................................................................................................. 5 1.2 Độ đo xác suất......................................................................................................... 8 1.3 Phần tử ngẫu nhiên, biến ngẫu nhiên, véctơ ngẫu nhiên. ..................................... 15 1.4 Hàm phân phối, hàm mật độ của biến ngẫu nhiên và vécto ngẫu nhiên ............. 20 CHƯƠNG II: MỘT VÀI TẬP NGẪU NHIÊN TRONG THỐNG KÊ ......................... 27 2.1 Miền tin cậy .......................................................................................................... 27 2.2 Thống kê Bayes .................................................................................................... 34 CHƯƠNG 3: TẬP NGẪU NHIÊN HỮU HẠN ............................................................ 36 3.1 Tập ngẫu nhiên và phân phối của chúng. ............................................................ 37 3.2 Tập giá trị quan sát ............................................................................................... 42 3.3 Hàm quyết định với tập ngẫu nhiên ...................................................................... 48 3.4 Kì vọng của tập ngẫu nhiên .................................................................................. 51 3.5 Phân phối Entropy cực đại .................................................................................... 52 3.6 Quan hệ giữa vấn đề entropy cực đại với tập ngẫu nhiên.................................... 58 KẾT LUẬN .................................................................................................................... 60 TÀI LIỆU THAM KHẢO .............................................................................................. 61 MỞ ĐẦU 1. Lý do chọn đề tài: Xác suất là ngành toán học nghiên cứu các hiện tượng ngẫu nhiên. Lý thuyết xác suất gắn liền với thống kê toán học, là khoa học về phương pháp thu thập và phân tích dữ liệu, thông tin định lượng. Xác suất thống kê được ứng dụng rộng rãi trong kinh tế, trong khoa học kĩ thuật và cả trong nhiều lĩnh vực của khoa học xã hội và nhân văn. Lý thuyết về các tập ngẫu nhiên là một sự tổng quát tự nhiên của biến ngẫu nhiên về véctơ ngẫu nhiên. Tập hợp dữ liệu ngẫu nhiên cũng có thể được xem như là quan sát không chính xác, không đầy đủ nhưng là thường xuyên trong xã hội công nghệ ngày nay. Khi mô hình cho các thiết lập giá trị quan sát là cơ sở để thu thập, nhận thức thông tin thì tập ngẫu nhiên là một loại mới của dữ liệu. Như vậy, nghiên cứu tập ngẫu nhiên như là công cụ toán học để giải quyết các bài toán xác suất thống kê. Các nghiên cứu mới về tập ngẫu nhiên cho phép chúng ta mở rộng thêm vài tính chất của hàm phân phối, hàm mật độ, các đặc trưng khác của đại lượng ngẫu nhiên hữu hạn. Chính vì vậy, chúng tôi chọn nghiên cứu đề tài “Tập ngẫu nhiên hữu hạn trong thống kê”. 2. Mục đích nghiên cứu: Trong luận văn này, chúng tôi khảo sát một số định nghĩa mới được đưa ra gần đây về hàm phân phối, hàm mật độ của tập ngẫu nhiên hữu hạn và nghiên cứu các tính chất của chúng. 3. Đối tượng và phạm vi nghiên cứu: Đối tượng nghiên cứu của luận văn là: độ đo xác suất, tập ngẫu nhiên hữu hạn, miền tin cậy, thống kê Bayes, sử dụng nguyên lí entropy cực đại, mối quan hệ với tập ngẫu nhiên trong thống kê. Phạm vi nghiên cứu thuộc về lý thuyết độ đo tích phân và lý thuyết xác suất thống kê. 4. Ý nghĩa khoa học và thực tiễn của đề tài: Tìm hiểu sâu về tập ngẫu nhiên hữu hạn trên cơ sở đó sẽ mở rộng lên tập vô hạn đếm được. Luận văn cũng chú ý đến việc ứng dụng của lý thuyết xác suất thống kê. 5. Cấu trúc luận văn: Nội dung luận văn được trình bày 3 chương: Chương 1: Trình bày một số vấn đề về lý thuyết độ đo, độ đo xác suất và các định nghĩa, tính chất khác có liên quan đến tập ngẫu nhiên hữu hạn. Chương 2: Trình bày một số tập ngẫu nhiên trong thống kê, lí thuyết về cách xác định miền tin cậy,tìm hiểu về thống kê Bayes của tập ngẫu nhiên. Chương 3: Trình bày tính chất hàm phân phối, hàm mật độ của tập ngẫu nhiên hữu hạn. Tìm hiểu về công thức tính kì vọng, ứng dụng nguyên lí Entropy cực đại cho hàm quyết định đối với tập ngẫu nhiên. CHƯƠNG 1: ĐẠI CƯƠNG XÁC SUẤT 1.1 Đại số và σ -đại số Giả sử Ω là một tập tùy ý khác rỗng. Kí hiệu (Ω) là tập hợp gồm tất cả các tập con của Ω. Định nghĩa 1.1.1 Lớp  ⊂  (Ω) được gọi là một đại số nếu: A1) Ω ∈  , A2) A ∈  ⇒ A = Ω \ A∈ , A3) A, B ∈  ⇒ A ∪ B ∈  . Định nghĩa 1.1.2. Lớp  ∈ (Ω) được gọi là σ -đại số nếu nó là đại số và ngoài ra ∞ A4) từ A n ∈  , n = 1,2,… suy ra  A ∈ n n =1 Định nghĩa 1.1.3 Lớp  ⊂ (Ω) khác rỗng được gọi là lớp đơn điệu nếu: ∞ a) An ∈ , An ⊂ An +1 , n = 1, 2,... ⇒  An ∈ . n =1 ∞ b) An ∈ , An ⊃ An +1 , n = 1, 2,... ⇒  An ∈  . n =1 Định nghĩa 1.1.4  { Ai , i ∈ I } là một họ các tập con khác rỗng, rời Một phân hoạch hữu hạn= nhau từng cặp của Ω và hợp của chúng là Ω. Định lí 1.1.5 Đại số  sinh bởi phân hoạch hữu hạn  của Ω gồm tất cả các hợp của các họ con có thể có của  (nếu  gồm n phần tử thì  có 2n phần tử). Ngược lại, nếu đại số  chỉ gồm một số hữu hạn các tập con của Ω thì tập hợp các nguyên tử của  tạo thành phân hoạch hữu hạn của Ω sinh ra  (ở đây A ⊂ Ω gọi là nguyên tử của  nếu A ≠ ∅ và nếu ∅ ≠ B ⊂ A, B ∈  thì B = A ). Chứng minh: Phần đầu của định lí là hiển nhiên. Để chứng minh phần sau ta giả thiết =  { Ai , i ∈ I } là một đại số hữu hạn trong Ω. Xét họ = {B ⊂ Ω : B ≠ ∅ và B =  Bi trong đó mỗi Bi hoặc bằng Ai hoặc bằng i∈I Ai } Khi đó  là một phân hoạch của Ω gồm các nguyên tử của  và sinh ra  . Định lí 1.1.6 Giả sử  là một đại số. Khi đó,  là σ -đại số nếu và chỉ nếu  là lớp đơn điệu. Chứng minh: Hiển nhiên rằng nếu  là σ -đại số thì  là lớp đơn điệu. Ngược lại, giả sử Bn  là lớp đơn điệu. Khi đó nếu ( An ) ⊂  thì do  là đại số, = n  A ∈ , i i =1 Bn ⊂ Bn +1 , n = 1, 2,... Từ đó, do  là lớp đơn điệu ∞ A n n =1 = lim ↑ Bn ∈  nên  là σ n đại số; ở đây ta viết: = B lim ↑ Bn nghĩa là ( Bn ) tăng và B =  Bn , n n = B lim ↓ Bn nghĩa là ( Bn ) giảm và B =  Bn . n n Định lí 1.1.7 Giả sử  là đại số. Khi đó σ -đại số sinh bởi  trùng với lớp đơn điệu sinh bởi  .Chứng minh: Kí hiệu σ ( ) ( tương ứng m( ) ) là σ -đại số ( tương ứng lớp đơn điệu) sinh bởi  . Vì σ ( ) cũng là lớp đơn điệu nên m( ) ⊂ σ ( ) . Để chứng minh σ ( ) ⊂ m( ) ta cần chứng tỏ rằng m( ) là đại số. Do đó theo định lí 1.1.6 m( ) là σ -đại số. Kí hiệu  = {B : B và B ∈ m( )} . Rõ ràng  ⊂  ⊂ m( ) . Từ đó nếu ta chứng minh rằng  là lớp đơn điệu thì  ≡ m( ) . Giả sử ( Bn ) ⊂  là dãy tăng, (Cn ) ⊂  là dãy giảm tuỳ ý. Khi đó Bn , Bn , Cn , Cn ∈ m( ) . Do m( ) là lớp đơn điệu nên = B lim ↑ Bn , lim ↑ Bn = lim ↓ Bn ∈ m( ) , n n n C = lim ↓ Cn , lim ↓ Cn = lim ↑ Cn ∈ m( ) , n n n và B, C ∈  . Điều đó có nghĩa là  là lớp đơn điệu. Với A ∈ m( ) xét lớp con A = {B : B và AB ∈ m( )} . Từ đẳng thức lim ABn = A lim Bn ( đúng với dãy đơn điệu ( Bn ) bất kỳ) suy ra A là n n lớp đơn điệu. Nhưng với B ∈  ta có B ∈ A ⊂ m( ) . Vì vậy A = m( ) . Từ đó và hệ thức A ∈ B ⇔ B ∈ A suy ra A∈ B với mọi A∈  và B ∈ m( ) , hay  ⊂ B với mọi B ∈ m( ) . Vậy B = m( ) với mọi B ∈ m( ) , nghĩa là m( ) đóng với phép giao nên m( ) là đại số. Định nghĩa 1.1.8 Cho X là một không gian tôpô. Ta gọi σ -đại số Borel trên X là σ -đại số sinh bởi họ các tập con mở của X. Kí hiệu  ( X ) . Mỗi phần tử thuộc  ( X ) gọi là một tập Borel. Định lí 1.1.9  () được sinh bởi một trong các họ tập con sau đây của  a. Họ các khoảng= mở 1 {(a, b) / a < b} = 2 {[a, b] / a < b} b. Họ các khoảng đóng = 4 {[a, b) / a < b} = 3 {(a, b] / a < b} hoặc c. Họ các khoảng nửa mở 5 {(a, +∞) / a ∈ } hoặc 6= {(−∞, a) / a ∈ } d. Họ các nửa đường thẳng mở = 7 {[a, +∞) / a ∈ } hoặc 8= {(−∞, a] / a ∈ } e. Họ các nửa đường thẳng đóng = Định nghĩa 1.1.10 Cho { X α }α ∈I là một họ các tập khác rỗng, X = ∏ X α và π α : X → X α là ánh α ∈I xạ toạ độ thứ α . Với mỗi α , cho α là σ -đại số trên X α . Ta gọi σ -đại số tích của các σ -đại số trên X α là σ -đại số trên X sinh bởi họ tập {π α−1 ( Eα ) / Eα ∈ α , α ∈ I } . n Ta kí hiệu σ -đại số này là ⊗ α , nếu I = {1,…,n} thì ta kí hiệu ⊗ j hoặc α ∈I 1 1 ⊗ ... ⊗ n . Định lí 1.1.11 Nếu I là tập đếm được thì ⊗ α là σ -đại số sinh bởi họ tập α ∈I {∏ Eα / Eα ∈ α } . α ∈I 1.2 Độ đo xác suất Định nghĩa 1.2.1 Cặp (Ω,  ), trong đó Ω ≠ ∅ bất kỳ còn  là một σ -đại số các tập con của Ω được gọi là một không gian đo. Định nghĩa 1.2.2 Cho  là một σ -đại số trên Ω. Một hàm tập µ :  → [0; +∞] gọi là một độ đo trên  nếu thoả các điều kiện i) µ (∅) =0 . ii) {E j } +∞ j =1 +∞ +∞ j =1 j =1 là dãy các tập rời nhau thuộc  thì µ ( E j ) = ∑ µ (E j ) Độ đo µ trên  gọi là hữu hạn nếu µ ( E ) < +∞, ∀E ∈  . Độ đo µ trên  gọi là σ -hữu hạn nếu tồn tại dãy µ ( E j ) < +∞, ∀j và +∞ E j {E } j +∞ j =1 ⊂ , =X. j =1 Độ đo µ trên  gọi là độ đo đầy đủ nếu mọi E ∈  , µ ( E ) = 0 thì mọi F ⊂ E đều có F ∈  . Bộ ba (Ω,  , µ ) trong đó  là một σ -đại số trên Ω, µ là một độ đo trên  gọi là một không gian độ đo. Định nghĩa 1.2.3 Giả sử  ⊂  (Ω) là một đại số nào đó. Hàm tập hợp Ρ (.) xác định trên  được gọi là độ đo xác suất hữu hạn cộng tính ( hay cộng tính hữu hạn) nếu: P1) P( A) ≥ 0, A ∈  P(Ω) =1 P2) P3’) P( A ∪ B)= P( A) + P( B) nếu A, B ∈  và A ∩ B = ∅. ∅ Bằng quy nạp, từ P3’) ta suy ra rằng nếu Ai ∈  , i = 1,2,…,n và Ai ∩ Aj = n n với i ≠ j thì P(∑ Ai ) = ∑ P( Ai ) . =i 1 =i 1 ) P( A + A= ) P( A) + P( A) . Do đó Cũng từ P2) và P’3) ta có 1= P(Ω= P( A) = 1 − P( A) . Định nghĩa 1.2.4 Hàm tập hợp P xác định trên đại số  được gọi là độ đo xác suất σ –cộng tính nếu P1) P( A) ≥ 0, P2) A∈  P(Ω) =1 ∅, i ≠ j P3) nếu Ai ∈  , i = 1, 2,... Ai ∩ Aj = ∞ ∞ ∞ ∑ Ai ∈  thì P(∑ Ai ) = ∑ P( Ai ) i =1 =i 1 =i 1 Từ tính chất σ –cộng tính của độ đo xác suất suy ra tính chất hữu hạn cộng tính. Điều ngược lại không đúng. Ví dụ 1.2.5 Lấy  là tập số hữu tỷ trên 1 , lấy Ω=  ∩ [0,1] . Kí hiệu  là lớp các khoảng [a; b] ∩ Ω , [a; b) ∩ Ω , (a; b] ∩ Ω , (a; b) ∩ Ω với a, b ∈ Ω . Xét hệ  gồm tất cả các hợp của một số hữu hạn các khoảng trên (đương nhiên  ⊂  ).  là đại số. Nếu A ∈  có một trong bốn dạng trên ta đặt P(A) = b - a, còn nếu n n i =1 i =1 B = ∑ Ai , Ai ∈  và từng cặp rời nhau ta đặt: P( B) = ∑ P( Ai ) . Rõ ràng P là độ đo xác suất hữu hạn cộng tính trên  . Nhưng với r ∈ Ω, {r} ∈  và P({r}) = 0 , và P(Ω) = 1 ≠ 0 = ∑ P({r}) . Vậy P không thể là σ -cộng tính. r∈Ω Định lí 1.2.6 Giả sử P là một độ đo xác suất hữu hạn cộng tính trên đại số  . Khi đó bốn điều kiện sau là tương đương 1) P là cộng tính đếm được ( σ -cộng tính); 2) P liên tục trên, tức là nếu A n ∈  , n = 1,2,… là dãy không giảm ( An ⊂ An +1 ) An và lim= n →∞ ∞  A ∈ n n =1 ∞ thì P( An ) = lim P( An ) . n →∞ n =1 3) P liên tục dưới, tức là nếu A n ∈  , n = 1,2,… là dãy giảm ( An ⊂ An −1 ) và lim= An n →∞ ∞ ∞ n =1 n =1  An ∈  thì P( An ) = lim P( An ) . n →∞ 4) P liên tục tại không, tức là, nếu A n ∈  , An ⊃ An +1 , n = 1,2,… và ∞ A n =∅ n =1 thì lim P( An ) = 0 . n →∞ Chứng minh: 1 ⇒ 2 ): Giả sử (A n ) ⊂  không giảm, ∞  A ∈  . Đặt n n =1 ∞ đó An = B1 + B2 + ... + Bn ,  Ai = i =1 ∞ ∑B , i =1 i n P( An ) = ∑ P( Bi ) , i =1 ∞ ∞ P= ( Ai ) P= (∑ Bi ) i =1 ∞ P( B ) ∑= =i 1 =i 1 i n lim ∑ P( Bi ) lim P( An ) = n →∞ =i 1 n →∞ A0 = ∅, Bi = Ai \ Ai −1 ∈  . Khi 2 ⇒ 3 ): Giả sử (A n ) ⊂  là dãy giảm, ∞  A ∈  , khi đó ( A ) là dãy tăng. Theo 2): n n n =1 ∞ ∞ ∞ P( Ai ) = 1 − P( Ai ) = 1 − P( Ai ) = 1 − lim P( An ) = lim[1 − P( An )] = lim P( An ) . n →∞ =i 1 =i 1 =i 1 3 ⇒ 4 ): n →∞ n →∞ Hiển nhiên. 4 ⇒ 1 ) : Giả sử (A n ) ⊂  là dãy đôi một không giao nhau và ∞  A ∈  . Khi đó n n =1 = Cn : ∞ = Ai  i= n +1 ∞ ∞ n ∅.  Ai \  Ai ∈  và Cn ⊂ Cn+1 ,  Cn = i= i= 1 1 n =1 Do P hữu hạn cộng tính ∞ n P( Ai )= P( Ai ) + P(Cn )= =i 1 =i 1 n ∑ P( A ) +P(C ) . i =1 i n ∞ ∞ i =1 i =1 Cho n → ∞ với P(Cn ) → 0 ta có P( Ai ) = ∑ P( Ai ) . Định lí 1.2.7 (Định lí Carathéodory) Giả sử Ω là một tập hợp nào đó,  là đại số các tập con của Ω. Giả sử µ0 là một độ đo xác định trên  (nghĩa là µ0 là một hàm tập hợp, không âm, σ -cộng tính trên  ) và σ -hữu hạn (nghĩa là tồn tại dãy (A n ) ⊂  sao cho ∞ A n = Ω và n =1 µ0 ( An ) < ∞, n =1, 2... ). Khi đó tồn tại duy nhất một độ đo µ xác định trên σ ( ) sao µ ( A) µ0 ( A), A ∈  . cho= Giả sử P là độ đo xác suất xác định trên  () . Khi đó hàm số F ( x= ) P(−∞, x], x ∈  có các tính chất sau: a) F không giảm: x < y ⇒ F ( x) ≤ F ( y ) , b) F liên tục trái tại mọi điểm, F (−∞) lim = F ( x) 0, = F (+∞) lim = F ( x) 1 . c) = x →−∞ x →+∞ Hàm F có 3 tính chất đó được gọi là hàm phân phối trên  . Thật vậy, tính chất a) suy ra từ tính đơn điệu của xác suất và bao hàm thức (−∞; x] ⊂ (−∞, y ] nếu x < y . Do F đơn điệu bị chặn nên các giới hạn một phía (kể cả các điểm ±∞ ) đều tồn tại. Vì vậy để chứng minh tính chất liên tục trái cũng như c) chỉ cần sử dụng tính chất liên tục của xác suất. Định lí 1.2.8 Giả sử F(x) là một hàm số tuỳ ý xác định trên  thỏa 3 điều kiện a), b), c) ở trên. Khi đó tồn tại duy nhất một xác suất P xác định trên  () sao cho: P[a= , b) F (b) − F (a ) , a < b . Chứng minh: Kí hiệu  là họ gồm các tập A ⊂  sao cho A = n ∑ [a ; b ) i =1 i i (1.2.1) , b) F (b) − F (a) , với [ai ; bi ) ∩ [a j ; b j ) =∅, i ≠ j . Rõ ràng,  là một đại số. Đặt : P0 [a= = P0 ( A) a < b và n n [a ; b ) ∑ [ F (b ) − F (a )] nếu A ∈  ∑ P= 0 i i =i 1 =i 1 i i và có dạng (1.2.1). Dễ thấy P0 thỏa các điều kiện P 1 ), P 2 ), P 3 ’). Để có thể áp dụng định lí Carathéodory ở trên chỉ cần phải chứng minh rằng P0 là σ -cộng tính trên  . Theo định lí 1.2.6 chỉ cần chứng minh rằng P0 liên tục tại ∅ . Giả sử An ∈  , An ↓ ∅ . Ta hãy chứng tỏ rằng P0 ( An ) → 0 . 1, 2,... a) Đầu tiên ta giả sử rằng tồn tại a; b ∈ , a < b sao cho An ⊂ [a, b], n = mn Theo giả thiết, An = ∑ [ain , bin ) và F liên tục trái nên với ε > 0 tùy ý đã cho i =1 tìm được cin ∈ [ain ; bin ) sao cho P0 [cin ; bin ) = F (bin ) − F (cin ) < ε .(2n.mn ) −1 = = mn , n 1, 2,... với i 1,..., Kí hiệu Bn = mn = [ain , cin ), K n ∑ mn ∑ [a =i 1 =i 1 n i , cin ] . Rõ ràng Bn ⊂ K n ⊂ An ⊂ [a, b] và mn ∑ P [c , b = P0 ( An \ Bn ) i =1 0 n i n i với ) < ε .2− n n = 1, 2,… (1.2.2) ∞ Do A n = ∅ nên n =1 ∞ K n = ∅ . Từ đó và tính compact của các tập K n trong n =1 khoảng [a; b] suy ra tồn tại số n0 sao cho n0 m  K n = ∅ ⇒  Bn = ∅, m ≥ n0 . n 1= n 1 = m m ∞ m P0 ( An \ Bn ) ≤ ∑ P0 ( An \Bn ) < ∑= ε .2− n ε . Khi đó với m ≥ n0 , P= 0 ( Am ) n 1= n 1 = = n 1= n 1 Vì ε > 0 tùy ý, nên ta có lim P0 ( Am ) = 0 . m →∞ b) Bây giờ xét ( An ) ⊂  tùy ý, An ↓ ∅ . Theo giả thiết về hàm phân phối F, với ε > 0 đã cho, tùy ý, ta tìm được a < b sao cho F (a ) < ε ε , 1 − F (b) < 2 2 An ∩ [ \ [a; b)] ∈ n , n ≥ 1 An ∩ [a; b) ∈ n và An'' = Đặt An' = Theo phần a) An' ↓ ∅, An' ⊂ [a, b] nên P0 ( An' ) → 0, n → +∞ Ngoài ra, P0 ( An'' ) ≤ P0 [ \ [a, b)] < ε . Từ đó lim= P0 ( An ) lim [ P0 ( An' ) + P0 ( An'' )] ≤ ε + lim = P0 ( An' ) ε n →+∞ n →+∞ n →+∞ Suy ra lim P0 ( An ) = 0 n →+∞ Định nghĩa 1.2.9 Lớp  các tập con của Ω được gọi là compact nếu đối với dãy bất kỳ ( K n ) ⊂  mà ∞  K n = ∅ thì tồn tại số n0 sao cho n =1 n0 K n = ∅. n =1 Định lí 1.2.10 Giả sử  là lớp compact bất kỳ của Ω. Khi đó lớp nhỏ nhất chứa  đóng đối với hợp hữu hạn và giao đếm được cũng là lớp compact. Chứng minh Giả sử * là lớp gồm các tập là hợp của một số hữu hạn các phần tử của  .  là lớp gồm các tập là giao của một số đếm được các phần tử của * . Bởi vì bao   compact nếu * compact. Vì đóng đối với phép giao bảo toàn tính compact nên  vậy, chỉ cần chứng minh rằng * là lớp compact. Giả sử (Cn ) ⊂ * và mn m Cn =  K nm , K n ∈  ; m, n ≥ 1 . m =1 p Giả sử C n ≠ ∅ với mọi p tùy ý. Ta hãy chứng minh rằng ∞ C n ≠ ∅. n =1 n =1 ∞ p Kí hiệu  = ∏ {1, 2,..., mn } và =  p {{ jn } ∈  :  K nj ≠ ∅}, p ≥ 1 . n n =1 n =1 p Vì p  Cn ≠ ∅ ⇒  K njn ≠ ∅ nên  p ≠ ∅ với mỗi p. Hơn nữa nếu p1 < p2 thì n 1= =  n 1  p1 ⊃  p2 và  là tích các không gian compact (với tôpô rời rạc) nên cũng Do đó compact. ∞ ∞ n =1 n =1   p ≠ ∅ . Bây giờ, giả sử { jn } ∈   p . Lúc đó với mỗi ∞ p  K njn ≠ ∅ , và lại do p = 1, 2,...  là lớp compact nên ∞  K njn ⊂  Cn . Do đó = n 1= n 1 ∞ C n jn n ≠ ∅ . Mà n =1 n =1 ∞ K ≠∅. n =1 Định nghĩa 1.2.11 Giả sử (Ω,  ,P) là không gian xác suất;  ⊂  là lớp compact. Độ đo xác suất P được gọi là chính quy( đối với  ) nếu P( B) = sup P( A) , với mỗi B ∈  . A∈ , A⊂ B Định lí 1.2.12 Giả sử 0 là đại số các tập con của Ω. 0 là lớp compact và 0 ⊂ 0 . Ngoài ra, giả thiết rằng  = σ ( 0 ) và  là lớp nhỏ nhất chứa 0 đóng đối với hợp hữu hạn, giao đếm được. Giả sử P là hàm tập không âm hữu hạn cộng tính trên 0 và P(Ω) = 1. Khi đó nếu P( B) = sup P( A) , với mỗi B ∈ 0 , thì P có thể thác triển một cách duy A∈0 , A⊂ B nhất thành một độ đo xác suất trên  và chính quy đối với  . Chứng minh: a) Theo nguyên lí thác triển độ đo, ta chỉ cần chứng tỏ rằng nếu ( Bn ) ⊂ 0 , Bn ↓ ∅ , thì P( Bn ) → 0 . Lấy ε > 0 và với mỗi n chọn K n ∈ 0 sao cho K n ⊂ Bn và P( K n ) ≥ P( Bn ) − ε / 2n . Vì ∞ ∞ ∅ , do đó tồn tại n0 sao cho  K n ⊂  Bn = = n 1= n 1 đó = Bn n0 B n0 n0 K n = ∅ . Từ n =1 n0 ⊂  ( Bn \ K n ) . Vậy P ( Bn0 ) ≤ ∑ P ( Bn \ K n ) ≤ ε và do Bn ↓ ∅ nên n 0 n 1= n 1 = n =1 P( Bn ) ≤ ε với mọi n ≥ n0 . b) Để chứng minh độ đo thác triển (mà ta cũng kí hiệu là P) chính quy đối với  , ta xét tập  gồm các tập B ∈  sao cho P ( B ) = sup P ( A) . Dễ dàng thấy rằng A∈ , A⊂ B  là lớp đơn điệu, chứa 0 . Do đó,  =  . 1.3 Phần tử ngẫu nhiên, biến ngẫu nhiên, véctơ ngẫu nhiên. Định nghĩa 1.3.1 Giả sử (Ω,  ) và ( E ,  ) là hai không gian đo. Ánh xạ f : Ω → E được gọi là đo được, hay phần tử ngẫu nhiên nhận giá trị trong E nếu f −1 ( A) ∈  với mỗi A∈ . Đôi khi f còn được gọi là phần tử ngẫu nhiên trên (Ω,  ) với giá trị trong (E,  ) . Định lí 1.3.2 Giả sử h : (Ω,  ) → (G, ) g : (G, ) → ( E ,  ) là các ánh xạ đo được. Khi đó ánh xạ hợp g 0 h là phần tử ngẫu nhiên trên (Ω,  ) với giá trị trong ( E ,  ) . Định nghĩa 1.3.3 Giả sử Ω là tập tùy ý, ( fi )i∈I là họ các ánh xạ từ Ω vào các không gian đo ( Ei , i )i∈I . Ta gọi σ -đại số sinh bởi họ hàm ( fi ) và kí hiệu bởi σ ( fi , i ∈ I ) là σ -đại số bé nhất trên Ω sao cho tất cả các ánh xạ fi đo được. Định lí 1.3.4 Giả sử ( E ,  ) là không gian đo,  ⊂ P(Ω) và giả sử f : E → Ω . Để f là ánh xạ đo được trên ( E ,  ) với giá trị trong (Ω, σ ( )) điều kiện cần và đủ là f −1 (C ) ∈ với mỗi C∈  . Chứng minh: Điều kiện cần là hiển nhiên. Để chứng minh điều kiện f −1 ( ) ⊂  là đủ ta xét tập = { A ⊂ Ω : f −1 ( A) ∈ } . Dễ dàng kiểm tra được  là một σ -đại số các tập con của Ω chứa  . Do đó  ⊃ σ ( ) , có nghĩa là A ∈ σ ( ) ⇒ f −1 ( A) ∈  Giả sử (Ω,  ) là không gian đo đã cho,  = [−∞; +∞] . Định nghĩa 1.3.5 Hàm thực X = X (ω ) xác định trên Ω lấy giá trị trên  gọi là  - đo được B} X −1 ( B) ∈  với mỗi B ∈  () . hoặc biến ngẫu nhiên suy rộng nếu {ω : X (ω ) ∈ = (Ở đây  () là σ -đại số các tập Borel của trục thực  ) Thêm vào đó, nếu X : Ω →  = (−∞; +∞) thì ta có khái niệm biến ngẫu nhiên. Giả sử  ⊂  () và  () = σ ( ) thì ánh xạ X : (Ω,  ) → (,  ()) là biến ngẫu nhiên suy rộng khi và chỉ khi X −1 (C ) ∈  với mỗi C ∈  . Định lí 1.3.6 Giả sử X : Ω →  . Khi đó các mệnh đề sau tương đương a) X là biến ngẫu nhiên b) {ω : X (ω ) < x} ∈  với mỗi x ∈  . c) {ω : X (ω ) ≤ x} ∈  với mọi x ∈  . d) {ω : a ≤ X (ω ) < b} ∈  với a < b bất kì . Định nghĩa 1.3.7 Hàm ϕ : ( n ,  ( n )) → (,  ()) được gọi là hàm Borel, nếu nó  ( n ) - đo được, nghĩa là ϕ −1 ( B) ∈  ( n ) với mỗi B ∈  () . Định lí 1.3.8 Giả sử X 1 ,..., X n là các biến ngẫu nhiên cùng xác định trên (Ω,  ) và ϕ (t1 ,..., tn ) là hàm Borel giá trị thực. Khi đó Y = ϕ ( X 1 ,..., X n ) cũng là biến ngẫu nhiên. Chứng minh: Đặt X (ω ) = ( X 1 (ω ),..., X n (ω )) là hàm trên (Ω,  ) nhận giá trị trên  n . Theo giả thiết với x1 ,..., xn ∈  bất kỳ ta có n {ω : X (ω ) < x } ∈  , hay i i i =1  . Nhưng lớp các tập n ∏ (−∞, x ), i =1 i x1 ,..., xn ∈  sinh ra  ( n ) . Do đó X −1 ( B) ∈  với B ∈  ( n ) bất kỳ. Từ đó, nếu C ∈  () thì ϕ −1 (C ) ∈  ( n ) và X −1[ϕ −1 (C )] ∈  . = Y −1 (C ) X −1[ϕ −1 (C )] ∈  và Y là biến ngẫu nhiên. Do đó, Định lí 1.3.9 n X −1 (∏ (−∞, xi )) ∈ i =1 Giả sử ( X n , n ≥ 1) là dãy biến ngẫu nhiên và sup X n , inf X n hữu hạn trên Ω. Khi n n đó, sup X n , inf X n , lim sup X n , lim inf X n là các biến ngẫu nhiên. Đặc biệt nếu n n n n lim X n = X , X hữu hạn thì X cũng là biến ngẫu nhiên. Chứng minh: − sup(− X n ) , Từ các đẳng thức inf X n = n ≥1 n lim inf X n = sup(inf X k ) , n →∞ n ≥1 k ≥n lim sup X n = inf (sup X k ) , n →∞ n ≥1 k ≥n Ta thấy chỉ cần chứng minh rằng sup X n là biến ngẫu nhiên. Nhưng với x ∈  n x] bất kỳ [ X n ≤ x] ∈  , n = 1, 2,... . Vì vậy [sup X n ≤= n ∞ [ X n ≤ x] ∈  . n =1 Định lí 1.3.10 Giả sử X là biến ngẫu nhiên xác định trên (Ω,  ). Khi đó a) Tồn tại dãy biến ngẫu nhiên rời rạc hội tụ đều đến X; b) Nếu X ≥ 0 thì tồn tại dãy biến ngẫu nhiên đơn giản ( X n ) sao cho X n ↑ X . Chứng minh: a) Lấy X n = +∞ k ∑ n k = −∞ k k +1 [ ≤X < ] n n . Rõ ràng ( X n ) là dãy biến ngẫu nhiên rời rạc và sup X n (ω ) − X (ω ) ≤ ω b) Nếu X= ≥ 0 thì lấy X n 1 →0. n k −1 [ k −1≤ X .2n < k ] + n[ X ≥ n ] , ( n ≥ 1 ). n k =1 2 n 2n ∑ Rõ ràng, 0 ≤ X n ↑ X và ( X n ) là dãy biến ngẫu nhiên đơn giản. và  ( X ) { X −1 ( B), B ∈  ()} là đại số Giả sử X là biến ngẫu nhiên trên (Ω,  ) = sinh bởi X. Định lí 1.3.11