Tài liệu ước lượng các tham số thống kê

Chương 7 ƯỚC LƯỢNG CÁC THAM SỐ THỐNG KÊ (Estimation) 7.1 KHÁI NIỆM CHUNG Xét một tập hợp chính gồm N biến ngẫu nhiên X có hàm mật độ xác suất là f (x,θ); trong đó θ là các tham số thống kê của tập hợp chính. Thí dụ: Trong phân phối nhị thức: f (x, θ ) = C nx ρ x (1 − ρ ) n − x ⇒ θ = ρ, θ ∈ [0 , 1] ⇒θ=λ λ>0 Trong phân phối poisson f (x, θ ) = e λ λx x! Trong phân phối chuẩn f (x, θ ) = 1 2πσ 2 e − (x − µ )2 2σ 2 ⇒ θ = (µ, σ2) ; -∞ < µ < +∞ ; 0 < σ2 < +∞ Gọi {x1, x2,.... , xn} là mẫu ngẫu nhiên, cỡ mẫu n được dùng lấy ra từ tập hợp chính tuân theo hàm mật độ xác suất f (x,θ). Ở đây dạng của hàm f xem như đã biết còn các tham số thống kê θ của tập hợp chính xem như chưa biết. Vấn đề đặt ra ở chương trình này là dựa vào các mẫu quan sát {x1,x2,...,xn} ta ước lượng xem giá trị cụ thể của θ bằng bao nhiêu (bài toán đó gọi là ước lượng điểm ) hoặc ước lượng xem θ nằm trong khoảng nào (bài toán ước lượng khoảng). 7.2 7.2.1 ƯỚC LƯỢNG ĐIỂM (Point Estimation) Ước lượng và giá trị ước lượng (Estimator And Estimate) a) Ước lượng (Estimator) và hàm ước lượng - Là biến ngẫu nhiên hay các tham số thống kê của mẫu được dùng để ước lượng các tham số thống kê chưa biết của tập hợp chính. - Ước lượng của tham số thống kê θ của tập hợp chính được ký hiệu là θ̂ - Dựa vào mẫu {x1,x2...,xn} người ta lập ra Hàm θ̂ = θ̂ (x1,x2,....,xn) để ước lượng cho θ. θ̂ được gọi là hàm ước lượng của θ hay gọi tắt là ước lượng của θ. Cao Hào Thi 74 θ̂ chỉ phụ thuộc vào giá trị quan sát x1, x2, ... ,xn chứ không phụ thuộc vào các tham số chưa biết θ của tập hợp chính. b) Giá trị ước lượng (Estimate) hay còn gọi là giá trị ước lượng điểm (Point Estimate) Là giá trị cụ thể của ước lượng θ̂ và được xem như giá trị ước lượng của tham số thống kê θ của tập hợp chính. Tham số thống kê và tập hợp chính (Population Parameter) Ước lượng (Estimation) Giá trị ước lượng Estimate (Point estimate) Số trung bình µ X Phương sai σ 2x Sx2 Độ lệch chuẩn σx Sx Tỷ lệ p f̂ 7.2.2 Ước lượng không chệch: (Unbiased Estimators) a) Ước lượng không chệch: Ước lượng θ được gọi là ước lượng không chệch của tham số thống kê θ nếu kỳ vọng của θ̂ là θ. E ( θ̂ ) = θ Thí dụ E( X ) = µ => X là ước lượng không chệch của µ E(Sx2) = σ 2x => Sx2 là ước lượng không chệch cuả σ 2x E ( f̂ ) = p => f̂ là ước lượng không chệch của p b) Độ chệch (The Bias) Gọi θ̂ là ước lượng của θ: Bias( θ̂ ) = E ( θ̂ ) - θ Đối với ước lượng không chệch ⇒ Bias = độ chệch = 0 c) Ước lượng hiệu quả tốt nhất: Gọi θ̂ 1 và θ̂ 2 là 2 ước lượng không chệch của θ dựa trên số lượng của mẫu quan sát giống nhau. o θ̂ 1 được gọi là hiệu quả hơn θ̂ 2 nếu: Var ( θ̂ 1) < Var ( θ̂ 2) o Hiệu quả tương đối giữa hai ước lượng là tỉ số giữa 2 phương sai của chúng. Hiệu quả tương đối (Relative Efficency) = Var (θˆ 2 ) Var (θˆ ) 1 Cao Hào Thi 75 o Nếu θ̂ là ước lượng không chệch của θ và nếu không có một ước lượng không chệch nào có phương sai nhỏ hơn phương sai của θ̂ thì θ̂ đuợc gọi là ước lượng tốt nhất (Best Estimator) hay θ̂ còn gọi là ước lượng không chệch có phương sai nhỏ nhất của θ (Minimum Variance Unbiased Estimator of θ) θ1 θ2 θ1 θ2 θ̂ 1 : ước lượng không chệch của θ θ̂ 1 θ̂ 2: ước lượng không chệch của θ θ̂ 2 : ước lượng chệch của θ θ̂ 1 ước lượng hiệu quả hơn θ̂ 2: d) Sai số bình phương trung bình (Mean Squared Error - MSE) Sai số bình phương trung bình của ước lượng θ̂ được định nghĩa như sau: MSE( θ̂ ) = E [( θ̂ - θ)2] Người ta chứng minh được rằng: MSE ( θ̂ ) = Var( θ̂ ) + [θ - E ( θ̂ )]2 MSE ( θ̂ ) = Var ( θ̂ ) + [ Bias( θ̂ )]2 Nếu θ̂ là ước lượng không chệch ta có: Bias( θ̂ ) = 0 ⇒ MSE ( θ̂ ) = Var ( θ̂ ) e) Ước lượng nhất quán vững (Consistent Estimators) θ̂ n = θ̂ (x1, x2,... xn) gọi là ước lượng vững của θ nếu với mọi ε > 0 ta có: lim P( | θ̂ n - θ | ≤ ε) = 1 i →∞ tức là dãy θ̂ n hội tụ theo xác suất tới θ khi n → ∞ Cao Hào Thi 76 7.3 ƯỚC LƯỢNG KHOẢNG (Interval Estimation) 7.3.1 Khoảng tin cậy (Confidence Interval) a) Ước lượng khoảng và giá trị ước lượng khoảng (Interval Estimator And Interval Estimate). Ước lượng khoảng: Ước lượng khoảng đối với tham số thống kê của tập hợp chính θ là một quy tắc dựa trên thông tin của mẫu để xác định miền (Range) hay khoảng (Interval) mà tham số θ hầu như nằm trong đó. Gía trị ước lượng khoảng: là giá trị cụ thể của miền hay khoảng mà tham số θ nằm trong đó. b) Khoảng tin cậy và độ tin cậy (Confidence Interval and Level of Confidence) Gọi θ là tham số thống kê chưa biết. Giả sử dựa trên thông tin của mẫu ta có thể xác định được 2 biến ngẫu nhiên A và B sao cho P (A < θ < B) = 1 - α với 0 < α < 1 Nếu giá trị cụ thể của biến ngẫu nhiên A và B là a và b thì khoảng (a,b) từ a đến b được gọi là khoảng tin cậy của θ với xác suất là (1 - α) Xác suất (1 - α) được gọi là độ tin cậy của khoảng. Ghi chú: o Trong thực tế, độ tin cậy (1-α) do nhà thống kê chọn theo yêu cầu của mình, thông thường độ tin cậy được chọn là 0,90; 0,95; 0,99... o α là xác suất sai lầm khi chọn khoảng tin cậy (a, b) 7.3.2 Khoảng tin cậy đối với số trung bình của phân phối chuẩn trong trường hợp đã biết phương sai của tập hợp chính: Nghĩa là đi tìm ước lượng của µ trong N (µ, σx2) khi đã biến σx2 a) Điểm phần trăm giới hạn trên Z (Upper Percentage Cut Off Point) Gọi Z là biến ngẫu nhiên chuẩn hóa và α là số bất kỳ sao cho 0 < α < 1 Zα là điểm phần trăm giới hạn trên nếu. P (Z > Zα ) = α Ghi chú: ™ P (Z > Zα) = FZ (Zα) = 1 - α Cao Hào Thi 77 α Z Ζα ™ P (-Zα/2 < Z < Zα/2) = 1 - α Chứng minh: α 2 α P (Z < -Zα/2) = 2 α α ⇒ P (-Zα/2 < Z < Zα/2) = 1 =1-α 2 2 Do tính đối xứng: P(Z > Zα/2 ) = fZ(z) α/2 α/2 Z 0 −Ζα Ζα b) Khoảng tin cậy của µ trong N(µ, σx2) khi đã biến σx2 Giả sử ta có mẫu ngẫu nhiên vơí cỡ mẫu n từ phân phối chuẩn N(µ, σx2 ). Nếu σx2 và số trung bình mẫu đã biết, giá trị trung bình tập hợp chính được tính bởi. − x− Z α / 2σ x n − < µ < x+ Z α / 2σ x n Trong đó Zα/2 là số có P (Z > Zα/2) = α/2 với Z là biến ngẫu nhiên chuẩn chuẩn hóa. Chứng minh: Ta có: P ( - Zα/2 < Z < Zα/2) =1-α X −µ P ( - Zα/2 < < Zα/2) = 1 - α σX / n Z σ Z σ P (- α / 2 x < X − µ < α / 2 x ) = 1 - α n n Zα / 2σ x Z σ < µ < X + α / 2 x )= 1 - α P( Xn n Cao Hào Thi 78 Thí dụ: Giả sử trọng lượng của các học sinh lớp 2 tuân theo phân phối chuẩn với độ lệch chuẩn 1,2kg. Mẫu ngẫu nhiên gồm 25 học sinh có trung bình là 19,8kg. Tìm khoảng tin cậy 95% đối với trọng lượng trung bình của tất cả học sinh lớp 2 trong 1 trường. Giải: Ta có: 100 (1 - α) = 95 ⇒ α = 0,05 ⇒ Zα/2 =Z0,025 ⇒ P(Z > Z0,025) = 0,025 P(Z < Z0,025) = FZ (Z0,025) = 1 - 0,025 = 0,975 Tra bảng ta có: Z0,025 = 1,96 Khoảng tin cậy 95% đối với số trung bình tập chính µ sẽ là x− Z α / 2σ x n < µ < x+ Với X = 19,8 kg σx = 1,2 kg Z α / 2σ X n n = 25 Zα/2 = 1,96 Vậy : 19,33 < µ < 20,27 Ghi chú: ε= Zα / 2σ x n : gọi là độ chính xác của ước lượng hay dung sai X là trung tâm của khoảng tin cậy với bề rộng của khoảng tin cậy của µ là W= 2Z α / 2 σ x n = 2ε o W càng nhỏ thì ước lượng càng chính xác ( ≡ ε càng nhỏ) o Với xác suất α và cỡ mẫu nhỏ, σx càng lớn thì W càng lớn. o Với α và σx cho trước, n càng lớn thì W càng nhỏ. o Với σx và n cho trước, (1 - α) càng lớn thì W càng nhỏ n = 25 n = 25 σx = 1.2 1-α = 0.99 σx = 1.2 1-α = 0.95 n = 64 σx = 1.2 1-α = 0.95 n = 25 σx = 1.2 1-α = 0.95 c) Khoảng tin cậy của số trung bình µ trong tập hợp chính trường hợp cỡ mẫu lớn. Giả sử ta có mẫu với cỡ mẫu là n được lấy từ tập hợp chính có số trung bình là µ. Gọi X là số trung bình của mẫu và Sx là phương sai của mẫu. Cao Hào Thi 79 Nếu n lớn thì khoảng tin cậy với xác suất 100(1-α) % đối với µ được xem đúng là: x− Zα / 2 SX n < µ < x+ Zα / 2 Sx n Ghi Chú: o Sự ước lượng này gần đúng ngay cả khi tập hợp chính không theo phân phối chuẩn. o Khi n lớn ta có thể xem gần đúng Sx = σx 7.3.3 Phân phối Stutent t: Trong phần trước, ta đi tìm khoảng tin cậy của µ trong N (µ, σx2) khi đã biết σx2 hoặc tìm khoảng tin cậy của µ khi có mẫu lớn. Trong trường hợp không biết phương sai σx2 và cỡ mẫu không lớn, để tìm khoảng tin cậy của µ ta cần phải có một phân phối thích hợp hơn, đó là phân phối Student t. a) Phân phối Student t Cho mẫu ngẫu nhiên với cỡ n với số trung bình của mẫu X và độ lệch chuẩn mẫu Sx; mẫu được lấy ra từ tập hợp chính với số trung bình là µ. Biến ngẫu nhiên : t= x−µ Sx / n t tuân theo phân phối Student t với độ tự do là n - 1 f(t) Phân phối chuẩn Phân phối Student t với độ tự do là 3 t 0 Biến ngẫu nhiên X được gọi là tuân theo phân phối Studen t với độ tự do ν nếu hàm mật độ xác định có dạng. f x (x ) = (1 + x2 ϑ ) − (ϑ + 1) 2 1 ϑ ϑ B( , ) 2 2 Cao Hào Thi 80 b) Điểm phần trăm giới hạn trên tν,α: Biến ngẫu nhiên tuân theo phân phối Student t với độ tự do ν, được ký hiệu là tν. tν,α là điểm phần trăm giới hạn trên nếu: P(tν > tν,α) = α Người ta lập bảng tính sẳn cho các giá trị diện tích ở dưới đường cong từ tν,α đến +∞ f(tυ) α t 0 tυ,α Tương tự phần trăm trên ta có: P(-tν,α/2 < tν < tν,α/2) = 1 - α f(tυ) α/2 α/2 t −tυ,α/2 7.3.4 0 tυ,α/2 Khoảng tin cậy đối với số trung bình µ trong phân phối chuẩn khi chưa biết phương sai: (Khoảng tin cậy của µ trong N(µ, σx2) khi chưa biết σx2 Giả sử ta có mẫu ngẫu nhiên với cỡ mẫu n từ phân phối chuẩn với số trung bình là µ và phương sai σx2 chưa biết. Nếu số trung bình mẫu là X và độ lệch chuẩn mẫu là Sx thì khoảng tin cậy của số trung bình tập hợp chính µ sẽ được tính bởi . x− t n −1,α / 2 S x n Trong đó tn-1,α/2 là số có P(tn-1 > tn-1,α/2) = <µ => α/2 = 0,05 Tra bảng ta có: tn-1,α/2 = t5,0.05 = 2.015 19.48 − 2.015 × 0.098 6 18.67 < µ < 20.29 < µ < 19.48 + 2.015 × 0.98 6 Các khoảng tin cậy: Khoảng tin cậy 80% (18.89,4) (20.07,4) Khoảng tin cậy 90% (18.67,2) (20.29,2) Khoảng tin cậy 95% (18.45,0) (20.51,0) Khoảng tin cậy 99% (17.87,-2) 7.3.5 (21.09,-2 Khoảng tin cậy đối với phương sai của phân phối chuẩn σ2 Nhắc lại, giả sử ta có mẫu ngẫu nhiên với cỡ mẫu n được lấy ra từ tập hợp chính có phân phối chuẩn N(µx,sx2) và gọi Sx2 là phương sai của mẫu. Biến ngẫu nhiên χ 2 γ ,α = (n − 1) S x2 σ 2 x sẽ tuân theo phân phối χ 2 với độ tự do n - 1 a) Điểm phần trăm giới hạn trên χ γ2,α Biến ngẫu nhiên tuân theo phân phối χ 2 với độ tự do γ được ký hiệu χ γ2,α χ γ2,α là điểm phần trăm giới hạn trên nếu ™ P( χ γ2 > χ γ2,α ) = α ( ) α χ2υ,α Thí dụ: Tìm χ 62;5% Cao Hào Thi 83 P( χ 62 > χ 62;5% ) = 5% ⇒ χ 62;5% = 12,59 Tương tự ta có: α ⎡ 2 2 ⎢ P( χ γ > χ γ ,α / 2 ) = 2 ⎢ α ⎢ P( χ 2 < χ 2 γ γ ,1−α / 2 ) = 1 − 2 ⎣⎢ ™ P(χ 2γ ,1−α / 2 < χ 2γ < χ 2γ ,α / 2 ) = 1 − α α/2 α/2 t -χ2ν,1-α/2 χ2ν,α/2 b) Khoảng tin cậy của phương sai phân phối chuẩn σ2: Khoảng tin cậy với xác suất 100 (1- α)% của σ2 là (n − 1)S2x χ 2n −1,α / 2 < σ2 < (n − 1)S 2x χ 2n −1,1−α / 2 Trong đó χ 2n −1,α / 2 là số có P( χ γ2 > χ 2n −1,α / 2 ) = α/2 Trong đó χ 2n −1,1−α / 2 là số có P( χ γ2 > χ 2n −1,1−α / 2 ) = α/2 Và biến ngẫu nhiên χ 2n −1 tuân theo phân phối χ 2 với độ tự do là n – 1 Chứng minh : P(χ 2γ ,1−α / 2 < χ 2γ < χ 2γ ,α / 2 ) = 1 − α P(χ 2n −1,1−α / 2 < χ 2n −1 < χ 2n −1,α / 2 ) = 1 − α ⎛ ⎞ (n − 1)S 2x < χ 2n −1,α / 2 ⎟⎟ = 1 − α P⎜⎜ χ 2n −1,1−α / 2 < 2 σx ⎝ ⎠ ⎛ (n − 1)S 2x (n − 1)S2x P⎜ 2 < σ 2x < 2 ⎜ χ χ n −1,1−α / 2 ⎝ n −1,α / 2 ⎞ ⎟ = 1− α ⎟ ⎠ Thí dụ : Một mẫu ngẫu nhiên gồm 15 viên thuốc nhức đầu cho thấy độ lệch chuẩn trong thành phần cấu tạo thuốc là 0,8. Tìm khoảng tin cậy 90% của phương sai lô thuốc nói trên (thành phần trong lô thuốc tuân theo phân phối chuẩn) Cao Hào Thi 84 Giải : n = 15, S2x = 0,82 = 0,64; α = 10% Tra bảng χ 2n −1,α / 2 = χ 142 ;5% = 23,68 Và χ 2n −1,1−α / 2 = χ 142 ;95% = 6,57 Vậy: (n − 1)S 2x χ 2n −1,α / 2 7.3.6 < σ 2x < (n − 1)S 2x χ 2n −1,1−α / 2 ⇔ 0,378 < σ 2x < 1,364 ⇔ 0,61 < σ x < 1,17 Ước lượng khoảng tin cậy của tham số thống kê p trong phân phối nhị thức trong điều kiện cỡ mẫu lớn : Nhắc lại, gọi f là tỷ số của số lần thành công trong n phép thử độc lập: f = X tuân theo phân phối chuẩn có X n - số trung bình µ = np - Phương sai : σ2 = np(1-p) Ta có : E(f) = p f là ước lượng không chệch của p. p(1 − p) n σf = Khi cỡ mẫu đủ lớn thì biến ngẫu nhiên chuẩn hóa Z = f −p p(1 − p) / m sẽ gần đúng có phân phối chuẩn chuẩn hóa : σ 2f = p(1 − p) f (1 − f ) ≈ = S 2f n n Khi đó biến ngẫu nhiên Z = f −p f (1 − f ) / n sẽ có phân phối chuẩn chuẩn hóa. Khi Z tuân theo phân phối chuẩn chuẩn hóa, ta có: P(-Zα/2 < Z < Zα/2) = 1 - α ⎛ P⎜ − Z α / 2 < ⎜ ⎝ ⎞ < Zα / 2 ⎟ = 1 − α ⎟ f (1 − f ) / n ⎠ f −p ⎛ f (1 − f ) f (1 − f ) ⎞ ⎟ =1− α < p < f + Zα / 2 P⎜⎜ f − Z α / 2 ⎟ n n ⎝ ⎠ Khoảng tin cậy của p : Gọi f là tỷ số số lần thành công quan sát được trong phép thử được rút từ tập hợp chính có tỷ số số lần thành công là p. Nếu n lớn thì khoảng tin cậy của p là: Cao Hào Thi 85 f − Zα / 2 f (1 − f ) f (1 − f ) < p < f + Zα / 2 n n Trong đó Zα/2 là số có P(Z > Zα/2) = α/2 (Z là biến ngẫu nhiên chẩn hóa) Thí dụ: Một công ty đi nhận một lô hàng gồm vài ngàn sản phẩm. Người giám định lô hàng lấy ngẫu nhiên 81 sản phẩm và nhận thấy 8 sản phẩm không đạt yêu cầu. Tìm khoảng tin cậy 90% của tỷ lệ số sản phẩm không đạt yêu cầu trong toàn bộ lô hàng. Giải: Ta có : α = 10% ⇒ tra bảng Zα/2 = Z5% = 1,645, f = X 8 = = 0,099 và σ f = n 81 f (1 − f ) = 0,033 n Khoảng tin cậy 90% của p là : 0,099 -1,645*0,033 < p < 0,099 + 1,645*0,033 0,045 < p < 0,153 7.3.7 Ước lượng cỡ mẫu (Estimating the Sample Size) Trong các phần trước, chúng ta đi tìm các ước lượng khoảng đối với các tham số thống kê θ (µx, σ2x, p …) của tập hợp chính dựa trên các mẫu cho trước (nghĩa là đã biết cỡ mẫu n). Với cách làm đó, ta có thể gặp những kết quả không mong muốn là bề rộng của khoảng tin cậy w quá lớn, có nghĩa là độ chính xác của các ước lượng nhỏ (vì độ chính xác hay dung sai = w/2 có giá trị lớn). w = 2ε θˆ − ε θˆ θˆ + ε ε nói lên độ chính xác của ước lượng, nếu ε càng nhỏ thì θ̂ càng gần θ. Trong thực tế thường sai số cho phép ta ấn định độ chính xác ε (có nghĩa là ấn định trước bề rộng khoảng tin cậy w) từ đó tính toán chọn cỡ mẫu đủ lớn để đảm bảo độ chính xác ε. Để xác định cỡ mẫu ta cần các thông tin sau: - Định rõ độ tin cậy (1 - α), thường là 90%, 95%, hay 99%. - Độ chính xác hay sai số cho phép ε hoặc bề rộng khoảng tin cậy w. - Độ lệch chuẩn. Cỡ mẫu n lớn hay nhỏ phụ thuộc độ phân tán σ, sai số cho phép ε chứ không phụ thuộc vào kích thước tập hợp chính N. Cao Hào Thi 86 a. Cỡ mẫu đối với khoảng tin cậy của trung bình µ trong N(µ;σ2) với σ2 biết trước: w = 2ε x - Z α / 2σ x xx + n − x− hay : Z α / 2σ x n − < µ < x+ µ = X ± 2ε Z α / 2σ n Z α / 2σ x n với ε = Zα / 2σ x n Với sai số cho phép ε cho trước, cỡ mẫu n đối với ước lượng µ trong N(µ;σ2) với σ2 biết trước được xác định bởi công thức: n= Z α2 / 2σ x2 ε2 Thí dụ: Giả sử độ lệch chuẩn của các đường ống thép được sản xuất ra trong ngày ở một phân xưởng là 10 kg. Chúng ta muốn ước lượng trong lượng trung bình µ của các đường ống thép được sản xuất ra trong ngày ở phân xưởng đó với độ chính xác ± 2,5kg và với độ tin cậy 95%. Tìm cỡ mẫu cần thiết cho sự ước lượng nói trên. Giải: Ta có: ε = 2,5kg, σ = 10 kg, α = 5% ⇒ Zα/2 = Z0,025 = 1,96 Vậy: n= 1,96 2 * 10 2 = 61,5 2,5 2 Cỡ mẫu n = 62 (ống thép). b. Cỡ mẫu đối với khoảng tin cậy của trung bình µ trong N(µ;σ2) khi chưa biết σ2: Khoảng tin cậy của trung bình µ trong N(µ;σ2) khi chưa biết σ2: x− ⇒ ε= t n −1,α / 2 S x n t n −1,α / 2 S x n ⇒ n= <µ - Xem thêm -