Tài liệu Cơ sở lý thuyết truyền tin. tập 2

Đ Ặ N G VĂN C H Ư Y ẾT (chủ biên) - N G U Y ÊN T U Ấ N ANH Cơ SỞ LÝ THUYẾT TRUYỀN TIN Tập hai (Tái bản lần t h ứ n hất) NHÀ X U Ấ T BẢN GIÁO DỤC - - - - - - 3 1 7 5 0 /1 0 5 -0 3 G D -0 4 M ã s ó : 7 B 5 14 T 4 Mục lục Lời n ó i đ ằ u 3 9 9 9 K Ê N H VẢ T H Ô N G L Ư Ợ N G C Ủ A K Ê N H 9-1 M õ hỉn h kênh và thông lượng k ê n h .................................................................................................... 9-2 9-3 9-1-1 Càc m ô hỉnh k ê n h ..................................................................................................................... 10 9-1-2 T h ô n g lượng kẽnh ...................................................................................................................... 12 9-1-3 9-1-4 Sử dụng các tin hiệu trự c giai) trong tru y ề n t h ô n g ........................................................ Hàrn an toàn c ủ a k ê n h ............................................................................................................... 16 18 M ả hỏa ng&u n h i ê n ................................................................................................................................... 9-2-1 Mả hóa ngảu nhiẽn d ự a vào tin hiệu m â nhị p h ản M i n ử c .......................................... 19 19 9-2-2 M ả hóa ngảu nhiẽn dự a vào tín hiệu đ a biên độ M m ữ c .............................................. 9-2-3 So sánh R q với thông lượng c ủ a kênh A V V G N .................................................................. T hiẹt kế hộ thống truyền tin dự a vào tóc độ giởi h ạ n .................................................................. 23 25 26 10 M Ả H Ó A K Ê N H 32 10-1 M ả khối tuyén t ỉ n h .............................................* ................................................................................... 10-1-1 M a trậ n sinh và rna trậ n kiểm t r a p a r i t y ............................................................................ 32 34 10-1-2 M ột sổ loại m ả khối tuyến t i n h ............................................................................................. 10-1-3 M à v ò n g .......................................................................................................................................... 36 37 10-1-4 G iải inả xác địn h m ềm tối ưu đói với m ã khói tuyén tỉn h .......................................... '10-1-5 Giải m ã xác định c ứ n g ............................................................................................................... 10-1-6 So sánh vè hiộu q u ả của hai phương p h áp giải m ã ........................................................ 48 52 57 10-1-7 Giới hạn vồ khoàng cách tói th iểu của m ả khói tuyến t í n h .......................................... 10-1-8 M à khối không nhị phân và rnâ khói g h é p ........................................................................ 61 62 10*1-9 G hép m à sổ liệu đói với kênh có nhiễu chùm .................................................................. 10-2 M ã chập . ........................................................................ ........................................................................... 65 65 10-2-1 H àm tru y ề n c ủ a m ả c h ậ p ....................................................................................................... 10-2-2 G iải m ả tói ưu m à ch ặp-T huật toán V i t e r b i ..................................................................... 68 71 10-2-3 Xác s u ấ t lỗi của giải m ã xác định m èm ........................................................................... 73 10-2-4 Xốc su ấ t lỗi của giải m ả xốc định c ứ n g .............................................................................. 10-2-5 C ốc tín h c h á t ví‘ khoảng cầch c ủ a m ả chập .................................................................... 10-2-6 M à kờp k khống nhị phân và m à g h é p ............................................................................... 74 76 79 10-2-7 Thuật, toán F a n o ......................................................................................................................... 81 10-2-8 M ột số ván (lè tro n g thực té của việc á p dụng m ã c h ậ p ................................................. 10-3 M ả diều ché cho kênh cỏ dải tà n hạn c h é .......................................................................................... 83 85 4 11 T Í N H I Ệ U T R Ê N K Ê N H C Ó B Ả N G T Ằ N H Ứ U H Ạ N 93 11-1 Dạc trư ng của kênh cố bang tàn hữu h ạ n ......................................................................................... 93 11-2 T ín hiệu cho kẽnh có dải tà n hữu hạn ............................................................................................. 95 11-2-1 T h iế t ké tỉn hiệu cỏ độ rộng phổ hữu hạn dể khổng có ISI 96 11-2-2 T hiổt kế tín hiệu có dộ rộng phổ hữu hạn dổ ISI dièn khiển d ư ợ c ........................... 99 11-2-3 Xác địn h sổ liệu trong trường hợp ISI dièu khiển d ư ợ c ............................................... 102 11-2-4 T ín hiệu cho kênh cố suy h a o ................................................................................................ 105 11-3 Xác s u á t lỗi khi sử dụng tin hiệu P A M .............................................................................................107 11-3-1 Xác s u á t lrti khi khổng có I S I ............................................................................................... 107 11-3-2 Xác s u ắ t lỏi khi sử đụng tin hiệu d á p ứng từ n g p h ả n .................................................. 108 11-3-3 Xác su á t lỏi trẽ n kẽnh cố suy h a o ........................................................................................ 109 11-4 M ả (itèu ché làm nhọn phổ tín h i ệ u ....................................................................................................110 12 T R U Y Ề N T I N Q U A K Ê N H T U Y Ế N T Í N H C Ó B Ả N G T Ằ N H Ữ U H Ạ N 115 12-1 Bộ th u tối ưu cho kênh cố ISI và nhiỂu A W G N ............................................................................115 12-1-1 Bộ th u ML tói tíu ....................................................................................................................115 12-1-2 Mô hình rời rạc cho kênh I S I ...............................................................................................117 12-1-3 T h u ậ t toốn V iterbi cho m ô hình rời rạc tương dương cò nhiéu trá n g ................... 119 12-1-4 Hiệu q u ả c ủ a ước lượng ML đối với kênh ISI ................................................................121 12-2 C&I1 bằng tuyén t i n h ............................................................................................................................... 127 12-2-1 T iẻu chuẩn suy hao d i n h .........................................................................................................128 12-2-2 T iẻu chuản tru n g bình bình phương sai s ó ...................................................................... 131 12-2-3 Hiệu q u ả c ủ a bộ ước lượng M S E ........................................................................................ 134 12-2-4 B ộ cân bằng F S .......................................................................................................................... 136 12-3 C ân báng hòi t i ô p ...................................................................................................................................... 139 12-3-1 Tói ưu hộ s ó ................................................................................................................................. 139 12-3-2 Hiộu q u ả c ù a bộ căn bàng hòi t i ế p .....................................................................................140 12-3-3 B ộ cân báng hòi tiếp dự đ o á n ...............................................................................................141 12-4 C ản bàng tuyến tin h thicli n g h i ...........................................................................................................143 12-4-1 T h u ậ t toàn Z F .......................................................................................................................... 143 12-4-2 T h u ậ t toán L M S .......................................................................................................................145 12-4-3 T ỉnh hội tụ c ủ a th u ặ t toốn L M S ........................................................................................147 12-4-4 M SE phụ trội trơng ước lượng gradient .......................................................................... 148 12-4-5 B ộ cân bằng tuyển tin h bang tàn cơ sở và thông dải .................................................. 149 12-5 C ân bàng hòi t.iểp thích nghi .............................................................................................................. 149 12-6 Bộ ước lượng kênh th ieh nghi dổi với xầc định M L ..................................................................... 152 12-7 T h u ậ t to ản binh phương tói t h i ể u ....................................................................................................... 153 12-7-1 T h u ậ t toần bình phương tổi thiểu ( K a lm a n ) ..................................................................... 155 12-7-2 D ự đoàn tuyến tín h và bộ lọc L a ttic e ...................................................................................158 12-8 C ân bàng tự khôi p h ụ c ........................................................................................................................... 160 12-8-1 C ân báng tự khỏi phục trẽn tiêu chuản M L ................................................................... 161 12-8-2 T h u ậ t toán gradient ngảu nhiẽn ........................................................................................ 163 12-8-3 T h u ậ t toàn tự càn bàng d ự a trẽ n thóng kê bậc c a o ......................................................166 13 H Ệ T H Ố N G T R U Y Ề N T I N N H I Ề U K Ê N H V À N H I Ề U S Ó N G M A N G 169 13-1 Hệ thống tru y ề n tin nhièu kẽnh tro n g kẽnh A W G N ..................................................................... 169 13-1-1 T ín hiệu nhị p h á n ....................................................................................................................170 13-1-2 T ín hiệu trự c giao A/ m ử c ......................................................................................................171 13-2 Hệ thống tru y ề n tin lìhiều sỏng m a n g ................................................................................................ 173 13-2-1 T hông lượng kênh tuyổn tin h không lý t ư ở n g ................................................................ 173 13-2-2 Hệ thóng nhiều sóng m ang sử dụ n g F F T ...........................................................................174 5 14 H Ệ T H Ố N G T R U Y Ề N T I N D Ù N G T Í N H I Ệ U T R Ả I P H ổ 177 14-1 Mô hình hệ thống tru y ề n tin dù n g tin hiệu trả i p h ổ ............................................................... 178 14-2 T ín hiệu trả i phổ D S .............................................................................................................................. 179 14-2-1 Hiệu q u ả bộ giải m ã .................................................................................................................. 180 14-2-2 M ột só ứng dụ n g cùa tín hiệu trả i phổ D S .........................................................................188 14-2-3 Ả nh hưởng loại xung trong tín hiệu trải phổ D S ............................................................. 191 14-2-4 T ạo dây PN . . . . 7 .................................................................................................................. 192 14-3 T ín hiệu trả i p h ổ F H ................................................................................................................................194 14-3-1 Hiệu q u ả của tín hiệu trả i phổ FH trong kênh A W G N ............................................... 195 14-3-2 Hiệu q u ả của tin hiộu trả i phổ khi có ảnh hưởng từ n g phàn trẽ n k ê n h ..................197 14-4 Dồng bộ tro n g hệ thống trả i p h ổ ........................................................................................................201 15 T R U Y Ề N T I N Q U A K Ê N H C Ó F A D I N G N H I Ề U Đ Ư Ờ N G 208 15-1 Dạc trư ng c ủ a kênh có fading nhtèu d ư ờ n g .......................................................................................208 15-1-1 H àm tương quan của kổnh vầ phổ công s u á t ..................................... .............................. 210 15-1-2 M ồ hình thóng kê của kẽnh có f a d in g ...................................................................................213 15-2 Lựa chọn m ô hình kênh th eo dạc điểm tín h i ệ u ....................................................................... 214 15-3 K ẽnh fading chậm khổng chọn lọc th eo tàn s ó ..........................................................................216 15-4 C ác kỹ th u ậ t chóng f a d i n g ......................................................................................................................218 15-4-1 T ín hiệu nhị p h â n ......................................................................................................................218 15-4-2 T in hiệu d a p h a ......................................................................................................................... 223 15-4-3 T in hiệu trực giao M m ử c ........................................................................................................224 15-5 Kônh fading chậm cố chọn l ọ c ...............................................................................................................230 15-5-1 M ô hìn h kẽnh kiểu dây tré (T apped-D elay-L ine) .............................................................230 15-5-2 Bộ giải dièu ché R A K E ............................................................................................................232 15-5-3 Hiệu q u ả bộ th u R A K E ........................................................................................................... 233 15-6 M à hóa tro n g kổnh có fading ...............................................................................................................238 15-6-1 Xác suất lỗi của giải m ã xác định m ềm cho m à khổi nhị p h ân tuyến t í n h ................240 15*6-2 Xác s u á t lỏi c ủ a giải m ã xác định cứ ng cho m ả khối nhị phân tuyến t i n h ................241 15-6-3 Hiệu q u ả c ù a m ả chập cho kênh fading R a l e i g h ................................................................242 LờI nóI dầu K ể t ừ những nam 1970, sự th âm n h ập lẳn nhau của hai lĩnh vực khoa học m ây tỉn h và truyền thõng dã làiii th ay đổi sâu sắc các lĩnh vực công nghệ và sàn su át, và két q u ả tấ t yéu là m ột ngành cồng nghiệp m áy tín h -tru y ề n thông (C om puter-C om m unication) ra đời. C hính nhờ sự hòa trộn m ang tín h cách m ạng này, r á t nhièu lĩnh vực khoa học, công Iighệ d ã có những cơ sở để p h á t triể n m ạnh m ẽ. Trong bối cảnh c ủ a sự p h á t triển bùng nổ này, những hiểu b iết vè lý th u y ết thông tin (Inform ation Theory), VẾ tru y ề n thông ngày càng quan trọng và càn dược xem xét trong hoàn cảnh mới. Q ua nhiều năm làin công tác giảng dạy, với th a m vọng có m ột tài liệu làm giào trìn h cho sinh viên chuyên ngành Diện tử-V iễn thông và Cõng nghệ T hông tin, tài liệu th am khảo cho các kỷ sư thuộc những chuyên ngành trê n , chúng tôi có gắng biên soạn cuổn sách này. C húng tôi giả th ié t rằng cấc dộc giả xem cuón sách này là những người đã có cơ sở n h á t định vè G iải tích, vè Đại só tuyén tín h và Xác su ắt. Nhừng cơ sờ toán học theo chúng tôi là hét sửc quan trọng và dược dù n g trong suót cả cuón sàch hoặc từng phàn sẻ được chúng tổi trìn h bày tro n g cuổn sách này. Cơ sở toản học của cuón sách này là xác su ấ t và quả trin h ngẳu nhiên với những luật, p h ân bó xàc suát h é t sửc q u an trọng tro n g việc trìn h bày các vấn dè của cuốn sách. C uón sách này dược: chia làm hai tập. Sau khi trìn h bày chung về hệ thống truyèn tin và các khcti niệm chung liên quan, chúng tôi sẽ trìn h bày các vấn dề của cuốn sách theo t r ậ t tự là các vắn dề chung trước, các vấn d ề cụ th ể sau. Khi trìn h bày các ván dề chung, chúng tôi sẽ theo tr ậ t tự: nguồn tin trước, kẽnh tin sau. Các ván dè phối hợp giữa nguồn với kẻnh sẻ dược xét sau khi đ ã có những hiển biết về nguồn và kẽnh. C áu trú c CUÓI1 sách như sau: C hương 1 : N h ữ n g k h á i n iệ m c h u n g . Chương này giới th iệu những khài niệm cơ bản và các ván ctè cơ bàu tro n g lý th u y ết truyèn tin. Chương 2 : X ác s u ấ t và q u á t r ì n h n g ẫ u n h iê n , trong chương này ta xây dựng những cơ sở toán học càn th ié t cho việc khảo s á t các hệ thóng truyền tin. Chương 3 : T h ô n g t i n v à lư ợ n g tin , trìn h bày ván dồ dinh lượng thồng tin của các nguồn tin. Chương 4 : M ả h iệ u . Trong chương này ta tậ p tru n g vào các khái niệm và định ng h ia vè m ã, cảc đièu kiện và yẽu càu dói với m â hiệu. •Chương 5 : M ả h ó a n g u ồ n , nghiên cửu ván dề m ả hóa nguồn trốn cơ sở rnô hình toán học của nguòn và các khái niệm VẾ lượng tin dã xét trong chương 3. Chương 6 : T í n h iệ u và h ệ t h ố n g t r u y ề n t in . Chương này trin h bày càc tín hiệu và hệ thổng thường gạp khi truyền thông tin qua kênh tru y ề n thổng cùng việc biểu diển các tín hiệu diều ché và các dạc điểm về phổ của chúng. Chương 7 : C ấ u t r ú c t h u tó i Ưu c h o k ê n h có n h i ễ u c ộ n g g a u s s ia n , nghiên cửu việc th iết ké và đ án h giá độ hiệu q u ả c ủ a cả£ bộ th u tói ưu cho các phương pháp dièu ché trong kênh có nhiẻu cộng gaussian. Chương 8 : Đ ồ n g b ộ . Chương Iiày nghiẽn cứu các phương p h áp đồng hộ vặt m ang và dòng bộ ký hiệu ở đàu thu. Chương 9 : K ê n h v à t h ô n g lư ợ n g c ủ a k ê n h , trin h bày vè thõng lượng của m ộ t só m õ hình kênh và ván đè m ã hóa ngáu nhiên. C hương 10 : M ả h ó a k ê n h . Chương này giới thiệu vè m ã hóa và giài m â đổi với hai loại inả là m à khói và m ã chập. 8 Lời nói dầu Chương 11 : T í n h i ệ u t r ẽ n k ẽ n h c ố b â n g t à n h ữ u h ạ n . C hương này tậ p tru n g vào việc th iết kế tin hiộu cho càc kẽnh cổ bang tầ n hữu hạn và vấn dò làm nhọn plirt tín hiệu. Chương 12 : T r u y ề n t i n q u a k ê n h t u y ế n t í n h c ó b ă n g t à n h ữ u h ạ n . C hương này tìm hiểu CỐC kỷ th u ậ t giải dièu ché và xác địn h tín hiệu bị ảnh hưởng chéo tro n g q u á trin h truyền. C hương 13 : H ệ t h ố n g t r u y ề n t i n n h i ề u k ẽ n h v à n h i ề u s ỏ n g m a n g , trin h bày các kỹ th u ậ t diều ché dù n g nhiều vật m a n g và tru y ề n tro n g n h iều kênh. C hương 14 : H ệ t h ố n g t r u y ề n t i n d ù n g t í n h i ệ u t r ả ỉ p h ổ . C hương này trìn h bày cấc ván dồ vè t í n h iộ u v à h ệ t h ố n g t r ả i p h ổ v à CÁC ừ n g d ụ n g th ự c té . Chương 15 : T r u y ề n t i n q u a k ê n h c ó f a d i n g n h i ề u d ư ờ n g , trin h bày vè tru y è n thông q u a các kênh có fading. Việc th iế t kố tín hiệu, cấu trú c th u và hiệu q u ả của r ủ a các bộ th u cho kênh cổ fading là nội d u n g c ủ a chương này. Do hạn chế vè th ờ i gian, làn đàu tiẽ n biẽn soạn euốn sách này, chúng tổi khổng trà n h khỏi các thiéu s ó t, r á t m ong c á c d ộ c giả t h ô n g cả m v à g ó p V đ ể c h o n h ữ n g là n b iê n s o ạ n s a u sẽ tố t h ơ n . Cuối cùng, xin lưu ý dộc giả vè cách đ á n h só các tiêu đ è dể tiện cho việc t r a cứu, ví dụ 3-2 chỉ mục lớn hai tro n g chương 3; 3-2-4 chi m ục bón c ù a m ục lớn hai tro n g chương 3. C ác công thức và hìn h vè dược đ án h số bàng b a số, số đ à u chỉ chương, só th ứ h a i chỉ m ục lớn, só th ử ba chi th ử tự c ủ a công thức hay hinh vẻ tro n g m ục dó. C hủng tô i c h â n th à n h cá m ơn ổng N guyên T h ú c Hài, b à Hồ A nh T úy d ã d à n h thời giai) dóng góp những ý kién q u ý bàu cho chúng tôi khi biên soạn cuón sách này. C á c tố c g iả Chương 9 K ÊNH VÀ T H Ô N G LƯỢNG CỦA KÊNH T ro n g chương 7, chúng ta d ã x é t tới vấn đ ề (iièu chế só b ằn g việc sử d ụ n g A/ = 2* tin hiệu, m ỗi tín hiệu m ang k b it thông tin , tro n g đ ỏ m ộ t vài phương p h áp diều chế có hiệu q u ả hơn m $ t só phương phốp k h ác. Đạc biệt, ta d ã biết ràn g b àn g cách sử d ụ n g tín hiệu trự c giao, ta cỏ th ể làm cho xác s u á t xác định sai nhỏ tù y ý khi A/ -> 00 nếu S N R từ n g b it 76 > - 1 , 6 d B . T a có th ể tru y è n tin ở tóc dộ b à n g thông lượng trẽ n kênh cố nhiều cộng gaussian trá n g với giới hạn là hệ số m ở rộng d ả i thổng B e = YV/R -> 00 . N hưng thông thườ ng người ta khỏng m uốn như vậy bởi vi B c ta n g th e o h àm m ủ của k và dán tởi sử d ụ n g dải thống của kênh không hiệu quà. T rong chương này và chương sau, t a x é t CỐT tín hiệu tạ o r a bởi các dày nhị p h ân hoặc không phải n h ị phản. K ết q u ả là cảc tín hiệu tạ o r a dược đạc trư n g bời hộ sổ m ở rộng d ả i th ô n g ta n g tu y ến tính th e o k . N hư vậy là các tín hiệu m ã có d ả i tà n hiệu q u à lớn hơn các tín hiệu trự c giao A/ m ức. C húng ta còn th áy rà n g các tín hiệu m ả không chì có hiệu q u ả hơn ở các ứng d ụ n g cồng s u ấ t hữu hạn khi R / W < 1 m à CÒI1 à cấc hệ th ố n g cớ dải tàii hữu h ạ n khi R / W > 1. 9-1 M ô h ìn h k ê n h và th ô n g lượng kênh T rong m ô hình m ộ t hệ th ố n g tru y ề n th ô n g , ta th á y rà n g b ộ p h á t gồm khói rời rạ c hỏa d ằ u vào, khói m ả hỏa đàu vào (lã rời rạ c và khối diều chế. C hửc n ân g c ủ a khổi m à hóa kổnh rời rạc là t.hÊm vào dày thổng tin nhị p h ản m ột số th ô n g tin phụ (còn gọi là thõng tin diều k h iển ) (lổ p h ía th u sử d ụ n g dể khíU phục các ảnh hưởng trẽ n dư ờ ng tru y ề n . Q u á trìn h m ã hóa láy từ n g khói k b it th ô n g tin và chuyển th à n h dây duy n h á t n bit, gọi là từ m ả. Lượng th õ n g tin d ư th ừ a tro n g q u à trin h m ả hỏa só ỉiộu dược do bàng tý só ĩ ì / k và k / n gọi là tóc dộ m à. Dãy th ô n g tin nhị p h ân ở (làu r a c ù a b ộ rnả hóa kênh sỏ vào bộ điều chế. B ộ dièu ché chuyển các b it th à n h m ột tro n g hai tín hiộu hay ch u y ển từ n g khói (Ị b it th à n h m ộ t tro n g A/ = 2q tin hiệu. Ở (làu thu c ủ a hệ th ố n g tra y è n th ô n g , bộ giải dièu ché x ù lỹ các ả n h hường trẽ n kổnh và chuyển tin hiộu nhận dược th à n h m ộ t só hay m ột vectơ. B ộ xác địn h sè qu y ét đ ịn h b it th ổ n g tin tư ơ n g ừng lã 0 hay 1 K hi đó ta nỏi ràn g bộ xác (lịnh đ à th ự c hiện m ộ t qu y ét d ịn h cứng (h a rd decision). NỂU xét trê n q u an diẻm lượng tử th ì b ộ xác* địn h sẻ lượng tử số liệu n h ận dược th à n h Q > 2 m ức ( b ộ xốc dịnh Q m ửc). N éu tin hiệu là M m ức và Q > A í, t a nối rà n g bộ xấc dịn h d ã thực hiện m ộ t q u y é t địn h mềm (soft decision). D àu ra của b ộ xác đ ịn h đ ư a vào d à u vào c ủ a bộ giải m à hóa k ê n h f bộ này cỏ nhiệm vụ lã (lựa vào thông tin dư th ừ a dẻ khâc phục c á r ảnh hưởng trẽ n kênh. 10 9 -1 -1 c o S Ở L Ý T H U Y Ế T T R U Y Ề N TI N Các i n ô h ì n h k ẽ n h Phần này sê trin h bày các m ô hỉnh kênh hay dược sử dụng để th iét ké m ả. Kênh dưn giàn n h á t lii kênh nhị phân dối xửng (B inary Sym etric C hannel-B SC ), tương ửng với M = 2 và b ộ x à r dịn h thực lù(*n quyết định cửng. K ê n h n h ị ph& n d ố i x ứ n g Xót kênh cổ nhiều cộng và bộ diỀu ché, giải diồu ché, xảc đ ịn h là inột phần của kênh. Nếu bộ dièu ché sử d ụ n g các tín hiệu nhị phân và bộ xác dịnh thực hiện qu y ết định cứng th i kênh phức hợ p trẽn hình 9-1-1 có dày thông tin vàơ là nhị phân rời rạc và dãy thông tin ra cũng là dãy thông tin nhị p h ân rời rạc. K ẽnh như vậy được dạc trư n g bởi tậ p các giá trị đàu vào X = {0,1} và tậ p liựp các giá trị đ à u r a Y = {0,1} và tậ p hợp các xác su á t có dièu kiện liẽn hệ girta cốc ký hiệu trẽn đàu vào và đàu ra. H ìn h 0 -1 -1 : K ênh phức hợp dâu vào và dàu r a rời rạc Néu nhiều trê n kẽnh và các ảnh hưởng khác tạ o r a các sai nhằm dộc lập thống kỗ với xác su ấ t tru n g bình ]) thì: P ( Y = 0|A' = 1) = P ( Y = 1|A' = 0) = p P ị Y = 1|A' = 1) = P ( Y = 0|A' = 0) = 1 -p [1 Như vặy chủng ta đ ã chuyển m ộ t hệ thổng gồm bộ diều ché nhị phân, kẽnh tín hiệu, b ộ giải M = 2V. N ếu kẽnh vã bộ (liồu ché là không nhớ th i quan hệ giữa dàu ra và (làu vào c ủ a kênh phức hợp dược biểu diổn bởi qQ xác su á t có diồu kiộn: P ( Y = l/.l-V = Xj) = P( yi\xj) (9-1-2) 11 K Ê N H VẢ T U Ồ N G L Ư Ợ N G CỦA K Ê N H với i = 0 .1 ___, Q - 1 và j = 0 , 1 , 1 . K ẽnh như vậy gọi lầ kẽnh rời rạc khổng nhớ (D iscret M einoryỉoss C haiinel-D M C ), như trẽn hình 9-1-3. N hư vậy nếu d ầ u vào của kẽnh DM C là dày n ký hiộu Mỉ, Ii2 i . . . • Un th u ộ c X và dày ra tương ứng V\ , ự2 , . . . , v„ th u ộ c V' thì: P(Vri = 1 »Ị, >2 = 1>2 — >Yn = vn\ X \ = u u x 2 = 112 ........x n = w«) = J Ị P(V ' = vk \ x = 11*) k=ì (9-1-3) H ìn h 9 -1 -3 : Kẽnh rời rạc q dàu vào, Q đàu ra. Tổng q u á t, cốc xác s u ấ t cố dièu kiện {P(l/»|£j)} dạc trư ng cho kẽnh DM C tạo th à n h p = \pJt] với Pjt = P { y t\ i j ) . p gọi là ma trận xác suất chuyển dổi của kỏnh. m a trận K ê n h đ à u v à o rờ i rạ c , d à u r a liê n tụ c G iả th iế t (làu vào c ủ a bộ diều ché là các ký hiệu trong tậ p hợp hữu hạn X = {£ 0t Z i f . . . f£ 9- i } và ('^ u ra c ù a bộ xác dịnh là không lượng tủ (Q = oo). Như vậy dàu vào c ủ a b ộ giải m ã kênh n h ận cát* giá trị trên trụ c th ự c (Y = { - o o .o c } ) . T a dịn h nghĩa m ột k ê n h p h ử c h ự p k h ô n g n h ớ rờ i rạ c th e o th ờ i g ia n đ ạ c tr ư n g b ở i d à u v à o X rờ i rạ c , đ à u r a Y liổn tụ c và tậ p hợp các hàm m ậ t độ p h ân bố xảc suát có diều kiện: p ( y \ x = X* ) , k = 0 , 1 , . . . , ợ - 1 Kênh q u an trọng nhát tro n g só các kônh th u ộ c loại này là kẽnh AW GN, với: Y = x +G (9-1-4) ở dây G là bién ngảu nhiẽn gaussian giá trị tru n g bình bàiig 0 và sai phương ơ 2, X = X k , A: = 0 , 1 , . . . , q 1. Với X = X*, Y là biến ngáu nhiên cố giá trị tru n g bình Xk và sai phương ơ 2. Như vậy: p ( Y \ X = x k ) = —L - p - t v - * * ) 2/ 2“’“ v 2 irơ (9-1-5) Với m ỏi dây vào X tì d à y ra tươ ng ửng là: Y ị ^ X i + Gi (9-1-6) p ( y i , y i , - • ,l/n|A 'i = Ui, A'j = u 2........x n = u „ ) = J Ị p ( y ,|.V , = u .) i=l (9-1-7) Dtèu kiện dẻ kênh là khổng nhớ là: C O S Ò L Ý T H U Y Ế T T R U Y Ề N TIK 12 K ê n h tư ơ n g t ự C hung ta cố thể tách bộ diêu chế và giải difcu ché khỏi kênh vật ly va x é t mỏ hỉnh kênh với tin hiệu vào và tin hiệu r a là liốn tục. G iả th ié t kênh cố ciải thông w và d á p ừng tàn sổ lý tưởng C ( f ) = 1 tro n g (iải thổng, tín hiệu vào bị ảnh hưởng bởi nhiổu cộng gaussian trá n g . G iả tlnõt tín hiệu vào x (t ) là tín hiệu có (lải t&n hừu h ạ n và tin hiệu ra tương ứng là ¡/(tị, th ế thi: y(t) = x (t ) + n ( t ) (9-1-8) vởi n(t) là m ộ t th ể hiện cụ th ổ c ủ a quá trin h nhiều cộng. T a biểu diổn x { t ) . y { t ) , n ( t ) th à n h tổ hợp tuyến tin h của m ộ t tậ p hợp (iày =0 1=0 log ^ £ ¿ 1 'V*' (9-1-15) T ính c h á t c ủ a kẽnh xãc dịnh bởi xốc s u á t chuyển đỏi P ( y j \ x t) nhưng xác su á t các kí hiệu vào được xác đ ịn h bởi b ộ m ả h ó a kổnh. G iá tr ị cực dại cùa I ( X ; Y ) th eo p h ần bổ xác su á t các kí hiệu dàu vào p ( i j ) là m ộ t giá trị chi phụ thuộc vào tin h chát của kênh DM C. T a cũng gọi giá trị dó là thỏng lượng c ù a kênh và củng kí hiệu là c . Như vậy: c = m ax I ( X \ Y ) = m ax £ E M*,) J=0 1=0 log (9-1-16) KVlì Đơn vị c ủ a c là b it trẽ n m ột kỉ hiệu d ư a vào kẽnh (ký hiệu là b it/k i hiệu). Nếu m ột kí hiệu dưa vào kẽnh tro n g Ta giây, thì thổng lượng c ủ a kẽnh là b it/s . V i d ụ 9 -1 -1 C ho m ột kênh BSC với xác su á t chuyển dổi /*(011) = P (1 |0 ) = p , lượng tin tương hỏ tru n g binh cực dại khi xảc su á t các kí hiệu 0 và 1 là đòng dèu P (0 ) = P ( l ) = 1/2. Khi tlỏ th ô n g lượng của kênh BSC là: c = plog2p + (1 - p) log2(l - p) = 1 - H(p) (9-1-17) Biểu diẻn c th eo p trốn hình 9-1-4. K hi p = 0 thi thông lượng c ủ a kônh là 1 b it/k i hiệu. K hi p = k lượng tin tiíưng hổ tru n g bình bàng 0 hay thỏng lượng của k£nh bàng 0. K hi 5 < p < 1 ta cổ th ể dào vị trí các ký hiệu 0 và 1 ở (lầu r a c ủ a kẽnh, như vậy c là đối xừng q u a điểm p = 2 * N hư ta d à biết, p bién thiên dơn diệu th eo SNR như trên hình 9 -l-5 (a ). K hi vẽ c theo SN R th ì c dơn diệu tăng theo SNR (hỉnh 9-1-5). (b ) (ứ) H ìn h 9 -1 -4 : T h ô n g lượiig c ủ a kênh BSC th eo p H ìn h 9 -1 -5 : Biểu diển thông lượng c ủ a kênh th eo SNR X ét kỏnh AW GN không nhớ rời rạc th eo thời gian dược biổu dién bởi các hàm m ật dộ phàn bổ xác suát chuyển dổi cổ đièu kiện như (9-1-5). Lượng tin tương hỗ tru n g bình giừa đàu vào X = {xo,X ị, . . . ,X g _ i} với d ầ u r a Y = { -0 0 ,0 0 } hay thồng lượng của kênh là: V * rOũ c = 2ĩ8*» / i=0 J - ° ° p(v\x i)p (x i) loẵ í p (y |* .) p(y) dy (9-1-18) CO S Ở L Ỷ T H Ư V É T T R U Y Ề N TÍ N 14 với p(y) = 5 3 p ( v \xk)P(xk) (9-1-19) *=0 V I d ụ 9 -1 -2 X ét m ộ t kẽnh AWGN không nhớ d à u vào nhị phản Lượng tin tương hỗ tru n g bình dược cực dại hóa khi P ( X = .4) = lượng của kênh th eo dơn vị b it/k i hiệu là: c = 2 / ° ° p(yịAÌ log2 i ! Ệ dy+ 2 f Hình 9-1-6 biểu dién c theo tỷ số A 2/ ( 2 ơ 2). C hú ý ràng chièu tan g của tỷ số này. với hai kí hiệu X = .4và X = -.4 P ( X = —A) = ị . N hư vậy thõng p(yị - A) log2 H ầ ĩ T * c (9' 1‘2U) tang liên tục từ 0 tới 1 b it/k ý hiệu theo H ì n h 9 -1 -6 : T h ô n g lượng kênh AW GN khỏng nhớ dàu vào rời rạc được biểu d iẻn theo tỷ sổ A ’/2ơ2 C hú ý ràng vớihai m ồ hình kênh xét ở trê n , lượng tin tương h ổ tru n g bình cực dại khi xác su á t các ký hiệu ở dầu vào là đòng đều và thõng lượng c của kênh cũng vậy. Đièu này không hoàn toàn dùng dói với kênh (9-1-16) và (9-1-18). T uy nhiẽn đói với hai m ô hỉnh kênh d ã x é t ở trẽ n , khi xấc su ấ t chuyển dổi trê n kônh cổ d ạn g dổi xửng th ì thông lượng kênh sẻ cực dại. Tổng q u á t, diồu kiện cần và đủ để tậ p hợp các xấc s u á t đàu vào Ị P ( x j ) ì làm cực d ạ i I { X : Y ) hay thông lượng kênh D M C là: I(xj\Y ) = c I(xj\Y ) < c với c với mọi j và P ( x j ) > 0 với m ọi j và P ( x j ) = 0 (9-1-211 là thông lượng của kẽnh và: I ( x y , Y ) = q- Ệ P M l i l l o g S Ệ ứ (9-1-22) Bây giờ ta xét m ộ t kênh tương tự có dải tà n hạn ché với nhiẻu cộng trắ n g gaussian. T h ô n g lượng của kênh trong m ộ t dơn vị thời gian dược Shannon định nghĩa như sau: c = lim m a x ị l ( X - , Y ) T-*oo p{x) I (9-1-23) Với lượng tin tương hổ tru n g bình I ( X \ Y ) . M ột cách tương đương, chúng ta cỏ th ổ sử d ạ n g các m ảu hay các hệ só {y .} ,{ x ,} và {n,} trong khai triể n c ủ a y(t)>x(t),n{t), dẻ xác đ ịn h lượng tin tương hỗ 15 K Ê N H VÀ T H Ô N G L Ư Ợ N G CỦA K Ê N H tru n g bìn h giữa X/V = [ l ị , x2, . . . , x/v] và yyv = [y i, Ị/2 i . . . , y/v), với AT = 2 W T , ỉ/é = Xi + n , và p(y,|x>) dược xAc định bởi (9-1-12). Lượng tin tương hổ tru n g bỉnh giữa X/V và y/v đói với kênh AVVGN là: /(X yv; YN) = í ... í í ... [ P(Y n \* n ) p ( y N \ x N ) p ( x N ) \ o g fp(ys) (9-1-24) với * c - (y .-x ,)a/A,0 (9-1-25) G iá tr ị cực dại của I ( X ; Y ) theo các hàm m ặt độ phân bó xác suát p ( x t ) d ạ t được khi {x,} là các bién ngảu n h iẽn gaussian độc lậ p thóng kổ và cố giầ trị tru n g bình bằng 0: (9-1-26) với là sai phương c ủ a l ị . N hư vậy từ (9-1-24) ta cỏ: m ax /(X /v ; Y /v) pc*.) jN lo g d + ^ J W T log(l + ^ ) (9-1-27) G iả sử công su ấ t tru n g bin h của x (t ) giới hạn bởi p av thì: (9-1-28) (9-1-29) (9-1-30) (9-1-31) Dó là công thửc cơ bản VẾ thông lượng của kênh dổi với kẽnh AWGN tương tự cố dải tàn hạn chế và cồng s u á t tín hiệu vào h ạ n chế. T h ô n g lượng c ủ a kênh dược chuán hóa th eo w vẽ theo tỳ só Pav/ \ V N 0 trôn hình 9-1-7. T hông lượng ta n g liẽn tụ c th e o SN R. N hư vậy, dói với kênh có dải tầ n hữu hạn, thổng lượng kênh tan g néu ta tan g công s u á t tru n g bìn h cùa tin hiệu. M ạt khác, néu cồng su á t tru n g bình c ủ a tín hiệu cổ định, th ô n g lư ợ n g kẽnh ta n g néu tan g dộ rộng dải thông w . K hi w tién tới vô hạn, thỗng lượng kẽnh tiỂn tới: C O S Ở L Ý T H U Y Ế T T R U Y Ề N TIN 16 Do: Pav = Cii với (9-1-33) là n an g lượng m ộ t b it nẽn: £ =ios’(i+ễẳ) (9-1-34) 10 log(P„v/HW0) W(Hz) H ì n h 9 -1 -7 : T h õ n g lượng c ủ a kẽnh chuần hóa dược vẽ th e o S N R đói với kênh có d ả i tàii hữu hạn H ì n h 9 -1 -8 : T h ô n g lượng c ủ a kênh theo độ rộng d ả i th ô n g của kênh với cỏng s u ấ t p h á t tru n g bìn h có dịnh N hư vậy: íb No Khi c/w = 1, t b / N o = 1 . K hi c/w 2°tw - 1 (9-1-35) c/w -> oo: 2 c/ w ỈL No N hư vậy tb/N0 ta n g exp c/w th e o hằm m ù khi c/w ẼL = No Im -> 00 . Mạt. khác, khi V c /T - 0 (9-1-36) G H - "W 2C' W - c/w 1 c/w 0: = ln 2 (9-1-37) chinh là -1,6 <1B. Biểu diễn c / w th e o ^6/N o trẽ n hình 7-2-17. T hỏng lượng của kênh cho chúng t a g iớ i h ạ n t r ê n c ủ a tố c d ộ tru y ề n để tru y è n thông an to à n bảo dàm trôn kênh có nhiều. D ịn h lý v ề m ã h ó a t r ê n k ê n h c ó n h i ễ u 1 ỒI1 tạ i m ộ t loại m ã hóa kẽnh và bộ giải m ã tương ứng dể có th ể tru y ề n th ô n g a n to à n bảo đ ả m với xác s u ắ t sai Iihỏ tù y ý nếu tốc đ ộ tru y ề n R < c. Néu R > c , không tồn tạ i phương p h á p m ã hóa dể xác s u ắ t sai n h à m tiến tới 0. 9-1-3 S ử d ụ n g c ác t í n h iệ u t r ự c g iao t r o n g t r u y ề n th ô n g T rong phìui 7-2 ta đ ã sử d ụ n g giới hạn hợp d ể chứng tỏ rà n g với các tín h iệu trự c giao th ì xác s u ấ t sai n h àm có th ể n h ỏ tù y ý khi M -* oo m iễn là Zb/No > 2 1 n 2 . Từ (7-2-21) ta có: 1 - [1 - Q (y )]M _l < ( M - l ) Q ( y ) < M e -«'ỉ / ỉ (9-1-38) 17 K Ẽ N H VẢ T H Õ N G L Ư Ợ N G CỦA K Ê N H D ấy là giới h ạ n hợp, nó c h ạ t khi y lởn, cố n g h ĩa là với y > yo, Uo phụ thuộc: vào M . Với y nhỏ, ta có: 1 - [1 -< ? (» )]"■ ' < 1 với mọi y (9-1-39) N hư vậy: PM < - L v r e - {v~ ^ 3<2d y + ~ ụ = 27T J —(X N/27T Jy 0 n c -S ^ e -^ - ^ ^ d y (9-1-40) G iá trị 1/0 làin c ự r tiổu giới h ạ n trẽ n tim dược hàng cách láy d ạ o hàm c ủ a \ 6 phải và d ạ t báng 0. N ghiệm 1/0 là: t&l* = M (9-1-41) yo = v/2hTÃ7 = v /2 1 n 2 lo g j A/ = \/2A: 1.12 (9-1-42) D ã xác: (lịnh ĩ/o. ta tín h giứi h ạ n trẽ n c ủ a tic h p h â n tro n g (9-1-40). Dổi với tích phản th ử n h á t, ta CỔ: 1 * / 1 f Vo r - i V ^ ỹ - v o)/>/2 1 = 1 J -oc 7-00 = Q ( \ / Ỹ ỹ - y o ) , ỉ/0 < v /2 Ĩ < e - (v^ - w ỉ*/ a , ỉ/o < v/ 2 7 (9-1-43) Tích p h àn th ử hai cớ giới h ạ n tr ê n là: = = n/ 2 7T tF y yo - £ L e-> /2 v 27T __ e~* ^V y o0--/Ỡ x A /2ỉ M e - 1' 2 (j/0 < y Ị - ỹ ) M e ‘*/2e (lro a / ^ > j (ỉ/o > y / ĩ 7 ) (9-1-44) K ết hợp hai tích ph&ii và th a y M bởi e yồ/2, t a nliậii dược: í p - 'v ^ - v o ) 2/-> + e (* ẵ -i)/a />A/ < ị (0 < 1/0 < y f ỹ ) (JỤ i < y0 < ự n ) g -lv ^ íĩ-K o ^ /a + eiKỏ—»í/ag-lvo-V '^/*)’ TVong k h oảng l) < Vo < \ / ^ ỹ ' giới Pm (9-1-45) được' v iết lại là: < e " 'ỏ - » / 2( l + e - " ' « - v ^ > :i) < 2e<»8-»>/>, (9-1-46) 0 < yo < y p ỹ Trong k h o ả n g ^ ^ 7 < yo < n/ ^ * hai th à n h p h an tro n g (9-1-45) là giống n h au nên: PM < < yo < v /2 7 (9-1-47 Do yo = n/'2 ln A/ = \/2Ả: ln 2 và 7 = Ẳ:76 nên: (9-1-48) 7) 2CSITTTT2 ĐAI HỌC GUỐC GIA HA NỌ1 TRUNG TÂM THÒNG TIN THƯ ViỀN V ^ £ > o //( 033^-6 c ơ S Ở L Ý T H U Y Ế T T R U Y Ề N TI N 18 Giới hạii trôn th ử n h á t chính là giới hạn hợp, giới hạn này khổng c h ạ t khi M lớn. Giới h ạ n dưới chạt hơn khi A/ lớ». C hú ý rằn g P\i -> 0 khi k -» 00 hay A/ -► 00 Iiếu 76 > In 2. Nhưng ỉn 2 la giới hạn của S N R từ n g b it dể tru y è n th õng an toàn với tóc độ bàng thông lượng c trẽn kônh AVVGN có dải thõng hữu h ạn. Khi th ay 1/0 = V ĩ k ũ ỉ ĩ = y / ĩ R T l n ĩ (9-1-49) 7 = Tf t r = T C ac.In-2 vào (9-1-46) và (9-1-47), ta nhận dược: í 2 .2- T i ị c m-Rì _ ' < 1 2 .2 - T(^ - v^ ,a < R< \c ao) (\cx < ĩ ỉ < c oc (0 (9-1-50) C húng t a d à biẻu diến giới hạn th eo Coo và tóc độ tru y ền . Rỏ ràng xác su á t sai có th ể nhỏ tù y ý nếu T -> 00 hay A/ -> oc néu bảo dảin ràng /? < Coo = Pav/(No 1“ 2). Hơn nửa, ta b iét ràn g các tin hiệu trự c giao cổ th ể dù n g dể tru y è n ở tóc dộ bằng thông lượng khi M -> 00 nếu th ỏ a m ãn f í < Coc- 9-1-4 H à m a n to à n c ủ a k ên h T a biẻu diẻn (9-1-50) như sau: PM < 2.2~TEiH) (9-1-51) T hành p h ầ n mủ } \{ự C Z -yÍR )2 (ịCoo < R < d o ) (9-1-52) gọi là hàm aji toàn c ủ a kênh dói với kổnh AW GN cố dải thông hữu h ạn. Dường biểu dién E{ fì)/Coo trẽn hlnh 9-1-9. C ùng trẽ n hỉn h d ó ta c ũ n g vẽ giới hạn hợp của Paí trong (7-2-27) dược hiếu (liín th àn h P m < \ 2 ~ n l c ~ - R)ì 0 < /? < Ịc * (9-1-53) H ì n h 9 -1 -9 : Hàin aii toàn của kẽnh đói với kênh AWGN có dải thông hữu hạn Người ta chứng m inh được rằn g không tồn tạ i m ộ t hàm an toàn khầc E \ [ R ) m à E \ ( R ) > E ị R ) với mọi R . Xảc su á t sai bị chạn trê n và chẠn dưới như sau: K l2-TE(R) < p t < K u2~TEfR> các hàng só K u vầ Ki biến thiên chậm th eo T. (9-1-54) 19 K Ê N H VẢ T H Ò N G L Ư Ợ N G CỦA K Ê N H Do các tin hiệu trực: giao cố hiệu q u ả giống như tín hiệu đơn hình tói ưu với AI lớn, nôn giới hạn (ỉưới cùa (9-1-54) d ú n g với mọi tin hiệu. Như vậy hàm an toàn E ( R ) dặc trư n g cho xốc s u á t sai khi truyền trà n kónh AW GN cỏ (iải thòng hữu hạn. M ạc d ù x á r s u á t sai cổ th ể nhỏ tù y ý hàng cách tan g só tín hiệu néu f í < Coo nhưng cố m ột độ chênh lộch lcíìi giừa hiệu q u ả thực tố d ạ t được so với kết q u ả trong lý th u y ét. Ví dụ như trong hình 7-2-17, tậ p hợ p A/ = 1G tín hiệu trự c giao xác định liên két vớiSN R từ n g b it khoảng 7.5 dB cố xà su á t sai pe = 10-*. nhưng lý thuyết chi ra ràn g với c / w = 0 ,5 tru y ề n an toàn cố th ẻ đ ạ t dược khi SNR la - 0,8 d B , như vậy cỏ th ể tìm được những tin hiệu sử dụ n g cỏ hiệu q u ả hơn. T a sẽ thấy ràng những tín hiệu m ả sẽ cố hiệu q u ả hơn. ỉ) ộ chẻnh lệch VẾ hiệu q u ả c ũ n g x ả y ra tro n g m iề n c ó d ả i tà n hữu h ạ n R / W > 1. T rong miền n à y chúng ta không th ẻ ta n g độ rộng dải thông như trong m iền có công su á t hừu h ạn . Câc kỷ th u ậ t mà hòa cho tru y ề n th ổ n g trẽ n kênh í*ó dài thông hữu hạn dược xét tới trong chương 10 . 9-2 M ã hóa ngẩu n h iên Việc th iế t kố m à d ièu chế cho tru y è n thông trê n kênh có th ể chia r a hai phương p h áp cơ bản. M ột-là phương p h á p d ạ i số m à việc th ié t kế các bộ m ả hóa và giải m ã hóa cho m ộ t só loại m ã loại này ta sẽ ' xót tro n g chương 10. Phương p h áp th ứ hai là phương p h áp xác s u á t với việc p h ân tích dộ hiệu quả của lớp tỏng q u á t càc tín hiệu m ã. Phương p h áp này d ư a ra các giới h ạ n về xác su á t sai khi tru y ề n tin trẽn kẽnh. T rong p h àn này ta xét phương p h áp m à th ứ hai và gọi là mả hóa ngău nhiên. 9-2-1 M ã hóa n g ẫ u n h iê n d ự a vào t í n h iệ u m ã nhị p h â n M m ức Xét m ộ t tậ p hợp M tín hiệu rriã dược xây dựng từ tậ p hợp các từ m ã nhị phân n chièu: C j = [ciiCi2 i = 1 , 2 , . . . ( 9 - 2 - 1 ) với Cịj bàng 0 hoặc 1. Mỏi b it dược ánh x ạ th à n h m ộ t tín hiệu PSK nhị phân th i tin hiộu tương ứng với từ m à c , dược biểu dién là: = ¿ = 1 .2 .........M (9-2-2) ở dây khi khi Cịj — 1 dị =0 (9-2-3) ( ' và ịc \ỉi iiAiig lượng c ủ a tin hiệu ứng với m ộ t bit. Như vậy cảc tín hiệu Si(t) tương ứng với cảc vectd n s, = (SiiSi 2 ...S m ]i » = 1 , 2 , . . . , A/ (9-2-4) G ià th ié t tốc dộ th ô n g tin vào bộ m ả hóa là R b it/s và m ã hóa từng khối k b it th à n h m ộ t trong M tín hiệu. N hư vậy k = R T và A/= 2* = 2 HT tín hiệu càn th iế t. D ịnh nghĩa D = ỹ C h iề u /s (9-2-5) và n h ư vậy n = D T là sổchiẾ u của không gian tín hiệu. T a cố t á t cả 2n = 2 d t vectơ, trong só dố M = 2RT vectơ được sử d ụ n g đẻ truyền thông tin . T a cố oA f)RT F - £ = 0 -2-6) Rỏ ràn g néu D > R th ì F -► 0 khi T -¥ 00 . / C ơ SỞ L Ý T H U Y Ế T T R U Y Ề N TIN 20 Vấn d ề d ạ t ra là liệu chúng ta cỏ th ể chọn M = 2RT vectơ trong só 2" = 2 /r / vectơ cỏ th ể dể xác su á t sai p -+ 0 khi 7* -* 00 hay n -> 00 được không. R ỏ ràn g khi r -* 00 th ì F —> 0 nôn cỏ ihổ chọn A/ tín hiệu cố khoảng cách tói th iểu tan g d à n khi T -> 00 hay p , -¥ 0. C húng ta có (2n )A/ cách chọn M vectơ t ừ 2n vectơ- Với m ỗi cách chọn tro n g sổ 2nM cách chọn, ta cố m ộ t hộ th ống tru y ề n th ô n g cố thổ th iế t kế sao cho tói ưu với tậ p hợp M tín hiộu p e. T uy nhiên cũng có nlnm g cách chọn khác m à Pe({ s,} ĨM) < p e. N hư vậy, nếu chùng ta xác (lịnh dược giởi hạn trôn của p e, giơi hạii này sê đ ú n g với các bộ m à m à /*r({si}m) < p e. Hơii nữa, néu p e -* 0 khi T -* DO thi chúng ta cỏ thẻ két luận ràn g với nhửng bộ m à dỏ, P f({ s ,} m) -> 0 khi T -> 00 . Đổ xác địn h giới bạn trẽn c ủ a P e, ta x é t việc truyòn m ột bản tin k bit X * = [X\X2 .. . X*], với Xj = 0 hoặc 1. X á r s u á t lỗi có diều kiộn tru n g bình tro n g cả tậ p hợp m ả là: 7Ũ X T)= £ Pr (X * , {s, } „,)P ({s, },„) (9-2-9) m ọi m ã với Pr (X * , { s,} m) là xác su á t lỗi cổ (iièu kiện c ủ a m ộ t dày k !)it thông tin X * được truyền {s,}m. Với m à th ứ m , xáí* su ấ t lỏi / 5r (X *, { s,}m) bị giới hạn trôn như sau: M P e( X * ,{ s ,} m) < £ p 2m(s,,s * ) L dì bởi inà (9-2-10)