ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐẠI HỌC KỸ THUẬT CÔNG NGHIỆP
VŨ MẠNH THỦY
NGHIÊN CỨU ỨNG DỤNG
MẠNG NƠRON TRUYỀN THẲNG NHIỀU LỚP TRONG
ĐIỀU KHIỂN THÍCH NGHI VỊ TRÍ ĐỘNG CƠ ĐIỆN MỘT
CHIỀU KHI CÓ THÔNG SỐ VÀ TẢI THAY ĐỔI
LUẬN VĂN THẠC SĨ TỰ ĐỘNG HÓA
THÁI NGUYÊN - 2009
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
ĐẠI HỌC THÁI NGUYÊN
TRƯỜNG ĐHKT CÔNG NGHIỆP
***
CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM
Độc lập - Tự do - Hạnh phúc
---------o0o---------
THUYẾT MINH
LUẬN VĂN THẠC SĨ TỰ ĐỘNG HÓA
ĐỀ TÀI:
NGHIÊN CỨU ỨNG DỤNG
MẠNG NƠRON TRUYỀN THẲNG NHIỀU LỚP TRONG
ĐIỀU KHIỂN THÍCH NGHI VỊ TRÍ ĐỘNG CƠ ĐIỆN MỘT
CHIỀU KHI CÓ THÔNG SỐ VÀ TẢI THAY ĐỔI
Học viên: Vũ Mạnh Thủy
Lớp: CHK10
Chuyên ngành: Tự động hóa
Người HD khoa học: TS. Phạm Hữu Đức Dục
Ngày giao đề tài: 01/02/2009
Ngày hoàn thành: 30/07/2009
KHOA ĐT SAU ĐẠI HỌC
NGƯỜI HƯỚNG DẪN
KHOA HỌC
HỌC VIÊN
T.S Phạm Hữu Đức Dục
Vũ Mạnh Thủy
THÁI NGUYÊN – Năm 2009
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
MỤC LỤC
Lời cam đoan
Trang
Danh mục các ký hiệu, bảng, các chữ viết tắt
Danh mục các hình vẽ, đồ thị
Phần mở đầu
1
Chƣơng 1: TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO
4
1.1 Lịch sử phát triển của mạng nơron nhân tạo
4
1.2 Các tính chất của mạng nơron nhân tạo
5
1.3 Mô hình nơron
5
1.3.1 Mô hình nơron sinh học
5
1.3.2 Nơron nhân tạo
7
1.4 Cấu tạo mạng nơron
10
1.5 Cấu trúc mạng nơron
11
1.6 Phƣơng thức làm việc của mạng nơron
13
1.7 Các luật học
14
1.8 Mạng nơron truyền thẳng và mạng nơron hồi quy
18
1.8.1 Mạng nơron truyền thẳng
18
1.8.1.1 Mạng nơron truyền thẳng một lớp nơron
18
1.8.1.2 Mạng nơron truyền thẳng nhiều lớp nơron
18
1.8.2 Mạng nơron hồi quy
19
1.8.2.1 Mạng hồi quy không hoàn toàn
19
1.8.2.2 Mạng các dãy của Jordan
20
1.8.2.3 Mạng hồi quy đơn giản
21
1.8.2.4 Mạng hồi quy hoàn toàn
21
1.9 Ứng dụng mạng nơron trong điều khiển tự động
22
1.10 Công nghệ phần cứng sử dụng mạng nơron
24
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
1.11 So sánh khả năng của mạng nơron với mạch logic
25
1.12 Kết luận chƣơng 1
25
Chƣơng 2: CÁC PHƢƠNG PHÁP ỨNG DỤNG MẠNG NƠRON
TRONG NHẬN DẠNG VÀ ĐIỀU KHIỂN
26
2.1 Các phƣơng pháp ứng dụng mạng nơron trong nhận dạng
26
2.1.1 Khái quát chung
26
2.1.1.1 Đặt vấn đề
26
2.1.1.2 Định nghĩa
27
2.1.1.3 Sơ lược về sự phát triển của các phương pháp nhận dạng
27
2.1.1.4 Các bước cơ bản để nhận dạng hệ thống
28
2.1.2 Các phương pháp nhận dạng
29
2.1.2.1 Nhận dạng On-line
30
2.1.2.1.1 Phương pháp lặp bình phương cực tiểu
30
2.1.2.1.2 Phương pháp xấp xỉ ngẫu nhiên
31
2.1.2.1.3 Phương pháp lọc Kalman mở rộng
31
2.1.2.2 Nhận dạng Off-line
33
2.1.2.2.1 Phương pháp xấp xỉ vi phân
34
2.1.2.2.2 Phương pháp gradient
34
2.1.2.2.3 Phương pháp tìm kiếm trực tiếp
36
2.1.2.2.4 Phương pháp tựa tuyến tính
36
2.1.2.2.5 Phương pháp sử dụng hàm nhạy
37
2.1.2.3 Nhận dạng theo thời gian thực
37
2.1.3 Mô tả toán học của đối tượng ở rời rạc
38
2.1.4 Mô hình dùng mạng nơron
41
2.1.4.1 Mô hình nhận dạng kiểu truyền thẳng
41
2.1.4.2 Mô hình ngược trực tiếp
45
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
2.1.5 Tính gần đúng hàm số dung mạng nơron
45
2.1.6 Mô hình mạng nơron trong nhận dạng và điều khiển
46
2.2 Các phƣơng pháp ứng dụng mạng nơron trong điều khiển
47
2.2.1 Các phương pháp ứng dụng mạng nơron trong điều khiển
47
2.2.1.1 Điều khiển thích nghi sử dụng nguyên tắc chung
47
2.2.1.2 Điều khiển có tín hiệu chỉ đạo
47
2.2.1.3 Điều khiển theo mô hình
47
2.2.1.4 Điều khiển ngược trực tiếp
49
2.2.1.5 Điều khiển mô hình trong
49
2.2.1.6 Điều khiển tối ưu
49
2.2.1.7 Điều khiển tuyến tính thích nghi
50
2.2.1.8 Phương pháp bảng tra
50
2.2.1.9 Điều khiển lọc
50
2.2.1.10 Điều khiển dự báo
50
2.2.2 Điều khiển thích nghi
51
2.2.2.1 Điều khiển thích nghi
51
2.2.2.2 Phương pháp điều khiển thích nghi theo mô hình mẫu (MRAC)
52
2.3 Kết luận chƣơng 2
54
Chƣơng 3: ỨNG DỤNG MẠNG NƠRON TRUYỀN THẲNG NHIỀU LỚP
ĐIỀU KHIỂN THÍCH NGHI VỊ TRÍ ĐỘNG CƠ ĐIỆN MỘT CHIỀU KHI
CÓ THÔNG SỐ VÀ TẢI THAY ĐỔI
55
3.1 Mô tả động lực học của động cơ một chiều
55
3.1.1. Tổng hợp mạch vòng dòng điện khi bỏ qua sức điện động
của động cơ
55
3.1.2. Tổng hợp hệ thống truyền động điều khiển tốc độ
57
3.1.3. Hệ thống điều chỉnh tốc độ dùng bộ điều chỉnh tốc độ tỷ lệ
57
3.1.4. Cấu trúc hệ điều chỉnh vị trí
59
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
3.1.5. Tìm hàm truyền của hệ thống
60
3.2 Ứng dụng mạng nơron truyền thẳng nhiều lớp trong điều khiển thích nghi
vị trị động cơ điện một chiều khi có thông số thay đổi
62
3.2.1. Bộ điều khiển phản hồi tuyến tính (NARMA-L2)
62
3.2.2. Nhận dạng của mô hình NARMA-L2
62
3.2.3. Bộ điều khiển NARMA-L2
64
3.2.4. Bài toán ví dụ sử dụng khối điều khiển NARMA-L2
66
3.2.5. Kết quả thực nghiệm trên MATLAB
68
3.2.5.1. Số liệu
68
3.2.5.2. Kết quả mô phỏng khi có tải thay đổi
68
3.2.5.3. Kết quả mô phỏng khi có thông số và tải thay đổi
74
3.3. Kết luận chƣơng 3
80
Chƣơng4: KẾT LUẬN CHUNG VÀ KIẾN NGHỊ
81
Tài liệu tham khảo
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
DANH MỤC CÁC CHỮ VIẾT TẮT, TIẾNG NƯỚC NGOÀI
STT
Ký hiệu
Diễn giải
1
Artificial Neural
Nơron nhân tạo
2
Artificial Neural Networks
Mạng nơron nhân tạo
3
Back Propagation Learaning Rule
Luật học lan truyền ngược
4
Bipolar Sigmoid Function
Hàm sigmoid 2 cực
5
Fuzzy
Loogic mờ
6
Fuzzy Neural Networks
Mạng nơron mờ
7
Learing
Học
8
Linear Graded Unit-LGU
Phần tử graded tuyến tính
9
Linear Threshold Unit-LTU
Phần tử ngưỡng tuyến tính
10
Myltilayer Layer Feedforward NetWord
Mạng nhiều lớp truyền thẳng
11
Neural
Nơron
12
Neural Networks
Mạng nơron
13
Output Layer
Lớp ra
14
Paramater Learning
Học thông số
15
Recall
Gọi lại
16
Recurrent Neural Networks
Mạng nơron hồi quy
17
Reinforcement Signal
Tín hiệu củng cố
18
Reinforcement Learning
Học củng cố
19
Rump Function
Hàm Rump
20
Self Organizing
Tự tổ chức
21
Single Layer Feedforward NetWord
Mạng một lớp truyền thẳng
22
Step Function
Hàm bước nhảy
23
Structure Learning
Học cấu trúc
24
Supervised Learning
Học giám sát
25
Threshold Function
Hàm giới hạn cứng
26
Unipolar Sigmoid Function
Hàm sigmoid 1 cực
27
Unsupervised Learning
Học không có giám sát
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ
STT
Ký hiệu
Diễn giải tên hình vẽ
1
Hình 1.1
Mô hình nơron sinh học
2
Hình 1.2
Mô hình nơron nhân tạo
3
Hình 1.3
Đồ thị các loại hàm chuyển đổi
4
Hình 1.4
Mạng nơron 3 lớp
5
Hình 1.5
Sơ đồ cấu trúc các loại mạng nơron
6
Hình 1.6
Mô hình học có giám sát và học củng cố
7
Hình 1.7
Mô hình học không có giám sát
8
Hình 1.8
Sơ đồ cấu trúc chung của quá trình học
9
Hình 1.9
Mạng nơron truyền thẳng một lớp
10
Hình 1.10
Mạng nơron truyền thẳng nhiều lớp
11
Hình 1.11
Sơ đồ cấu trúc của mạng Jordan
12
Hình 1.12
Sơ đồ cấu trúc mạng nơron hồi quy đơn giản
13
Hình 2.1
Điều khiển theo nguyên tắc phản hồi đầu ra
14
Hình 2.2
Quy trình nhận dạng hệ thống
15
Hình 2.3
Sơ đồ tổng quát nhận dạng thong số mô hình
16
Hình 2.4
Nhận dạng theo phương pháp gradient
17
Hình 2.5
Mô hình dạng 1
18
Hình 2.6
Mô hình dạng 2
19
Hình 2.7
Mô hình dạng 3
20
Hình 2.8
Mô hình dạng 4
21
Hình 2.9
Mô hình nhận dạng kiểu truyền thẳng
22
Hình 2.10
Mô hình nhận dạng kiểu song song
23
Hình 2.11
Mô hình nhận dạng kiểu nối tiếp-song song
24
Hình 2.12
Mô hình nhận dạng ngược trực tiếp
25
Hình 2.13
Mô hình 1
26
Hình 2.14
Mô hình 2
27
Hình 2.15
Mô hình 3
28
Hình 2.16
Mô hình 4
29
Hình 2.17
Mô hình điều khiển trực tiếp
STT
Ký hiệu
Diễn giải tên hình vẽ
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
30
Hình 2.18
Mô hình điều khiển gián tiếp
31
Hình 2.19
Sơ đồ điều khiển mô hình trong
32
Hình 2.20
Sơ đồ điều khiển theo phương pháp dự báo
33
Hình 2.21
Sơ đồ nguyên lý của phương pháp điểu khiển thích nghi theo
phương pháp mô hình mẫu
34
Hình 2.22
Sơ đồ điều khiển trực tiếp
35
Hình 2.23
Sơ đồ điều khiển gián tiếp
36
Hình 3.1
Sơ đồ khối của mạch vòng dòng điện
37
Hình 3.2
Sơ đồ khối
38
Hình 3.3
Sơ đồ khối của hệ điều chỉnh tốc độ
39
Hình 3.4
Cấu trúc bộ điều chỉnh
40
Hình 3.5
Cấu trúc hệ điều chỉnh vị trí tuyến tính
41
Hình 3.6
Sơ đồ khối của hệ điều chỉnh tốc độ
42
Hình 3.7
Sơ đồ khối tương đương 1 của hệ điều chỉnh tốc độ
43
Hình 3.8
Sơ đồ khối tương đương 2 của hệ điều chỉnh tốc độ
44
Hình 3.9
Sơ đồ khối của hệ điều chỉnh vị trí 1
45
Hình 3.10
Sơ đồ khối tương đương của hệ điều chỉnh vị trí
46
Hình 3.11
Cấu trúc một mạng nơron
47
Hình 3.12
Sơ đồ khối của bộ điều khiển NARMA-L2
48
Hình 3.13
Bộ điều khiển thực hiện với mô hình nhận dạng NARMA-L2
49
Hình 3.14
Sơ đồ điều khiển vị trí nam châm vĩnh cửu
50
Hình 3.15
Đồ thị vị trí mẫu và vị trí sau khi đã điều khiển
51
Hình 3.16
Sơ đồ khối mô tả động cơ một chiều
52
Hình 3.17
Sơ đồ mạng nơron truyền thẳng nhiều lớp điều khiển thích
nghi vị trí động cơ điện một chiều khi có tải thay đổi
53
Hình 3.18
Bảng điều khiển nhận dạng tín hiệu vị trí động cơ một chiều
NARMA-L2
54
Hình 3.19
Dữ liệu vào ra của tín hiệu vị trí động cơ một chiều
55
Hình 3.20
Xuất dữ liệu làm việc
56
Hình 3.21
Nhập dữ liệu vào bộ điều khiển
57
Hình 3.22
Huấn luyện đối tượng với dư liệu đã nhập vào
58
Hình 3.23
Dữ liệu huấn luyện cho bộ điều khiển NN NARMA-L2
STT
Ký hiệu
Diễn giải tên hình vẽ
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
59
Hình 3.24
Dữ liệu xác nhận cho bộ điều khiển NN NARMA-L2
60
Hình 3.25
Dữ liệu kiểm tra cho bộ điều khiển NN NARMA-L2
61
Hình 3.26
Đồ thị vị trí mẫu qd (nét mảnh) và vị trí sau khi đã điều khiển
q (nét đậm)
62
Hình 3.27
Đồ thị điện áp điều khiển
63
Hình 3.28
Đồ thị mômen tải MC (Nm)
64
Hình 3.29
Sơ đồ khối mô tả động cơ điện một chiều khi có R, MC thay
đổi
65
Hình 3.30
Dữ liệu vào ra của tín hiệu vị trí động cơ một chiều
66
Hình 3.31
Bảng điều khiển nhận dạng tín hiệu vị trí động cơ một chiều
NARMA-L2
67
Hình 3.32
Huấn luyện đối tượng với dư liệu đã nhập vào
68
Hình 3.33
Dữ liệu huấn luyện cho bộ điều khiển NN NARMA-L2
69
Hình 3.34
Dữ liệu xác nhận cho bộ điều khiển NN NARMA-L2
70
Hình 3.35
Dữ liệu kiểm tra cho bộ điều khiển NN NARMA-L2
71
Hình 3.36
Đồ thị điện áp điều chỉnh u
72
Hình 3.37
Đồ thị điện trở R ()
73
Hình 3.38
Đồ thị mômen tải MC (Nm)
74
Hình 3.39
Đồ thị vị trí mẫu qd (nét mảnh) và vị trí sau khi đã điều khiển
q (nét đậm)
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
LỜI CAM ĐOAN
Tôi xin cam đoan Luận văn này là công trình do tôi tổng hợp và nghiên cứu.
Trong luận văn có sử dụng một số tài liệu tham khảo như đã nêu trong phần tài liệu
tham khảo.
Tác giả luận văn
VŨ MẠNH THỦY
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
1
PHẦN MỞ ĐẦU
1. Lý do chọn đề tài:
Để điều khiển chính xác đối tượng khi chưa biết rõ được thông số, trước tiên
ta phải hiểu rõ đối tượng đó. Đối với đối tượng có thông số thay đổi như động cơ
một chiều và có tải thay đổi, ta cần thực hiện nhận dạng đặc tính vào ra của nó để
đảm bảo tạo ra tín hiệu điều khiển thích nghi được lựa chọn chính xác hơn. Hiện
nay thường dùng lôgíc mờ (Fuzzy Logic), mạng nơron (Neural Networks), và mạng
nơron mờ (Fuzzy Neural Networks) để nhận dạng và điều khiển thích nghi hệ thống
có thông số thay đổi. Trong khuôn khổ của khóa học Cao học, chuyên ngành Tự
động hóa tại trường Đại học Kỹ thuật Công nghiệp, được sự tạo điều kiện giúp đỡ
của nhà trường và Tiến sĩ Phạm Hữu Đức Dục, em đã lựa chọn đề tài tốt nghiệp của
mình là “Nghiên cứu ứng dụng mạng nơron truyền thẳng nhiều lớp trong điều
khiển thích nghi vị trí động cơ điện một chiều khi có thông số và tải thay đổi”.
Trong quá trình thực hiện đề tài, tác giả đã cố gắng hạn chế tối đa các khiếm
khuyết, xong không thể tránh được tất cả, kính mong Hội đồng Khoa học và độc giả
bổ xung đóng góp ý kiến để đề tài được hoàn thiện hơn.
2. Cơ sở khoa học và thực tiễn của đề tài
Ngày nay do tiến bộ của khoa học kỹ thuật trong điện tử và tin học các hệ
thống điều khiển tự động được phát triển và có sự thay đổi lớn. Công nghệ vi mạch
phát triển khiến cho việc sản xuất các thiết bị điện tử ngày càng hoàn thiện. Các bộ
biến đổi điện tử trong các hệ thống không những đáp ứng được khả năng tác động
nhanh, độ chính xác cao mà còn góp phần giảm kích thước và hạ giá thành của hệ
thống. Đặc biệt trong những thập kỷ gần đây trước sự phát triển mạnh mẽ và ngày
càng hoàn thiện của lý thuyết mạng nơron truyền thẳng nhiều lớp, hàng loạt các ứng
dụng của lý thuyết mạng nơron truyền thẳng nhiều lớp đã và đang mở ra một kỷ
nguyên mới ngành điều khiển. Tuy là ngành kỹ thuật điều khiển non trẻ nhưng
những ứng dụng trong công nghiệp của điều khiển mạng nơron thật rộng rãi như
trong nhận dạng, phân loại sản phẩm, xử lý tiếng nói, chữ viết và điều khiển hệ
thống, điều khiển robot. Tới nay đã có rất nhiều sản phẩm công nghiệp được tạo ra
và nhờ kỹ thuật điều khiển mạng nơron, rất nhiều nước trên thế giới đã thành công.
Chính vì thế mà việc đi sâu nghiên cứu và áp dụng lý thuyết điều khiển
nơron truyền thẳng nhiều lớp trong điều khiển thích nghi vị trí động cơ một chiều
khi có thông số và tải thay đổi có ý nghĩa khoa học.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
2
Khác hẳn với kỹ thuật điều khiển kinh điển là hoàn toàn dựa vào sự chính
xác tuyệt đối của thông tin mà trong nhiều ứng dụng không cần thiết hoặc không thể
có được, điều khiển nơron truyền thẳng nhiều lớp chỉ cần sử lý những thông tin
(không chính xác) hay không đầy đủ, những thông tin mà sự chính xác của nó chỉ
nhận thấy được giữa các quan hệ của chúng với nhau và chỉ có thể mô tả được bằng
ngôn ngữ, đã có thể cho ra những quyết định chính xác. Chính khả năng này đã làm
cho điều khiển nơron truyền thẳng sao chụp được phương thức xử lý thông tin và
điều khiển của con người. Do đó việc áp dụng điều khiển nơron truyền thẳng nhiều
lớp vào hệ thống điều khiển thích nghi vị trí động cơ một chiều khi có tải và thông
số thay đổi là việc cần phải làm.
3. Mục đích của đề tài
Đối với đối tượng có thông số thay đổi như động cơ một chiều khi có phụ tải
thay đổi, ta cần nhận dạng đặc tính vào ra của nó để bảo đảm tạo ra tín hiệu điều
khiển thích nghi được chính xác hơn. Hiện nay thường sử dụng logic mờ (Fuzzy
Logic), mạng nơron mờ (Fuzzy Neural Networks), mạng nơron (Neural Networks)
để nhận dạng và điều khiển thích nghi vị trí động cơ điện một chiều.
Đề tài này nghiên cứu ứng dụng mạng nơron truyền thẳng nhiều lớp (bộ điều
khiển NARMA-L2) trong điều khiển thích nghi vị trí động cơ điện một chiều khi có
thông số và tải thay đổi.
4. Đối tƣợng và phạm vi nghiên cứu của đề tài:
Phần mở đầu
Chương 1. Tổng quan về mạng nơron nhân tạo
Phân tích tổng quan về mạng nơron bao gồm: phần lịch sử phát triển, kết cấu
của mạng các nơron, ứng dụng của chúng…
Chương 2. Các phương pháp ứng dụng mạng nơron trong nhận dạng và
điều khiển.
Phần này tập trung trình bày các phương pháp ứng dụng mô hình mạng
nơron trong nhận dạng và điều khiển.
Chương 3. Ứng dụng mạng nơron truyền thẳng nhiều lớp điều khiển thích
nghi vị trí động cơ điện một chiều khi có thông số và tải thay đổi.
3.1. Mô tả động lực học của động cơ một chiều.
3.2. Ứng dụng mạng nơron truyền thẳng nhiều lớp trong điều khiển thích
nghi vị trí động cơ điện một chiều khi có thông số và tải thay đổi.
Chương 4. Kết luận chung và kiến nghị.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
3
5. Ý nghĩa khoa học và thực tiễn của đề tài
Với ứng dụng của mạng nơron truyền thẳng nhiều lớp điều khiển vị trí động
cơ điện một chiều khi có thông sô và phụ tải thay đổi, sau khi đã nhận dạng được vị
trí động cơ một chiều, ta có thể thay thế gần đúng mô hình động cơ một chiều bằng
mạng nơron truyền thẳng nhiều lớp, từ đó căn cứ trên các thông số mô phỏng của
mạng nơron, tính toán được tín hiệu điều khiển nhằm điều khiển thích nghi vị trí
động cơ điện một chiều khi có thông số và phụ tải thay đổi phù hợp với yêu cầu cần
thiết của điều khiển thích nghi vị trí động cơ điện một chiều.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
4
CHƢƠNG 1
TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO
Nghiên cứu và mô phỏng não người, cụ thể là mô phỏng nơron thần kinh là
một ước muốn từ lâu của nhân loại. Từ mơ ước đó, nhiều nhà khoa học đã không
ngừng nghiên cứu tìm hiểu về mạng nơron. Trong đó mạng nơron nhân tạo đã được
nói đến ở cuốn sách “Điều khiển học, hay điều chỉnh và sự truyền sinh trong cơ thể
sống, trong máy móc” của tác giả Nobert Wieners xuất bản năm 1948. Điều khiển
học đã đặt ra mục đích nghiên cứu áp dụng nguyên lý làm việc của hệ thống thần
kinh động vật vào điều khiển. Công cụ giúp điều khiển học thực hiện được mục
đích này là trí tuệ nhân tạo và mạng nơron. Trí tuệ nhân tạo được xây dựng dựa trên
mạng nơron. Mạng nơron nhân tạo (Artificial Neural Networks) là hệ thống được
xây dựng dựa trên nguyên tắc cấu tạo của bộ não con người. Mạng nơron nhân tạo
có một số lượng lớn mối liên kết của các phần tử biến đổi (Processing Elements) có
liên kết song song. Nó có hành vi tương tự như bộ não con người với các khả năng
học (Learning), gọi lại (Recall) và tổng hợp thông tin từ sự luyện tập của các mẫu
và dữ liệu. Các phần tử biến đổi của mạng nơron nhân tạo được gọi là các nơron
nhân tạo (Artificial Neural) hoặc gọi tắt là nơron (Neural). Trong thiết kế hệ thống
tự động hóa sử dụng mạng nơron là một khuynh hướng hoàn toàn mới, phương
hướng thiết kế hệ thống điều khiển thông minh, một hệ thống mà bộ điều khiển có
khả năng tư duy như bộ não con người.
1.1 Lịch sử phát triển của mạng nơron nhân tạo
Mạng nơron nhân tạo đã có một lịch sử lâu dài. Năm 1943, McCulloch và
Pitts đã đưa ra khả năng liên kết và một số liên kết cơ bản, của mạng nơron. Năm
1949, Hebb đã đưa ra các luật thích nghi trong mạng nơron. Năm 1958, Rosenblatt
đưa ra cấu trúc Perception. Năm 1969, Minsky và Papert phân tích sự đúng đắn của
Perception, họ đã chứng minh các tính chất và chỉ rõ các giới hạn của một số mô
hình. Năm 1976, Grossberg dựa vào tích chất sinh học đã đưa ra một số cấu trúc của
hệ động học phi tuyến với các tính chất mới. Năm 1982, Hoppfield đã đưa ra mạng
học phi tuyến với các tính chất mới. Năm 1982, Rumelhart đưa ra mô hình song
song (Parallel Distributer Processing-PDS) và một số kết quả và thuật toán. Thuật
toán học lan truyền ngược (Back Propagation learning rule) được Rumelhart,
Hinton, Williams (1986) đề xuất luyện mạng nơron nhiều lớp. Những năm gần đây,
nhiều tác giả đã đề xuất nhiều loại cấu trúc mạng nơron mới. Mang nơron được ứng
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
5
dụng trong nhiều lĩnh vực kinh tế, kỹ thuật, khoa học vũ trụ (Hecht - Nielsen,
1988).
1.2 Các tính chất của mạng nơron nhân tạo
- Là hệ phi tuyến: Mạng nơron có khả năng to lớn trong lĩnh vực nhận dạng
và điều khiển các đối tượng phi tuyến.
- Là hệ xử lý song song: Mạng nơron có cấu trúc song song, do đó có tốc độ
tính toán rất cao, rất phù hợp với lĩnh vực nhận dạng và điều khiển.
- Là hệ học và thích nghi: Mạng được luyện từ các số liệu quá khứ, có khả
năng tự chỉnh khi số liệu đầu vào bị mất, có thể điều khiển on-line.
- Là hệ nhiều biến, là hệ nhiều đầu vào, nhiều đầu ra (Many Input Many
Output - MIMO), rất tiện dụng khi điều khiển đối tượng có nhiều biến số.
1.3 Mô hình mạng nơron
1.3.1 Mô hình nơron sinh học
Mô hình của một dạng nơron sinh học được thể hiện ở hình 1.1.
Cây
Trục
Nhân
Thân nơron
Hình 1.1 Mô hình nơron sinh học
Gồm có ba phần chính: Thân (Cell body), bên trong có nhân (Nucleus), cây
(Dendrites) và trục (Axon). Cây gồm các dây thần kinh có liên kết với thân. Trục có
cấu trúc đơn, dài liên kết với thân có nhiệm vụ truyền tải thông tin từ nơron. Phần
cuối của trục có dạng phân nhánh. Trong mỗi nhánh có một cơ cấu nhỏ là khớp thần
kinh (Synapse), từ đây nơron liên kết bằng tín hiệu tới các nơron khác. Sự thu nhận
thông tin của nơron từ các nơron khác có thể từ cây hoặc cũng có thể từ thân của nó.
Tín hiệu thu, nhận ở dạng các xung điện - Màng (Membrane): Mỗi tế bào
thần kinh có một màng, có nhiệm vụ giữ các chất nuôi tế bào không tràn ra ngoài.
Do đó, các phần tử nội bào và ngoại bào không bằng nhau, giữa chúng có dung dịch
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
6
muối lỏng làm cho chúng bị phân ra thành các nguyên tử âm (ion) và dương
(cation). Các nguyên tử dương trong màng tạo ra điện thế màng (Membrane
potential), nó tồn tại trong trạng thái cân bằng lực: lực đẩy các nguyên tử dương ra
khỏi tế bào bằng với lực hút của chúng vào trong tế bào.
Điện thế màng là phần tử quan trọng trong quá trình truyền tin trong hệ thần
kinh. Khi thay đổi khả năng thẩm thấu ion của màng thì điện thế màng của tế bào bị
thay đổi và tiến tới một ngưỡng nào đó, đồng thời sinh ra dòng điện, dòng điện này
gây ra phản ứng kích thích làm thay đổi khả năng thẩm thấu ion của tế bào thần
kinh tiếp theo.
Bộ não con người gồm có gần 1011 nơron của nhiều loại khác nhau. Mạng
nơron là sự tái tạo bằng kỹ thuật những chức năng của hệ thần kinh con người.
Trong quá trình tái tạo không phải tất cả các chức năng của bộ não con người có
đều được tái tạo, mà chỉ có những chức năng cần thiết. Bên cạnh đó còn có những
chức năng mới được tạo ra nhằm giải quyết một bài toán điều khiển đã định trước.
* Xử lý thông tin trong bộ não:
Thông tin được tiếp nhận từ các giác quan và chuyển vào các tế bào thần
kinh vận động và các tế bào cơ. Mỗi tế bào thần kinh tiếp nhận thông tin, điện thế sẽ
tăng trong thần kinh cảm giác, nếu điện thế này vượt ngưỡng nó tạo dòng điện trong
tế bào thần kinh cảm giác, ý nghĩa dòng điện đó được giải mã và lưu ở thần kinh
trung ương, kết quả sử lý thông tin được gửi đến các tế bào cơ.
Các khớp tế bào thần kinh đưa ra các tín hiệu giống nhau, do đó không thể
phân biệt được đó là của loại động vật nguyên thủy hay của một giáo sư. Các khớp
thần kinh chỉ cho các tín hiệu phù hợp qua chúng, còn lại các tín hiệu khác bị cản
lại. Lượng tín hiệu được biến đổi được gọi là cường độ khớp thần kinh đó chính là
trọng số của nơron trong mạng nơron nhân tạo.
Tại sao việc nghiên cứu về mạng thần kinh lại có tầm quan trọng lớn lao? Có
thể trả lời ngắn gọn là sự giống nhau của các tín hiệu của các tế bào thần kinh đơn
lẻ, do đó chức năng thực sự của bộ não không phụ thuộc vào vai trò của một tế bào
thần kinh đơn, mà phụ thuộc vào toàn bộ các tế bào thần kinh hay cách các tế bào
thần kinh liên kết với nhau thành một mạng thần kinh hay một mạng nơron (Neural
Networks).
* Các đặc tính cơ bản của não người:
- Tính phân lớp: Các vùng trong bộ não được phân thành các lớp, thông tin
được sử lý theo các tầng.
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
7
- Tính môđun: Các vùng của bộ nhớ được phân thành môđun được mã hóa
bằng các định nghĩa mối quan hệ tích hợp giữa các tín hiệu vào qua các giác quan
và các tín hiệu ra.
- Mối liên kết: Liên kết giữa các lớp dẫn đến các dữ liệu dùng chung xem
như các liên hệ phản hồi khi truyền tín hiệu.
- Sử lý phân tán các tín hiệu vào: Các tín hiệu vào được truyền qua nhiều
kênh thông tin khác nhau, được xử lý bởi các phương pháp đặc biệt.
1.3.2 Mô hình nơron nhân tạo
Sự thay thế những tính chất của mạng nơron sinh học bằng một mô hình toán
học tương đương được gọi là mạng nơron nhân tạo. Mạng nơron nhân tạo có thể
được chế tạo bằng nhiều cách khác nhau vì vậy trong thực tế tồn tại rất nhiều kiểu
mạng nơron nhân tạo. Dựa vào cấu trúc của nơron sinh học có nhiều mô hình được
đưa ra như perceptron (Roenblatt, 1958); adaline (Windrow và Hoff, 1960). Nhưng
thông thường một nơron có 3 phần như (Hình 1.2)
Mỗi nơron gồm có nhiều đầu vào và một đầu ra. Trên mỗi đầu vào có gắn
một trọng số để liên hệ giữa nơron thứ i với nơron thứ j. Các trọng số này tương tự
như các tế bào cảm giác của nơron sinh học.
:
.
y1
:
.
u1
Wi1
Wij
WiN
:
uk .
Wik∗
uM
∗
WiM
1
θ1
Hệ động
học tuyến
Wij∗
vi
xi
tính
Hàm động
học phi
yi
tuyến a(.)
Hình 1.2 Mô hình nơron nhân tạo
- Tổng trọng:
𝑁
𝑛𝑒𝑡𝑖 𝑡 = 𝑣𝑖 𝑡 =
𝑀
𝑊𝑖𝑘∗ . 𝑢𝑘 𝑡 + 𝜃𝑖
𝑊𝑖𝑗 . 𝑦𝑖 𝑡 +
𝑗 =1
1.1
𝑘=1
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
8
Với vi(t) là tổng trọng của nơron thứ i; yi các đầu ra của các nơron thứ j; ui(t)
các đầu vào từ bên ngoài tương ứng với trọng số Wij và 𝑊𝑖𝑘∗ ; 𝜃𝑖 là hằng số gọi là
ngưỡng của nơron thứ i.
Có thể viết (1.1) ở dạng:
𝑛𝑒𝑡𝑖 𝑡 = 𝑣𝑖 𝑡 = 𝑤. 𝑦 𝑡 + 𝑤 ∗ . 𝑢 𝑡 + 𝜃
1.2
*
Với các ma trận w và w có cỡ tương ứng là: n x n và n x m.
- Hệ động học tuyến tính SISO: đầu vào là vi, đầu ra là xi. Ở dạng toán tử
Laplace:
𝑥𝑖 𝑠 = 𝐻 𝑠 𝑣𝑖 𝑠
Dạng thời gian (1.3) trở thành:
1.3
𝑡
𝑥𝑖 𝑡 =
𝑡 − 𝜏 𝑣𝑖 𝜏 𝑑𝜏
1.4
−∞
Quan hệ của H(s), h(t) và quan hệ vào - ra tương ứng của nơron được cho
trong bảng 1.1.
Bảng 1.1:
H(s)
1
h(t)
𝛿(𝑡)
xi(t)=vi(t)
0
1
1
𝑠
𝑡<0
𝑡≥0
xi(t)=vi(t)
1
1 + 𝑠𝑇
1 −𝑡
𝑒 𝑇
𝑇
Txi(t)+xi(t)=vi(t)
1
∝0 𝑠 +∝1
1 −(∝1 )/𝑡
𝑒 ∝0
∝0
α0xi(t)+α1xi(t)=vi(t)
- Hàm động học phi tuyến.
Mô tả quan hệ của đầu ra yi với đầu vào xi: yi = a(xi)
𝑒 −𝑠𝑇
𝛿(𝑡 − 𝑇)
xi(t)=vi(t-T)
(1.5)
a(.) là hàm chuyển đổi
+ Hàm chuyển đổi:
Để tìm được đầu ra của nơron ta phải tiến hành qua hai bước như sau:
- Tìm các giá trị tổng trọng lượng đầu vào neti(t)
- Căn cứu vào neti(t) để tìm đầu ra yi bằng các hàm chuyển đổi vào ra.
Xét các hàm chuyển đổi vào ra:
Nếu quan niệm đầu ra của một nơron nhân tạo như là một tổng của tích các
trọng số với các tín hiệu vào là không phù hợp, vì khi đó giá trị của chúng rất rộng,
thậm chí có thể làm âm, đây là các tín hiệu vào không thực. Vì vậy, cần thực hiện
một phép biến đổi phi tuyến giữa đầu vào và đầu ra, đây là nhiệm vụ của phần tử
chuyển đổi PE (Processing Elements) của nơron như sau:
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
9
out = y = a(Net)
(1.6)
out (hoặc y) là tín hiệu ra; a(.) là hàm chuyển đổi.
Hàm chuyển đổi a(.) thực hiện coi nơron như một hộp đen, chuyển đổi m tín
hiệu vào thành tín hiệu ra. Các biến đầu vào và đầu ra có thể là:
- Số thực: Tốt nhất là trong khoảng (0,1) hoặc (-1,1)
- Số nhị phân (0,1)
Có nhiều hàm số thỏa mãn các điều kiện trên, chúng ta thường dùng các
dạng sau đây (Hình 1.3):
+ Hàm Rump (Rump Function): (Hình 1.3a)
1
𝑛ế𝑢 𝑓 > 1
𝑎 𝑓 = 𝑓 𝑛ế𝑢 0 ≤ 𝑓 ≤ 1
(1.7)
0
𝑛ế𝑢 𝑓 < 0
+ Hàm bước nhảy (Step Function): (hình 1.3b): Không khả vi, dạng bước
nhảy, dương:
1 𝑛ế𝑢 𝑓 ≥ 0
1.8
0 𝑛ế𝑢 𝑓 < 0
+ Hàm giới hạn cứng (Threshold Function): (Hình 1.3c):
Không khả vi, dạng bước nhảy, giá trị trung bình bằng 0. Sgn(.) là hàm
𝑎 𝑓 =
signum.
1
𝑛ế𝑢 𝑓 ≥ 0
1.9
−1
𝑛ế𝑢 𝑓 < 0
+ Hàm sigmoid một cực (Unipolar Sigmoid Function): (Hình 1.3d)
Khả vi, dạng bước nhảy, dương:
1
𝑎 𝑓 =
1.10
1 + 𝑒 −𝜆𝑓
+ Hàm sigmoid hai cực (Bipolar Sigmoid Function): (Hình 1.3e):
Khả vi, dạng bước nhảy, giá trị trung bình bằng 0:
2
𝑎 𝑓 =
−1
1.11
1 + 𝑒 −𝜆𝑓
𝑎 𝑓 = 𝑠𝑔𝑛 𝑓 =
Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên
http://www.Lrc-tnu.edu.vn
- Xem thêm -