Tài liệu ứng dụng mạng neural trong nhận dạng kí tự

TRƢỜNG ĐẠI HỌC DÂN LẬP HẢI PHÒNG NGÀNH CÔNG NGHỆ THÔNG TIN BÁO CÁO TỐT NGHIỆP Đề tài: ỨNG DỤNG MẠNG NEURAL TRONG NHẬN DẠNG KÍ TỰ Giáo viên hƣớng dẫn : Sinh viên thực hiện : Mã sv : Lớp : Th.s Ngô Trƣờng Giang Bùi Quang Chiến 10324 CT702 Hải Phòng, 8/2007 1 NỘI DUNG BÁO CÁO Giới thiệu đề tài. Chƣơng I: Tìm hiểu tổng quan về mạng neural. Chƣơng II: Ứng dụng mạng neural nhận dạng kí tự. Chƣơng III: Cài đặt chƣơng trình thử nghiệm Kết luận và hƣớng phát triển của đề tài. 2 GIỚI THIỆU CHUNG Từ những ƣu điểm của bộ óc con ngƣời khả năng học tập, nhận dạng và phân loại… Tìm cách bắt chƣớc để thực hiện những máy tính có khả năng hoạt động nhƣ bộ óc con ngƣời.  Các mạng neural nhân tạo đã ra đời từ những nỗ lực đó. Với mục đích là xây dựng các máy thông minh tiến gần tới trí tuệ con ngƣời. 3 KHÁI NIỆM NEURAL NHÂN TẠO Khái niệm neural: Là một đơn vị tính toán có nhiều đầu vào và một đầu ra, mỗi đầu vào đến từ một thành phần liên kết. Các thành phần của neural nhân tạo: 1.Thành phần liên kết. 2.Bộ cộng. Hình1: Mô hình một neural nhân tạo 3.Hàm kích hoạt. 4 KHÁI NIỆM MẠNG NEURAL NHÂN TẠO Khái niệm: Là một hệ thống bao gồm nhiều phần tử xử lý đơn giản tựa nhƣ neural thần kinh của não ngƣời. Mô hình mạng neural : Lớp nhập (input), Lớp ẩn (Hidden-nếu có) Hình 2: Mô hình mạng neural nhân tạo Lớp xuất (output). 5 PHÂN LOẠI MẠNG NEURAL Ta có mạng neural truyền thẳng và neural mạng qui hồi. Lớp xuất Lớp ẩn Lớp nhập Hình 3a: Mạng mạng truyền thẳng đa mức Hình 3b: Mạng qui hồi có các neural ẩn 6 HUẤN LUYỆN MẠNG NEURAL Phương pháp học: Mạng neural nhân tạo phỏng theo việc xử lý thông tin của bộ não ngƣời, do vậy đặc trƣng cơ bản của mạng là có khả năng học, tái tạo các hình ảnh và dữ liệu khi đã học. Có 3 kiểu học chính:  Học có giám sát.  Học không giám sát.  Học tăng cƣờng 7 HUẤN LUYỆN MẠNG NEURAL NHIỀU LỚP Thuật toán „Lan truyền ngƣợc‟ gồm hai quá trình: Quá trình truyền tuyến tính: Dữ liệu từ lớp nhập qua lớp ẩn và đến lớp xuất:  Thay đổi giá trị của trọng số liên kết W.  Tính toán lỗi. Quá trình truyền ngƣợc: Giá trị lỗi sẽ đƣợc truyền ngƣợc lại sao cho quá trình huyến luyện sẽ tìm ra trọng số Wi để lỗi nhỏ nhất. 8 THUẬT TOÁN LAN TRUYỀN NGƢỢC Bƣớc 1: Khởi tạo trọng số W ngẫu nhiên nhỏ. Bƣớc 2 : Chọn giá trị đầu vào X và đính nó vào lớp đầu vào . Bƣớc 3 : Truyền sự kích hoạt qua trọng số đến khi kích hoạt các nơron đầu ra. Bƣớc 4: Tính đạo hàm riêng “δE” theo trọng số cho lớp xuất. Bƣớc 5: Tính đạo hàm riêng “δE” theo trọng số cho lớp ẩn. 9 THUẬT TOÁN LAN TRUYỀN NGƢỢC Bƣớc 6: Cập nhật tất cả trọng số theo Bƣớc 7: Quay lai “Bƣớc 2” cho đến “Bƣớc 6” cho tất cả các mẫu. 10 ỨNG DỤNG MẠNG NEURAL NHẬN DẠNG KÍ TỰ Ý tƣởng bài toán :  Phân tích ảnh cho kí tự: Chia ảnh theo dòng và tách ký tự theo từng vùng giới hạn  Chuyển đổi kí tự sang ma trận điểm ảnh.  Chuyển thành ma trận tuyến tính và đƣa vào mạng neural.  Đƣa và mạng neural tính giá trị đầu ra.  Hiển thị kí tự của mã Unicode thu đƣợc. 11 SƠ ĐỒ MẠNG NEURAL 0 hoặc 1 Điểm ảnh Điểm ảnh 0 hoặc 1 Điểm ảnh 0 hoặc 1 0 hoặc 1 Điểm ảnh 150 neural Lớp nhập 500 neural Lớp ẩn 16 neural Lớp xuất 12 QUÁ TRÌNH TÁCH DÒNG Giới hạn trên Giới hạn dƣới (0,0) x Quá trình tách dòng y Quá trình tách dòng 13 QUÁ TRÌNH TÁCH KÍ TỰ x (0,0) Quá trình tách kí tự Gới hạn trái kí tự Gới hạn phải kí tự y Quá trình tách ký tự 14 TÌM GIỚI HẠN KÍ TỰ Gới hạn trên kí tự Gới hạn trên dòng O1 X1 Y1 Quá trình tìm giới hạn Y2 X2 O2 Gới hạn dƣới dòng Gới hạn dƣới kí tự Quá trình tìm giới hạn kí tự 15 CHIA LƢỚI KÍ TỰ (0,0) 0 15 (10,15) Quá trình chia lƣới 0 10 Giá trị đƣợc xét 16 ÁNH XẠ VÀO MA TRẬN (0,0) 0 1 Quá trình chuyển từ ma trận điểm sang ma trận giá trị 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 1 1 1 1 1 1 0 0 0 0 0 1 1 1 11 1 1 1 1 0 0 0 0 0 1 1 11 1 1 11 1 1 0 0 0 0 1 1 1 1 1 1 0 0 0 1 1 0 0 0 0 1 1 1 1 1 1 0 0 0 1 1 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 0 11 11 11 11 1 1 1 0 0 0 0 0 0 0 0 0 0 0 11 1 1 01 1 1 (10,15) Quá trình ánh xạ vào ma trận 17 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 BẮT ĐẦU kí hiệu: Đ : Đúng S : Sai Xây dựng mạng Tính đầu ra Khởi tạo trọng số Tính lỗi Nạp file huấn luyện Cập nhật trọng số Phân tích ảnh Vector tiếp theo S Hết kí tự ? kí tự tiếp theo Đ Tính trung bình lỗi Hết ảnh kí tự? Đ S Đọc đầu ra mong muốn S Đ Hết kí tự? Đ Lỗi kí tự Sơ đồ nhận dạng kí tự kí tự tiếp theo Dòng tiếp theo S Hết kí tự trên dòng? S Hết các dòng? Đ Đ KẾT THÚC 19 MÔI TRƢỜNG THỰC NGHIỆM Chƣơng trình thực nghiệm chạy trên: Phần cứng : Một máy tính pentum IV. Card đồ họa 256 MB . Ram 512 MB. Phần mền : Ngôn ngữ sử dụng: C# trong bộ visual studio 2005 Tập dữ liệu đầu vào: là một số ảnh của font Arial và Tahoma với các kích thƣớc 8,10,12,14,18,20. 20