Tài liệu Nghiên cứu ứng dụng công nghệ mạng nơron tế bào vào bài toán phân đoạn ảnh

ĐẠI HỌC THÁI NGUYÊN TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG .. LÊ THỊ NGỌC TÚ NGHIÊN CỨU ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO BÀI TOÁN PHÂN ĐOẠN ẢNH LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Thái Nguyên năm 2015 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn ĐẠI HỌC THÁI NGUYÊN TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG LÊ THỊ NGỌC TÚ NGHIÊN CỨU ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO BÀI TOÁN PHÂN ĐOẠN ẢNH Chuyên ngành: Khoa học máy tính Mã số: 60 48 01 01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH NGƢỜI HƢỚNG DẪN KHOA HỌC TS. VŨ ĐỨC THÁI Thái Nguyên năm 2015 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn LỜI CAM ĐOAN Tôi xin cam đoan luận văn này do tôi thực thiện, có sự hướng dẫn tận tình và chu đáo của người hướng dẫn là TS. Vũ Đức Thái. Những số liệu trong các bảng biểu, hình ảnh phục vụ cho việc phân tích, nhận xét, đánh giá được thu thập từ các nguồn khác nhau có ghi trong phần tài liệu tham khảo, trong phạm vi hiểu biết của tôi. Nếu phát hiện có bất kỳ sự gian lận nào tôi xin hoàn toàn chịu trách nhiệm trước Hội đồng, cũng như kết quả luận văn của mình. Thái Nguyên, ngày 13 tháng 4 năm 2015 Học viên Lê Thị Ngọc Tú Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn LỜI CẢM ƠN Để hoàn thành được luận văn này em xin chân thành xảm ơn thầy giáo TS.Vũ Đức Thái đã hướng dẫn tận tình và tạo mọi điều kiện cho em hoàn thành luận văn. Em xin chân thành cảm ơn ban lãnh đạo các thầy giáo, cô giáo, các cán bộ nhân viên Trường Đại học Công nghệ thông tin và Truyền thông – ĐH Thái Nguyên đã giúp đỡ, tạo điều kiện cho em hoàn thành bản luận văn này. Cuối cùng, em xin chân thành cảm ơn sự quan tâm giúp đỡ của gia đình, bạn bè và tập thể lớp Cao học K12G đã cổ vũ động viên em hoàn thành tốt luận văn của mình. Thái nguyên, ngày 13 tháng 4 năm 2015 Học viên Lê Thị Ngọc Tú Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn DANH MỤC CÁC CHỮ VIẾT TẮT - CNN (Cellular Neural Network): Công nghệ mạng nơron tế bào. - CPU (Central Processing Unit): Bộ xử lí trung tâm. - A(Digital)/A(Analog):Tín hiệu số/Tín hiệu tương tự - IC (Integrated Circuit): Các vi mạch tích hợp - CNN-UM (CNN-Universal Machine): Máy tính mạng nơron tế bào. - PDE (Partial differential Equation): Phương trình vi phân đạo hàm riêng (trong luận văn dùng thuật ngữ tiếng Việt là “phương trình đạo hàm riêng”). - FPGA (Field Programmable Gate Array): Mảng cổng dạng trường lập trình - ADC (Analog Digital Converter): Bộ chuyển đổi tín hiệu tương tự thành tín hiệu số. - GAPU (Global Analogic Program Unit): khối lập trình toàn cục Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn DANH MỤC HÌNH VẼ Hình 1.1. Một số kiểu mạng CNN .................................................................... 5 Hình 1.2. Kiến trúc mạng nơron tế bào chuẩn .................................................. 5 Hình 1.3. Mô tả kiến trúc của CNN .................................................................. 9 Hình 1. 4. Cấu trúc máy tính CNN-UM.......................................................... 10 Hình 1.5. Mô tả khái quát các bước lập trình ở các ngôn ngữ khác nhau ...... 12 Hình 1.6. Sáu kiểu hệ số của mẫu A (3x3) cho phép CNN ổn định ............... 14 Hình 1.7. Các bước cơ bản trong một hệ thống xử lý ảnh .............................. 16 Hình 1.8 : Các thành phần chính của hệ thống xử lý ảnh .............................. 18 Hình 1.9. Giao diện Candy .............................................................................. 23 Hình 1.10. Nạp ảnh trong Candy .................................................................... 24 Hình 1.11.Ảnh ban đầu ................................................................................... 24 Hình 1.12. Ảnh sau khi chạy Template EdgeDetect ....................................... 24 Hình 2.1. Tách cây tứ phân ............................................................................. 35 Hình 2.2. Hệ động lực của một tế bào CNN ................................................... 44 Hình 2.3. Mẫu tìm vùng và hiệu quả của mẫu ................................................ 45 Hình 2.4. Mẫu tìm đường xiên và hiệu quả của mẫu ...................................... 46 Hình 2.5. Sơ đồ các bước thiết kế mẫu theo phương pháp trực tiếp............... 48 Hình 2.6. Quy trình tìm mẫu bằng phương pháp học ..................................... 49 Hình 2.7. Sơ đồ cơ bản của thuật toán ............................................................ 50 Hình 3.1: mặt nạ xác định điểm ...................................................................... 52 Hình 3.2: Mặt nạ phát hiện dòng..................................................................... 53 Hình 3.3. Minh họa việc phát hiện dòng ......................................................... 54 Hình 3.4. Biểu đồ mức xám của đường ngang ............................................... 55 Hình 3.5. Biểu đồ mức xám của đường nghiêng thông qua ảnh..................... 56 Hình 3.6. Mặt nạ phát hiện cạnh và 8 hướng cạnh ......................................... 58 Hình 3.7. Ví dụ về tăng trưởng miền ảnh ....................................................... 59 Hình 3.8. Lược đồ mức xám ........................................................................... 61 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn Hình 3. 9. Tách cây tứ phân ............................................................................ 61 Hình 3.10 Thử nghiệm mẫu phân đoạn ảnh .................................................. 65 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn MỤC LỤC Chương I: CÁC LÝ THUYẾT BỔ TRỢ .......................................................... 3 1.1. Mạng nơron tế bào ..................................................................................... 3 1.1.1. Kiến trúc mạng nơron tế bào CNN ......................................................... 3 1.1.1.1. Giới thiệu chung về mạng nơron tế bào ............................................... 3 1.1.1.2.Kiến trúc mạng Nơron tế bào ................................................................ 4 1.1.1.3.Kiến trúc của máy tính mạng Nơron tế bào ........................................ 10 1.1.1.4. Một số vấn đề cơ bản của CNN ......................................................... 13 1.2. Xử lý ảnh .................................................................................................. 15 1.2.1. Giới thiệu chung về xử lý ảnh ............................................................... 15 1.3. Ngôn ngữ Matlab ..................................................................................... 18 1.3.1. Giới thiệu chung về Matlab.................................................................. 18 1.3.2. Ngôn ngữ lập trình Matlab và ứng dụng trong mô phỏng .................... 19 1.3.3. Các công cụ để cài đặt mô phỏng tính toán .......................................... 20 1.3.3.1. Đọc và ghi dữ liệu ảnh ....................................................................... 20 1.3.3.2. Lớp lưu trữ của file matlab ................................................................ 21 1.3.3.3. Truy vấn một file đồ hoạ .................................................................... 21 1.3.3.4. Hiển thị ảnh ....................................................................................... 22 1.4. Phần mềm mô phỏng CANDY ................................................................ 22 Chương II: BÀI TOÁN PHÂN ĐOẠN ẢNH ................................................. 25 2.1. Giới thiệu chung về phân đoạn ảnh.......................................................... 25 2.2. Các hướng tiếp cận phân đoạn ảnh .......................................................... 27 2.2.1. Các phương pháp dựa trên không gian đặc trưng ................................. 27 2.2.2. Các phương pháp dựa trên không gian ảnh .......................................... 28 2.2.3. Các phương pháp dựa trên mô hình vật lý ............................................ 29 2.3. Một số phương pháp phân đoạn ảnh ........................................................ 29 2.3.1. Phương pháp phân đoạn dựa vào ngưỡng cố định ............................... 29 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 2.3.2. Phương pháp phân đoạn dựa vào miền đồng nhất ................................ 32 2.3.2.1. Giới thiệu chung ................................................................................. 32 2.3.2.2. Phương pháp tách cây tứ phân ........................................................... 33 2.3.2.3. Phương pháp tổng hợp ....................................................................... 35 2.4. Giải pháp phân đoạn ảnh bằng công nghệ CNN ...................................... 37 2.4.1. Xử lý ảnh dùng PDE ............................................................................. 37 2.4.2. Công nghệ xử lý ảnh nhanh trên mạng CNN ........................................ 38 2.4.2.1. Tính ưu việt và ý nghĩa ..................................................................... 39 2.4.2.2. Tình hình nghiên cứu về xử lý ảnh dùng CNN trong nuớc ............... 40 2.4.2.3. Kết quả xử lý ảnh dùng CNN............................................................. 41 2.4.2.4. Hạn chế và giải pháp ứng dụng CNN ................................................ 42 2.4.3. Mẫu và vai trò của mẫu ......................................................................... 43 2.4.3.1. Giới thiệu chung ................................................................................. 43 2.4.3.2. Thư viện mẫu CNN ........................................................................... 45 2.4.3.3. Các phương pháp thiết kế mẫu cho CNN .......................................... 47 2.5. Thuật toán phân đoạn ảnh trên CNN ....................................................... 49 2.6. Kết luận .................................................................................................... 51 Chương III: MÔ PHỎNG THUẬT TOÁN PHÂN ĐOẠN ẢNH ................. 52 3.1. Mô tả bài toán mô phỏng ......................................................................... 52 3.1.1. Phát hiện biên ........................................................................................ 52 3.1.1.1. Phát hiện điểm .................................................................................... 52 3.1.1.2. Phát hiện dòng .................................................................................... 53 3.1.1.3. Phát hiện cạnh .................................................................................... 55 3.1.1.4. Phát hiện biên Candy ......................................................................... 56 3.1.2. Bài toán phân đoạn ảnh ......................................................................... 58 3.1.2.1. Công thức cơ sở ................................................................................. 58 3.1.2.2. Tăng trưởng miền ảnh ........................................................................ 59 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 3.1.2.3. Tách và ghép miền ............................................................................. 61 3.2. Cài đặt mô phỏng ..................................................................................... 62 3.2.1. Ví dụ: Đoạn mã lệnh ............................................................................. 62 3.2.2. Mô phỏng 1: .......................................................................................... 65 3.2.3. Mô phỏng 2 ........................................................................................... 66 3.3.3. Đánh giá kết quả mô phỏng .................................................................. 67 KẾT LUẬN ..................................................................................................... 68 TÀI LIỆU THAM KHẢO ............................................................................... 69 Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 1 MỞ ĐẦU Trong xã hội loài người ngôn ngữ là một phương tiện trao đổi thông tin phổ biến trong quá trình giao tiếp. Bên cạnh đó hình ảnh cũng là một cách trao đổi thông tin mang tính chính xác, biểu cảm khá cao và đặc biệt bị cảm giác chủ quan của đối tượng chi phối. Thông tin trên hình ảnh rất phong phú, đa dạng và có thể xử lý bằng máy tính. Chính vì vậy, trong những năm gần đây sự kết hợp giữa ảnh và đồ họa đã trở nên rất chặt chẽ trong lĩnh vực xử lý thông tin. Cũng như xử lý dữ liệu hình ảnh bằng đồ họa, việc xử lý ảnh số là một lĩnh vực của tin học ứng dụng. Xử lý ảnh số thao tác trên các ảnh tự nhiên thông qua các phương pháp và kỹ thuật mã hóa. Phân đoạn ảnh là bước then chốt trong xử lý ảnh, giai đoạn này nhằm phân tích ảnh thành các phần có cùng tính chất nào đó dựa theo biên hay các vùng liên thông. Mục đích của phân đoạn ảnh là có thể miêu tả tổng hợp từ nhiều phần tử khác nhau cấu tạo nên ảnh thô. Vì lượng thông tin chứa trong ảnh rất lớn, trong khi đó đa số các ứng dụng chỉ cần trích chọn một vài đặc trưng nào đó, do vậy cần có một quá trình để giảm lượng thông tin khổng lồ ấy. Quá trình này bao gồm phân vùng ảnh và trích chọn đặc tính chủ yếu. Tuy nhiên các phương pháp xử lý ảnh truyền thống lại đòi hỏi nhiều thời gian xử lý nhất là với những ảnh có kích thước lớn. Để đáp ứng yêu cầu đó người ta đã và đang tìm kiếm nhiều phương pháp xử lý ảnh song song khác nhau nhằm giảm thời gian xử lý. Mạng nơron tế bào CNN là một trong những công cụ xử lý ảnh thời gian thực sự hữu hiệu và đang được quan tâm nghiên cứu rộng rãi trên thế giới do có nhiều ưu điểm trong đó có bản chất xử lý song song. Ảnh số là một mảng số thực hai chiều kích thước MxN trong đó mỗi phần tử ảnh là một tế bào C(i,j), i = 1, 2,..., M, j = 1, 2,..., N, biểu thị mức xám của ảnh tại các vị trí (i,j) tương ứng. Ảnh được coi là ảnh nhị phân nếu C(i,j) Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 2 chỉ nhận giá trị 0 hoặc 1. Các đặc trưng của ảnh thường bao gồm các thành phần như: mật độ xám, phân bố xác suất, phân bố không gian, biên ảnh. Được sự gợi ý của giáo viên hướng dẫn và nhận thấy tính thiết thực của vấn đề này, tôi đã chọn đề tài: “Nghiên cứu ứng dụng công nghệ mạng Nơron tế bào vào bài toán phân đoạn ảnh” để làm đề tài cho luận văn tốt nghiệp của mình Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 3 Chƣơng I CÁC LÝ THUYẾT BỔ TRỢ 1.1. Mạng nơron tế bào 1.1.1. Kiến trúc mạng nơron tế bào CNN 1.1.1.1. Giới thiệu chung về mạng nơron tế bào Công nghệ mạng nơron tế bào CNN (Cellular Neural Networks) đã được các nhà khoa học Mỹ và Hungary phát minh ra vào năm 1988 có tốc độ xử lý 1012 phép tính/giây và được áp dụng cho các hệ thống xử lý ảnh nhanh 10 - 50000 ảnh/giây. Đây là bước đột phá về chất do cấu trúc của máy tính xử lý CNN là song song với hàng trục ngàn CPU được kết nối thành mạng trong một chip. Công nghệ này cho phép giải quyết nhiều bài toán xử lý phức tạp trong thời gian thực hiện mà các máy tính thông thường chưa làm được.[2] Sự ra đời của mạng nơron tế bào CNN đã mở ra một thời đại mới cho sự phát triển của khoa học tính toán tiếp cận đến các phương thức xử lý. Ta biết rằng các máy tính số hiện nay về cơ bản là loại máy logic với các dữ liệu rời rạc được mã hóa theo hệ nhị phân. Tính chất cơ bản của nó là khả năng thực hiện thuật toán theo chương trình được lưu trong bộ nhớ. Ðây là loại máy tính vạn năng xử lý trên các số nguyên hay còn gọi là máy Turing. Các phép tính cơ bản của nó là các phép số học và logic. Thuật toán là các chuỗi logic của các phép tính cơ bản này. Sự ra đời của bóng bán dẫn năm 1948 và của các vi mạch tích hợp IC năm 1960 đã tạo ra các máy tính số có tính thực tiễn cao với giá thành rẻ và hiện nay đã trở thành một loại hàng hóa thông dụng. Sự hoàn thiện chíp CNN đặc trưng bởi kích thước và chức năng một vài loại có mẫu cố định là 256 tế bào, một số loại khác có kích thước giới hạn là 30 tế bào. Hiện nay có loại chíp có thể lập trình có kích thước 1024 tế bào. Khả năng lập trình được và tốc độ cao làm cho CNN phù hợp tốt hơn với các xử lý phi tuyến, nó cho phép nhận được và xử lý tín hiệu phi tuyến. Tuy vậy Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 4 những ưu thế thực sự của CNN là nó tương đương với chíp có mật độ tích hợp lớn tiêu thụ nhiều năng lượng. Một ứng dụng quan trọng của mạng nơron tế bào là xử lý ảnh. Chức năng cơ bản của mạng nơron tế bào trong quá trình xử lý ảnh là ánh xạ hoặc chuyển hình ảnh đầu vào tương ứng với hình ảnh đầu ra.[3]. Ngoài ứng dụng xử lý ảnh tốc độ cao ra công nghệ CNN còn được dùng để tối ưu hoá hệ thống truyền dữ liệu băng thông rộng, giải phương trình vi phân đạo hàm hàm riêng PDE. Ngược lại, với cấu trúc xử lý song song hoàn toàn, liên tục theo luồng theo thời gian, với việc cho phép triển khai nhiều mô hình toán học trong cả trường số thực và số phức người ta có thể xây dựng các mô hình CNN một lớp hoặc nhiều lớp trên phần cứng. 1.1.1.2.Kiến trúc mạng Nơron tế bào - Có hai định nghĩa tổng quát của một CNN như sau: + Ðịnh nghĩa 1: Một mạng nơron tế bào CNN là một mảng 2, 3 hoặc n chiều của các hệ thống động lực học được gọi là các tế bào, hầu hết các hệ này là đồng nhất và thoả mãn hai thuộc tính:  Ảnh hưởng phổ biến là cục bộ trong phạm vi bán kính r.  Tất cả các biến trạng thái là giá trị tín hiệu liên tục. + Ðịnh nghĩa 2: Một mạng nơron tế bào CNN là một mạch điện phi tuyến động lực học bậc cao được tạo nên bởi ghép nối liên kết cục bộ theo không gian các khối mạch điện giống nhau - mỗi khối mạch điện được gọi là một tế bào. Mạng được tạo thành có thể có kiến trúc bất kỳ như dạng lưới hình chữ nhật, 6 cạnh, 3 cạnh, hình cầu,... Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 5 Hình 1.1. Một số kiểu mạng CNN - Công nghệ CNN gồm tập các chíp (tế bào) có liên kết cục bộ với nhau tạo thành lưới với nhiều hình trạng khác nhau. Để đơn giản, ta xét kiến trúc chuẩn của CNN là một mảng hình chữ nhật kích thước MxN tế bào, mỗi tế bào ký hiệu là C(i,j), ứng với tọa độ (i,j) trong không gian Đề - Các hai chiều. Chỉ số i, j thỏa mãn điều kiện i=1...M; j=1...N . Hình 1.2. Kiến trúc mạng nơron tế bào chuẩn Trong đó, mỗi ô vuông biểu diễn cho một tế bào C(i,j) có liên kết trực tiếp về tín hiệu điện với các tế bào láng giềng. [1]. - CNN là mạch điện phi tuyến động có kích thước lớn, được tạo bởi cặp các tế bào liên kết với nhau, phân bố đều không gian. Mạch này có cấu trúc hình chữ nhật, lục giác đều, hình cầu,... với những đặc trưng: + Luật tiếp hợp trong CNN biểu diễn sự tương tác từng cặp của tế bào C(i,j) với các tế bào láng giềng C(k,1) của nó. + Mỗi tế bào có điều kiện biên và điều kiện ban đầu. Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 6 - Hệ CNN là ma trận n chiều của những phần tử động giống hệt nhau, mỗi phần tử là một mạch tích hợp gọi là tế bào, mỗi tế bào có hai thuộc tính: + Chỉ tương tác với các tế bào lân cận trong phạm vi bán kính là r (r là số nguyên dương) + Giá trị trạng thái của tế bào là những tín hiệu có giá trị liên tục. - Các phương trình quan trong mô tả cho hệ CNN là: + Phương trình trạng thái: xij   xij   C ( k ,l )Sr ( i , j ) A(i, j; k , l ) ykl   C ( k ,l )Sr ( i , j ) B(i, j; k , l )u kl  zij (1.1) xij  R, yij  R và zij  R được gọi là trạng thái: đầu ra, đầu vào, ngưỡng của tế bào C(i,j), A(i, j; k, l) và B(i, j; k, l) được gọi là toán tử phản hồi và toán tử dẫn nhập đầu vào. + Phương trình đầu vào Vuij=Eij với 1 ≤ i ≤ M; 1≤ j ≤ N (1.2) Giá trị Vuij tương ứng với giá trị ban đầu của phương trình vi phân khi áp dụng CNN để giải phương trình vi phân hoặc ảnh đầu vào đối với bài toán xử lý ảnh. + Phương trình đầu ra yij  f ( xij )  1 1 xij  1  xij  1 2 2 (1.3) + Phương trình mô tả các ràng buộc │vxij(O) │≤ 1 │vxij │≤ 1 với 1≤ i≤ M; 1 ≤ j≤ N với 1≤ i≤ M; 1 ≤ j≤ N (1.4) (1.5) + Phương trình tham số giả định A(i,j;k,l) = A(k,l;i,j) với 1≤ i≤ M; 1 ≤ j≤ N (1.6) + Điều kiện biên xác định và là các tế bào thuộc hiệu ứng cầu của các tế bào cạnh nhưng nằm ngoài mảng kích thước MxN Số hóa bởi Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 7 - Đối với ứng dụng CNN trong xử lý ảnh, đầu vào thường là cường độ điểm ảnh, thang độ xám kích thước MxN, -1 - Xem thêm -