Luận án Phát triển các cấu trúc, thuật học của mạng nơron tự tổ chức

MỤC LỤC

Lời cam đoan .1

Lời cảm ơn.2

MỤC LỤC .3

Danh mục các từ viết tắt.7

Danh mục các ký hiệu toán học.9

Danh mục các bảng.11

Danh mục các hình vẽ, đồ thị .12

Danh mục các định nghĩa, định lý, bổ đề .13

Danh mục các thuật toán .13

MỞ ĐẦU .14

CHƯƠNG 1.19

TỔNG QUAN VỀ CÁC MÔ HÌNH MẠNG NƠRON TỰ TỔ CHỨC.19

1.1. Tổng quan về mạng nơron nhân tạo .19

1.1.1. Khái niệm mạng nơron nhân tạo.19

1.1.2. Các kiến trúc căn bản của mạng nơron nhân tạo .20

1.1.3. Các phương pháp học.21

1.1.4. Lịch sử và xu hướng phát triển mạng nơron nhân tạo .23

1.2. Mạng nơron tự tổ chức.25

1.2.1. Cấu trúc mạng nơron tự tổ chức.25

1.2.2. Thuật toán học của mạng nơron tự tổ chức.26

1.2.3. Đánh giá chất lượng bản đồ đặc trưng của mạng nơron tự tổ chức.29

1.3. Hạn chế của mạng nơron tự tổ chức và các biện pháp khắc phục.32

1.4. Kết quả nghiên cứu trong và ngoài nước về cải tiến cấu trúc, phương pháp học

của mạng nơron tự tổ chức .35

1.4.1. Kết quả nghiên cứu trong nước.35

1.4.2. Kết quả nghiên cứu ngoài nước .35

1.5. Đặc điểm chung của các phương thức cải tiến mạng nơron tự tổ chức.41

1.6. Kết luận chương 1.43

CHƯƠNG 2.444

HAI PHƯƠNG THỨC CẢI THIỆN CHẤT LƯỢNG BẢN ĐỒ ĐẶC TRƯNG CỦA

MẠNG NƠRON TỰ TỔ CHỨC .44

2.1. Tổng quan về cải thiện chất lượng bản đồ đặc trưng của mạng nơron tự tổ chức.44

2.2. Điều chỉnh hàm lân cận để cải thiện chất lượng bản đồ đặc trưng.46

2.2.1. Một số dạng hàm lân cận của mạng nơron tự tổ chức .46

2.2.2. Điều chỉnh tham số của hàm lân cận đối xứng dạng mũ .47

2.3. Thuật toán điều chỉnh trọng số nơron để giảm lỗi lượng tử .51

2.3.1. Đặt vấn đề .51

2.3.2. Thuật toán điều chỉnh trọng số nơron .57

2.4. Các tập dữ liệu sử dụng cho thực nghiệm.60

2.5. Thực nghiệm hàm lân cận mũ với tham số điều chỉnh.62

2.5.1. Mục tiêu thực nghiệm .62

2.5.2. Phương pháp thực nghiệm .62

2.5.3. Các tham số khởi tạo mạng.62

2.5.4. Kết quả thực nghiệm .63

2.5.5. So sánh hàm lân cận điều chỉnh với một số dạng hàm lân cận khác .72

2.6. Thực nghiệm thuật toán Batch-IMQS .73

2.6.1. Mục tiêu thực nghiệm .73

2.6.2. Phương pháp thực nghiệm .73

2.6.3. Các tham số khởi tạo mạng.73

2.6.4. Kết quả thực nghiệm .73

2.7. Kết luận chương 2.75

CHƯƠNG 3.76

MỘT MẠNG NƠRON TỰ TỔ CHỨC CÓ CẤU TRÚC PHÂN TẦNG TĂNG

TRƯỞNG VÀ THUẬT TOÁN HỌC BÁN GIÁM SÁT CHO BÀI TOÁN PHÂN LỚPDỮ LIỆU .76

3.1. Tổng quan về các mạng nơron tự tổ chức cải tiến học giám sát, bán giám sát cho

phân lớp dữ liệu .76

3.2. Phát biểu bài toán phân lớp dữ liệu .79

3.3. Một cấu trúc phân tầng tăng trưởng và thuật toán học bán giám sát của mạng

nơron tự tổ chức cho bài toán phân lớp dữ liệu .79

3.3.1. Các cấu trúc nền tảng để xây dựng mạng nơron tự tổ chức phân tầng tăng

trưởng học bán giám sát cho phân lớp dữ liệu.805

3.3.2. Cấu trúc mạng nơron tự tổ chức phân tầng tăng trưởng học bán giám sát cho

phân lớp dữ liệu.83

3.3.3. Thuật toán huấn luyện và kiểm thử của mạng nơron tự tổ chức phân tầng

tăng trưởng học bán giám sát cho phân lớp dữ liệu .87

3.4. Thực nghiệm mạng nơron tự tổ chức phân tầng tăng trưởng học bán giám sát

cho phân lớp dữ liệu.92

3.4.1. Mục tiêu thực nghiệm .92

3.4.2. Phương pháp thực nghiệm .92

3.4.3. Các tham số khởi tạo mạng.93

3.4.4. Kết quả thực nghiệm .93

3.4.5. So sánh mô hình đề xuất với một số phương thức khác .96

3.5. Kết luận chương 3.101

CHƯƠNG 4.102

MỞ RỘNG CẤU TRÚC, THUẬT TOÁN HỌC CỦA MẠNG NƠRON TỰ TỔ

CHỨC CHO BÀI TOÁN PHÂN CỤM DỮ LIỆU .102

4.1. Tổng quan về sử dụng mạng nơron tự tổ chức cho phân cụm dữ liệu .102

4.2. Phát biểu bài toán phân cụm dữ liệu.105

4.3. Cải tiến thuật toán học mạng nơron tự tổ chức cho phân cụm dữ liệu.106

4.3.1. Ý tưởng của thuật toán cải tiến .106

4.3.2. Thuật toán học cải tiến của mạng nơron tự tổ chức cho phân cụm dữ liệu.109

4.4. Mở rộng cấu trúc mạng nơron tự tổ chức cho phân cụm dữ liệu .111

4.4.1. Cấu trúc mạng nơron tự tổ chức mở rộng hai lớp.112

4.4.2. Thuật toán huấn luyện mạng nơron tự tổ chức mở rộng hai lớp .112

4.5. Thực nghiệm thuật toán học cải tiến và mạng tự tổ chức mở rộng hai lớp .116

4.5.1. Mục tiêu thực nghiệm .116

4.5.2. Phương pháp thực nghiệm .117

4.5.3. Các tham số khởi tạo mạng.117

4.5.4. Kết quả thực nghiệm .117

4.5.5. So sánh các phương thức đề xuất với một số phương thức khác.118

4.6. Kết luận chương 4.121

KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN CỦA ĐỀ TÀI LUẬN ÁN .123

CÁC CÔNG TRÌNH KHOA HỌC CỦA NGHIÊN CỨU SINH .125

TÀI LIỆU THAM KHẢO .1266

PHỤ LỤC .134

Phụ lục 1: Một số độ đo theo cặp đánh giá chất lượng gom cụm.134

Phụ lục 2: Độ chính xác phân loại (Accuracy) .136