Ứng dụng mạng neural trong nhận dạng hệ thống phi tuyến - Nguyễn Hữu Công

T¹p chÝ Khoa häc & C«ng nghÖ - Sè 3(43)/N¨m 2007 50 ỨNG DỤNG MẠNG NEURAL TRONG NHẬN DẠNG HỆ THỐNG PHI TUYẾN Nguyễn Hữu Công (Trường ĐH Kỹ thuật Công nghiệp – ĐH Thái Nguyên) 1. Đặt vấn đề Lí thuyết về nhận dạng và điều khiển các đối tượng phi tuyến đã được nhiều nhà khoa học nghiên cứu, tuy nhiên chỉ giới hạn ở các đối tượng có độ phi tuyến thấp. Nhược điểm của các phương pháp nhận dạng truyền thống là:  Thời gian xử lí chậm.  Không có cấu trúc xử lí song song.  Không có khả năng học và ghi nhớ. Khi đối tượng có tính phi tuyến cao, độ bất định lớn và số chiều lớn thì mạng neural sẽ là một công cụ hữu hiệu. 2. Khả năng dùng mạng neural để xấp xỉ các hàm liên tục Mạng neural và hệ mờ có khả năng xấp xỉ vạn năng nên trong những năm gần đây chúng được sử dụng rộng rãi và có hiệu quả trong các bài toán nhận dạng và điều khiển, đặc biệt là các hệ thống có độ phi tuyến cao. Cơ sở toán học của việc khẳng định rằng mạng neural là công cụ xấp xỉ vạn năng các hàm số liên tục là dựa trên các định lý Stone – Weierstrass và Kolmogorov[1], [2]. Việc sử dụng định lý Stone – Weierstrass để chứng minh khả năng xấp xỉ của mạng noron đã được các tác giả Hornic et al., Funahashi, Cotter, Blum đưa ra từ năm 1989. Các mạng noron thỏa mãn định lý Stone – Weierstrass có thể kể đến là mạng lượng giác, mạng hai lớp với hàm kích hoạt sigmoid, mạng hai lớp với hàm kích hoạt McCulloch – Pitts(MC - P) và mạng với hàm cơ sở xuyên tâm(RBF)[1], [2]. Việc sử dụng định lý Kolmogorov để biểu diễn chính xác hàm liên tục và đưa ra sơ đồ mạng neural tương ứng đã được Hecht - Nielson và Lorents công bố[1], [2]. 3. Ứng dụng mạng neural trong nhận dạng hệ thống phi tuyến 3.1. Phân loại các hệ thống phi tuyến Các hệ thống phi tuyến SISO rời rạc trong thực tế có thể được phân thành 4 mô hình cơ bản như sau: Mô hình I: ( ) ( ) ( ) ( ) ( )[ ])m(ku,...,ku,kugikyky pn i ip 111 1 0 −−−+−α=+ ∑ − = (1) Mô hình II: ( ) ( ) ( ) ( )[ ] ( )∑− = −β+−−−=+ 1 0 111 m i ipppp iku)n(ky,...,ky,kyfky (2) T¹p chÝ Khoa häc & C«ng nghÖ - Sè 3(43)/N¨m 2007 51 Mô hình III: ( ) ( ) ( ) ( )[ ] ( ) ( ) ( )[ ])1(,...,1, )1(,...,1,1 −−−+ −−−=+ mkukukug nkykykyfky pppp (3) Mô hình IV: ( ) ( ) ( ) ( ) ( ) ( ) ( )[ ])1m(ku,....,1ku,ku;)1n(ky,...,1ky,kyf1ky pppp −−−−−−=+ (4) Trong đó: [u(k), yp(k)]: biểu thị cặp đầu vào – ra của hệ SISO ở thời điểm k và m ≤ n. Các hàm: RRf n →: trong mô hình II và III, hàm RR:f mn →+ trong mô hình IV và hàm RR:g m → trong các phương trình (1) đến (4) được giả thiết là các hàm khả vi theo các argument của chúng. Trong cả 4 mô hình trên đầu ra của hệ ở thời điểm k+1 phụ thuộc vào n giá trị trong quá khứ yp(k-i), (i=0,1,...,n-1) cũng như m giá trị trong quá khứ của đầu vào u(k-j), (j=0,1,...,m-1). - Trong mô hình I, sự phụ thuộc của đầu ra vào các giá trị quá khứ yp (k-i) là tuyến tính. - Trong mô hình II, sự phụ thuộc của đầu ra vào các giá trị quá khứ của đầu vào u(k-j) là tuyến tính. - Trong mô hình III, sự phụ thuộc phi tuyến của yp(k+1) vào yp(k-i) và u(k-1) được giả thiết là có thể phân tách. - Trong mô hình IV, yp(k+1) là một hàm phi tuyến yp(k-i) và u(k-j), nó là gộp của các mô hình I-III. Từ nhiều kết quả nghiên cứu đã đưa ra đầy đủ các điều kiện cần thiết cho hàm f và hàm g, đồng thời có thể dùng các mạng neural nhiều lớp để xấp xỉ gần đúng từng bước. Giả thiết rằng các hàm f và g thuộc lớp đã biết trong phạm vi quan tâm thì hệ có thể được mô tả bằng một mạng neural tổng quát. Từ giả thiết này đưa ra sự lựa chọn các mô hình nhận dạng và cho phép giải quyết các bài toán nhận dạng đặt ra. Quá trình nhận dạng của mô hình có thể xem như là sự điều chỉnh các tham số đối với mạng neural. Một hệ động học phi tuyến có thể mô tả bằng một trong 4 mô hình như ở trên. Nếu hệ được nhận dạng sử dụng dữ liệu vào – ra thì nó phải có các đầu ra giới hạn phù hợp với các đầu vào. Điều đó nói nên rằng mô hình được chọn đã mô tả được các tính chất của hệ thống. 3.2. Nhận dạng hệ thống phi tuyến bằng mạng neural Bài toán nhận dạng đối tượng bằng mạng neural được xây dựng trên cơ sở sau: • Lớp mô hình thích hợp của đối tượng được chọn là mô hình mạng neural. • Loại tín hiệu quan sát được là tín hiệu hình sin hoặc ngẫu nhiên. • Phương thức mô tả sai lệch giữa mô hình và đối tượng thực là trung bình bình phương sai lệch (mse), được biểu diễn dưới dạng công thức như sau: min1 1 2 →∑= = N k keN Q (5) T¹p chÝ Khoa häc & C«ng nghÖ - Sè 3(43)/N¨m 2007 52 với N là số mẫu, ek là sai lệch giữa đầu ra của mô hình và đối tượng tương ứng với mẫu thứ k. Q chính là hàm mục tiêu của bài toán huấn luyện mạng neural. Trên cơ sở sai lệch mse của đầu ra, mô hình mạng neural NN sẽ được huấn luyện, sau khi huấn luyện sẽ thu được các tham số là các trọng số và tham số bù (W, b). 3.3. Kết quả nhận dạng Vì nội dung giới hạn của bài báo, chúng ta chỉ xét một ví dụ sau: Giả sử cần nhận dạng một đối tượng phi tuyến có mô hình toán học sau: p p py (k 1) 0,3.y (k) 0,6.y (k 1) f[u(k)]+ = + − + (6) f[u(k)] 0,6.cos( u) 0,3.cos(3 u) 0,1.cos(5 u)= pi + pi + pi (7) Với tín hiệu vào: 2 k u(k) cos( ) 250 pi = (8) Phương trình toán học của mô hình nhận dạng có sử dụng mạng neural: p p py ' (k 1) 0,3.y (k) 0,6.y (k 1) N[u(k)]+ = + − + (9) So sánh hai phương trình yp(k+1) và y’p(k+1) ta thấy rằng cần xây dựng một mạng neural có quan hệ vào ra theo luật của hàm N tương quan với luật của hàm f mạng neural cần xác định cấu trúc, sau đó được luyện với bộ mẫu (u(k),f[u(k)]). Ta sử dụng mạng neural 3 lớp để nhận dạng [3]: Lớp vào có 8 neural, sử dụng hàm purelin Lớp Nn có 8 neural, sử dụng hàm tansig Lớp ra có 1 neural, sử dụng hàm purelin Kết quả nhận được khi mô phỏng trên Matlab như sau: Hình1. Mô hình nhận dạng cơ bản Đối tượng NN P T W,b e T¹p chÝ Khoa häc & C«ng nghÖ - Sè 3(43)/N¨m 2007 53 Hình 2. Các kỉ nguyên luyện mạng Hình3. Kết xuất thực, đích; sai số giữa mô hình và đối tượng 0 1000 2000 3000 4000 5000 6000 7000 8000 9000 10000 10-16 10-14 10-12 10-10 10-8 10-6 10-4 10-2 100 10000 Epochs Tr ai ni ng - Bl ue G oa l-B la ck Performance is 4.7323e-011, Goal is 1e-015 -1 -0.5 0 0.5 1 -1 -0.5 0 0.5 1 Ket xuat thuc -1 -0.5 0 0.5 1 -1 -0.5 0 0.5 1 Ket xuat dich -1 -0.8 -0.6 -0.4 -0.2 0 0.2 0.4 0.6 0.8 1 -2 -1 0 1 2 x 10-5 Sai so giua mo hinh mau va doi tuong T¹p chÝ Khoa häc & C«ng nghÖ - Sè 3(43)/N¨m 2007 54 4. Kết luận Từ cấu trúc mạng neural ta thấy, mạng neural chính là một hệ thống phi tuyến. Vấn đề còn lại là ta phải biết chọn cấu trúc mạng, phương pháp huấn luyện mạng hợp lý. Có thể ứng dụng mạng neural để nhận dạng mô hình đối tượng phi tuyến bất kỳ. Kết quả nhận được là một mô hình đối tượng dưới dạng mạng neural, trong đó sai lệch giữa mô hình neural với đối tượng nằm trong sai số cho phép, chấp nhận được
TÓM TẮT Bài báo trình bày về khả năng sử dụng mạng neural trong việc xấp xỉ các hàm phi tuyến. Việc xấp xỉ này được ứng dụng để nhận dạng các đối tượng điều khiển phi tuyến trong công nghiệp và mở ra khả năng áp dụng vào thực tế. Mọi sự quan tâm xin liên hệ: TS. Nguyễn Hữu Công; Khoa Điện tử, trường Đại học Kĩ thuật Công nghiệp - Đại học Thái Nguyên. ĐT: 0913589758. Email: huucongdk55@yahoo.com Summary APPLYING NEURAL NETWORKS IN MODEL IDENTIFICATION OF NONLINEAR DYNAMICAL OBJECTS This paper demonstrates the ability of using neural network in approximation nonlinear functions. Approximation is used to identify nonlinear controled objects in industry and apply into reality. Further information, please contact Dr. Nguyen Huu Cong, Electronics Engineering Faculty, Thainguyen University of Technology. Tel: 0913589758. Email: huucongdk55@yahoo.com TÀI LIỆU THAM KHẢO [1]. Kumpati S. Narendra fellow, IEEE, and Kannan parthasarathy. Identification and control of Dynamical Systems Using Neural Networks. [2]. S. Reynold Chu, Rahmat Shoureshi, and Manoel Tenorio. Neural Network for System Identification. [3]. Bernadette Curley B.E. 2002. System Identification using Neural Network, Optimised with Genetic Algorithms.