40. SBAI - Simpósio Brasileiro de Automação Inteligente, São Paulo, SP, 08-10 de Setembro de 1999

DISENO DE UN CONTROLADOR NEURO-BORROSO CON UN ALGORITMO DEAPRENDIZAJE ACELERADO PARARETROPROPAGACION

MiguelStrefezza BiancoUniversidad Simón Bolívar .Departamento de Procesos y Sistemas

Tf: (02) 906-3327 1906-33-04. Fax (02) 906-33-03e-mail: strefeza@usb.ve

Resumen: EI objetivo de este artículo es presentar el disefiode un controlador neuro-borroso en el cuallas redes neuronalesson entrenadas para el aprendizaje de las premisas (SI) y de lasconcecuencias (ENTONCES) de las reglas borrosas..Paraentrenar las redes neuronales se utiliza el método deretropropagación (backpropagatíon), con un algoritmo deaprendizaje que mejora y reduce en un porcentaje significativoel número de presentaciones de datos a las redes para suentrenanrniento. Finalmente los bloques entrenados sonagrupados para conformar el controlador propuesto y serealizan siniulaciones para el control de un motor DCpresentandose resultados satisfactorios.

Palabras Claves: Redes neuronales, lógica borrosa,backpropagation , aprendizaje, motor De.

Abstracte This paper presents lhe design of neuro-fuzzycontroller where the networks are traincd to learn the prernises(IF) and consequences (THEN) of the fuzzy rules. To train theneural networks is used the backpropagation method with analgorithm that increase the performance and reduce the numberof iterations of the data to the nct. Finally the trained networksare put together to implement the controller, then simulationsare done with a DC motor, showing good results.

Keywords: Neural networks, fuzzy logic, backpropagation,learning, DC motor.

1 INTRODUCCIÓNLa aplicación de tecnicas de inteligencia artificial aI control desistemas se ha incrementado en los últimos afios ya que éstashan demostrado ser capaces de producir buenos resultados alser utilizadas . Tanto la lógica borrosa como redes neuronalesforman parte de las técnicas de inteligencia artificial.

La lógica borrosa fue presentada por Zadeh en 1965 con lapublicación de "Fuzzy Sets" y sus aplicaciones aparecieron enla literatura desde que Mamdani publicó su experienciautilizando esta técnica de control en una planta en laboratorio.Así también la ventaja de esta técnica ha sido descritaDriankov et ai (1993) Kosko (1997) Lee (1990, Par 1 y Par 11)Sugeno (1985), siendo una de sus más relevantes, iaposibilidad de convcrtir una estrategia lingüística de controlbasada en los conocimientos de los expertos o en la cxperiencia

371

Yasuhiko DoteMuroran Institute ofTechnologyDivision ofProduction and .

Information System EngineeringTf: (81143) 44-4181

e-mail: dote@csse.muroran-it.ac.jp

en una estrategia de control automática. Además que en generalla implementación de los controladores basados en lógicabarrosa son sencillos de implementar y de bajo casto.

Por otro lado las redes neuronales poseen muchascaracterísticas deseadas, al igual que las redes neuronalesbilógicas, pueden realizar procesamiento paralelo, aceptarentradas procedentes de diferentes sensores, además de poderaprender funciones no lineales. Además es importantemencionar que la información que posecn las redes neuronalesno radica en las neuronas sino en la intensidad con la cual esténinterconectadas todas ellas.

La combinación de ambas técnicas ha sido ampliamenteestudiada Brown et aI (1997) Hayashi et al (1989) jang et al(1997) Nakanishi et ai (1990) Sakamoto et al (1998) Uchikawaet al (1990) Yamaoka et aI (1990), ya que tanto los sistemas deredes neuronales como los de lógica barrosa son estimadoresque no necesitan un modelo matemático para su descripción .Ambos comparten la capacidad de poder ser usados ensistemas donde se posean problemas de datos incompletos ,perturbados o contaminadoscon ruido.

Los sistemas basados en redes neuronales procesanconocimientos no estructurados para ser estructurados, por suparte los basados en lógica borrosa procesan conocimientosestructurados. La combinación de redes neuronales con lógicabarrosa permite resolver las deficiencias que ambas técnicaspudiesen tener como sería llevar la capacidad de aprendizaje yel poder computacional de las redes neuronales a los sistemasde lógica borrosa, así como la la capacidad de razonarniento yrepresentación de lógica barrosa a las redes neuronales.

En este trabajo se propone una estructura para un controladorneuro-fuzzy en el cual las reglas del conjunto barroso "SI-ENTONCES", que pueden ser construidas por losconocimientos de un experto para producir nuestro conjunto dedatos de entrada-salida son dados a las redes neuronales paracrear las funciones de pertenencia de entrada así como la tablade busqueda de la salida. Los bloques obtenidos son agrupadospara crear el controlador deseado.

Las redes neuronales son entrenadas mediante el método deretropropagación (backpropagation), en el cual aI algoritmo sele han realizado varias modificaciones para así obtener unamejora del método original; esta se logra mediante unaprendizaje intensivo de las neuronas. EI resultado es una red

2 ALGORITMO DE ENTRENAMIENTOPARA LAS REDES NEURONALES

40. SBAI- Simpósio Brasileiro de Automação Inteligente, São Paulo, SP, 06-10 de Setembro de 1999

en la cual se necesitan menos presentaciones de los datos Todos los cambios realizados producen un impacto positivoentrada-salida para reducir el tiempo de convergencia. para el aprendizaje de los datos y para su proceso de

aceleración, siendo simple de implementar. Además lasmodificaciones realizadas en la función sigmoidal de ser unafunción continua y diferenciable así como converger cuando secvalua en ±oo.

donde O es el número de salidas de la red neuronal.

a) En primer lugar, la salida de la(s) capa(s) y capas desalida, se obtiene como:

+4 . o +8 . o

DERIVADA DE LA FUNCIONSIGMOIDALMODIfICADA

o

O. 8

-8. o ' - 4 . o

Fig. 2 Modificacióo de la derivada de la funcióo sigmoidal.

Como se mencion6 anteriormente, ' tomando la ventaja deIpoder de aprendizaje de las redes neuronales, se entrenan tresredes neuronales en forma y luego se agrupan paraimplementar el controlador. La red neuronal transformará unvector de entrada XERO en un vector de salida YE Rm•

Dos de Ias redes (N1 y N2)son entrenadas para aprender lasfunciones de pertenenecias correspondientes ai error y aIcambio del error, en la cual la salida indicará el grado depertenencia de la entrada en cada una de la variables borrosas.

La estructura general de estas redes consta de p, m y nneuronas en cada capa respectivamente, como se muestra en IaFig. 3. Estas redes neuronales tendrán tanata salidas comonúmero de variables barrosas seleccionadas por el disefíadordel controlador.

3 ESTRUCTURA DEL CONTROLADORNEURO-BORROSO

Finalmente, la tercera red neuronal (N3) , la cual se muestra enFig. 4, es entrenada para mapear la tabla de búsqueda delconjunto barroso, lo correspondiente a la parte de consecuencia(ENTONCES) de las regias borrosas. Los datas de entrada deesta red serán las salidas de las redes anteriores (N I YN2) y sussalidas elgrado de pertenencia de cada variable linguísticaspara la defusificación. Esta también constará de tres capas, lacapa de entrada tendrá Yneuronas que serán igual a 20, ya quela salida de las dos redes anteriormente descritas serán lasentradas de ésta. Una capa escondida con k neuronas y unacapa de salida con o neuronas correspondiente de igual formaaI número de variables linguística seleccionadas.Para el entrenanmiento de esta red se utiliza solamente l's yO's como data de entrada-salida.

4 IMPLENTACIÓN DEL CONTROLADORNEURO-BORROSOComo se indic ó inicialmente para probar este controlador seutilizará un motor De como planta, en el cual se controlará suposición angular e. Para disefíar el controlador se deben tener

(2)

FUNCIONSIGMOlDALMODifICADA

+4.0 +8.0o

j(.)

-8. O -4 . O

xj=[f (Ij)r ' (1)

donde z>1. Esto produce que: i) la función sigmoidal sedesplace hacia la derecha, ii) los valores resultantes de lascapas escondidas o de salida son menores que .con la funciónsigmoidal original (Ver Fig. 1).b) En segundo lugar, el incremento de los pesos se modifica

como:A" s , s s-l .. s ( 1)/2 A" S ( 2)/3Wji =ae jXi +çAw ji t- +ç W ji t-

FUNCIONSIGMOIDE

En este trabajo se entrenan las redes neuronaIes utilizando elmétodo de backpropagation, pero al cual se le han hechociertas modificaciones para incrementar la velocidad deconvergencia, Strefezza (1994). Como es sabido, el método delgradiente es lento y se hace más lento en las cercanias delmínimo. Debido a que en muchos casos es deseado entrenar aIas redes neuronales con dates. que se encuentran en losextremos del rango de salida además de valores muy pequenosen la salida, la simple funci6n sigmoidal falia en estos casosJang et al (1997). .

En este trabajo se utiliza el siguiente algoritmo para elentranamiento de las redes.

En este caso se introducen dos téminos de ajuste de peso, losrealizados en las dos últimas iteracíõnes, además poseen unfactor de división diferentec) EI error en la capa de salida es calculado de la siguientemanera:

= -(dk ':"(dk (3)donde O<g<1. EI valor de esta variable hace que la derivada dela función sigmoidal cambie como se muestra en la Fig. 2.

I ,

Fig.1 Modificacióo de la funcióo sigmoidal,

d) Finalmente, el error local se obtiene como:

ej = (4)ke.l

372

40. SBAI- Simpósio Brasileiro de Automação Inteligente, São Paulo, SP, 08-10 de Setembro de 1999

Fíg, 3. Reei neuronal utilizada para el aprendizaje de lafunciones de pertenenecía,

Fig. 4. Red neuronal utilizada para el aprendizajc de latabla de busqueda,

ENTRADA NB NM NS W PS PM . PB-3.0 1.0 0.0 0;0 0.0 0.0 0.0 0.0-2.3 0.7 0.3 0.0 0.0 0.0 0.0 0.0-1.4 0.3 0.7 0.0 0.0 0.0 0.0 0.0-0.7 0.0 1.0 0.0 0.0 0.0 0.0 0.0-0.5 0.0 0.7 0.3 0.0 0.0 0.0 0.0-0.3 0.0 0.3 0.7 0.0 0.0 0.0 0.0-0.1 0.0 0.0 1.0 0.0 0.0 0.0 . 0.0-0.07 0.0 0.0 0.7 0.3 0.0 0.0 0.0-0.03 0.0 0.0 0.3 0.7 0.0 0.0 0.00.0 0.0 0.0 0.0 1.0 0.0 0.0 0.00.03 0.0 0.0 0.0 0.7 0.3 0.0 0.00.07 0.0 0.0 0.0 0.3 0.7 0.0 0.00.1 0.0 0.0 0.0 0.0 1.0 0.0 0.00.3 0.0 0.0 0.0 0.0 0.7 0.3 0.00.5 0.0 0.0 0.0 0.0 0.3 0.7 0.00.7 0.0 0.0 0.0 0.0 0.0 1.0 0.01.4 0.0 0·0 0.0 0.0 0.0 0.7 0.32.3 0.0 0.0 0.0 0.0 0.0 0.3 0.73.0 0.0 0.0 0.0 0.0 0.0 0.0 1.0

ENTRADA NB NM NS ZO PS PM PB-0.4 1.0 0.0 0.0 0.0 0.0 0.0 . 0.0-0.34 0.7 0.3 0.0 0.0 0.0 0.0 0.0-0.26 0.3 0.7 0.0 0.0 0.0 0.0 0.0-0.2 0.0 1.0 0.0 0.0 0.0 0.0 0.0-0.16 0.0 0.7 0.3 0.0 0.0 0.0 0.0-0.09 0.0 0.3 0.7 0.0 0.0 0.0 0.0-0.05 0.0 0.0 1.0 0.0 0.0 0.0 0.0-0.035 0.0 0.0 0.7 0.3 0.0 0.0 0.0-0.015 0.0 0.0 0.3 0.7 0.0 0.0 0.00.0 0.0 0.0 0.0 1.0 0.0 0.0 0.00.015 0.0 0.0 0.0 0.7 0.3 0.0 0.00.035 0.0 0.0 0.0 0.3 0.7 0.0 0.00.05 0.0 0.0 0.0 0.0 1.0 0.0 0.00.09 0.0 0.0 0.0 0.0 0.7 0.3 0.00.16 0.0 0.0 0.0 0.0 0.3 0.7 0.00.2 0.0 0.0 0.0 0.0 0.0 1.0 0.00.26 0.0 0.0 0.0 0.0 0.0 0.7 0.30.34 0.0 0.0 0.0 0.0 0.0 0.3 0.70.4 . 0.0 0.0 0.0 0.0 0.0 0.0 1.0

Tabla 1. Datos de entrada-salida para obtener la función depertenencia del error (e)

Tabla 2. Datos de entrada-salida para obtener la función depertenencia deI cambio de error ( é )

Como paso final, estas redes son ·agrupadas como se muestraen la Fig. 8 para construir el .controlador neuro-fuzzy y serintegrado aI sistema total como se muestra en la Fig. 9, dondeGE, GCE Y GU son factores de escalamiento dei error deIcambio deI error y de la seiia1 de control respectivamente. Se. puede visualizar que las redes neuronales son alimentadas conlos valores dei error (e) y deI cambio de error (é), ladefucificaci6n se realiza por medio dei método deI centro degravedad.

Capa desalida

Capa desalida

Capaescondida

Capaescondida

Capa deentrada

Capa deentrada '

en cuenta la informaci6n entrada-salida, las funciones depertencncia y la tabla de busqueda.

EI controlador se elaborará bajo un conjunto de regias borrosas,las cuales poseen la siguiente estructura:

Rn: Si (e es An Y é es Bn) Entonces u es C, (5)donde An, B,YCII son variable linguísticas.

Para las funciones de pertenencia (error y cambio de error), seentrenan dos redes neuronales, las cuales poseenrespectivamente tres capas con 1, 6 y 7 neuronasrespectivamente. Esto implica que se están tomando sietevariables linguísticas. De igual forma, los datos de entrada-salida para cada una de las redes se muestran en la Tabla 1 yTabla 2 respectivamente. El resultado deI entrenamiento deestas redes se pueden observar en las Fig. 6 y Fig. 7respectivamente. Con el algoritmo arriba propuesto, senecesitan menos de 760 presentaciones de los datos entrada-salida para entrenar a cada una de las redes, con el métodotradicional de backpropagarion son necesarias más de 3000presentaciones.

En cuanto a la tabla de busqueda, también se utiliza una redneuronal de tres capas con 14, 6 y 7 neuronas en cada capa. Latabla de busqueda utilizada se muestra en la Tabla 3, siendoutilizados solamente l 's y O's para su entrenamiento. Con lasecuaciones modificadas se necesitaron menos de 100presentaciones de los datos entrada-salida para entrenar estared. EI método convencional necesita más de 3000 para obtenerel mismo resultado

373

40. SBAI- Simpósio Brasileiro de Automação Inteligente, São Paulo, SP, 08-10 de Setembro de 1999

Tabla de Busqueda

r-----..------- --"!I II !I II i

i

v __...."-' I!

N3 I: f.... ..__..__.._. ..J

Premisas

!II .i N2 !l oo oo ... j

Tabla 3. Tabla de busqueda utilizada para entrenar latercera red neuronal.

r....·-·-·-··-·---..! !!

e I

Cambio dei Error ( e) .Error (e) NB NM NS ZO PS PM PBNB NB NB NB NB NB NB NBNM NB NB NB NM NM NM NMNS NB NM NM NS NS NS NSZO NM NS ZO ZO ZO PS PMPS PS PS PS PS PM PM PBPM PM PM PM PM PB PB PNPB PB PB PB PB PB PB PB

4.0

Cambio dei error (xlO' l )

Grado de pertenencia't,o. dei cambio dei error

Grado de pertenenecia1.0 deI error

-4. 0

-3.0 -1.5 O. 1.5 3 .0. Error

Fig. 6 Función de pertenencia deI error (e) obtenida luegode utilizar los datos de la tabla 1.

Fig. 7 Función de pertenencia deI error (e) obtenida luegode utilizar los datos de la tabIa 2. Fig. 8. Controlador neuro-borroso

Controlador.neuro-borroso

r o o {}-e+ -e t<ld c:c: got:: Regias oo i 'S.oS Borrosas I! . o

CI>; oo

Fig. 9 Arquitectura dei control neuro borroso

374

40. SBAI- Simpósio Brasileirode Automação Inteligente, São Paulo, SP, 08-10 de Setembro de 1999

Los resultados de las simulaciones se muestran en la Fig. 10,para 36°, 18° Y 72° respectivamente, observandose que sealcanza el estado estacionario deseado sin que se presentenoscilaciones en la respuesta. La Fig. 11 muestra la sefial deentrada al sistema.

Driankov, D., Hellendoorn, H. and Reinfrank, M . (1993). AnIntroduction to Fuzzy ControI. Springer-Verlag,

Hayashi, I., Nomura, H. and Wakami, N.(1989). ArtificialNeural Network Driven Fuzzy Control and its Applicationto the Lerarning of Inverted Pendulum Systern. 3nJ• IFSACongress , Jap6n . 610-613. .

Jang , J.-S.R., Sun,C.-T. and Mizutani, E. (1997). Neuro-Fuzzyand Soft Computing. Prentice Hall .

Kosko, B.(1997). Fuzzy Engineering. Prentice HalI.LEE, C.C. (1990). Fuzzy Logic in Control System: Fuzzy

Logic Controller-Part 1 IEEE Transactions on System, Manand Cybernetics. VoI. 20 No. 2.404-418. .

LEE. C.C.(1990). Fuzzy Logic in Control System: Fuzzy LogicController-Part lI. IEEE Transactions on System; Man andCybernetics. VoI. 20 No. 2.419-435.

Nakanishi, S., Takagi, T. Uehara, K. andGotoh, Y. (1990) .Self Orginizing Fuzzy ControlJers By Neural Networks.Proceedings of the International Conference on FuzzyLogic and Neural Networks, Japón. 187-191.

Sakamoto, T., Furuya, T. and Kokubu, A. (1998 ). NFS: NeuroFuzzyInference System. International WorkshopApplications, IIZUKA, Japón.219-230.

Strefezza, M. (1994). Neuro Fuzzy Robust Motion ControI.Doctoral Thesis. Muroran Institute ofTechnology, Japón .

Strefezza, M. and Dote, Y. (1994). Fuzzy Robust control forAC Drive System. Joumal of System Engineering Special

. Issue on Motion Control. Vol 4.87-96.Sugeno , M. (1985) . An Introductory Survey of Fuzzy Control.

Information Sciences. VoI. 36, 59-83.Uchikawa, Y., Horikawa, S. Furuhashi, T. and Okuma, S.

(1990). A Fuzzy Controller usinga Neural" Network and ítscapability to Learn Experts Control Rules. Proceedings ofthe International Conference on Fuzzy Logic and NeuralNetworks, Jap6n . 103-106.

Yamaoka, M. and Mukaidomo, M.(1990). A Learning Methodof the Membership Function with Neural Networks. 6th•FuzzySystem Symposium, Japón. 197-200. En Japonés.

1.2[X10"°J

Tiempo (seg)

0.9

o.9 1.2 Xto-)Tiempo (seg)

0.6

Fig. 10. Posición dei motor

(XlOOOJ U

1.6

0.8

O

-0.8

-1.6

5.1

(XIO"') Grados

6.4

Fig. 11. Seõal de entrada aI sistema

5 CONCLUSIONESEn este trabajo se han ·entrenado las redes neuronales queconstituyen un controlador neuro-borroso con un algoritmomodificado de backpropagation. EI cual reduce en un granporcentaje el número de presentaciones que hay que realizar dedatos para obtener su convergencia a los valores deseados.

La estructura presentada para el controlador neuro-borroso esfacil .de implementar debido a su sencillez y presenta resultadossatisfactorios para el control de sistemas. Además, como es deesperar, la respuesta deI controlador es continua y presenta loscambios de acuedo a la posición deseada.

EI controlador es disefiado de forina de asegurar la estabilidaddeI sistema para la selecciõn de las regIas deI conjunto borrosoy esto se puede observar en el resultado de las simulaciones.

6 REFERENCIAS BIBLIOGRÁFICASBrown, M. and Harris, Ch.(l997). Neurofuzzy Adaptive

ModelJing and ControI. Prentice HaU:

375