El próximo miércoles 11 de diciembre desde las 11:00 AM, Federico Benítez, perteneciente a la Universidad de Berna (Suiza), presentará “Propagación de errores en el cerebro” en un nuevo Coloquio del IFIS PUCV. Será en la sala 208 del Instituto de Física.
Te dejamos el abstract de la exposición:
“Cómo las redes neuronales físicas, limitadas por restricciones de localidad espacio-temporal, pueden realizar una asignación eficiente de errores sigue siendo, en gran medida, una cuestión abierta. En el aprendizaje automático, la respuesta se da casi universalmente mediante el algoritmo de ‘error backpropagation’, tanto su version espacial como temporal. Sin embargo, este algoritmo es bien conocido por basarse en supuestos biológicamente implausibles, particularmente con respecto a la (no) localidad espacio-temporal. Modelos alternativos de propagación hacia adelante, como el aprendizaje recurrente en tiempo real (RTRL), solo resuelven parcialmente el problema de la localidad, pero a costa de escalabilidad debido a los requisitos prohibitivos de almacenamiento.
En este trabajo introducimos el Equilibrio Latente Generalizado (GLE, por sus siglas en inglés), un marco computacional para la asignación de crédito completamente local en el espacio y el tiempo en redes físicas. Comenzamos definiendo una energía efectiva basada en desajustes locales a nivel de cada neurona, a partir de la cual derivamos tanto la dinámica neuronal mediante estacionariedad de la energia como la dinámica de los parámetros mediante descenso por gradiente. Las dinámicas resultantes pueden interpretarse como una aproximación en tiempo real, biológicamente plausible, de la backpropagation en el espacio y el tiempo.
En particular, GLE aprovecha la morfología de los árboles dendríticos para habilitar un almacenamiento y procesamiento de información más complejos en neuronas individuales, así como la capacidad de las neuronas biológicas para desfasar la frecuencia de salida respecto a su potencial de membrana, lo cual es esencial en ambas direcciones de la propagación de la información.
