Network versus symbol systems: Two approaches to modeling cognition - Bechtel

...

cognition: Se debe estudiar el cuerpo en relación a su medio ambiente y no solo la actividad interna del cerebro.

Neurociencias: Comprobar similitud de modelos cognitivos con neuroimagenes.

Capítulo 2: Connectionist Architectures - Bechtel

Redes conexionistas son sistemas intrincados de unidades simples que se adaptan dinamicamente a su ambiente. Algunas con miles de unidades, pero las con pocas unidades igual pueden comportarse de manera compleja y sutil. Ocurre en paralelo e interactivamente, VS procesamiento en serie de los modelos simbolicos.

2.1 Simulaciones de recuperación de memoria

2.1.1 Componentes del modelo (Aquí se introduce el ejemplo de Jets y Sharks)

a) Unidad: Componente más simple de una red.

b) Activación: Cada unidad tiene un valor de activación asociado. existen unidades visibles e invisibles, las primeras pueden recibir el estimulo externo (input) y activar a las invisibles, las invisibles solo pueden activarse por asociacion con las unidades visibles. (umbrales).

c) Conexiones de peso: Es la fuerza asignada a la conexión entre dos unidades. Se les asigna un peso binario y sus conexiones son bidireccionales y del mismo valor en ambas direcciones (en ejemplo de jets and sharks). Pueden ser +1, excitatoria (unidades simulataneas) o -1, inhibitoria (unidades excluyentes).

2.1.2 Dinamismo del modelo

2.1.2.1 Recuperación de la memoria: se genera un input en alguna de la unidades visibles. De esta forma se propaga el input en todas las unidades que hay, activando las unidades que corresponden a propiedades de la unidad de input inicial, y se inhiben las unidades que no corresponen con las propiedades de esta. Se repiten ciclos de procesamiento, por lo que en un principio la red se encuentra instable. Eventualmente llegará a un punto de estabilidad, en la que se pueden observar las unidades activas e inhibidas. Point atractor: momento en el que sistema se estabiliza y puede realizar un output relativamente certero.

2.1.2.2 Ecuaciones: Se deglosan las ecuaciones relevantes para entender el proceso que hace la red.

2.1.3 ilustraciones del dinamismo del modelo

2.1.3.1 A través de la acción de la red, se logrará también que al acceder al sistema a través de, por ejemplo, el nombre Art, no solamente recibimos las propiedades de Art, sino que también de todos los nombres de las personas (unidades ocultas) parecidas a él.

2.2 Diseño de la arquitectura conexionista

Jets and sharks no funciona para todos los casos, el conexionismo todavía está en sus inicios.

2.2.1 Patrones de Conectividad

a) Feedforward networks: Unidades organizadas en diferentes “capas”, en la que las unidades de una capa “alimentan” las unidades de la próxima capa, a través de conexiones unidireccionales (conexiones de peso).

b) Interactive Networks: Por lo menos algunas de las conexiones son bidireccionales entre las unidades. Esto significa que el procesamiento de información puede ocurrir tanto hacia delante como hacia atrás. El procesamiento de cualquier input ocurre en un gran número de ciclos Jets y sharks.

2.2.1.1 Feedforward networks: La configuración posee peso binario (activación o inhibición), pero se pueden conectar a varias unidades la capa de outputs. Cada conexión de input a output tiene un peso, en valores continuos específico, uno inhibitorio y otro excitatorio. Cada unidad de output tiene un umbral de activación definido, que al pasar al estado de estabilidad (después del de inestabilidad) si supera su umbral se generará un output positivo, o negativo. (Esto estoy casi segura que está mal definido, pero no me da para revisarlo ahora así que revísenlo ustedes en sus casas jaja)

**Dibujo de red: Las activaciones de la capa “input” están asignados a +1 o -1. Estas se multiplican con la conexión de peso y se suman los resultados para obtener la activación para la capa “output”. Las conexiones están dibujadas, cada una de estas tienen un peso numérico que no es mostrado.

- unidades ocultas: no funcionan ni como input ni output, están entre estan y facilitan el procesamiento de información entre ellas.

Interactive Networks: Al menos en algunas conexiones son bidereccionales y el procesamitno de cualquier input ocurre a través de un alto número de ciclos. Estas redes pueden o no estar organizadas en capas, cuando lo están, el procesamiento ocurre tanto hacia adelante como hacia atrás.

2.2.3 Principios de aprendizaje

Hay aprendizaje ya que hay modificaciones estructurales internas. El aprendizaje no se logra por agregar o quitar proposiciones (algoritmos), si no porque hay cambios en el peso entre las conexiones de unidades simples, los cambios de estos pesos resultan en cambios de las características generales del sistema. El objetivo básico es dar una manera de cambiar estos pesos en la red para que aumente la habilidad de la red para lograr el output deseado. El control del cambio de los pesos debe ser por completo local (no de un programador externo).

Donald Hebb: propone procedimiento de aprendizaje simple, para redes de dos capas. Sugiere que el aprendizaje podría ocurrir en el sistema nervioso por el fortalecimiento de las conexiones de dos neuronas que se activan al mismo tiempo. Este concepto se traspasa a las redes conexionistas, o sea que la fuerza de conexión de dos unidades, o sea el peso, puede aumentar o disminuir proporcionalmente en función al producto de sus activaciones (el producto es la multiplicación así que estábamos bien!) → Hebbian learning rule.

Ecuación (12) pag. 39

2.2.4

Atención debe ser prestada a cómo los conceptos relevantes a su dominio van a ser representados en la red. Hay dos aproximaciones a este problema: En los localist networks, cada unidad representa un concepto, en cambio en los distributed networks, cada concepto es distribuido en multiples unidades.

2.2.4.1 Localist Networks: Jets y sharks son de este tipo de red de esta forma. Ventaja: cada concepto puede ser etiquetado por el investigador, y se facilita el entendimiento de cómo opera la red. Peligro: Depende de la habilidad del investigador de que etiquetar, etc.

2.2.4.2 Distributed networks: