La propuesta de estudiar redes neuronales como biólogos: neurona a neurona

El manifiesto que lanzó el programa de circuitos: tratar los pesos de una red como un organismo que se puede diseccionar, encontrando detectores de curvas que se combinan en detectores de ruedas y de coches. De aquí sale toda la interpretabilidad mecanicista que hoy se hace en Anthropic y otros laboratorios. Se lee como el primer capítulo de una ciencia nueva, porque lo es.

Abrir el original ↗articulo0 visitas · 0 lectores

Chris Olah et al. · Distill

MIMarco Ibáñez

Conexiones

Trazadas y explicadas por personas: la razón es lo que las hace valiosas.

«Permite conectar explicaciones locales de "detectores" neuronales (qué codifica cada peso/neuronа) con la imagen geométrica/topológica de cómo capas enteras deforman y desenredan la distribución de datos, dando continuidad entre micro‑mecánica y efecto global útil para interpretar e intervenir.»
MIMarco Ibáñez
Qué hace de verdad una red neuronal: desanudar datos en dimensiones altasArtículo
«La disección neurona a neurona proporciona herramientas para auditar y modificar circuitos internos, lo que permite implementar y verificar la "inseguridad" sobre objetivos que propone Russell; a su vez, el marco de Russell da a la interpretabilidad un objetivo operativo y normativo.»
MIMarco Ibáñez
Russell propone máquinas que duden de lo que queremos, y ahí está todo el matizLibro
«Te llevas el método: de A, la receta para convertir conceptos opacos en simulaciones manipulables que forjan intuición mecánica; de B, la práctica de diseccionar sistemas aprendidos en detectores y circuitos —es decir, cómo transformar cajas negras en mecanismos entendibles y experimentables.»
MIMarco Ibáñez
Cómo funciona el GPS, explicado con simulaciones que puedes tocarArtículo