Superposición: por qué una neurona guarda varios conceptos a la vez y eso lo complica todo

Las redes meten más conceptos que neuronas tienen, superponiéndolos como un armario demasiado lleno; este trabajo lo demuestra en modelos de juguete con una claridad experimental preciosa. Es la razón profunda de que interpretar redes sea difícil, y el fundamento de toda la línea posterior de autoencoders dispersos. Denso pero asumible, y con las figuras más bonitas del género.

Abrir el original ↗articulo0 visitas · 0 lectores

Nelson Elhage et al. · Transformer Circuits

MIMarco Ibáñez

Conexiones

Trazadas y explicadas por personas: la razón es lo que las hace valiosas.

«A explica por qué la capacidad limitada fuerza que neuronas compartan múltiples conceptos (superposición); B muestra la geometría: cómo las capas intentan desenredar clases en espacio alto. Juntas relacionan la causa del solapamiento con el mecanismo geométrico que puede mitigarlo o agravarlo.»
MIMarco Ibáñez
Qué hace de verdad una red neuronal: desanudar datos en dimensiones altasArtículo
«A aporta la intuición práctica sobre cómo las GNN generan embeddings de nodos y relaciones; B demuestra por qué esos vectores tienden a superponer múltiples conceptos en pocas neuronas. Juntos permiten diagnosticar y diseñar estrategias para representaciones más interpretables en grafos.»
MIMarco Ibáñez
Redes neuronales sobre grafos explicadas con la elegancia marca DistillArtículo
«La ficha A explica experimentalmente por qué las neuronas tienden a superponer conceptos y por qué eso complica la interpretabilidad. Saltar a la demo del navegador permite ver en vivo cómo cambiar capas, activaciones o capacidad altera esas superposiciones y probar tácticas prácticas para reducirlas o entender sus límites.»
MIMarco Ibáñez
Una red neuronal en el navegador para romper y arreglar hasta que se entiendaWeb