La receta de Karpathy para entrenar redes: consejos que ningún curso te da

Las redes neuronales fallan en silencio: compilan, entrenan y dan resultados mediocres sin decirte por qué. Esta guía es pura sabiduría de trinchera —sobreajusta primero un solo batch, visualiza todo, desconfía de ti mismo— destilada de años entrenando modelos en Tesla y OpenAI. Me ha ahorrado más horas de depuración que cualquier herramienta. De lectura anual.

Abrir el original ↗articulo0 visitas · 0 lectores

Andrej Karpathy · Blog de Andrej Karpathy

MIMarco Ibáñez

Conexiones

Trazadas y explicadas por personas: la razón es lo que las hace valiosas.

«Comprendes por qué los límites teóricos del perceptrón paralizaron la disciplina (contexto histórico y lección sobre modelos y expectativas) y, acto seguido, obtienes el kit práctico de Karpathy —tácticas de depuración y visualización— para que las redes multicapa realmente funcionen en la práctica.»
MIMarco Ibáñez
El libro acusado de congelar las redes neuronales durante quince añosLibro
«La guía de Karpathy te entrega la checklist y tácticas de depuración para detectar por qué un entrenamiento falla; Zero to Hero te da la práctica de bajo nivel (autograd, backprop, transformer) para implementar, probar y entender por qué esas soluciones funcionan en tu propio código.»
MIMarco Ibáñez
Zero to Hero: el curso que va de derivar a mano a entrenar tu propio GPTVídeo
«La guía de Karpathy te da la disciplina y la lista de comprobación para diagnosticar redes (sobreajustar un batch, visualizar, dudar de tus suposiciones); el simulador en el navegador es el laboratorio inmediato donde aplicar esas pruebas y ver al instante por qué falla o mejora una red.»
MIMarco Ibáñez
Una red neuronal en el navegador para romper y arreglar hasta que se entiendaWeb
«El taller webcam te da intuición y prototipos inmediatos; la receta de Karpathy aporta las tácticas para convertir esos experimentos en modelos robustos: cómo diagnosticar fallos, sobreajustar intencionalmente y visualizar para depurar eficazmente.»
MIMarco Ibáñez
Entrena un clasificador con tu webcam en dos minutos, sin escribir una líneaWeb