El ensayo maximalista que defendió escalar cuando escalar aún parecía una locura
Gwern escribió en 2020 lo que casi nadie se atrevía a decir: que quizá la inteligencia sea, sencillamente, lo que aparece al escalar predicción con suficiente cómputo, y que GPT-3 era la evidencia. Prolijo, obsesivo, lleno de notas al pie —es Gwern—, pero como documento de apuesta intelectual temprana no tiene igual. Léelo y pregúntate qué escritos de hoy parecerán así de proféticos en cinco años.
Gwern Branwen · gwern.net
MIMarco IbáñezConexiones
Trazadas y explicadas por personas: la razón es lo que las hace valiosas.
«Leer A tras B muestra la continuidad: el ensayo de Gwern articula la apuesta teórica por que la inteligencia surge al escalar predicción, y el informe de Microsoft ofrece viñetas experimentales que parecen dar evidencia —y al mismo tiempo plantear dudas metodológicas— sobre esa apuesta.»
MIMarco IbáñezEl polémico informe de Microsoft que vio chispas de AGI en GPT-4PDF
«Ganas perspectiva crítica: del debate teórico Norvig–Chomsky sobre si "predecir = comprender" a la defensa empírica y prospectiva de Gwern de que escalar la predicción produce inteligencia, permitiéndote contrastar objeciones filosóficas con la apuesta experimental por la escala.»
MIMarco IbáñezNorvig contra Chomsky: el gran debate sobre si la estadística puede explicar el lenguajeArtículo
«Te permite confrontar la apuesta intelectual temprana de Gwern —que escalar predicción genera inteligencia— con la comprobación empírica y los matices prácticos del paper de GPT‑3, viendo cómo una intuición se traduce en resultados, habilidades emergentes y límites documentados.»
MIMarco IbáñezGPT-3: el paper que mostró que la escala, por sí sola, compra habilidades nuevasPDF