El pronóstico de Aschenbrenner que puso fecha a la AGI y agitó Washington

Un ex investigador de OpenAI de veintipocos años publica ciento sesenta páginas argumentando que la AGI llega esta década, que la seguridad nacional lo es todo y que casi nadie está prestando atención. Se puede leer como análisis o como artefacto sociológico de un momento muy concreto de la industria; yo lo hago de ambas maneras. Las extrapolaciones son discutibles, la influencia que tuvo no.

Abrir el original ↗web0 visitas · 0 lectores

Leopold Aschenbrenner · situational-awareness.ai

MIMarco Ibáñez

Conexiones

Trazadas y explicadas por personas: la razón es lo que las hace valiosas.

«De A a B se gana pasar del manifiesto influyente y alarmante sobre fechas y urgencia política a entrevistas largas y técnicas que explican, matizan o refutan las tesis de riesgo y las prioridades de alineamiento y política pública que Aschenbrenner impulsa.»
MIMarco Ibáñez
El podcast que se toma en serio la pregunta de si la IA saldrá bien o malPodcast
«A contextualiza la tradición histórica de predicciones exageradas que fundaron e impulsaron el campo; B muestra su réplica contemporánea —un pronóstico joven que, más allá de ser discutible, tuvo impacto real en política y seguridad—, permitiendo leer la influencia social de esos relatos.»
MIMarco Ibáñez
El verano de 1956 en que diez personas creyeron que resolverían la inteligenciaArtículo
«El post de Urban proporciona el marco visual y conceptual (escalera de inteligencia, metáforas claras) que volvió la idea de una superinteligencia comprensible para el gran público; enlazarlo con el pronóstico de Aschenbrenner muestra cómo esa divulgación preparó el terreno para la recepción política y mediática de su alerta.»
MIMarco Ibáñez
El post con monigotes que explicó el riesgo de la superinteligencia a millonesArtículo
«Conectar Altman con Aschenbrenner permite pasar de una propuesta pública de redistribución de la riqueza de la IA a una predicción técnica que determina su urgencia: si la AGI es inminente, las políticas de renta básica y gravámenes se enfrentan y subordinan a prioridades de seguridad nacional y regulación.»
MIMarco Ibáñez
Altman propone repartir la riqueza de la IA: renta básica financiada por el capitalArtículo