Los cinco problemas de seguridad en IA de este paper siguen sin resolverse

En 2016, cuando hablar de seguridad en IA sonaba a ciencia ficción, este paper la aterrizó en cinco problemas concretos de ingeniería, con el robot de limpieza como ejemplo recurrente. Una década después sigue siendo el mejor punto de partida para la conversación seria, lejos tanto del pánico como de la complacencia. Su vigencia dice mucho, y no precisamente bueno, del progreso en el área.

Abrir el original ↗pdf0 visitas · 0 lectores

Dario Amodei et al. · arXiv

MIMarco Ibáñez

Conexiones

Trazadas y explicadas por personas: la razón es lo que las hace valiosas.

«Permite traducir los cinco fallos técnicos concretos (p. ej. el robot de limpieza) en preguntas normativas accionables: B ofrece el marco filosófico (opacidad, responsabilidad distribuida) para evaluar quién responde por cada vulnerabilidad y cómo priorizar soluciones con criterio ético, no solo técnico.»
MIMarco Ibáñez
Ética de la IA sin humo: los problemas reales debajo del pánicoArtículo
«Permite pasar del diagnóstico sombrío de A —cinco problemas técnicos sin resolver— a una respuesta concreta y verificable: el texto de Anthropic ofrece estrategias públicas que se pueden cotejar frente a esos cinco puntos, transformando crítica en hipótesis y experimentos evaluables.»
MIMarco Ibáñez
Anthropic pone por escrito su apuesta: quizá construir IA sea la forma de hacerla seguraArtículo