Ética de la IA sin humo: los problemas reales debajo del pánico

Entre el apocalipsis y el marketing, esta entrada hace algo infrecuente: ordenar los problemas éticos de la IA por su estructura filosófica, de la opacidad algorítmica a la responsabilidad distribuida. La leí buscando munición para una discusión y salí con mejores preguntas. Útil para tecnólogos que creen que la ética es un checklist de cumplimiento.

Abrir el original ↗articulo0 visitas · 0 lectores

Vincent C. Müller · Stanford Encyclopedia of Philosophy

LPLucía Prat

Conexiones

Trazadas y explicadas por personas: la razón es lo que las hace valiosas.

«A ordena y prioriza los fallos éticos (opacidad, responsabilidad distribuida), y saltar a B da una propuesta técnica concreta —máquinas que dudan de nuestros objetivos y aprenden observándonos— para traducir ese diagnóstico en estrategias prácticas de alineamiento y control.»
LPLucía Prat
Russell propone máquinas que duden de lo que queremos, y ahí está todo el matizLibro
«A identifica y clasifica fallos éticos estructurales (opacidad, responsabilidad distribuida); B ofrece una solución concreta —constituciones internas trazables— que permite poner a prueba si esas reglas efectivamente mitigan los problemas que A describe.»
LPLucía Prat
Una constitución para la máquina: alinear IA con principios escritos, no solo votosPDF
«Saltar de A a B permite convertir la apuesta epistémica de Anthropic en una cartografía ética: identificar qué problemas concretos (opacidad, responsabilidad distribuida, externalidades) su estrategia aborda y cuáles deja sin respuesta.»
MIMarco Ibáñez
Anthropic pone por escrito su apuesta: quizá construir IA sea la forma de hacerla seguraArtículo
«Permite traducir los cinco fallos técnicos concretos (p. ej. el robot de limpieza) en preguntas normativas accionables: B ofrece el marco filosófico (opacidad, responsabilidad distribuida) para evaluar quién responde por cada vulnerabilidad y cómo priorizar soluciones con criterio ético, no solo técnico.»
MIMarco Ibáñez
Los cinco problemas de seguridad en IA de este paper siguen sin resolversePDF