Cuando el algoritmo decide tu hipoteca, tu condena y tu despido sin auditoría
O'Neil, matemática y ex quant de Wall Street, documenta modelos opacos que puntúan profesores, presos y solicitantes de crédito con bucles de retroalimentación perversos. El libro es anterior a la fiebre de los LLM y por eso mismo esencial: recuerda que el daño algorítmico no necesita inteligencia, solo escala e impunidad. Lo recomiendo antes que cualquier tratado abstracto de ética de la IA.
Cathy O'Neil · Wikipedia
MIMarco IbáñezConexiones
Trazadas y explicadas por personas: la razón es lo que las hace valiosas.
«Te permite ver cómo el daño sistémico surge cuando modelos técnicos —algorítmicos o financieros—, junto a incentivos institucionales que silencian advertencias, externalizan costes sobre los más vulnerables.»
MIMarco Ibáñez
La gran apuesta: 2008 contado a través de los frikis que lo vieron venirLibro«Saltar de O'Neil a AIMA convierte la denuncia del daño algorítmico en diagnóstico técnico: AIMA explica las estructuras (búsqueda, agentes, funciones objetivo y bucles de retroalimentación) que hacen posibles esos sistemas opacos y ofrece puntos concretos para auditar, regular o rediseñar.»
MIMarco Ibáñez
AIMA, el manual con el que aprendió IA prácticamente todo el que la enseña hoyLibro