El algoritmo que ayuda a decidir condenas en EEUU y el pulso sobre su sesgo racial
COMPAS puntúa el riesgo de reincidencia de presos y la investigación de ProPublica en 2016 encontró el doble de falsos positivos entre acusados negros. Lo más valioso del caso es la respuesta técnica: se demostró que las distintas definiciones de equidad son matemáticamente incompatibles entre sí. No hay mejor introducción a por qué la justicia algorítmica no se resuelve con una línea de código.
Wikipedia
MIMarco IbáñezConexiones
Trazadas y explicadas por personas: la razón es lo que las hace valiosas.
«Pasar de A a B aclara que la aparente injusticia de COMPAS puede obedecer a diferencias de prevalencia y al efecto de las tasas base: un test aparentemente preciso puede generar más falsos positivos en un grupo, explicando por qué la equidad no se arregla solo afinando la precisión.»
MIMarco Ibáñez
Por qué un test fiable puede darte un diagnóstico casi siempre falsoArtículo«Pasar de A a B muestra que ni las puntuaciones algorítmicas (COMPAS) ni los tests de sesgo implícito (IAT) son medidas definitivas; entender sus límites técnicos y conceptuales evita soluciones simplistas y orienta respuestas que combinan técnica, ética y diseño institucional.»
MIMarco Ibáñez'%2F%3E%0A%20%20%3Ccircle%20cx%3D'120'%20cy%3D'110'%20r%3D'220'%20fill%3D'%23ffffff'%20opacity%3D'0.04'%2F%3E%0A%20%20%3Ctext%20x%3D'44'%20y%3D'80'%20fill%3D'%23F2EFE9'%20opacity%3D'0.55'%20font-family%3D'IBM%20Plex%20Sans%2C%20sans-serif'%20font-size%3D'22'%20letter-spacing%3D'2'%3EWIKIPEDIA%3C%2Ftext%3E%0A%20%20%3Ctext%20x%3D'44'%20y%3D'250'%20fill%3D'%23F2EFE9'%20font-family%3D'Space%20Grotesk%2C%20sans-serif'%20font-size%3D'52'%20font-weight%3D'700'%3EEl%20test%20que%20dice%20medir%20tu%20racismo%20oculto%20rinde%20menos%3C%2Ftext%3E%0A%3C%2Fsvg%3E)
El test que dice medir tu racismo oculto rinde menos de lo que prometeArtículo