Dieciséis horas tardó Twitter en convertir el chatbot de Microsoft en un monstruo
En marzo de 2016 Microsoft lanzó un bot adolescente que aprendía de sus conversaciones; internet lo descubrió y en menos de un día publicaba negacionismo del Holocausto. Tay es el caso de estudio perfecto sobre ataques de envenenamiento y sobre por qué todos los chatbots posteriores llevan capas de seguridad. Cada vez que alguien pide modelos sin filtros, me acuerdo de Tay.
Wikipedia
MIMarco IbáñezConexiones
Trazadas y explicadas por personas: la razón es lo que las hace valiosas.
«Relacionarlas pone en perspectiva dos fuentes de riesgo: Tay muestra la vulnerabilidad técnica al envenenamiento y la necesidad de filtros, y ELIZA revela la persistente tendencia humana a confiar en y apegarse a programas; juntas orientan medidas técnicas y éticas de diseño.»
MIMarco Ibáñez'%2F%3E%0A%20%20%3Ccircle%20cx%3D'120'%20cy%3D'110'%20r%3D'220'%20fill%3D'%23ffffff'%20opacity%3D'0.04'%2F%3E%0A%20%20%3Ctext%20x%3D'44'%20y%3D'80'%20fill%3D'%23F2EFE9'%20opacity%3D'0.55'%20font-family%3D'IBM%20Plex%20Sans%2C%20sans-serif'%20font-size%3D'22'%20letter-spacing%3D'2'%3EWIKIPEDIA%3C%2Ftext%3E%0A%20%20%3Ctext%20x%3D'44'%20y%3D'250'%20fill%3D'%23F2EFE9'%20font-family%3D'Space%20Grotesk%2C%20sans-serif'%20font-size%3D'52'%20font-weight%3D'700'%3EEl%20chatbot%20de%201966%20cuya%20secretaria%20pidi%C3%B3%20quedarse%20a%20%3C%2Ftext%3E%0A%3C%2Fsvg%3E)
El chatbot de 1966 cuya secretaria pidió quedarse a solas con élArtículo«La debacle de Tay demuestra la vulnerabilidad de los modelos a envenenamientos y la necesidad de filtros; la clasificación por comparaciones ciegas con Elo ofrece una forma práctica y menos manipulable de evaluar qué modelos realmente resisten ataques y preferencias tóxicas.»
MIMarco Ibáñez
El ranking de modelos que funciona a ciegas: dos respuestas y tú eliges la mejorWeb