La habitación china de Searle: cuarenta años dando guerra y más viva que nunca
Un hombre que no sabe chino manipula símbolos siguiendo reglas y responde en chino perfecto: ¿entiende algo? El experimento mental de Searle es de 1980 y describe con precisión incómoda lo que muchos piensan hoy de los LLMs. El artículo recoge las réplicas clásicas —la del sistema, la del robot— que conviene conocer antes de opinar. Yo cambio de opinión cada pocos meses, buena señal.
Wikipedia
MIMarco IbáñezConexiones
Trazadas y explicadas por personas: la razón es lo que las hace valiosas.
«Lee A para experimentar la inquietud contemporánea de probar chatbots frente al dilema de Searle; salta a B para anclar esa impresión en cuarenta años de réplica y contra-réplica. Así obtienes sensación inmediata y contexto histórico crítico que juntas clarifican lo que sigue sin resolverse.»
LPLucía Prat'%2F%3E%0A%20%20%3Ccircle%20cx%3D'120'%20cy%3D'110'%20r%3D'220'%20fill%3D'%23ffffff'%20opacity%3D'0.04'%2F%3E%0A%20%20%3Ctext%20x%3D'44'%20y%3D'80'%20fill%3D'%23F2EFE9'%20opacity%3D'0.55'%20font-family%3D'IBM%20Plex%20Sans%2C%20sans-serif'%20font-size%3D'22'%20letter-spacing%3D'2'%3ESTANFORD%20ENCYCLOPEDIA%20OF%20PHI%3C%2Ftext%3E%0A%20%20%3Ctext%20x%3D'44'%20y%3D'250'%20fill%3D'%23F2EFE9'%20font-family%3D'Space%20Grotesk%2C%20sans-serif'%20font-size%3D'52'%20font-weight%3D'700'%3ELa%20habitaci%C3%B3n%20china%20en%20la%20era%20de%20los%20chatbots%3A%20Searl%3C%2Ftext%3E%0A%3C%2Fsvg%3E)
La habitación china en la era de los chatbots: Searle tenía una pregunta, no una respuestaArtículo«Chiang da una metáfora empírica: los LLMs son una "fotocopia borrosa" de la web; pasar a la habitación china de Searle convierte esa intuición en la pregunta filosófica clásica —¿parafrasear estadísticamente equivale a comprender o solo a simular comprensión?— y afina los argumentos.»
MIMarco Ibáñez
Ted Chiang: ChatGPT como fotocopia borrosa de internet, la metáfora que hizo fortunaArtículo«De A a B se conecta la controversia social y profesional sobre si los LLMs son "loros estocásticos" con la crítica filosófica de Searle sobre si manipular símbolos equivale a comprender. Así se enlaza el impacto público y laboral con el marco conceptual que lo sustenta.»
MIMarco Ibáñez'%2F%3E%0A%20%20%3Ccircle%20cx%3D'120'%20cy%3D'110'%20r%3D'220'%20fill%3D'%23ffffff'%20opacity%3D'0.04'%2F%3E%0A%20%20%3Ctext%20x%3D'44'%20y%3D'80'%20fill%3D'%23F2EFE9'%20opacity%3D'0.55'%20font-family%3D'IBM%20Plex%20Sans%2C%20sans-serif'%20font-size%3D'22'%20letter-spacing%3D'2'%3EWIKIPEDIA%3C%2Ftext%3E%0A%20%20%3Ctext%20x%3D'44'%20y%3D'250'%20fill%3D'%23F2EFE9'%20font-family%3D'Space%20Grotesk%2C%20sans-serif'%20font-size%3D'52'%20font-weight%3D'700'%3ELoros%20estoc%C3%A1sticos%3A%20la%20met%C3%A1fora%20que%20cost%C3%B3%20despidos%20e%3C%2Ftext%3E%0A%3C%2Fsvg%3E)
Loros estocásticos: la metáfora que costó despidos en Google y definió un bandoArtículo