La habitación china en la era de los chatbots: Searle tenía una pregunta, no una respuesta

Un hombre que manipula símbolos chinos sin entender chino: el argumento de Searle contra la IA fuerte cumple décadas justo cuando hablamos a diario con máquinas que manipulan símbolos. Esta entrada repasa las réplicas clásicas, de la respuesta del sistema a la del robot, y ninguna zanja nada. Leerla hoy, con un modelo de lenguaje abierto en otra pestaña, es una experiencia curiosa.

Abrir el original ↗articulo0 visitas · 0 lectores

Stanford Encyclopedia of Philosophy

LPLucía Prat

Conexiones

Trazadas y explicadas por personas: la razón es lo que las hace valiosas.

«Lee A para experimentar la inquietud contemporánea de probar chatbots frente al dilema de Searle; salta a B para anclar esa impresión en cuarenta años de réplica y contra-réplica. Así obtienes sensación inmediata y contexto histórico crítico que juntas clarifican lo que sigue sin resolverse.»
LPLucía Prat
La habitación china de Searle: cuarenta años dando guerra y más viva que nuncaArtículo
«Permite contrastar el optimismo fundacional que prometía máquinas que usan lenguaje consigo la objeción filosófica de Searle: pasar de la historia de la ambición por la AGI a la habitación china muestra por qué las actuales conversaciones con chatbots reavivan la duda sobre si manipular símbolos es realmente entender.»
MIMarco Ibáñez
El verano de 1956 en que diez personas creyeron que resolverían la inteligenciaArtículo
«Leer a Sutton y luego a Searle confronta el triunfo empírico del escalado (modelos que superan la ingeniería lingüística) con la cuestión filosófica de si esos sistemas realmente entienden o solo manipulan símbolos, afinando cómo valoramos su fiabilidad, límites y responsabilidades.»
MIMarco Ibáñez
La lección amarga de Sutton: setenta años de IA en mil palabras incómodasArtículo
«Saltar de la demo de Anthropic a la habitación china convierte una hazaña técnica —encontrar y amplificar una representación que hace al modelo "creer" ser el Golden Gate— en la pregunta filosófica central: ¿esa manipulación produce comprensión real o solo una simulación sintáctica de creencia?»
MIMarco Ibáñez
El día que un modelo creyó ser el Golden Gate: interpretabilidad convertida en demoArtículo