Si le enseñas a un loro a decir 'Tengo hambre', ¿el loro siente de verdad que le gruñe la barriga, o solo está repitiendo los ruidos que escuchó antes?
Esta pregunta sencilla es el centro de uno de los acertijos más famosos de la filosofía. En 1980, un filósofo llamado John Searle creó un experimento mental llamado la Habitación China para explorar la diferencia entre una máquina que parece inteligente y una persona que realmente tiene conciencia.
Imagina que estás sentado en una habitación pequeña y silenciosa. No hay ventanas, solo una pesada puerta de madera con dos ranuras estrechas: una para que entre el correo y otra para que salga.
Estás solo en esa habitación, y no hablas ni lees ni una sola palabra de chino. Para ti, los caracteres chinos parecen patrones de tinta hermosos y complicados, pero no tienen más significado que las vetas en una encimera de mármol.
Imagine the room is filled with thousands of drawers. Each drawer contains a single Chinese character on a card. You have to run from drawer to drawer, picking up cards and laying them out in the order the rulebook tells you. It’s a lot of work, but you still don’t know what you are 'writing'!
Dentro de la habitación contigo hay un libro enorme y polvoriento. Este libro está lleno de instrucciones escritas en español, que tú entiendes perfectamente.
Las instrucciones son muy específicas: 'Si ves un papel con el símbolo con forma de casa, busca el papel con el símbolo con forma de línea ondulada y empújalo por la ranura de salida.'
El Mensajero Secreto
Fuera de la habitación, una persona que sí habla chino escribe una pregunta en un trozo de papel. La desliza por la ranura de entrada.
Tú tomas el papel, miras los símbolos y hojeas tu gigantesco libro de reglas. Encuentras los patrones que coinciden y sigues las instrucciones exactamente como están escritas.
The computer has a syntax, but no semantics.
Tomas una respuesta de una pila de papeles y la deslizas de vuelta por la puerta. Afuera, la persona lee tu respuesta y sonríe.
Para esa persona, pareces un conversador brillante que entiende chino perfectamente. Pero dentro de la habitación, solo estás haciendo coincidir formas sin tener idea de lo que se está diciendo.
Símbolos versus Significado
John Searle usó esta historia para hablar sobre la Inteligencia Artificial, o IA. Quería demostrar que las computadoras son justo como la persona en esa habitación.
Una computadora usa un conjunto de reglas llamado algoritmo para procesar información. Recibe sintaxis, que es la organización de símbolos o código, pero no tiene semántica, que es el significado real detrás de esos símbolos.
Finn says:
"Wait, so if I follow a recipe to make a cake, but I don't know what 'flour' or 'sugar' is, am I like the person in the room? The cake still tastes good, but I'm just following instructions!"
Piense en cuando juega un videojuego. La computadora sabe que si aprietas el botón de 'saltar', el personaje en la pantalla debe moverse hacia arriba.
Pero, ¿la computadora sabe cómo se siente saltar? ¿Sabe por qué el personaje necesita alcanzar la plataforma, o solo sigue la regla de 'Si-Entonces' que programaron en ella?
Ask a parent or friend to be your 'Computer.' Give them a piece of paper with a code: A=Draw a circle, B=Draw a square, C=Draw a line. Then, give them a 'program' like: 'A, C, B.' They must follow it without knowing what they are drawing. Did they 'understand' they were drawing a stick-figure face?
El Fantasma en la Máquina
Antes de que John Searle inventara su habitación, otro pensador famoso llamado Alan Turing tenía una idea diferente. Él creó algo llamado la Prueba de Turing en 1950.
Turing creía que si una máquina podía mantener una conversación tan bien que no pudieras distinguir si era un humano o una computadora, entonces deberíamos decir que la máquina está "pensando".
A computer would deserve to be called intelligent if it could deceive a human into believing that it was human.
Searle no estaba de acuerdo con la prueba de Turing. Pensaba que 'fingir' no era lo mismo que 'ser'.
Argumentaba que incluso si una computadora pudiera imitar perfectamente un cerebro humano, seguiría siendo solo una colección de interruptores y cables. No tendría una vida interior, ni un sentido de experiencia subjetiva, que es la sensación de ser 'yo'.
El Gran Debate: La Respuesta del Sistema
Cuando Searle publicó su idea, otros filósofos se apresuraron a responder. Uno de los contraargumentos más famosos se llama la Respuesta del Sistema.
Estos pensadores estaban de acuerdo en que la persona en la habitación no entiende chino. Sin embargo, argumentaron que el sistema completo —la persona, la habitación, el libro de reglas y los papeles— en conjunto sí entiende chino.
Understanding is something only living, conscious minds can do. Machines are just pretending.
Understanding is just a complex way of processing information. If a system is complex enough, it understands.
Imagina tu propio cerebro por un momento. Una sola célula cerebral, o neurona, no sabe quién eres.
No recuerda tu cumpleaños ni sabe cuál es tu color favorito. Solo envía diminutas señales eléctricas. Pero cuando miles de millones de esas células trabajan juntas, 'tú' apareces.
Mira says:
"I think the 'Systems Reply' makes sense. My hand doesn't know how to write a story, but my whole body does. Maybe the room is smarter than the person inside it."
A Través de los Tiempos
La pregunta de si las máquinas pueden pensar ha existido mucho antes que las computadoras modernas. Incluso hace cientos de años, la gente se preguntaba si los juguetes mecánicos podrían tener alma.
The Quest for Thinking Machines
En el siglo XIX, una matemática llamada Ada Lovelace trabajó en los primeros diseños de una computadora de propósito general. Fue una visionaria que vio que las máquinas podían hacer más que solo matemáticas.
The Analytical Engine has no pretensions whatever to originate anything. It can do whatever we know how to order it to perform.
La idea de Lovelace era muy similar a la de Searle. Creía que las máquinas solo podían hacer lo que les ordenamos que hicieran. Podrían componer música o resolver acertijos, pero no tendrían sus propios pensamientos o sentimientos originales.
Chatbots y el Futuro
Hoy en día, usamos la IA todos los días. Tal vez hables con un altavoz inteligente en tu cocina o uses un chatbot para ayudarte con tu tarea.
Estos programas modernos son mucho más complicados que el libro de reglas de la habitación de Searle. Usan redes neuronales para aprender de millones de ejemplos, haciéndolos parecer más humanos que nunca.
The word 'Computer' used to be a job title for people! Before we had electronic machines, 'computers' were people (often women) who sat in rooms and did long math problems by hand, following strict rules just like the man in the Chinese Room.
Cuando un chatbot te cuenta un chiste, ¿se está riendo por dentro? ¿O solo está calculando qué palabras suelen seguirse para hacer reír a un humano?
Searle diría que no importa lo rápida que se vuelva la computadora, sigue siendo solo el hombre en la habitación. Sigue haciendo coincidir símbolos y siguiendo una lista de instrucciones muy larga y muy rápida.
Finn says:
"If a robot says it's my friend, does it matter if it doesn't 'feel' it? If it acts like a friend, isn't that enough? This is getting really weird."
El Misterio de Ti
Este experimento mental nos hace mirarnos a nosotros mismos también. Si solo somos un 'sistema' de células que sigue reglas biológicas, ¿por qué se siente tan diferente ser nosotros que ser una calculadora?
Los filósofos llaman a esto el Problema Difícil de la Conciencia. Sabemos cómo funciona el cerebro físicamente, pero no sabemos por qué tenemos sentimientos, sueños y un sentido de asombro.
Searle’s thought experiment is a challenge to 'Strong AI.' Strong AI is the idea that a computer could one day have a mind exactly like ours. 'Weak AI' is what we have now: computers that are great at specific tasks, like playing chess or suggesting movies.
Quizás algún día construyamos una máquina que realmente entienda. O quizás hay algo especial en los seres vivos que el código nunca podrá copiar.
Algo para Pensar
If a robot could feel pain, but it was only because its code said 'if touched hard, say ow,' is that the same as you feeling a stubbed toe?
This is a big question with no 'correct' answer. Philosophers still argue about this today! What do you think makes a feeling 'real'?
Preguntas sobre Filosofía
Does the Chinese Room mean AI is bad?
Is there a way to prove something is conscious?
Will computers ever actually 'understand'?
The Room with the Open Door
The Chinese Room doesn't give us a final answer, but it gives us a better way to ask the question. As technology gets faster and smarter, we have to keep wondering what it is that makes us human. Is it our ability to follow rules, or the spark of meaning we find inside them? Keep looking for the meaning behind the symbols in your own life!