La Habitación China de Searle: sintaxis vs. semántica en la inteligencia artificial

John Searle: La Habitación China (1984)

Tener una mente es algo más que tener procesos formales o sintácticos. Nuestros estados mentales internos tienen, por definición, ciertos tipos de contenido.

Esto es, incluso si mis pensamientos se me presentan en cadenas de símbolos, tiene que haber más que las cadenas abstractas, puesto que las cadenas por sí mismas no pueden tener significado alguno. Si mis pensamientos han de ser sobre algo, entonces las cadenas tienen que tener un significado que hace que sean los pensamientos sobre esas cosas. En una palabra, la mente tiene más que una sintaxis: tiene una semántica.

La razón por la que un programa de computador no pueda jamás ser una mente es simplemente que un programa de computador es solamente sintáctico, y las mentes son más que sintácticas. Las mentes son semánticas, en el sentido de que tienen algo más que una estructura formal: tienen un contenido.

El Experimento de Pensamiento

Para ilustrar este punto, he diseñado un cierto experimento de pensamiento. Imaginemos que un grupo de programadores de computador ha escrito un programa que capacita a un computador para simular que entiende chino. Así, por ejemplo, si al computador se le hace una pregunta en chino, confrontará la pregunta con su memoria o su base de datos, y producirá respuestas adecuadas a las preguntas en chino. Supongamos, por mor del argumento, que las respuestas del computador son tan buenas como las de un hablante nativo del chino.

Pregunta Central

Ahora bien, ¿entiende el computador, según esto, chino? ¿Entiende literalmente chino, de la manera en que los hablantes del chino entienden chino?

La Habitación

Bien, imaginemos que se le encierra a usted en una habitación y que en esta habitación hay diversas cestas llenas de símbolos chinos. Imaginemos que usted [...] no entiende chino, pero que se le da un libro de reglas en castellano para manipular esos símbolos chinos. Las reglas especifican las manipulaciones de los símbolos de manera puramente formal, en términos de su sintaxis, no de su semántica. Así la regla podría decir:

• 'Toma un signo changyuan-changyuan de la cesta número uno y ponlo al lado de un signo chongyuon-chongyuon de la cesta número dos'.

Supongamos ahora que son introducidos en la habitación algunos otros símbolos chinos, y que se le dan reglas adicionales para devolver símbolos chinos fuera de la habitación. Supóngase que usted no sabe que los símbolos introducidos en la habitación son denominados 'preguntas' de la gente que está fuera de la habitación, y que los símbolos que usted devuelve fuera de la habitación son denominados 'respuestas a las preguntas'.

Supóngase, además, que los programadores son tan buenos al diseñar los programas y que usted es tan bueno manipulando los símbolos que enseguida sus respuestas son indistinguibles de las de un hablante nativo del chino. [...] Sobre la base de la situación tal como la he descrito, no hay manera de que usted pueda aprender nada de chino manipulando esos símbolos formales.

Conclusión del Experimento

Ahora bien, lo esencial de la historieta es simplemente esto:

1. En virtud del cumplimiento de un programa de computador formal desde el punto de vista de un observador externo, usted se comporta exactamente como si entendiese chino, pero a pesar de todo usted no entiende ni palabra de chino.
2. Pero si pasar por el programa de computador apropiado para entender chino no es suficiente para proporcionarle a usted comprensión del chino, entonces no es suficiente para proporcionar a cualquier otro computador digital comprensión del chino.

Sintaxis vs. Semántica en la Computación

Todo lo que el computador tiene, como usted tiene también, es un programa formal para manipular símbolos chinos no interpretados. Para repetirlo: un computador tiene una sintaxis, pero no una semántica.

Todo el objeto de la parábola de la habitación china es recordarnos un hecho que conocíamos desde el principio:

Comprender un lenguaje, o ciertamente tener estados mentales, incluye algo más que tener un puñado de símbolos formales. Incluye tener una interpretación o un significado agregado a esos símbolos. Y un computador digital, tal como se ha definido, no puede tener más que símbolos formales, puesto que la operación del computador [...] se define en términos de su capacidad para llevar a cabo programas. Y esos programas son especificables de manera puramente formal; esto es, no tienen contenido semántico.

Fuente: Searle, J., Mentes, cerebros y ciencia. Madrid: Cátedra, 1990 (2ª ed.) (pp. 37-39). Trad., L. Valdés.