El efecto ELIZA es la tendencia a atribuir comprensión, intención y vida interior a un programa informático a partir de indicios superficiales de su conducta verbal, incluso cuando se conoce con exactitud lo poco que el programa hace. Toma su nombre de ELIZA, el programa que Joseph Weizenbaum escribió en el Instituto Tecnológico de Massachusetts entre 1964 y 1966, y designa un fenómeno que no está en la máquina sino en el observador: la disposición humana a completar con una mente ajena cualquier secuencia de signos que lo permita.
ELIZA era, técnicamente, muy poco. Reconocía palabras clave en la frase del usuario, aplicaba unas reglas de transformación sintáctica y devolvía la frase reformulada, con un repertorio de fórmulas neutras para los casos en que no encontraba nada. El guion más conocido, DOCTOR, imitaba a un psicoterapeuta rogeriano por una razón puramente instrumental: es el único papel conversacional en el que responder a todo con una pregunta que devuelve el material del interlocutor resulta verosímil y no exige ningún conocimiento del mundo. Si el usuario escribía que su madre lo odiaba, el programa contestaba preguntando por su madre. No había representación del significado, ni memoria de la conversación más allá de unos turnos, ni modelo alguno del usuario.
La reacción del público fue lo que convirtió el experimento en un problema filosófico. Weizenbaum relató que su propia secretaria, que había visto el programa por dentro, le pidió tras unos minutos que saliera del despacho para poder seguir conversando en privado; que usuarios con formación técnica insistían en que la máquina los entendía; y que algunos psiquiatras llegaron a proponer el sistema como herramienta clínica en centros con escasez de terapeutas. Weizenbaum, que había escrito ELIZA precisamente como una parodia de la superficialidad de la comunicación entre hombre y máquina, quedó lo bastante alarmado para dedicar el resto de su carrera a la crítica de la informatización del juicio humano; el resultado fue Computer Power and Human Reason (1976), un libro escrito por un pionero de la inteligencia artificial contra las pretensiones de la inteligencia artificial. La expresión efecto ELIZA se consolidó después en la literatura, con Douglas Hofstadter entre quienes la difundieron, para nombrar la ilusión que él describe como la susceptibilidad a leer mucha más comprensión de la que hay en una cadena de símbolos.
El concepto es más pertinente ahora que cuando se acuñó. Los sistemas conversacionales basados en grandes modelos de lenguaje producen texto fluido, contextual y verosímil, con lo que la señal superficial de la que se alimenta el efecto es incomparablemente más rica que la de un guion de doscientas reglas, mientras la pregunta sobre lo que ocurre por debajo sigue abierta y en disputa. Sus consecuencias prácticas son medibles: usuarios que atribuyen conciencia al sistema, vínculos afectivos con acompañantes artificiales, confianza depositada en respuestas sin verificación, e incidentes públicos como el del ingeniero de Google que en 2022 sostuvo que el modelo con el que trabajaba era una persona. La lección de 1966 se mantiene intacta en su parte incómoda: el efecto ELIZA no se corrige explicando al usuario cómo funciona el sistema, porque los primeros en experimentarlo fueron quienes lo habían programado.
Algoritmo – Automatización de tareas – Paradoja de Moravec – Subjetividad – Era digital