Nos anos 60 anos que ELIZA tem influenciado a computação e a cultura, os relatos convencionais retratam-no como o exemplo mais antigo do que hoje chamamos bots de bate-papoalguém que poderia conversar como um psicólogo automatizado. O programa aparentemente simples é conhecido por “enganar” até mesmo a secretária que viu o professor do MIT, Joseph Weizenbaum, criá-lo. É assim que a história continua.
No entanto, em todos esses relatos – mesmo depois de todas as suas adaptações nas linguagens de programação e nos campos de investigação, nas salas de aula e na cultura popular – falta uma peça essencial da história: o código fonte do próprio programa ELIZA. Nosso novo livro, Inventando ELIZArecupera esse código-fonte dos Arquivos do MIT, oferecendo pela primeira vez uma leitura atenta e uma discussão desse código, juntamente com diálogos recém-descobertos para scripts ELIZA além de sua popular persona “DOUTOR”.
Esta investigação revelou muitos ELIZAs: em suas diferentes versões de programas, projetados para rodar uma ampla variedade de roteiros ou personas, construídos a partir de uma série de inovações técnicas. Inventando ELIZA procura corrigir e complicar a história e a influência de ELIZA, explorando os equívocos, as múltiplas versões e o código ausente de ELIZA. Neste trecho do livro, examinamos uma das primeiras interações de ELIZA, como ela lançou as bases para as relações humanas com os computadores nas próximas décadas e como o programa complexo continua a falar com o impulso desenfreado da atual indústria de IA.
Os homens são todos parecido.
DE QUE MANEIRA
Eles estão sempre nos incomodando com uma coisa ou outra.
VOCÊ PODE PENSAR EM UM EXEMPLO ESPECÍFICO
Bem, meu namorado me fez vir aqui.
SEU NAMORADO FEZ VOCÊ VIR AQUI
Ele diz que estou deprimido a maior parte do tempo.
Lamento saber que você está deprimido
Esse diálogo foi reimpresso inúmeras vezes e inspirou programadores e escritores a imaginar muitos dos chatbots que se seguiram. No entanto, quanto mais de perto se inspeciona esse diálogo, mais perguntas surgem: Quem era esta jovem? Ela era uma pessoa real ou foi invenção do criador do ELIZA, Joseph Weizenbaum? Como exatamente o sistema ELIZA gerou suas respostas e quanto elas foram editadas? Por que o sistema funcionou tão bem para atrair as pessoas?
ELIZA e sua persona “MÉDICA” ajudaram a catalisar um modo de pensamento e uma ansiedade sobre o relacionamento das pessoas com os computadores. Weizenbaum explorou isso em seu livro de 1976 Poder do computador e razão humanainvocando críticas filosóficas, sociais e políticas. A interação máquina única apresentada pelo seu programa revelou como novas formas de relação homem-computador teriam efeitos profundos que ele tentou explorar e contestar. Depois de ver a sua recepção pública, Weizenbaum ficou surpreso com os vínculos rápidos e muitas vezes emocionais que as pessoas formavam com ELIZA, o que ele via como “evidência clara de que as pessoas estavam conversando com o computador como se fosse uma pessoa que pudesse ser abordada de forma adequada e útil em termos íntimos”. A tendência de atribuir empatia e investir sentimentos privados em um computador intrigou Weizenbaum. Ele estava preocupado com a forma como as pessoas associavam a racionalidade à computação e atribuíam compreensão e inteligência a sistemas de computador onde não existiam.
Essa tendência ficou conhecida como “Efeito ELIZA.” Em 1991, o termo aparecia em fóruns online, mas seu uso era anterior a esse aparecimento em décadas. Sociólogo Sherry Turkle define “o efeito ELIZA” como “nossa tendência mais geral de tratar programas de computador responsivos como mais inteligentes do que realmente são. Quantidades muito pequenas de interatividade nos fazem projetar nossa própria complexidade no objeto indigno”. O cientista cognitivo e da computação Douglas Hofstadter descreve isso como “a suscetibilidade das pessoas de ler muito mais compreensão do que o garantido em sequências de símbolos – especialmente palavras – encadeadas por computadores”, o que se aplica facilmente aos sistemas generativos de IA de hoje.
Para compreender o poder e a provocação de ELIZA, podemos recorrer ao infame desafio formulado pelo cientista da computação Alan Turing no ensaio “Máquinas de Computação e Inteligência”, em que Turing colocou a questão “As máquinas podem pensar?” Turing baseou a sua experiência mental num jogo de salão – não sobre tecnologia, mas sobre género: um homem e uma mulher estão escondidos numa sala separada e um interrogador tenta identificar quem é de que género, fazendo uma série de perguntas. O homem tenta enganar o interrogador, fingindo ser uma mulher, enquanto a mulher tenta convencer o interrogador da resposta “correta”. Ou seja, ambas afirmam ser a mulher “real”, um desafio às noções essencialistas de género.
