Os fundadores da empresa de IA têm uma reputação de fazer reivindicações ousadas sobre o potencial da tecnologia de remodelar os campos, particularmente as ciências. Mas Thomas Wolf, co-fundador e diretor de ciências do rosto abraçando o rosto, tem uma tomada mais medida.
Em um Ensaio publicado para x Na quinta-feira, Wolf disse que temia que a IA se tornasse “sim-homens em servidores”, ausente um avanço na pesquisa da IA. Ele elaborou que os paradigmas atuais de desenvolvimento da IA não produzirão IA capaz de resolver problemas fora da caixa-o tipo de solução de problemas que ganha prêmios Nobel.
“O principal erro que as pessoas geralmente cometem é pensar (pessoas como) Newton ou Einstein eram apenas bons alunos, que um gênio ganha vida quando você extrapola linearmente um dos 10% dos alunos”, escreveu Wolf. “Para criar um Einstein em um data center, não precisamos apenas de um sistema que conheça todas as respostas, mas sim que pode fazer perguntas que ninguém mais pensou ou ousou perguntar”.
As afirmações de Wolf contrastam com as do CEO da Openai, Sam Altman, que em um Ensaio no início deste ano disse que a AI “superinteligente” poderia “acelerar massivamente a descoberta científica”. Da mesma forma, o CEO antrópico Dario Amodei previu que a IA poderia ajudar a formular curas para a maioria dos tipos de câncer.
O problema de Wolf com a IA hoje – e para onde ele acha que a tecnologia está indo – é que ela não gera nenhum novo conhecimento, conectando fatos anteriormente não relacionados. Mesmo com a maior parte da Internet à sua disposição, a IA, como atualmente o entendemos, preenche principalmente as lacunas entre o que os humanos já sabem, disse Wolf.
Alguns especialistas da IA, incluindo Ex-engenheiro do Google François Cholletexpressou visões semelhantes, argumentando que, embora a IA possa ser capaz de memorizar padrões de raciocínio, é improvável que possa gerar “novo raciocínio” com base em novas situações.
Wolf acha que os laboratórios de IA estão construindo o que são essencialmente “estudantes muito obedientes” – não revolucionários científicos em qualquer sentido da frase. Hoje, a IA não é incentivada a questionar e propor idéias que potencialmente vão contra seus dados de treinamento, disse ele, limitando -os a responder a perguntas conhecidas.
“Para criar um Einstein em um data center, não precisamos apenas de um sistema que conheça todas as respostas, mas uma que pode fazer perguntas que ninguém mais pensou ou ousei perguntar”, disse Wolf. “Um que escreve ‘E se todos estiverem errado sobre isso?’ Quando todos os livros didáticos, especialistas e conhecimento comum sugerem o contrário. ”
Wolf pensa que o “crise de avaliaçãoNa IA é parcialmente culpada por esse estado de coisas desencantador. Ele aponta para os benchmarks comumente usados para medir as melhorias no sistema de IA, a maioria das quais consistem em perguntas que têm respostas claras, óbvias e “fechadas”.
Como solução, Wolf propõe que a indústria da IA “mude para uma medida de conhecimento e raciocínio”, capaz de elucidar se a IA pode adotar “abordagens contrafactuais ousadas”, fazer propostas gerais com base em “pequenas dicas” e fazer “perguntas não óbvias” que levam a “novos caminhos de pesquisa”.
O truque será descobrir como é essa medida, Wolf admite. Mas ele acha que poderia valer o esforço.
“(T) o aspecto mais crucial da ciência (é) a habilidade de fazer as perguntas certas e desafiar até o que se aprendeu”, disse Wolf. “Não precisamos de um aluno A+ (AI) que possa responder a todas as perguntas com conhecimento geral. Precisamos de um aluno B que vê e questione o que todos os outros perderam. ”
