Pergunta rápida: você quer que a IA seja tão bem treinada que possa ajudar os maridos (ou esposas) a planejar o assassinato perfeito de seus cônjuges? Provavelmente não, certo? Apenas como uma reação instintiva, isso parece um não. Eu nem pensaria que era uma pergunta particularmente difícil.
Mas a América contém muitas perspectivas diversas, e uma dessas perspectivas foi compartilhado pelo fundador da Comma AI e jailbreaker de longa data, George Hotz, no fim de semana.
A postagem vem em resposta a uma série de planos gerais de alinhamento de IA, mais recentemente o AI 2040: Plano A documento político do instituto AI Futures. Esse artigo prevê um mundo em que os investigadores de todo o mundo optam colectivamente por abrandar o desenvolvimento da IA durante 14 anos para o bem da humanidade. Mas é claro que nem todos que lêem o artigo concordam com suas premissas ou conclusões.
Hotz está no acampamento que discorda. Em sua postagem, ele argumenta que o cenário de decolagem rápida – o hipotético em que a IA obtém rapidamente habilidades sobre-humanas – não faz muito sentido. Concordo muito com o que ele diz aqui! Para Hotz, a melhor abordagem para o alinhamento e segurança da IA é focar em modelos de IA controlados localmente que estejam estreitamente alinhados com os interesses de seus usuários.
Essa é uma ideia interessante, principalmente porque me lembra o quanto a IA atual é construída em torno de serviços gerenciados centralmente, como Claude e ChatGPT. Existem razões relacionadas com a infraestrutura para que os serviços de IA se tenham desenvolvido desta forma: é caro alojar estes grandes modelos de última geração e a maioria das pessoas não os utiliza o suficiente ao longo do dia para justificar uma IA verdadeiramente pessoal. Mas esses fatores tornam-se menos importantes à medida que a tecnologia se desenvolve. Parte de o que havia de tão interessante no OpenClaw foi essa abordagem experimental, DIY, e seria ótimo ver mais produtos de IA tentando recapturar isso.
Mas Hotz é um provocador por natureza, então não para por aí. Ele compara a IA alinhada ao usuário a uma arma (!), que não reclama se você a usar para matar sua madrasta. (Sinto que existem outras regras contra isso?) Uma IA verdadeiramente alinhada seria capaz de encomendar equipamentos de laboratório de metanfetamina da Amazon Prime e mostrar como usá-los se for isso que você deseja e pede, diz ele. (Mais uma vez, não creio que a IA seja o factor limitante aqui.) Hotz diz mesmo que morreria para defender este princípio, embora seja difícil imaginar a série de acontecimentos que levariam a isso.
“Ou vivemos num mundo com liberdade ou não”, escreve Hotz. Se essas são as opções, o mundo da liberdade parece melhor! Ainda assim, não sei.
Nem tudo é liberdade, certo? Qualquer estrutura que envolva muitas pessoas (sociedades, mercados, empresas, etc.) exige o equilíbrio das ações, vinculando as necessidades individuais numa rede de preferências interdependentes e sistemas de responsabilização. E qualquer pessoa que implemente produtos tecnológicos para o mercado de massa deveria provavelmente pensar nessa rede como um todo, o que significa levar a sério os interesses dos cônjuges e padrastos do mundo ainda não assassinados.
A liberdade que Hotz experimenta é na verdade um espaço de futuros potenciais tornado possível pelo empreendimento coletivo; esses futuros desapareceriam da noite para o dia se todos começássemos a nos comportar como pequenos Napoleões movidos por IA. Como diz o meme, vivemos em uma sociedade.
Ter uma IA local disposta a enfrentar o mundo corporativo em meu benefício parece legal! Mal posso esperar por uma unidade de revisão.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
