Em uma postagem X na manhã de terça-feira, o CEO do Google DeepMind, Demis Hassabis, pediu a criação de um novo órgão regulador para supervisionar o lançamento de modelos de fronteira. Intitulado “Uma estrutura para IA de fronteira e o alvorecer de uma nova era,” a postagem defende um “órgão de padronização” modelado a partir do Autoridade Reguladora do Setor Financeiro (FINRA), que poderia testar modelos de fronteira e desenvolver melhores práticas para a sua libertação.
“Inicialmente, o Frontier Labs compartilharia voluntariamente modelos com o órgão de padronização para revisão até 30 dias antes do lançamento”, diz o post. “Uma vez que o protocolo de avaliação se mostre eficaz e robusto, a formalização poderá ocorrer rapidamente, o que significa que os Modelos de Fronteira seriam obrigados a aprová-lo para serem implantados no mercado dos EUA. Os laboratórios também trabalhariam com o Órgão de Padrões para resolver quaisquer vulnerabilidades críticas pós-lançamento.”
O sistema proposto se basearia nas revisões ad hoc realizadas pelo governo dos EUA no Mythos da Anthropic e no Sol da OpenAI. Essas críticas atraíram crítica significativa por falta de conhecimento técnico e tomada de decisão opaca sobre quando um modelo poderia ser lançado. Sob o regulador proposto por Hassabis, essas decisões poderiam ser transferidas para uma nova organização, apoiada pelo governo dos EUA, mas financiada pela indústria de IA e operada de forma independente.
A perspectiva de regulamentação da IA permanece controversa tanto para a indústria tecnológica como para a administração Trump. Mais recentemente, o conselheiro de IA da Casa Branca e sócio geral da a16z, Sriram Krishnan desconsiderou a possibilidade de um regulador de IA dentro do poder executivo, dizendo que “não haverá um FDA para IA”.
Estabelecer o organismo de normalização como uma organização auto-reguladora como a FINRA poderia ser uma forma de abordar essas preocupações. Hassabis prevê que o regulador seja composto por representantes de código aberto e especialistas técnicos da indústria, juntamente com o apoio financeiro dos laboratórios de IA que seriam necessários para mantê-los. Poderiam até terceirizar algumas avaliações para o grupo crescente de grupos de segurança de IA que poderiam se especializar em riscos específicos.
“A força desta abordagem é que ela seria focada tecnicamente, ao mesmo tempo que apoiaria a inovação e incentivaria um comportamento responsável”, argumenta Hassabis. “Ele foi projetado para acompanhar a aceleração do campo e se adaptar aos maiores riscos à medida que são identificados, e pode ser aumentado se a gravidade da situação exigir.”
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.
