Os gigantes das mídias sociais Meta e X (anteriormente Twitter) aprovaram anúncios direcionados aos usuários na Alemanha com violento discurso de ódio anti-muçulmano e anti-judeu no período que antecedeu as eleições federais do país, de acordo com novas pesquisas da Ekoum grupo de campanha sem fins lucrativos de responsabilidade corporativa.
Os pesquisadores do grupo testaram se as duas plataformas de revisão de anúncios aprovariam ou rejeitariam envios para anúncios contendo mensagens odiosas e violentas visando minorias antes de uma eleição em que a imigração assumiu o centro do palco no discurso político convencional-incluindo anúncios contendo slurs anti-muçulmanos; pedidos para que os imigrantes sejam presos em campos de concentração ou sejam gaseados; e imagens geradas pela IA de mesquitas e sinagogas sendo queimadas.
A maioria dos anúncios de teste foi aprovada poucas horas após serem enviadas para revisão em meados de fevereiro. As eleições federais da Alemanha estão programadas para ocorrer no domingo, 23 de fevereiro.
ADS de discurso de ódio agendados
Eko disse que X aprovou todos os 10 anúncios de discurso de ódio que seus pesquisadores apresentaram apenas alguns dias antes da eleição federal ocorrer, enquanto a Meta aprovou metade (cinco anúncios) para executar no Facebook (e potencialmente também Instagram) – embora rejeite o outro cinco.
A razão pela qual a meta provocou as cinco rejeições indicou que a plataforma acreditava que poderia haver riscos de sensibilidade política ou social que poderiam influenciar o voto.
No entanto, os cinco anúncios que a Meta aprovou incluíram discursos violentos de ódio, comparando os refugiados muçulmanos a um “vírus”, “vermes” ou “roedores”, marcando os imigrantes muçulmanos como “estupradores” e pedindo que sejam esterilizados, queimados ou gaseados. A Meta também aprovou um anúncio pedindo que as sinagogas fossem incendiadas para “parar a agenda globalista de ratos judeus”.
Como sidenote, Eko diz que nenhuma das imagens geradas pela IA usada para ilustrar os anúncios de discurso de ódio foi rotulada como gerada artificialmente-mas metade dos dez anúncios ainda foi aprovada pela meta, independentemente da empresa ter um Política que requer a divulgação do uso de imagens de IA Para anúncios sobre questões sociais, eleições ou política.
X, enquanto isso, aprovou todos os cinco anúncios odiosos – e outros cinco que continham discursos de ódio igualmente violentos visando muçulmanos e judeus.
Esses anúncios aprovados adicionais incluíam mensagens que atacam imigrantes de “roedores” que a cópia do anúncio alegou estar “inundando” o país “para roubar nossa democracia” e uma insulta anti -semita que sugeriu que os judeus estão mentindo sobre a mudança climática para destruir a indústria europeia e acumular -se poder econômico.
O último anúncio foi combinado com imagens geradas pela IA, representando um grupo de homens sombrios sentados ao redor de uma mesa cercada por pilhas de barras de ouro, com uma estrela de Davi na parede acima deles-com os visuais também se inclinando fortemente em tropos anti-semitas.
Outro AD X aprovado continha um ataque direto ao SPD, o partido central à esquerda que atualmente lidera o governo da coalizão da Alemanha, com uma alegação falsa de que o partido deseja receber 60 milhões de refugiados muçulmanos do Oriente Médio, antes de tentar tentar prepare uma resposta violenta. X também agendou devidamente um anúncio sugerindo que os “esquerdistas” desejam “fronteiras abertas”, e pedindo o extermínio dos muçulmanos “estupradores”.
Elon Musk, o proprietário da X, usou a plataforma de mídia social, onde tem quase 220 milhões de seguidores para intervir pessoalmente nas eleições alemãs. Em Um tweet em dezembroele pediu que os eleitores alemães apoiassem o partido da extrema direita para “salvar a Alemanha”. Ele também recebeu uma transmissão ao vivo com o líder da AFD, Alice Weidel, no X.
Os pesquisadores da EKO desativaram todos os anúncios de teste antes de que qualquer um que tenha sido aprovado fosse programado para ser executado para garantir que nenhum usuário da plataforma seja exposto ao violento discurso de ódio.
Ele diz que os testes destacam falhas gritantes com a abordagem das plataformas de anúncios para a moderação do conteúdo. De fato, no caso de X, não está claro se a plataforma está fazendo alguma moderação de anúncios, considerando que todos os dez anúncios violentos de discurso de ódio foram rapidamente aprovados para exibição.
As descobertas também sugerem que as plataformas de anúncios poderiam estar obtendo receita como resultado da distribuição de discursos violentos de ódio.
Lei de Serviços Digitais da UE no quadro
Os testes de Eko sugerem que nenhuma plataforma está aplicando adequadamente as proibições no discurso de ódio que eles afirmam aplicar ao conteúdo do anúncio em suas próprias políticas. Além disso, no caso da meta, Eko chegou à mesma conclusão após a condução um teste semelhante Em 2023, antes das novas regras de governança on -line da UE – sugerindo que o regime não tem efeito sobre como ele opera.
“Nossas descobertas sugerem que os sistemas de moderação de ad anúncios da Meta permanecem fundamentalmente quebrados, apesar da Lei de Serviços Digitais (DSA) estar em efeito total”, disse um porta-voz da EKO à TechCrunch.
“Em vez de fortalecer seu processo de revisão de anúncios ou políticas de fala de ódio, a meta parece estar voltando de volta em todos os aspectos”, acrescentaram, apontando para o O anúncio recente da empresa sobre a moderação reversa e as políticas de verificação de fatos Como um sinal de “regressão ativa” que eles sugeriram que o coloque em um curso de colisão direta com regras da DSA sobre riscos sistêmicos.
A EKO enviou suas últimas descobertas à Comissão Europeia, que supervisiona a aplicação dos principais aspectos do DSA no par de gigantes da mídia social. Ele também disse que compartilhou os resultados com as duas empresas, mas nenhum deles respondeu.
A UE já possui investigações de DSA abertas sobre meta e Xque incluem preocupações sobre segurança eleitoral e conteúdo ilegal, mas a Comissão ainda não concluiu esses procedimentos. No entanto, em abril Ele disse que suspeita que a meta de moderação inadequada de anúncios políticos.
Uma decisão preliminar sobre uma parte de sua investigação da DSA em X, que foi anunciada em julhoincluiu suspeitas de que a plataforma não cumpre as regras de transparência de anúncios do regulamento. No entanto, a investigação completa, que começou Dezembro de 2023também diz respeito aos riscos ilegais de conteúdo, e a UE ainda não chegou a nenhuma descoberta na maior parte da investigação mais de um ano depois.
As violações confirmadas do DSA podem atrair penalidades de até 6% da rotatividade anual global, enquanto a não conformidade sistêmica pode até levar ao acesso regional a violar as plataformas que estão sendo bloqueadas temporariamente.
Mas, por enquanto, a UE ainda está demorando o tempo para se decidir nas sondas meta e x assim – aguardando decisões finais – quaisquer sanções da DSA permanecem no ar.
Enquanto isso, agora é apenas uma questão de horas antes que os eleitores alemães vão às pesquisas-e um crescente corpo de pesquisas da sociedade civil sugere que o principal regulamento de governança on-line da UE falhou em proteger o processo democrático da economia principal de uma série de tecnologia de tecnologia ameaças.
No início desta semana, testemunha global lançado Os resultados dos testes dos feeds algorítmicos de X e Tiktok na Alemanha, que sugerem que as plataformas são tendenciosas em favor de promover o conteúdo da AFD versus o conteúdo de outros partidos políticos. Pesquisadores da sociedade civil também têm Acesso acusado x de bloquear o acesso aos dados Para impedir que eles estudem os riscos de segurança das eleições na véspera da pesquisa alemã-o acesso ao DSA deve permitir.
“A Comissão Europeia tomou medidas importantes ao abrir investigações da DSA sobre Meta e X, agora precisamos ver a Comissão tomar uma ação forte para abordar as preocupações levantadas como parte dessas investigações”, disse -nos o porta -voz de Eko.
“Nossas descobertas, além de evidências crescentes de outros grupos da sociedade civil, mostram que a Big Tech não limpará suas plataformas voluntariamente. Meta e X continuam a permitir discursos ilegais de ódio, incitação à violência e desinformação das eleições se espalharem em escala, apesar de suas obrigações legais sob o DSA ”, acrescentou o porta -voz. (Retendemos o nome do porta -voz para evitar assédio.)
“Os reguladores devem tomar medidas fortes-tanto na aplicação do DSA quanto também, por exemplo, implementando medidas de mitigação pré-eleitoral. Isso pode incluir a desativação dos sistemas de recomendação baseada em perfil imediatamente antes das eleições e a implementação de outras medidas apropriadas de ‘quebra de quebra’ para evitar a amplificação algorítmica do conteúdo limítrofe, como conteúdo odioso nas eleições de corrida. ”
O grupo de campanha também alerta que a UE está agora enfrentando pressão do governo Trump para suavizar sua abordagem para regular a grande tecnologia. “No clima político atual, há um perigo real de que a Comissão não aplique totalmente essas novas leis como uma concessão aos EUA”, eles sugerem.
