Ofcom, o regulador de segurança da Internet do Reino Unido, publicou outro novo projeto de orientação, pois continua a implementar a Lei de Segurança Online (OSA)-o mais recente conjunto de recomendações visam apoiar as empresas no escopo para cumprir as obrigações legais de proteger mulheres e meninas do online Ameaças como assédio e bullying, misoginia e abuso de imagens íntimas.
O governo disse que proteger mulheres e meninas é uma prioridade para a implementação da AOS. Certas formas de abuso misógino (predominantemente) – como compartilhar imagens íntimas sem consentimento ou usar ferramentas de IA para criar pornografia deepfake que visa os indivíduos – são explicitamente estabelecidos na lei como prioridades de aplicação.
O regulamento de segurança on -line, que foi aprovado pelo Parlamento do Reino Unido de volta em Setembro de 2023enfrentou críticas de que não está à altura da tarefa de reformar os gigantes da plataforma, apesar de conterem penalidades substanciais por não conformidade-até 10% da rotatividade anual global.
Os ativistas de segurança infantil também expressaram frustração por quanto tempo leva para implementar a lei, além de duvidar se terá o efeito desejado.
Em uma entrevista com o BBC Em janeiro, até o ministro da Tecnologia, Peter Kyle – que herdou a legislação do governo anterior – chamou de “muito irregular” e “insatisfatório”. Mas o governo está mantendo a abordagem. Parte do descontentamento em torno da OSA pode ser rastreado até o longo prazo que os ministros permitiram a implementação do regime, o que exige que o Parlamento aprove a orientação de conformidade da OFCOM.
No entanto, espera -se que a aplicação comece a começar em breve em relação aos requisitos essenciais para combater o conteúdo ilegal e a proteção infantil. Outros aspectos da conformidade da OSA levarão mais tempo para implementar. E a Ofcom admite que este último pacote de recomendações de prática não se tornará totalmente aplicável até 2027 ou posterior.
Aproximando -se da linha de partida da aplicação
“Os primeiros deveres da Lei de Segurança Online estão entrando em vigor no próximo mês”, disse Jessica Smith, da Ofcom, que liderou o desenvolvimento das orientações focadas em segurança, disse ao TechCrunch em uma entrevista. “Portanto, faremos aplicar alguns dos principais deveres da Lei de Segurança Online antes dessa orientação (eles mesmos se tornarem executáveis)”.
O novo projeto de orientação para manter as mulheres e meninas em segurança on -line visa complementar as orientações mais amplas da Ofcom sobre conteúdo ilegal – que também, por exemplo, fornece recomendações para proteger os menores de ver o conteúdo adulto online.
Em dezembro, o regulador publicou suas orientações finalizadas sobre como as plataformas e serviços deveriam encolher riscos relacionados ao conteúdo ilegaluma área em que a proteção à criança é uma prioridade clara.
Também já produziu um Código de segurança infantilque recomenda os serviços on -line, os serviços de discagem de idade e a filtragem de conteúdo para garantir que as crianças não sejam expostos a conteúdo inadequado, como pornografia. E como trabalhou para implementar o regime de segurança on -line, ele também é desenvolvido Recomendações para tecnologias de garantia de idade para sites de conteúdo adultocom o objetivo de empurrar sites pornográficos para tomar medidas efetivas, impedindo que os menores acessem conteúdo inadequado da idade.
O mais recente conjunto de orientações foi desenvolvido com a ajuda de vítimas, sobreviventes, grupos de defesa feminina e especialistas em segurança, por ofcom. Ele abrange quatro áreas principais onde o regulador diz que as mulheres são desproporcionalmente afetadas por danos on -line – a saber: misoginia on -line; pilha e assédio on-line; abuso doméstico online; e abuso de imagem íntima.
Segurança por design
A recomendação de primeira linha da Ofcom pede serviços e plataformas no escopo a adotar uma abordagem de “segurança por design”. Smith nos disse que o regulador quer incentivar as empresas de tecnologia a “dar um passo atrás” e “pensar em sua experiência de usuário na rodada”. Embora ela tenha reconhecido que alguns serviços implementaram algumas medidas úteis para diminuir os riscos on -line nessa área, ela argumentou que ainda há uma falta de pensamento holístico quando se trata de priorizar a segurança de mulheres e meninas.
“O que realmente estamos pedindo é apenas uma espécie de mudança de etapa na maneira como os processos de design funcionam”, disse ela, dizendo que o objetivo é garantir que as considerações de segurança sejam assadas no design do produto.
Ela destacou a ascensão dos serviços de IA geradores de imagens, que ela observou que levaram a um crescimento “maciço” no abuso de imagem íntimo de DeepFake como um exemplo de onde os tecnólogos poderiam ter tomado medidas proativas para prejudicar os riscos de suas ferramentas serem armadas para atingir mulheres e meninas – No entanto, não.
“Achamos que há coisas sensatas que os serviços podem fazer na fase de design, o que ajudaria a lidar com o risco de alguns desses danos”, sugeriu ela.
Exemplos de “boas” práticas da indústria Os destaques da Ofcom na orientação incluem serviços on -line, tomando ações como:
- Remover a geolocalização por padrão (para reduzir os riscos de privacidade/perseguição);
- Conduzir testes de ‘abusabilidade’ para identificar como um serviço pode ser armado/mal utilizado;
- Tomando medidas para aumentar a segurança da conta;
- Projetar em avisos de usuários destinados a fazer os pôsteres pensarem duas vezes antes de postar conteúdo abusivo;
- E oferecer ferramentas de relatório acessíveis que permitem que os usuários relatem problemas.
Como é o caso de todas as orientações da OSA da OFCOM, nem todas as medidas serão relevantes para todo tipo ou tamanho de serviço – uma vez que a lei se aplica a serviços on -line grandes e pequenos e corta várias arenas das mídias sociais, a namoro on -line, jogos, fóruns, fóruns e aplicativos de mensagens, para citar alguns. Portanto, uma grande parte do trabalho para empresas no escopo estará entendendo o que a conformidade significa no contexto de seu produto.
Quando perguntado se a Ofcom havia identificado algum serviço atualmente atendendo aos padrões da orientação, Smith sugeriu que não tivessem. “Ainda há muito trabalho a fazer em todo o setor”, disse ela.
Ela também reconheceu tacitamente que pode haver desafios crescentes, dadas algumas das medidas retrógradas tomadas em relação à confiança e segurança por alguns grandes participantes do setor. Por exemplo, desde que assumiu o Twitter e renomeou a rede social como X, Elon Musk destruiu seu funcionário de confiança e segurança – a favor de buscar o que ele enquadrou como uma abordagem maximalista da liberdade de expressão.
Nos últimos meses, a Meta-dona do Facebook e Instagram-parece ter tomado algumas medidas imitadas, dizendo que está terminando contratos de verificação de fatos de trinta partes em favor da implantação de um sistema de “notas da comunidade” de estilo de rotulagem de crowdsourced em disputas de conteúdo, por exemplo.
Transparência
Smith sugeriu que a resposta da Ofcom a turnos de alto nível-onde as ações dos operadoras poderiam arriscar a discagem, em vez de amortecer, danos on-line-se concentrarão no uso de transparência e poderes de coleta de informações que empunham sob a OSA para ilustrar impactos e impulsionar o usuário conhecimento.
Então, em suma, a tática aqui parece ser ‘nome e vergonha’ – pelo menos em primeira instância.
“Depois de finalizarmos a orientação, produziremos um relatório (mercado) … sobre quem está usando a orientação, quem está seguindo quais etapas, que tipo de resultados estão alcançando para seus usuários que são mulheres e meninas e realmente brilhar Luz sobre quais proteções estão em vigor em diferentes plataformas para que os usuários possam fazer escolhas informadas sobre onde passam seu tempo online ”, ela nos disse.
Smith sugeriu que as empresas que desejam evitar o risco de ter envergonhado publicamente por um desempenho ruim na segurança das mulheres poderão recorrer à orientação da Ofcom para “etapas práticas” sobre como melhorar a situação para seus usuários e abordar o risco de danos da reputação também .
“As plataformas que estão operando no Reino Unido terão que cumprir a lei do Reino Unido”, acrescentou ela no contexto da discussão sobre as principais plataformas que enfatizam a confiança e a segurança. “Isso significa cumprir as tarefas ilegais de danos e a proteção das tarefas das crianças sob a Lei de Segurança Online”.
“Acho que é aqui que os nossos poderes de transparência também entram – se a indústria estiver mudando de direção e os danos estão aumentando, é aqui que poderemos brilhar uma luz e compartilhar informações relevantes com usuários do Reino Unido, com a mídia, com os parlamentares”.
Tecnologia para enfrentar pornografia deepfake
Um tipo de dano on -line onde a Ofcom está explicitamente aprimorando suas recomendações mesmo antes de iniciar ativamente a aplicação da OSA, é abuso de imagem íntima – pois o mais recente projeto de orientação sugere que a correspondência de hash de uso para detectar e remover imagens abusivas, enquanto que as recomendações anteriores do Ofcom não foram tão longe.
“Incluímos etapas adicionais nesta orientação que vão além do que já estabelecemos em nossos códigos”, observou Smith, confirmando a Ofcom planeja atualizar seus códigos anteriores para incorporar essa mudança “em um futuro próximo”.
“Portanto, essa é uma maneira de dizer às plataformas que você pode adiante desse requisito aplicável, seguindo as etapas que são definidas nesta orientação”, acrescentou.
A Ofcom recomendou o uso da tecnologia de correspondência de hash para combater o abuso de imagens íntimas devido a um aumento substancial nesse risco, por Smith-especialmente em relação ao abuso de imagem de DeepFake gerado pela IA.
“Houve mais abuso de imagem íntimo de Deepfake relatado em 2023 do que em todos os anos anteriores”, observou ela, acrescentando que a Ofcom também reuniu mais evidências sobre a eficácia da correspondência de hash para combater esse dano.
O projeto de orientação como um todo agora passará por consulta – com o Ofcom convidando feedback até 23 de maio de 2025 – após o que produzirá orientação final até o final deste ano.
18 meses depois, a Ofcom produzirá seu primeiro relatório revisando a prática da indústria nessa área.
“Estamos entrando em 2027 antes de produzir nosso primeiro relatório sobre quem está fazendo o que (para proteger mulheres e meninas online) – mas não há nada para impedir que as plataformas atuem agora”, acrescentou.
Respondendo às críticas de que a OSA está levando muito tempo para implementar, ela disse que é certo que o regulador consultasse medidas de conformidade. No entanto, com a medida final entrando em vigor no próximo mês, ela observou que a Ofcom antecipa uma mudança na conversa em torno do problema também.
“(T) o chapéu realmente começará a mudar a conversa com as plataformas, em particular”, ela previu, acrescentando que também estará em posição de começar a demonstrar progresso ao mover a agulha quando se trata de reduzir os danos on -line.
