O Centro de Internet Mais Segura do Reino Unido disse ter recebido relatórios de escolas sobre alunos que usam geradores de IA para criar fotos explícitas.
Especialistas da organização afirmaram que tais imagens – que legalmente constituem material de abuso sexual infantil – podem ter efeitos nocivos sobre os jovens, acrescentando que as imagens podem ser utilizadas para abuso ou mesmo chantagem.
O UKSIC instou as escolas a garantir que os seus sistemas de filtragem e monitorização fossem capazes de bloquear eficazmente material ilegal em dispositivos para combater o aumento de tal atividade.
David Wright, diretor do UKSIC, observou que a IA pode ser usada para o bem, mas acrescentou: “Os relatórios que estamos vendo não devem ser uma surpresa.
“Os jovens nem sempre estão conscientes da seriedade do que fazem, mas estes tipos de comportamentos nocivos devem ser antecipados quando as novas tecnologias se tornarem acessíveis ao público.
“Embora o número de casos seja actualmente pequeno, estamos no sopé e precisamos de ver medidas a serem tomadas agora, antes que as escolas fiquem sobrecarregadas e o problema cresça.”
Wright explicou que a intervenção é crucial para evitar que o conteúdo criminoso se espalhe ainda mais.
Em Outubro, a Internet Watch Foundation, que faz parte do UKSIC, alertou que as imagens de abuso sexual infantil geradas pela IA são agora tão realistas que muitas seriam indistinguíveis das imagens reais, e milhares dessas imagens estavam online.
A IA tornou-se cada vez mais uma área de foco no debate sobre segurança online no último ano, especialmente desde o lançamento do gerador ChatGPT no ano passado.
Grupos de segurança online, governos e especialistas da indústria querem uma melhor regulamentação do sector devido ao receio de que este esteja a desenvolver-se mais rapidamente do que as autoridades conseguem responder-lhe.
