Edgar Cervantes / Autoridade Android
Resumo
- A OpenAI desenvolveu um método para detectar quando alguém usa o ChatGPT para escrever redações ou tarefas.
- O método utiliza um sistema de marca d’água que é 99,9% eficaz na identificação de texto gerado por IA.
- No entanto, a ferramenta ainda não foi lançada devido a preocupações internas e reações mistas dentro da empresa.
Quando a OpenAI lançou o ChatGPT no final de 2022, os educadores expressaram preocupações de que os alunos usariam a plataforma para trapacear em tarefas e testes. Para evitar isso, várias empresas lançaram ferramentas de detecção de IA, mas elas não foram as melhores em produzir resultados confiáveis.
A OpenAI revelou agora que desenvolveu um método para detectar quando alguém usa o ChatGPT para escrever (via O Washington Post). Dizem que a tecnologia é 99,9% eficaz e essencialmente usa um sistema capaz de prever qual palavra ou frase (chamada de “token”) viria a seguir em uma frase. A ferramenta de detecção de IA altera levemente os tokens, o que deixa uma marca d’água. Essa marca d’água é indetectável ao olho humano, mas pode ser identificada pela ferramenta em questão.
Esta tecnologia está pronta para ser lançada (e já faz quase um ano), mas a empresa ainda não o fez porque o projeto foi recebido com reações mistas internamente. Por um lado, lançar esta ferramenta pode significar afastar uma parte da base de usuários do ChatGPT, mas também significa que a startup de inteligência artificial estaria cumprindo seu compromisso de garantir transparência.
Calvin Wankhede / Autoridade Android
Além disso, o meio de comunicação observou que uma porta-voz da OpenAI revelou que a empresa está preocupada que a ferramenta possa “afetar desproporcionalmente grupos como falantes não nativos de inglês”. Ainda assim, funcionários importantes da OpenAI que apoiam o lançamento da ferramenta acreditam que a tecnologia pode fazer muito bem e, portanto, não deve ser adiada por mais tempo.
Ferramentas de IA generativas como ChatGPT e Gemini podem responder perguntas e escrever artigos de pesquisa inteiros com base em alguns, ou às vezes até mesmo apenas um, prompts bem direcionados de graça. Você pode imaginar o quanto essas ferramentas mudaram as coisas para educadores e alunos.
Há uma ressalva, no entanto. Marcas d’água criadas por ferramentas de IA podem frequentemente ser apagadas por técnicas simples, como fazer com que a ferramenta adicione emojis ao texto e depois os exclua manualmente ou usar o Google Translate para alterar o texto para outro idioma e depois traduzi-lo de volta para o inglês.
Além disso, outra preocupação sobre o lançamento de um detector de texto de IA é que, se poucas pessoas usarem a plataforma, a ferramenta não teria realmente nenhuma utilidade. Por outro lado, se muitas pessoas a usarem, é provável que a técnica de marca d’água da OpenAI não permaneça em segredo por muito tempo.
Só o tempo dirá se a startup de inteligência artificial está preparada para mudar as coisas para si mesma e para os educadores ao lançar uma ferramenta dessas.