Edgar Cervantes / Autoridade Android
Tl; Dr
- O Google compartilha novos detalhes de recompensa de bugs para a IA com seu programa de recompensa de vulnerabilidades.
- As façanhas mais perigosas podem marcar seus localizadores de até US $ 20.000.
Não é bom ser um valentão. Pelo menos, não para pessoas. Mas, para um certo segmento de “fãs” da IA, não há nada mais divertido do que se reunir com um chatbot da IA e tentar fazer com que faça basicamente algo diferente do que se pretende. Isso pode incluir alucinar respostas extremamente incorretas ou até convencer o bot a ignorar as restrições que seus criadores tentaram aplicar. E agora, se você é bom o suficiente para quebrar os bots da AI de maneira épica, o Google pode estar disposto a pagar por isso.
Não quero perder o melhor de Autoridade Android?
Não estamos falando de nada tão simples quanto soltar uma linha em seu currículo que causa as ferramentas de AI de um recrutador para incluir uma receita para Flan em sua correspondência com você. Ou, pelo menos, não tão inofensivo.
O Google tem um novo programa dedicado de recompensa de vulnerabilidades da IA destinado a compensar os pesquisadores de segurança por descobrir alguns dos bugs de IA potencialmente mais perigosos. Isso significa coisas que enganam Gêmeos a mexer com sua conta do Google, ou até permite que os invasores extraem informações sobre como o próprio Gêmeos funciona. Para os propósitos deste programa, a conseqüência deve ser muito maior do que “isso faz com que Gêmeos pareçam bobos”.
Mas para os pesquisadores que conseguem descobrir explorações tão impactantes, o potencial de compensação é grande: os produtos de IA mais graves e afetantes, como pesquisa e aplicativo Gemini, podem pagar US $ 20.000.
Claro, esse tipo de vulnerabilidade pode não ter o potencial viral de retomar as receitas de flan, mas elas são muito mais importantes para a estabilidade e a reputação de Gêmeos – uma coisa é enganar Gêmeos a aconselhá -lo a comer rochas e outra se você puder obtê -lo para incluir um link de phishing em uma de suas respostas no modo de pesquisa. Como usuários frequentes de Gêmeos, é tranquilizador saber que o Google está tentando garantir que os mocinhos estejam trabalhando tão duro quanto os bandidos em identificar exatamente esse tipo de exploração.
Obrigado por fazer parte da nossa comunidade. Leia nossa política de comentários antes de postar.
