TL;DR
- O software de geração de voz AI está permitindo que golpistas imitem a voz de entes queridos.
- Essas falsificações levaram pessoas a serem enganadas em US $ 11 milhões por telefone em 2022.
- Os idosos constituem a maioria dos alvos.
A IA tem sido um tópico central no mundo da tecnologia há algum tempo, já que a Microsoft continua a infundir seus produtos com o ChatGPT e o Google tenta acompanhar, lançando seus próprios produtos de IA. Embora a IA tenha o potencial de fazer coisas genuinamente impressionantes – como gerar imagens com base em uma única linha de texto – estamos começando a ver mais desvantagens da tecnologia mal regulamentada. O exemplo mais recente disso são os geradores de voz de IA sendo usados para enganar as pessoas e tirar seu dinheiro.
O software de geração de voz AI tem feito muitas manchetes ultimamente, principalmente por roubar as vozes dos dubladores. Inicialmente, tudo o que era necessário eram algumas frases para que o software reproduzisse de forma convincente o som e o tom do alto-falante. Desde então, a tecnologia evoluiu a ponto de apenas alguns segundos de diálogo serem suficientes para imitar alguém com precisão.
Em um novo relatório da The Washington Post, milhares de vítimas estão alegando que foram enganadas por impostores que fingem ser entes queridos. Alegadamente, os golpes de impostores se tornaram o segundo tipo de fraude mais popular na América, com mais de 36.000 casos enviados em 2022. Desses 36.000 casos, mais de 5.000 vítimas foram enganadas para perder seu dinheiro por telefone, totalizando US $ 11 milhões em perdas, de acordo com funcionários da FTC. .
Uma história que se destacou envolveu um casal de idosos que enviou mais de $ 15.000 por meio de um terminal de bitcoin para um golpista depois de acreditar que havia falado com o filho. A voz da IA convenceu o casal de que seu filho estava com problemas legais depois de matar um diplomata americano em um acidente de carro.
Assim como as vítimas da história, esses ataques parecem ter como alvo principalmente os idosos. Isso não é surpresa, pois os idosos estão entre os mais vulneráveis quando se trata de golpes financeiros. Infelizmente, os tribunais ainda não decidiram se as empresas podem ser responsabilizadas por danos causados por geradores de voz de IA ou outras formas de tecnologia de IA.