Horário de Atendimento: Das 9h as 15h | Sede: (67) 3321-2836 | [email protected] | CNPJ: 15.579.279/0001-87
TI

Startups recorrem a deepfakes para treinar IA contra fraudes digitais

401

Deepfakes – Diante da escalada de fraudes digitais impulsionadas pela inteligência artificial, uma nova estratégia de segurança vem ganhando espaço: combater a tecnologia com ela mesma. Startups como Reality Defender, Pindrop e GetReal passaram a desenvolver seus próprios deepfakes para treinar sistemas capazes de identificar conteúdos manipulados em áudio e vídeo.

A iniciativa busca proteger principalmente grandes corporações, alvo frequente de golpes que utilizam clonagem de voz e imagem para autorizar transações financeiras ilícitas. Segundo o site The Verge, esse tipo de fraude pode resultar em prejuízos superiores a US$ 1 milhão (aproximadamente R$ 5 milhões) em uma única operação.

LEIA: Expansão da IA impulsiona investimentos das big techs em energia nuclear

O avanço desse setor acompanha a popularização de ferramentas de IA generativa, que reduziram drasticamente as barreiras técnicas para a criação de conteúdos falsos. Com isso, o uso de deepfakes, áudios e imagens extremamente realistas criados para imitar pessoas, deixou de ser uma curiosidade tecnológica e passou a representar um risco concreto para empresas.

Para enfrentar o problema, a Reality Defender aposta em um “modelo baseado em inferência”, estruturado sob a lógica de “aluno e professor”. Nesse sistema, a inteligência artificial é treinada com grandes volumes de arquivos reais e manipulados, aprendendo a identificar padrões e inconsistências.

Segundo o CTO da empresa, Alex Lisle, esse método permite que o software reconheça falhas que seriam imperceptíveis ao olho ou ao ouvido humano. Testes práticos mostram que, embora ainda existam limitações, especialmente na tentativa de enganar familiares próximos, a tecnologia já é suficientemente avançada para ludibriar colegas de trabalho e até sistemas bancários.

Em ambiente controlado, experimentos demonstraram que apenas nove segundos de áudio, combinados com dados coletados em redes sociais, são suficientes para criar um agente de IA capaz de manter conversas em tempo real com alto nível de credibilidade.

Apesar dos avanços, há um desafio técnico relevante: equilibrar velocidade e qualidade. Deepfakes de áudio que respondem instantaneamente tendem a apresentar menor nitidez sonora, enquanto versões mais fiéis exigem maior tempo de processamento, o que dificulta seu uso em interações ao vivo.

Enquanto isso, o cenário de crimes cibernéticos evolui rapidamente e já opera em escala industrial. Fraudadores utilizam modelos de linguagem para mapear estruturas organizacionais completas, coletando informações em plataformas como LinkedIn, TikTok e Facebook. A partir desses dados, constroem perfis detalhados de funcionários e realizam ataques coordenados.

A Pindrop também identificou um aumento no uso de “máscaras digitais” em entrevistas de emprego e reuniões virtuais. Nesses casos, golpistas utilizam IA para alterar suas feições em tempo real, assumindo identidades falsas. Técnicas simples de verificação, como pedir movimentos que causem falhas visuais, já não são mais eficazes.

Os sistemas atuais conseguem reproduzir mãos e movimentos complexos sem distorções perceptíveis, tornando a manipulação praticamente invisível.

Para especialistas ouvidos pelo The Verge, a tendência é que ferramentas de detecção se tornem cada vez mais integradas ao cotidiano digital. Assim como os antivírus, essas soluções devem ser incorporadas diretamente a navegadores e provedores de e-mail, permitindo que arquivos e comunicações sejam analisados automaticamente antes de chegarem ao usuário.

A expectativa é que essa camada de proteção funcione como uma barreira nativa contra fraudes e desinformação, em um cenário onde distinguir o real do manipulado se torna um desafio crescente.

(Com informações de Olhar Digital)

(Foto: Reprodução/Freepik/tynza)

Artigos relacionados

TI

83% das violações envolvendo IA na indústria estão relacionadas ao vazamento de dados

Dados pessoais, credenciais e informações corporativas estão entre os principais alvos de...

TI

Ataque cibernético usa redes móveis para interceptar ligações e mensagens

Campanha explorou falhas para interceptar comunicações, coletar dados e monitorar autoridades governamentais

TI

Robotização avança na indústria brasileira, mas modernização ainda é desigual

Integração tecnológica, infraestrutura e qualificação profissional estão entre os desafios para ampliar...

TI

Dependência da computação em nuvem amplia impactos de falhas tecnológicas

Falhas operacionais em grandes provedores podem afetar milhões de usuários e comprometer...