Deepfakes São Uma Ameaça à Identidade

A tecnologia de deepfake emergiu como uma ameaça crítica à confiança digital. Mídias geradas por IA agora imitam pessoas reais com precisão impressionante, tornando mais difícil do que nunca distinguir entre verdade e engano. Os deepfakes representam um perigo real e imediato para setores em todo o mundo, possibilitando fraude de identidade, espionagem corporativa e campanhas de engenharia social em larga escala, gerando riscos para empresas, governos e indivíduos.

As consequências dos deepfakes vão muito além de casos individuais de fraude. Sua capacidade de minar a confiança nas interações digitais representa um risco sistêmico para setores que dependem de comunicação e transações virtuais. À medida que as empresas adotam cada vez mais estratégias digitais em primeiro lugar, também precisam enfrentar as vulnerabilidades introduzidas por tecnologias de IA como os deepfakes.

Entendendo os Deepfakes e Sua Evolução

Deepfakes são mídias sintéticas — imagens, vídeos ou áudios — criadas com o uso de IA para replicar pessoas reais. Utilizando redes neurais e aprendizado profundo, essa tecnologia pode fabricar falsificações altamente convincentes que desafiam nossa capacidade de discernir autenticidade. Compreender suas origens e evolução é essencial para entender suas implicações atuais.

A Evolução dos Deepfakes

Embora a tecnologia de deepfake exista há anos, ela começou a ganhar tração significativa em 2017, inicialmente para fins criativos, como a troca de rostos em filmes. Os primeiros usos demonstraram o potencial da IA para o entretenimento, mas o surgimento das redes generativas adversariais (GANs) possibilitou aplicações mais sofisticadas e prejudiciais. Esses avanços permitiram que fraudadores criassem mídias hiper-realistas capazes de enganar até mesmo profissionais experientes.

À medida que a tecnologia amadureceu, suas aplicações se expandiram para diversos setores. Embora tenha contribuído positivamente para áreas como entretenimento e educação, nos últimos anos seu uso indevido cresceu exponencialmente. Fraudadores agora utilizam deepfakes para se passar por executivos, manipular a opinião pública e cometer fraude de identidade em uma escala sem precedentes. Essas aplicações destacam tanto a versatilidade quanto os riscos associados a essa tecnologia.

O Cenário Atual

A criação de deepfakes tornou-se acessível até mesmo para usuários não técnicos por meio de ferramentas open-source e tutoriais online. Essa democratização das ferramentas impulsionadas por IA encorajou agentes mal-intencionados a explorar alvos de alto valor, como executivos corporativos, instituições financeiras e entidades governamentais. Além das perdas financeiras, os deepfakes comprometem a confiança nas mídias digitais, reduzindo a credibilidade da autenticidade do conteúdo em diversos setores.

A acessibilidade dessas ferramentas também aumentou o volume e a variedade de ameaças relacionadas a deepfakes. De campanhas de desinformação política a golpes direcionados, o cenário atual exige vigilância e inovação tecnológica. As organizações não devem apenas lidar com os riscos imediatos, mas também antecipar desafios futuros à medida que a tecnologia continua a evoluir.

Vetores de Ataque e Exemplos do Mundo Real

Os deepfakes representam uma ameaça multifacetada para as organizações, explorando vulnerabilidades nas operações da força de trabalho, nas interações com clientes e nos relacionamentos B2B/parceiros. Ao analisar vetores de ataque comuns e cenários reais, as organizações podem entender melhor como se proteger contra essas ameaças avançadas.

Vetores de Ataque Comuns

Ameaças à Força de Trabalho

• Impersonação de Executivos: Fraudadores utilizam deepfakes de CEOs para autorizar transferências bancárias fraudulentas, explorando a confiança na comunicação hierárquica. O uso de vídeo ou áudio realista adiciona credibilidade às solicitações fraudulentas, contornando métodos tradicionais de verificação.
• Golpes de Onboarding: Identidades falsas são usadas para obter emprego, frequentemente com o objetivo de acessar sistemas ou dados sensíveis. Currículos e entrevistas aprimorados com deepfake facilitam a infiltração de fraudadores nas organizações sem serem detectados.
• Violações de Acesso Privilegiado: Ao se passar por funcionários com acesso de alto nível, fraudadores conseguem infiltrar infraestruturas críticas, muitas vezes resultando em violações de dados em larga escala ou interrupções operacionais.

Desafios de Identidade do Cliente

• Fraude em Empréstimos: Identidades sintéticas, aprimoradas com tecnologia de deepfake, são usadas para solicitar empréstimos ou linhas de crédito fraudulentas. Esse tipo de fraude geralmente envolve informações pessoais roubadas combinadas com mídias fabricadas para passar nas verificações de identidade.
• Golpes de Investimento: Mídias sofisticadas criadas com deepfake atraem clientes desavisados a transferir fundos para contas fraudulentas. Vídeos e áudios com vozes clonadas de figuras confiáveis ampliam a credibilidade desses golpes.
• Ataques a Call Centers: A tecnologia de clonagem de voz contorna a verificação tradicional de identidade, resultando em acesso não autorizado a contas. Esse tipo de ataque tem como alvo sistemas de atendimento ao cliente que dependem de autenticação por voz.

Riscos B2B

• Falhas na Triagem de Contratados: Contratados fraudulentos obtêm acesso a recursos sensíveis usando credenciais criadas com deepfake. Isso permite que agentes mal-intencionados se infiltrem em instalações ou sistemas seguros.
• Violações na Cadeia de Suprimentos: A impersonação habilitada por deepfake compromete relacionamentos com fornecedores, resultando em perdas financeiras e de reputação. Ao imitar parceiros confiáveis, fraudadores podem redirecionar remessas ou comprometer informações proprietárias.
• Golpes no Onboarding de Parceiros: Fraudadores utilizam identidades fabricadas para explorar a confiança dentro de parcerias empresariais. Esses golpes frequentemente têm como alvo empresas menores, com menos protocolos de verificação.

Exemplos do Mundo Real

Força de Trabalho

Uma instituição financeira multinacional sofreu uma perda de $25 million quando fraudadores utilizaram um vídeo deepfake do CFO para autorizar uma transferência bancária.¹ Apesar dos protocolos de segurança padrão da instituição, o vídeo altamente realista levou funcionários a ignorarem os controles existentes. A fraude só foi detectada após os fundos terem sido transferidos para uma conta offshore, destacando a necessidade de métodos robustos de verificação e ferramentas avançadas de detecção.

Cliente

Fraudes geradas por IA custaram $12.3 billion aos consumidores dos EUA em 2023.² Em um golpe de duplicação de criptomoedas, vídeos deepfake promovendo falsas oportunidades de investimento começaram a circular no início de 2024. Esses vídeos usavam imagens manipuladas de figuras públicas e celebridades para induzir vítimas a transferirem fundos sob o pretexto de retornos lucrativos. Os perpetradores roubaram mais de $690,000³ de uma única vítima. Além das perdas financeiras para as vítimas, os golpistas sequestraram canais de mídia social de indivíduos famosos, prejudicando reputações e demonstrando a sofisticação dos deepfakes habilitados por IA, reforçando ainda mais a importância de manter a credibilidade nas comunicações digitais.

B2B

Corretores de frete são significativamente impactados pelo aumento de transportadoras fraudulentas que utilizam credenciais criadas por deepfake para garantir remessas de alto valor. Os perpetradores redirecionam cargas no valor de milhões de dólares para destinos não autorizados, deixando a empresa responsável por repercussões financeiras e reputacionais. Já as transportadoras correm o risco de ter suas identidades roubadas, o que pode resultar em perdas financeiras pessoais e profissionais, além de danos à reputação. Este exemplo ressalta a importância de processos rigorosos de verificação de transportadoras e protocolos de verificação em tempo real.⁴

Estratégias de Confiança Verificada para Prevenção de Fraudes com Deepfake

Mitigar os riscos apresentados por deepfakes exige uma mudança abrangente dos modelos tradicionais de segurança para uma estrutura de Confiança Verificada.

Unifique Disciplinas Separadas

A confiança verificada elimina os silos entre equipes tradicionalmente separadas para criar uma defesa unificada:

• Segurança de Identidade: Foca na gestão de acesso, políticas robustas e controle.
• Prevenção de Fraudes de Identidade: Implementa detecção, pontuação de risco e defesas comportamentais para identificar anomalias geradas por IA.
• Garantia de Identidade: Vincula com confiança identidades digitais a entidades do mundo real ao longo do tempo.

Enfrente Padrões Fundamentais em Diferentes Tipos de Identidade

A Confiança Verificada aplica uma lógica consistente para proteger clientes, força de trabalho e parceiros B2B em quatro estágios críticos:

• Onboarding Verificado: Vincule indivíduos a identidades duráveis usando evidências rigorosas (por exemplo, detecção de vivacidade) para impedir identidades sintéticas.
• Acesso Verificado: Utilize fluxos sem senha e de baixo atrito, aprimorados por sinais contínuos de risco.
• Recuperação e Helpdesk Verificados: Proteja canais de suporte de alto contato contra engenharia social e falsificação de identidade impulsionada por deepfake.
• Autorização Verificada: Confirme ações de alto valor (como grandes transferências bancárias) com verificação adicional.

Aproveite Capacidades Essenciais de Identidade

Fortaleça suas defesas compondo essas capacidades modulares em todas as jornadas do usuário:

• Verificação: Comprovação de identidade, verificação de documentos e detecção de vivacidade com tecnologia de IA.
• Proteção contra Ameaças e Fraudes: Análises comportamentais e detecção de bots para identificar desvios de padrões estabelecidos.
• Credenciais e Autenticação: Autenticadores fortes vinculados ao dispositivo, como passkeys e biometria.
• Orquestração: Design de jornadas com low-code para aplicar políticas granulares em tempo de execução à medida que os riscos evoluem.

Mude de Confiança Implícita para Verified Trust

Os adversários modernos não apenas “invadem” — eles “fazem login” usando deepfakes hiper-realistas. A transição para Verified Trust significa abandonar suposições:

• De “Confiar, mas Verificar” para “Verificar e Depois Confiar”: Verifique explicitamente cada identidade e interação antes de conceder acesso.
• Episódico vs. Contínuo: Passe de um login pontual para uma verificação contínua e adaptativa ao risco.
• Consciência de Contexto: Cada ação é vinculada a um agente real e autorizado — humano ou automatizado — com base em sinais de ameaça em tempo real.

Tecnologias Emergentes e Resiliência Organizacional

À medida que as ameaças de deepfake continuam a evoluir, aproveitar tecnologias emergentes e promover a resiliência organizacional é essencial para se manter à frente de agentes mal-intencionados. Ferramentas de ponta capacitam as organizações a detectar e neutralizar os efeitos de deepfakes, enquanto estruturas robustas garantem adaptabilidade a desafios futuros. Vamos explorar as soluções e estratégias que estão remodelando o combate à fraude por deepfake.

Tecnologias Emergentes

• Detecção de Prova de Vida: Soluções robustas defendem contra ataques de apresentação (fotos, máscaras, vídeos reproduzidos) e ataques de injeção (feeds de câmera manipulados ou sintéticos). Procure fornecedores certificados em padrões como CEN/TS 18099 e ISO/IEC 30107-3.
• Análise Comportamental: Monitora o comportamento do usuário para identificar desvios de padrões estabelecidos. A análise comportamental fornece contexto adicional, melhorando a precisão da detecção.
• Contramedidas com IA Generativa: Detecta e sinaliza conteúdo gerado por IA para evitar uso indevido. Essas ferramentas utilizam IA para combater IA, oferecendo uma resposta dinâmica a ameaças em evolução.
• Credenciais Verificadas: Provas digitais criptograficamente seguras são emitidas para carteiras protegidas por biometria dos usuários, contendo dados e atributos de identidade. Elas garantem a procedência, permitem verificação em tempo real e tornam muito mais difícil cometer fraude de identidade, incluindo ataques de deepfake.

Construindo Resiliência

• Colaboração Multifuncional: Promova a comunicação entre as equipes de TI, segurança e gestão de riscos para criar uma abordagem unificada no combate às ameaças de deepfake. A colaboração garante que as estratégias sejam abrangentes e adaptáveis.
• Políticas Adaptativas: Atualize regularmente os protocolos de detecção de fraude e integre tecnologias emergentes para combater novos métodos de ataque. As políticas devem evoluir juntamente com os avanços tecnológicos para permanecerem eficazes.
• Monitoramento Contínuo: Implemente sistemas de monitoramento em tempo real para detectar anomalias no comportamento, no uso de dispositivos e na atividade de rede. A supervisão contínua minimiza a janela de oportunidade para agentes mal-intencionados.

Ao combinar essas tecnologias e práticas, as organizações podem estabelecer uma defesa robusta capaz de mitigar as ameaças atuais enquanto se preparam para os desafios de amanhã.

Protegendo Seu Futuro Contra Deepfakes

O combate aos deepfakes não é um desafio estático, mas uma batalha dinâmica que exige a transição da confiança implícita para Verified Trust. Ao unificar segurança de identidade, prevenção a fraudes e garantia em uma estrutura única e modular, as organizações podem fechar a lacuna de confiança e construir uma defesa resiliente capaz de resistir aos deepfakes de hoje e aos agentes de IA de amanhã.

Próximos Passos

• Estabeleça Seu Blueprint de Verified Trust: Agende uma sessão estratégica com a Ping Identity para ir além da autenticação básica em direção a um modelo de identidade contínuo e adaptativo ao risco.

• Audite Suas Lacunas de Confiança: Realize uma avaliação de Verified Trust para identificar vulnerabilidades em suas jornadas de onboarding, recuperação e autorização.

• Unifique Suas Defesas: Integre recursos modulares de identidade — incluindo detecção de prova de vida com IA e sinais comportamentais — para criar uma frente unificada contra fraudes sintéticas.

• Vá além da conscientização: Reconheça que o treinamento não é suficiente; implemente controles automatizados com foco em identidade que protejam sua força de trabalho e seus clientes mesmo quando a detecção humana falhar.

¹ CNN

² Deloitte

³ The New York Times & NOCA

⁴ Ping Identity