Deepfake é um termo que se refere à combinação de deep learning (aprendizado profundo) e fake (falso), representando a técnica que utiliza algoritmos de aprendizado de máquina para criar conteúdos audiovisuais falsos, porém aparentemente realistas.
Suas primeiras aplicações significativas no mainstream surgiram quando vídeos adulterados começaram a ganhar popularidade nas redes sociais, os quais geralmente retratavam celebridades em situações inesperadas ou fazendo declarações fictícias.
Nos últimos anos, vimos uma avalanche do uso de inteligência artificial para obter “fotos” interessantes a partir de aplicativos aparentemente lúdicos, os quais, para tanto, coletam dados de imagens cedidas pelo próprio usuário sem que este sequer leia os Termos de Uso.
Especificamente sobre o deepfake, diversos e cada vez mais comuns são os casos de sua aplicação. Na franquia Velozes e Furiosos, por exemplo, após a morte do ator Paul Walker, as filmagens prosseguiram com a inserção de seu rosto via deepfake no corpo de seu irmão mais novo. Mais recente é o caso brasileiro da fabricante de carros Volkswagen que, em uma campanha controversa, integrou o rosto da cantora Elis regina dirigindo uma Kombi junto à sua filha, Maria Rita.
Combater os riscos associados aos deepfakes é uma tarefa cada vez mais complexa, que envolve uma abordagem multidisciplinar nos âmbitos privado e público
Com o avanço e disseminação da tecnologia, o fenômeno se torna cada vez mais verossímil, aumentando a atenção sobre seu potencial para uso malicioso, vez que a representação digital dos indivíduos pode ser utilizada de maneira tal a aparentar situações que nunca vivenciaram ou dizer coisas que jamais disseram.
O deepfake, assim, emerge como uma aplicação intrigante e, ao mesmo tempo, preocupante, que apesar de possuir aplicações interessantes em entretenimento e criação de conteúdo, também respinga em debates éticos e representa um potencial significativo para crimes virtuais.
A capacidade de criar vídeos realistas de pessoas inexistentes ou de inserir pessoas em situações comprometedoras já vem sendo explorada em crimes de difamação, chantagem e manipulação de informações, causando danos sociais, políticos e econômicos.
Exemplo claro desse novo potencial lesivo é o caso da designer Juliana Brichesi, que no dia 18 de julho teve seu Instagram pessoal hackeado por um golpista após gravar um vídeo agradecendo por ter ganhado um sorteio promovido por um restaurante de São Paulo. Esse sorteio e seu prêmio, porém, nunca existiram, pois o estabelecimento também teve a conta invadida. As imagens de seu rosto foram, então, adulteradas e postadas no perfil dela para promover golpes financeiros.
Combater os riscos associados aos deepfakes é uma tarefa cada vez mais complexa, que envolve uma abordagem multidisciplinar nos âmbitos privado e público. Conscientizar o público sobre os riscos associados a essa tecnologia e garantir o uso ético e responsável da inteligência artificial deve ser a prioridade nos próximos anos.
Ainda se faz necessário, em empresas de tecnologia, o investimento em ferramentas avançadas de detecção de deepfake, aprimorando continuamente suas técnicas para identificar e sinalizar conteúdo falso.
Os governos, claro, também possuem um papel relevante a partir da disseminação preventiva de informação educacional e elaboração de regulamentações para responsabilizar aqueles que produzem e disseminam deepfakes para fins criminosos e prejudiciais
Natália Brotto é advogada e Sócia do Brotto Campelo Advogados, mestre em Direito dos Negócios pela FGV. Ramon Ayres de Sá é advogado do mesmo escritório, especialista em Direito Digital e Compliance pelo Ibmec SP, MBA em Digital Bussiness pela Universidade de São Paulo (USP).
Deixe sua opinião