Depois das fake news, surge a tecnologia deepfake, criando pessoas que não existem

Os perigos do Deepfake. | J. L. Gregório

Com a novo tecnologia, podem-se criar declarações ao vivo

Michael K. Spencer
Blog Outras Palavras

Em 2020, vivemos em um mundo no qual vídeos e imagens deepfake de pessoas, totalmente fabricadas, podem ser criadas por inteligência artificial. Enquanto isso, uma tecnologia chamada GPT-2 da OpenAI está ficando famosa por sua habilidade de escrever convincentemente e enganosamente, reproduzindo o estilo de autores como George Orwell, ou o seu.

Nesse novo mundo, a Inteligência Artificial é capaz de mimetizar conteúdo humano, e tem o potencial de ser usada por maus atores, e campanhas financiadas por Estados, para influenciar os sentimentos da população de várias formas.

FRAUDES ONLINE – Estamos testemunhando uma explosão de fraude online. Em uma era na qual até o Facebook recusa o título de empresa de mídia, o que exatamente são os deepfakes?

Deepfakes são, essencialmente, identidades falsas criadas com o deep learning [aprendizagem profunda, por meio de uso maciço de dados], por meio de uma técnica de síntese de imagem humana baseada na inteligência artificial. É usada para combinar e sobrepor imagens e vídeos preexistentes e transformá-los em imagens ou vídeos “originais”, utilizando a tecnologia de GAN (Generative Adversarial Network, ou rede geradora antagônica).

Essa combinação de vídeos existentes e “originais” resulta em vídeos falsos, que mostram uma ou algumas pessoas realizando ações ou fazendo coisas que nunca aconteceram na realidade. Em 2019, também estamos vendo uma explosão de faces fake, através das quais a IA é capaz de conjurar pessoas que não existem na realidade, e que têm um certo fator de fluência.

EXEMPLO VIVO – De maneira fascinante, o engenheiro de software da Nvidia, Philip Wang, criou um website demonstrando a potência da técnica GAN para gerar imagens de pessoas falsas

O site gera imagens baseado em um novo método de StyleGAN, desenvolvido pela Nvidia, que torna possível treinar o sistema para construir imagens artificiais de alta qualidade, com resolução de até 1024×1024 pixels.

Se você atualizar o site continuamente, verá um exemplo dessas “faces fake”, através do qual humanos digitais e personas falsas poderiam se tornar robôs (bots) de internet, capazes de nos influenciar em diversas maneiras. Aqui está uma amostra desses rostos: thispernondoesnotexist (essas pessoas não existem na vida real).

PESSOAS REAIS? – Como se pode observar, não há nenhuma maneira de dizer que essas não são pessoas reais. Personagens e textos fake são os próximos fronts do debate em torno do deepfake, que está só começando e é ainda outra maneira com a qual a inteligência artificial pode ser aproveitada como máscara e alterar o sentimento coletivo através de truques digitais.

Tecnologias como o GPT-2 e os GANs vão se tornar cada vez mais inteligentes. A suposta interferência russa no ciclo eleitoral norte americano de 2016 é um despertar para muitos, mas provavelmente apenas o início. Humanos digitais, âncoras de jornais de inteligência artificial, personas virtuais — tudo é possível na nova internet. O mercado de farsa online já está maduro.

Criar uma realidade deepfake é meio caminho andado à Matrix. Pense só no potencial de uso indevido da combinação de vídeos e identidades deepfake com as fake news.

GUERRA DA DESINFORMAÇÃO – O crescimento dos deepfakes poderia abrir um novo front na guerra desinformacional. A infiltração deepfake seria relativamente barata e fácil de transformar em arma.

Se as imagens, notícias e vídeos gerados por AI alcançaram um nível no qual estão frequentemente indistinguíveis de fotografias e vídeos reais, e conteúdo humano, estamos no limiar de uma nova era de guerras de inteligência artificial.

Não ser capaz de dizer o que é real na internet já é fortemente problemático em uma era de redes sociais e Facebook, mas nas condições atuais só vai piorar. Considerando que os jovens gastam mais tempo online do que nunca, eles provavelmente se tornarão mais acostumados à AI a cada ano, o que pode gerar consequências inesperadas na sociedade.

MAIS FAKE NEWS – O perigo dos deepfakes representa um novo tipo de ameaça à cybersegurança, na qual o que pode ser feito está muito à frente de como combatê-lo. Essas redes geradoras antagônicas (GANs), desenvolvidas pelo Nvidia, poderiam ser facilmente classificadas como uma má utilização do deep learning, se tais corpos regulatórios existissem.

Em 2020, não apenas sua identidade pode ser roubada, você pode ser enquadrado, difamado e ser vítima de farsantes com os vídeos deepfake, que podem ser difíceis de se provar falsos. Você pode sofrer golpes, fraudes e ficar vulnerável online, e o inimigo seria a inteligência artificial.

A facilidade de usar os deepfakes implica que um novo tipo de hipocrisia e de conteúdo ilusório online está chegando. Não se trata mais de fake news, mas de memes, spam e conteúdo feito cada vez menos por humanos, para o bem e para o mal.

###
NOTA DA REDAÇÃO DO BLOG Enviado pelo professor, teólogo, escritor e poeta Antonio Rocha, o artigo é da maior importância e mostra o que vem pela frente nesse mundo de incertezas e fraudes. (C.N.)

11 thoughts on “Depois das fake news, surge a tecnologia deepfake, criando pessoas que não existem

  1. Sempre com a verdade – a OJB foii a única entidade que divulgou uma nota oficial de apoio no site e no fecebook ao Jornalista e Blogueiro Oswaldo Eustaquio e a todos os Jornalistas e Blogueiro que escreve com a verdade e seriedade no Brasil, que devem já esta filiado na OJB – veja http://www.ojb.org.br

  2. 1) O artigo em questão me fez lembrar dos antigos e multimilenares Vedas, livros clássicos da Índia, quando afirmam que…

    2) “A realidade é uma ilusão”

    3) E cada vez mais parece que estamos imersos no mundo das ilusões.

  3. Chega a ser assustador o poder destrutivo que as modernas tecnologias da informação podem exercer quando usadas criminosamente na propaganda enganosa, na desinformação, no aliciamento político e na indução de teorias da conspiração.
    Eu não frequento redes sociais, primeiro por prezar minha privacidade e não sofrer da síndrome do protagonismo ou vedetismo e em segundo lugar por aconselhamento médico, como forma de conservar a saúde mental.
    Limito-me a acompanhar dois ou três canais “bem comportados” do Youtube, e já dá para ter uma ideia.
    Agora, o bombardeio sistemático do “meu amigo bolsonarista” me fornece extenso material de pesquisa, onde eu pinço algum aparentemente mais promissor.
    Ontem, ele me enviou uma reportagem repercutida pelo site olavista “Estudos Nacionais” em que o grupo “Médicos por la Verdad” originário da Alemanha, mas que só se reune no Palácio de la Prensa, cinema emblemático de Madrid, na antiga Plaza de Callao, já que no pais de origem temem perseguição judicial, faz afirmações pseudocientíficas, de caráter negacionista, chegando a negar a existência da pandemia e reabrindo a estapafúrdia tese da criação do vírus em laboratório com o objetivo de destruir a economia mundial e submeter a humanidade à escravidão a esperar a direita salvadora.
    Ainda bem que resta bom senso, a Associação Médica Espanhola esta propondo a criminalização do “negacionismo médico”.

  4. A cada dia me fortalece a ideia de que é preciso fortalecer as mentes!
    Nunca se teve tanta noticia fria, tanta gente se comunicando e tanta falta de conhecimento. A fake e a deepfake só cresceram e sobreviverão pela falta de qualidade das pessoas. Comparo os resultados como ocorrem nas eleições. Votam sem qualquer cuidado, conhecimento ou responsabilidade.
    O que fazer? Mostrar a quem faz circular e/ou reenvia todo o lixo que recebe como se estivesse por “cima da carne seca”! Temos de mostrar o tamanho da incapacidade de quem não consegue diferenciar a verdade da mentira.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *