Pessoas feitas em IA parecem mais reais do que pessoas reais

Publicado por Andre Bello em 4 de abril de 20234 de abril de 2023

Um perfil falso do LinkedIn com uma foto de perfil gerada por computador virou notícia porque se conectou com autoridades americanas e outras pessoas influentes.

Essas falsificações estão se tornando cada vez mais comuns, o que significa que precisamos mais atenção em como poderão ser utilizadas. Seja no marketing, propaganda política, espionagem, e golpes.

A fabricação dessas imagens ocorre através de um sistema que imita a maneira como o cérebro aprende. Ou seja, o software é “treinado” a partir de uma grande exposição de rostos reais. O resultado final é chamado de Generative Adversarial Networks.

Um estudo da iScience, mostra que a confusão em distinguir esses rostos artificiais dos reais tem implicações em nosso comportamento online. A pesquisa sugere que esta prática pode aumentar a desconfiança nos outros e mudar profundamente a forma como nos comunicamos digitalmente.

Durante o estudo, os participantes foram alertados que dentre as imagens mostradas tinham pessoas reais e não reais. Isso gerou uma alta desconfiança.

Foi descoberto que as pessoas percebiam os rostos gerados artificialmente como sendo ainda mais reais do que fotos genuínas. Um dos indícios é que os rostos classificados como menos atraentes também foram classificados como mais reais, por estarem mais presentes no cotidiano. O risco disso é que as pessoas acabem influenciadas por rostos que julgam ser reais, embora não sejam.

O estudo ainda apontou que essa situação se enquadraria no que a psicologia chama de “monitoramento da realidade”, que tem como objetivo identificar corretamente se algo está vindo do mundo externo ou de dentro de nossos cérebros.

Por isso, é crucial que sejamos mais críticos ao avaliar, não somente rostos digitais, mas toda informação que nos chega por meios digitais.

O movimento de segurança cibernética está se concentrando cada vez mais em prevenir e detectar formas de manipulação de mídia, que pode ser usada para difamar indivíduos, afetar mercados e até eleições

Trata-se de uma preocupação crítica, para indivíduos e organizações em todo o mundo.

Faça parte da lista exclusiva:
Conteúdo relevante no seu email

Participar da Lista Exclusiva