Um perfil falso do LinkedIn com uma foto de perfil gerada por computador virou notícia porque se conectou com autoridades americanas e outras pessoas influentes.
Essas falsificações estão se tornando cada vez mais comuns, o que significa que precisamos mais atenção em como poderão ser utilizadas. Seja no marketing, propaganda política, espionagem, e golpes.
A fabricação dessas imagens ocorre através de um sistema que imita a maneira como o cérebro aprende. Ou seja, o software é “treinado” a partir de uma grande exposição de rostos reais. O resultado final é chamado de Generative Adversarial Networks.
Um estudo da iScience, mostra que a confusão em distinguir esses rostos artificiais dos reais tem implicações em nosso comportamento online. A pesquisa sugere que esta prática pode aumentar a desconfiança nos outros e mudar profundamente a forma como nos comunicamos digitalmente.
Durante o estudo, os participantes foram alertados que dentre as imagens mostradas tinham pessoas reais e não reais. Isso gerou uma alta desconfiança.
Foi descoberto que as pessoas percebiam os rostos gerados artificialmente como sendo ainda mais reais do que fotos genuínas. Um dos indícios é que os rostos classificados como menos atraentes também foram classificados como mais reais, por estarem mais presentes no cotidiano. O risco disso é que as pessoas acabem influenciadas por rostos que julgam ser reais, embora não sejam.
O estudo ainda apontou que essa situação se enquadraria no que a psicologia chama de “monitoramento da realidade”, que tem como objetivo identificar corretamente se algo está vindo do mundo externo ou de dentro de nossos cérebros.
Por isso, é crucial que sejamos mais críticos ao avaliar, não somente rostos digitais, mas toda informação que nos chega por meios digitais.
O movimento de segurança cibernética está se concentrando cada vez mais em prevenir e detectar formas de manipulação de mídia, que pode ser usada para difamar indivíduos, afetar mercados e até eleições
Trata-se de uma preocupação crítica, para indivíduos e organizações em todo o mundo.