Os avanços recentes na pesquisa em IA revelam uma tendência preocupante: os humanos têm dificuldade em distinguir entre mídia gerada por IA e criada por humanos.
Uma abrangente pesquisa online envolvendo aproximadamente 3.000 participantes da Alemanha, China e Estados Unidos lança luz sobre essa questão, marcando o primeiro estudo internacional em larga escala sobre esse aspecto da alfabetização midiática.
A Dra. Lea Schönherr e o Professor Thorsten Holz do CISPA apresentaram essas descobertas no 45º Simpósio IEEE sobre Segurança e Privacidade em San Francisco. O estudo, realizado em colaboração com a Universidade de Ruhr em Bochum, a Universidade de Leibniz em Hanover e a TU Berlin, foi publicado no servidor de pré-impressão arXiv.
O crescimento exponencial da inteligência artificial facilitou a rápida produção de imagens, texto e áudio com um realismo notável. O Professor Holz alerta para os riscos associados a esse desenvolvimento, especialmente na influência sobre as opiniões políticas durante eventos cruciais, como as próximas eleições. Ele destaca a ameaça potencial à democracia representada pela manipulação de conteúdo gerado por IA.
Dada a urgência da situação, a Dra. Schönherr enfatiza a necessidade de automatizar a identificação de mídia gerada por IA, o que representa um desafio significativo de pesquisa. No entanto, ela observa a crescente dificuldade em distinguir tal conteúdo usando métodos automatizados devido às técnicas de geração de IA em evolução, destacando o papel crucial do discernimento humano.
Essa preocupação levou a uma investigação sobre a capacidade humana de identificar mídia gerada por IA. Os resultados do estudo transmídia em diferentes países e formatos de mídia são surpreendentes: a maioria dos participantes tem dificuldade em diferenciar entre conteúdo gerado por IA e criado por humanos.
Curiosamente, o estudo encontrou variações mínimas nas habilidades de reconhecimento entre grupos demográficos, como idade, educação, posição política ou alfabetização midiática. Realizada entre junho e setembro de 2022, a pesquisa coletou dados sociobiográficos junto com avaliações do conhecimento de mídia gerada por IA e diversos fatores cognitivos.
Embora os resultados do estudo ofereçam insights sobre os riscos de segurança cibernética, incluindo o potencial de conteúdo gerado por IA em ataques de engenharia social, eles também destacam a necessidade de mais pesquisas. A Dra. Schönherr defende a compreensão dos mecanismos subjacentes ao reconhecimento humano de mídia gerada por IA e o desenvolvimento de sistemas de suporte técnico, como processos automatizados de verificação de fatos.
Em resumo, o estudo destaca a necessidade urgente de enfrentar os desafios apresentados pela mídia gerada por IA e enfatiza o papel crucial tanto do julgamento humano quanto das soluções tecnológicas na mitigação dos riscos associados.