Coursera Learner working on a presentation with Coursera logo and

Os avanços recentes na pesquisa em IA revelam uma tendência preocupante: os humanos têm dificuldade em distinguir entre mídia gerada por IA e criada por humanos.

Coursera Learner working on a presentation with Coursera logo and

Uma abrangente pesquisa online envolvendo aproximadamente 3.000 participantes da Alemanha, China e Estados Unidos lança luz sobre essa questão, marcando o primeiro estudo internacional em larga escala sobre esse aspecto da alfabetização midiática.

A Dra. Lea Schönherr e o Professor Thorsten Holz do CISPA apresentaram essas descobertas no 45º Simpósio IEEE sobre Segurança e Privacidade em San Francisco. O estudo, realizado em colaboração com a Universidade de Ruhr em Bochum, a Universidade de Leibniz em Hanover e a TU Berlin, foi publicado no servidor de pré-impressão arXiv.

O crescimento exponencial da inteligência artificial facilitou a rápida produção de imagens, texto e áudio com um realismo notável. O Professor Holz alerta para os riscos associados a esse desenvolvimento, especialmente na influência sobre as opiniões políticas durante eventos cruciais, como as próximas eleições. Ele destaca a ameaça potencial à democracia representada pela manipulação de conteúdo gerado por IA.

Dada a urgência da situação, a Dra. Schönherr enfatiza a necessidade de automatizar a identificação de mídia gerada por IA, o que representa um desafio significativo de pesquisa. No entanto, ela observa a crescente dificuldade em distinguir tal conteúdo usando métodos automatizados devido às técnicas de geração de IA em evolução, destacando o papel crucial do discernimento humano.

Essa preocupação levou a uma investigação sobre a capacidade humana de identificar mídia gerada por IA. Os resultados do estudo transmídia em diferentes países e formatos de mídia são surpreendentes: a maioria dos participantes tem dificuldade em diferenciar entre conteúdo gerado por IA e criado por humanos.

Curiosamente, o estudo encontrou variações mínimas nas habilidades de reconhecimento entre grupos demográficos, como idade, educação, posição política ou alfabetização midiática. Realizada entre junho e setembro de 2022, a pesquisa coletou dados sociobiográficos junto com avaliações do conhecimento de mídia gerada por IA e diversos fatores cognitivos.

Embora os resultados do estudo ofereçam insights sobre os riscos de segurança cibernética, incluindo o potencial de conteúdo gerado por IA em ataques de engenharia social, eles também destacam a necessidade de mais pesquisas. A Dra. Schönherr defende a compreensão dos mecanismos subjacentes ao reconhecimento humano de mídia gerada por IA e o desenvolvimento de sistemas de suporte técnico, como processos automatizados de verificação de fatos.

Em resumo, o estudo destaca a necessidade urgente de enfrentar os desafios apresentados pela mídia gerada por IA e enfatiza o papel crucial tanto do julgamento humano quanto das soluções tecnológicas na mitigação dos riscos associados.

línguas

Weekly newsletter

No spam. Just the latest releases and tips, interesting articles, and exclusive interviews in your inbox every week.