Coursera Learner working on a presentation with Coursera logo and

Recente ontwikkelingen in AI-onderzoek tonen een verontrustende trend aan: mensen hebben moeite om onderscheid te maken tussen door AI gegenereerde en door mensen gemaakte media.

Coursera Learner working on a presentation with Coursera logo and

Een uitgebreide online enquête met ongeveer 3.000 deelnemers uit Duitsland, China en de VS werpt licht op dit probleem en markeert het eerste grootschalige internationale onderzoek naar dit aspect van mediawijsheid.

Drs. Lea Schönherr en professor Thorsten Holz van CISPA presenteerden deze bevindingen op het 45e IEEE Symposium over Beveiliging en Privacy in San Francisco. De studie, uitgevoerd in samenwerking met de Ruhr-universiteit Bochum, de Leibniz Universiteit Hannover en de TU Berlijn, is gepubliceerd op de arXiv preprint-server.

De exponentiële groei van kunstmatige intelligentie heeft de snelle productie van beelden, tekst en audio met opmerkelijke realisme mogelijk gemaakt. Professor Holz waarschuwt voor de risico’s die gepaard gaan met deze ontwikkeling, met name bij het beïnvloeden van politieke opvattingen tijdens cruciale gebeurtenissen zoals aanstaande verkiezingen. Hij benadrukt de potentiële bedreiging voor de democratie door de manipulatie van door AI gegenereerde inhoud.

Gezien de urgentie van de situatie benadrukt Dr. Schönherr de noodzaak om de identificatie van door AI gegenereerde media te automatiseren, wat een belangrijke onderzoekuitdaging vormt. Ze merkt echter op dat de toenemende moeilijkheid om dergelijke inhoud te onderscheiden met geautomatiseerde methoden te wijten is aan evoluerende AI-generatietechnieken, waarbij het cruciale belang van menselijk onderscheidingsvermogen wordt benadrukt.

Deze bezorgdheid leidde tot een onderzoek naar het vermogen van mensen om door AI gegenereerde media te identificeren. De resultaten van de crossmediale studie in verschillende landen en mediavormaten zijn verrassend: de meerderheid van de deelnemers heeft moeite om onderscheid te maken tussen door AI gegenereerde en door mensen gemaakte inhoud.

Interessant genoeg vond de studie minimale variaties in herkenningsvaardigheden over demografische gegevens zoals leeftijd, opleiding, politieke opvattingen of mediawijsheid. Uitgevoerd tussen juni en september 2022, verzamelde de enquête sociaal-biografische gegevens samen met beoordelingen van kennis over door AI gegenereerde media en verschillende cognitieve factoren.

Hoewel de resultaten van de studie inzichten bieden in de risico’s voor cyberveiligheid, waaronder het potentieel voor door AI gegenereerde inhoud in sociale-techniek aanvallen, benadrukken ze ook de noodzaak van verder onderzoek. Dr. Schönherr pleit voor het begrip van de mechanismen die ten grondslag liggen aan de menselijke herkenning van door AI gegenereerde media en het ontwikkelen van technische ondersteuningssystemen zoals geautomatiseerde fact-checking processen.

Samengevat benadrukt de studie de dringende noodzaak om de uitdagingen aan te pakken die worden veroorzaakt door door AI gegenereerde media en benadrukt ze de cruciale rol van zowel menselijk oordeel als technologische oplossingen bij het verminderen van de bijbehorende risico’s.

Talen

Weekly newsletter

No spam. Just the latest releases and tips, interesting articles, and exclusive interviews in your inbox every week.