Coursera Learner working on a presentation with Coursera logo and

Neue Fortschritte in der KI-Forschung zeigen einen besorgniserregenden Trend auf: Menschen haben Schwierigkeiten, zwischen KI-generierten und von Menschen erstellten Medien zu unterscheiden.

Coursera Learner working on a presentation with Coursera logo and

Eine umfassende Online-Umfrage mit etwa 3.000 Teilnehmern aus Deutschland, China und den USA beleuchtet dieses Thema und markiert die erste groß angelegte internationale Studie zu diesem Aspekt der Medienkompetenz.

Dr. Lea Schönherr und Professor Thorsten Holz vom CISPA präsentierten diese Ergebnisse auf dem 45. IEEE Symposium on Security and Privacy in San Francisco. Die Studie, durchgeführt in Zusammenarbeit mit der Ruhr-Universität Bochum, der Leibniz Universität Hannover und der TU Berlin, wurde auf dem arXiv-Preprint-Server veröffentlicht.

Das exponentielle Wachstum der künstlichen Intelligenz hat die schnelle Produktion von Bildern, Texten und Audioinhalten mit bemerkenswerter Realitätstreue ermöglicht. Professor Holz warnt vor den Risiken, die mit dieser Entwicklung einhergehen, insbesondere bei der Beeinflussung politischer Meinungen während wichtiger Ereignisse wie bevorstehender Wahlen. Er betont die potenzielle Bedrohung für die Demokratie durch die Manipulation von KI-generierten Inhalten.

Angesichts der Dringlichkeit der Situation betont Dr. Schönherr die Notwendigkeit der Automatisierung der Identifizierung von KI-generierten Medien, was eine bedeutende Herausforderung in der Forschung darstellt. Sie stellt jedoch fest, dass die zunehmende Schwierigkeit, solche Inhalte mit automatisierten Methoden zu unterscheiden, auf sich entwickelnde KI-Generierungstechniken zurückzuführen ist, und unterstreicht die entscheidende Rolle der menschlichen Unterscheidungsfähigkeit.

Diese Besorgnis veranlasste eine Untersuchung der menschlichen Fähigkeit zur Identifizierung von KI-generierten Medien. Die Ergebnisse der länder- und medienübergreifenden Studie sind alarmierend: Die Mehrheit der Teilnehmer hat Schwierigkeiten, zwischen KI-generierten und von Menschen erstellten Inhalten zu unterscheiden.

Interessanterweise fand die Studie minimale Unterschiede in den Erkennungsfähigkeiten zwischen verschiedenen demografischen Gruppen wie Alter, Bildung, politischer Einstellung oder Medienkompetenz. Zwischen Juni und September 2022 durchgeführt, sammelte die Umfrage sozio-biografische Daten sowie Bewertungen des Wissens über KI-generierte Medien und verschiedener kognitiver Faktoren.

Während die Ergebnisse der Studie Einblicke in die Cybersicherheitsrisiken bieten, einschließlich des Potenzials für KI-generierte Inhalte in Social Engineering-Angriffen, betonen sie auch den Bedarf an weiterer Forschung. Dr. Schönherr plädiert für ein besseres Verständnis der Mechanismen der menschlichen Erkennung von KI-generierten Medien und die Entwicklung technischer Unterstützungssysteme wie automatisierter Faktenprüfungsprozesse.

Zusammenfassend unterstreicht die Studie die dringende Notwendigkeit, die Herausforderungen durch KI-generierte Medien anzugehen, und betont die entscheidende Rolle sowohl des menschlichen Urteilsvermögens als auch technologischer Lösungen zur Minimierung damit verbundener Risiken.

Languages

Weekly newsletter

No spam. Just the latest releases and tips, interesting articles, and exclusive interviews in your inbox every week.