Ethische, Vertrauens- und Fähigkeitsbarrieren behindern den Fortschritt generativer KI in EMEA
In der EMEA-Region erwarten 76% der Verbraucher in den nächsten fünf Jahren erhebliche Auswirkungen von KI, doch 47% zweifeln an ihrem Wert und 41% sind besorgt über ihre Anwendungen.
Diese Erkenntnisse stammen aus einer Untersuchung des Unternehmens Alteryx, das auf Analytik und KI spezialisiert ist.
Seit der Veröffentlichung von ChatGPT durch OpenAI im November 2022 hat der Hype um generative KI ihr transformatives Potenzial hervorgehoben und sie zu einer der revolutionärsten Technologien unserer Zeit gemacht.
Trotz der Tatsache, dass 79% der Unternehmen berichten, dass generative KI positive Beiträge zu ihrem Geschäft leistet, bleibt eine Lücke in der Demonstration des Werts der KI sowohl für Verbraucher im persönlichen als auch im beruflichen Kontext. Laut dem Bericht „Marktforschung: Einstellungen und Akzeptanz von generativer KI“, der 690 IT-Geschäftsführer und 1.100 Mitglieder der allgemeinen Öffentlichkeit in EMEA befragte, stellen Vertrauens-, Ethik- und Fähigkeitsprobleme wesentliche Hindernisse für die erfolgreiche Einführung und breite Akzeptanz von generativer KI dar.
Die Auswirkungen von Fehlinformationen, Ungenauigkeiten und KI-Halluzinationen
KI-Halluzinationen – bei denen KI falsche oder unlogische Ausgaben generiert – stellen ein erhebliches Vertrauensproblem dar. Über ein Drittel der Öffentlichkeit ist besorgt über das Potenzial der KI, Fake News zu produzieren (36%) und von Hackern missbraucht zu werden (42%). Darüber hinaus berichten die Hälfte der Geschäftsleiter von der Bewältigung von Fehlinformationen, die von KI erzeugt wurden.
Bedenken hinsichtlich der Zuverlässigkeit von KI-generierten Informationen sind weit verbreitet. Die Hälfte der allgemeinen Öffentlichkeit berichtet über Ungenauigkeiten in den von KI produzierten Daten, und 38% finden sie veraltet. Geschäftsleiter sorgen sich auch um Urheberrechtsverletzungen oder Verstöße gegen geistige Eigentumsrechte durch generative KI (40%) und die Produktion unerwarteter oder unbeabsichtigter Ausgaben (36%).
Ein kritisches Vertrauensproblem für Unternehmen (62%) und die Öffentlichkeit (74%) dreht sich um KI-Halluzinationen. Unternehmen müssen sicherstellen, dass generative KI für geeignete Anwendungsfälle eingesetzt wird, unterstützt durch die richtige Technologie und Sicherheitsmaßnahmen, um diese Bedenken zu mindern. Fast die Hälfte der Verbraucher (45%) fordert regulatorische Maßnahmen zur Nutzung von KI.
Ethische Bedenken und Risiken bei der Nutzung generativer KI
Ethische Bedenken und Risiken sind große Probleme sowohl für Geschäftsleiter als auch für Verbraucher. Über die Hälfte der allgemeinen Öffentlichkeit (53%) lehnt die Verwendung von generativer KI zur Entscheidungsfindung ab, und 41% der Geschäftsleute sind skeptisch gegenüber ihrer Anwendung in kritischen Entscheidungsbereichen. Verbraucher lehnen ihre Nutzung besonders in der Politik ab (46%), während Unternehmen vorsichtig sind, sie im Gesundheitswesen einzusetzen (40%).
Forschungsergebnisse heben besorgniserregende Lücken in den organisatorischen Praktiken hervor. Nur ein Drittel der Geschäftsleiter stellt sicher, dass die Daten, die zur Schulung generativer KI verwendet werden, vielfältig und unvoreingenommen sind. Darüber hinaus haben nur 36% ethische Richtlinien festgelegt, und 52% haben Datenschutz- und Sicherheitsrichtlinien für generative KI-Anwendungen etabliert.
Dieses mangelnde Augenmerk auf Datenintegrität und ethische Überlegungen setzt Unternehmen einem Risiko aus. Ethik ist für 63% der Geschäftsleiter ein großes Anliegen, gefolgt von datenbezogenen Problemen (62%). Eine bessere Governance ist unerlässlich, um Vertrauen zu schaffen und Risiken im Zusammenhang mit der Nutzung generativer KI am Arbeitsplatz zu mindern.
Der Aufstieg generativer KI-Fähigkeiten und die Notwendigkeit einer verbesserten Datenkompetenz
Mit der Entwicklung der generativen KI werden die Entwicklung relevanter Fähigkeiten und die Verbesserung der Datenkompetenz entscheidend sein, um ihr volles Potenzial auszuschöpfen. Verbraucher nutzen generative KI zunehmend für Informationsabfrage, E-Mail-Kommunikation und den Erwerb von Fähigkeiten. Geschäftsleiter berichten, dass sie generative KI für Datenanalyse, Cybersicherheit und Kundensupport verwenden. Trotz des Erfolgs von Pilotprojekten bleiben Herausforderungen wie Sicherheitsprobleme, Datenschutzprobleme sowie die Qualität und Zuverlässigkeit der Ausgaben bestehen.
Trevor Schulze, CIO von Alteryx, betonte die Notwendigkeit, dass sowohl Unternehmen als auch die allgemeine Öffentlichkeit den Wert von KI vollständig verstehen und gemeinsame Bedenken in den frühen Phasen der Einführung generativer KI angehen.
Schulze hob die Bedeutung der Bewältigung von Vertrauensproblemen, ethischen Bedenken, Fachkräftemangel, Datenschutzängsten und algorithmischen Verzerrungen hervor. Er betonte die Notwendigkeit, dass Unternehmen ihre Datenreise beschleunigen, eine robuste Governance einführen und es nicht-technischen Personen ermöglichen, Daten sicher und zuverlässig zuzugreifen und zu analysieren. Die Auseinandersetzung mit Datenschutz- und Verzerrungsproblemen ist entscheidend, um wirklich von dieser bahnbrechenden Technologie zu profitieren.