Ethische, Vertrouwens- en Vaardigheidsbarrières Belemmeren de Vooruitgang van Generatieve AI in EMEA
In de EMEA-regio verwachten 76% van de consumenten aanzienlijke effecten van AI in de komende vijf jaar, maar 47% twijfelt aan de waarde ervan en 41% maakt zich zorgen over de toepassingen.
Dit inzicht komt uit onderzoek uitgevoerd door het bedrijfsanalytische AI-bedrijf Alteryx.
Sinds OpenAI ChatGPT uitbracht in november 2022, heeft de opwinding rond generatieve AI het transformerende potentieel ervan benadrukt, waardoor het een van de meest revolutionaire technologieën van onze tijd is geworden.
Ondanks dat 79% van de organisaties positieve bijdragen van generatieve AI aan hun bedrijf rapporteert, blijft er een kloof bestaan in het aantonen van de waarde van AI voor consumenten in zowel persoonlijke als professionele contexten. Volgens het rapport “Market Research: Attitudes and Adoption of Generative AI”, dat 690 IT-bedrijfsleiders en 1.100 leden van het algemene publiek in EMEA ondervroeg, zijn kwesties van vertrouwen, ethiek en vaardigheden belangrijke barrières voor de succesvolle implementatie en bredere acceptatie van generatieve AI.
De Impact van Misinformatie, Onnauwkeurigheden en AI Hallucinaties
AI-hallucinaties – waarbij AI onjuiste of onlogische outputs genereert – vormen een groot vertrouwensprobleem. Meer dan een derde van het publiek maakt zich zorgen over het potentieel van AI om nepnieuws te produceren (36%) en het misbruik ervan door hackers (42%). Bovendien rapporteert de helft van de bedrijfsleiders te maken te hebben met misinformatie gegenereerd door AI.
De zorgen over de betrouwbaarheid van door AI gegenereerde informatie zijn wijdverbreid. De helft van het algemene publiek rapporteert onnauwkeurigheden in door AI geproduceerde gegevens en 38% vindt deze verouderd. Bedrijfsleiders maken zich ook zorgen over de schending van auteursrechten of intellectuele eigendomsrechten door generatieve AI (40%) en het produceren van onbedoelde outputs (36%).
Een kritisch vertrouwensprobleem voor bedrijven (62%) en het publiek (74%) draait om AI-hallucinaties. Bedrijven moeten zorgen voor geschikte use cases voor generatieve AI, ondersteund door de juiste technologie en veiligheidsmaatregelen, om deze zorgen te mitigeren. Bijna de helft van de consumenten (45%) roept op tot regelgevende maatregelen voor het gebruik van AI.
Ethische Zorgen en Risico’s bij het Gebruik van Generatieve AI
Ethische zorgen en risico’s zijn belangrijke problemen voor zowel bedrijfsleiders als consumenten. Meer dan de helft van het algemene publiek (53%) is tegen het gebruik van generatieve AI voor het nemen van ethische beslissingen en 41% van de zakelijke respondenten is sceptisch over de toepassing ervan in kritieke besluitvormingsgebieden. Consumenten verzetten zich vooral tegen het gebruik ervan in de politiek (46%), terwijl bedrijven voorzichtig zijn met de inzet ervan in de gezondheidszorg (40%).
Onderzoeksresultaten benadrukken zorgwekkende hiaten in organisatorische praktijken. Slechts een derde van de bedrijfsleiders zorgt ervoor dat de gegevens die worden gebruikt om generatieve AI te trainen divers en onbevooroordeeld zijn. Bovendien heeft slechts 36% ethische richtlijnen vastgesteld en heeft 52% gegevensprivacy- en beveiligingsbeleid voor generatieve AI-toepassingen ingevoerd.
Deze gebrek aan nadruk op gegevensintegriteit en ethische overwegingen brengt bedrijven in gevaar. Ethiek is een belangrijke zorg voor 63% van de bedrijfsleiders, gevolgd door gegevensgerelateerde kwesties (62%). Betere governance is essentieel om vertrouwen te creëren en risico’s te mitigeren die verband houden met het gebruik van generatieve AI op de werkplek.
De Opkomst van Vaardigheden in Generatieve AI en de Noodzaak van Verbeterde Geletterdheid in Data
Naarmate generatieve AI evolueert, zullen het ontwikkelen van relevante vaardigheden en het verbeteren van de geletterdheid in data cruciaal zijn om het volledige potentieel ervan te realiseren. Consumenten gebruiken generatieve AI steeds meer voor informatie-opvraging, e-mailcommunicatie en het verwerven van vaardigheden. Bedrijfsleiders melden dat ze generatieve AI gebruiken voor data-analyse, cyberbeveiliging en klantenondersteuning. Ondanks het succes van pilotprojecten blijven uitdagingen bestaan, zoals beveiligingsproblemen, gegevensprivacykwesties en de kwaliteit en betrouwbaarheid van de outputs.
Trevor Schulze, CIO van Alteryx, benadrukte de noodzaak voor zowel bedrijven als het algemene publiek om de waarde van AI volledig te begrijpen en gemeenschappelijke zorgen aan te pakken terwijl ze navigeren door de vroege stadia van de adoptie van generatieve AI.
Schulze benadrukte het belang van het aanpakken van vertrouwenskwesties, ethische zorgen, vaardigheidstekorten, privacyangsten en algoritmische vooringenomenheid. Hij benadrukte de noodzaak voor bedrijven om hun gegevensreis te versnellen, robuuste governance aan te nemen en niet-technische personen in staat te stellen veilig en betrouwbaar toegang te krijgen tot en analyse te maken van gegevens. Het aanpakken van zorgen over privacy en vooringenomenheid is cruciaal om werkelijk te profiteren van deze baanbrekende technologie.