AI-agenten, privacy en ethiek zorgen voor afnemend vertrouwen

Economie

Het is makkelijk om over AI-agents te praten, maar de introductie ervan in organisaties lijkt ingewikkelder dan verwacht. Aanvankelijk enthousiasme heeft plaatsgemaakt voor voorzichtigheid, met name met betrekking tot twee kwesties – privacy en ethiek – die ervoor hebben gezorgd dat het vertrouwen is gekelderd, van 43% van de organisaties naar 27%. Dit ondanks het feit dat AI-agents worden gezien als "collega's" die een enorm potentieel binnen organisaties kunnen ontsluiten. Een rapport van het Capgemini Research Institute, "Rise of agentic AI: How trust is the key to human-AI collaboration", schat dat agentic AI in 2028 wereldwijd een economische waarde van maar liefst $ 450 miljard kan genereren. Desondanks neemt het aantal bedrijven dat zegt vertrouwen te hebben af, terwijl twee op de vijf leidinggevenden wereldwijd van mening zijn dat de risico's op dit moment groter zijn dan de voordelen, aldus het rapport, dat is uitgevoerd onder 1500 leidinggevenden bij organisaties met een jaaromzet van meer dan $ 1 miljard, in 14 landen, waaronder Italië, en verspreid over 13 verschillende sectoren.

In werkelijkheid toont de snelle evolutie van nieuwe AI-tools aan dat organisaties zich op een duurzame manier moeten aanpassen voor iedereen. En hoewel een aanzienlijk percentage van de bedrijven agentische AI gebruikt voor ondersteunende doeleinden, ligt de situatie anders bij autonoom gebruik. Slechts 40% van de bedrijven zegt AI-agenten te vertrouwen voor het autonoom beheren van taken en processen, terwijl de meerderheid de technologie niet volledig vertrouwt.

Italiaanse organisaties hebben, in lijn met wereldwijde trends, minder vertrouwen in AI-agenten dan in 2024. Ongeveer 60% van de Italiaanse organisaties maakt zich zorgen over privacyproblemen, beveiligingsrisico's en het risico op ongewenste vooroordelen die verband houden met het gebruik van Agentic AI. Italiaanse organisaties verwachten dat samenwerking met AI de komende 12 maanden zal leiden tot betere vaardigheden voor teamleden, terwijl dezelfde organisaties AI-agenten voor de komende drie jaar zien als autonome leden van door mensen aangestuurde teams.

De Italiaanse data-analyse benadrukt een andere aanpak op de korte en middellange termijn en een evolutie van de betrokken functies. Zo vallen Sales, IT, Marketing & Communicatie en Financiën op onder de bedrijfsfuncties waar organisaties verwachten dat AI-agenten de komende 12 maanden minstens één proces of subproces per dag beheren. Wanneer de periode wordt verlengd tot drie jaar, groeit de lijst, en ook Operations behoort tot de functies waarvan Italiaanse organisaties denken dat ze de grootste impact zullen ondervinden van Agentic AI.

Volgens Monia Ferrari, CEO van Capgemini in Italië, "is het economische potentieel van AI-agents enorm, maar om dit te realiseren is meer nodig dan alleen technologie: het vereist een strategische en gestructureerde transformatie die mensen, processen en systemen omvat. Om succesvol te zijn, moeten organisaties zich richten op resultaten en hun processen heroverwegen met een 'AI-first'-visie. De kern van deze transformatie is de noodzaak om vertrouwen op te bouwen door AI vanaf de beginfase ethisch en veilig te ontwikkelen. Organisatiestructuren moeten ook worden herontworpen om een effectieve synergie tussen mens en AI te bevorderen, en zo de voorwaarden te creëren om menselijk oordeel te benutten en betere bedrijfsresultaten te behalen."

Het opkomende Italiaanse beeld verschilt, ondanks de unieke kenmerken, niet veel van het wereldwijde beeld. Hoewel een kwart (26%) van de Italiaanse organisaties Agentic AI-oplossingen al op gedeeltelijke schaal heeft geïmplementeerd, is nog eens 27% pas begonnen met het verkennen van de mogelijkheden van de technologie. Maar liefst 36% van de ondervraagde Italiaanse organisaties heeft geen strategie, maar heeft initiatieven binnen verschillende afdelingen om deze te ontwikkelen en op te schalen, terwijl 28% van de Italiaanse steekproef een strategie en een roadmap heeft voor Agentic AI-initiatieven. Eén gebied waarop Italië zich onderscheidt van de rest van de internationale steekproef, wordt benadrukt door het feit dat 84% van de Italiaanse steekproef, aanzienlijk hoger dan de wereldwijde steekproef (62%), er de voorkeur aan geeft om samen te werken met oplossingsleveranciers om beschikbare AI-agents te implementeren en aan te passen in plaats van eigen oplossingen te creëren.

Wereldwijd, net als in Italië, wordt het enthousiasme van veel managers met de nodige terughoudendheid ontvangen door organisaties. Bijna een kwart heeft al pilotprojecten opgestart en 14% is al overgegaan tot implementatie, maar de meesten bevinden zich nog in de planningsfase. Capgemini merkt op dat dit relatief trage tempo in contrast staat met de ambitie van leidinggevenden: 93% gelooft dat de inzet van AI-agents in de komende 12 maanden een bron van concurrentievoordeel zal zijn. Toch ontbreekt het bijna de helft van de bedrijven nog steeds aan een duidelijke implementatiestrategie.

Capgemini verwacht dat AI-agenten op korte termijn breed zullen worden ingezet in klantenservice, IT en sales, voordat ze binnen drie jaar worden uitgebreid naar operations, onderzoek en ontwikkeling en marketing. De meeste implementaties zijn echter nog steeds beperkt tot de initiële mate van autonomie: slechts 15% van de bedrijfsprocessen functioneert semi-autonoom of volledig autonoom. Dit percentage zal naar verwachting stijgen tot 25% in 2028, maar momenteel functioneren de meeste agents nog steeds als assistenten of copiloten die routinetaken ondersteunen in plaats van complexe workflows autonoom te beheren.

Hoewel de synergie tussen mens en AI essentieel is voor duurzame adoptie, lijkt de vertrouwenscrisis van organisaties problematisch. De werkelijke waarde van agentische AI ligt ook in het vermogen om onze manier van werken te heroverwegen. Binnen de komende 12 maanden is meer dan 60% van de bedrijven van plan om hybride teams met mens en AI op te zetten, waarin agents de menselijke capaciteiten zullen ondersteunen of versterken. In dit nieuwe landschap worden AI-agenten niet langer alleen gezien als hulpmiddelen, maar als actieve teamleden. Zeventig procent van de bedrijven gelooft dat de implementatie van AI-agenten zal leiden tot een organisatorische herstructurering, wat zal leiden tot een heroverweging van rollen, teamstructuren en workflows. Bedrijven ontdekken dat de grootste waarde wordt behaald wanneer mensen betrokken blijven. Effectieve samenwerking tussen mens en AI zou de betrokkenheid bij waardevollere activiteiten met 65% kunnen verhogen, creativiteit stimuleren (+53%) en de werknemerstevredenheid verbeteren (+49%).

Nieuws en inzichten over politieke, economische en financiële gebeurtenissen.

Aanmelden