Eventverslag AI-geletterdheid:de sleutel tot een verantwoorde digitale toekomst

20 januari 2025

Door: Conclusion

Deel

‘Hoeveel AI-toepassingen gebruik jij eigenlijk vanaf het moment dat je wekker afgaat tot je weer naar bed gaat – bewust en onbewust?’, vroeg Adil Bohoudi, Managing Director van Conclusion AI 360, zich af tijdens het AI-geletterdheidsevent op 15 januari in het Mauritshuis. ‘Meer dan honderd?’. Denk aan je smartphone, het openbaar vervoer, sociale media, webshops en streamingdiensten. AI is overal. AI is geen toekomstmuziek meer, sterker nog, het is al diep verweven in ons dagelijks leven.

’63 procent van de medewerkers maakt ongeoorloofd gebruik van Chat GPT’, vertelt Bohoudi. ‘Het is een essentieel onderdeel van ons dagelijks leven geworden. Daarom moeten we onszelf en onze medewerkers bewust maken van de voor- en nadelen, gevaren en kansen. Bedrijven worstelen met twee grote angsten: enerzijds de FOMO – fear of missing out – en anderzijds de angst om op de voorpagina van de krant te belanden met slecht AI-nieuws.’ Denk bijvoorbeeld aan de chatbot van DPD of de rechtszaak die Air Canada verloor. AI-geletterdheid helpt organisaties om tussen deze extremen te navigeren.

AI in de publieke sector: kansen en risico’s

Ewout Irrgang, vice president van de Algemene Rekenkamer, presenteerde de bevindingen uit een vorig jaar opgeleverd rapport over AI-gebruik na onderzoek bij zeventig overheidsorganisaties en 433 use cases. ‘Bij de helft ontbreekt de balans tussen kansen en risico’s volledig’, stelt hij. ‘AI heeft de wereld in no time veranderd en werkzaamheden die vroeger dagen of weken duurden kunnen nu in een paar tellen. Als alles verandert kun je twee dingen doen: kijken welke kansen het biedt of afwachten tot het overwaait.’

Vanaf volgende week verplicht

Hij vervolgt: ‘We moeten allemaal AI-geletterd worden. Nou ja, eigenlijk al zíj́n. Vanaf volgende maand is het namelijk verplicht. En dat is niet voor niets: overheidsorganisaties hebben personeel dat met AI-systemen te maken heeft. HR-medewerkers moeten bijvoorbeeld weten wat er op AI-gebied gebruikt wordt en een ambtenaar moet begrijpen dat hij niet blindelings de resultaten van AI kan volgen. Als je AI-geletterdheid niet goed aanpakt, kan het gebruik van AI veranderen in een slechte science fiction film. Mijn boodschap is: beheers het, maar verlies de kansen niet uit het oog.’

AI om aangifte makkelijker te maken

En die kansen zijn aanzienlijk: AI maakt de overheid een heel stuk efficiënter. ‘Exact 55 van de 70 overheidsinstanties gebruiken AI al in meerdere systemen’, vertelt Irrgang. Denk aan tools die ambtenaren helpen bij het opstellen van conceptantwoorden op Kamervragen of het samenvatten van vergaderingen. De politie zet AI in om het proces van aangifte doen te verbeteren en het ministerie van Economische Zaken en Klimaat gebruikt AI om berekeningen efficiënter uit te voeren.

Te weinig risicoafweging

Toch kleven er risico’s aan, waarschuwt Irrgang. Zo kunnen er problemen ontstaan met databescherming en digitale soevereiniteit. "En als je het over AI hebt, heb je het automatisch over de cloud. De rijksoverheid is de afgelopen tien jaar ondoordacht de cloud ingegaan. Van een kwart van de clouddiensten weet het ministerie niet eens of het om een publieke of private cloud gaat.’ Een half uur voor het Conclusion event presenteerde Irrgang het rapport hierover aan de Tweede Kamer.

Discriminerende algoritmen

Daarnaast is er het gevaar van discriminerende algoritmen. ‘Veel mensen denken dat dit een groot probleem is bij de overheid, mede door de toeslagenaffaire. Maar ons onderzoek laat zien dat dit risico beheersbaar is als je de juiste maatregelen neemt,’ legt Irrgang uit. Bij de Koninklijke Marechaussee bijvoorbeeld wordt AI gebruikt om te bepalen welke vluchten extra gecontroleerd moeten worden. Daarbij wordt er actief nagedacht over het voorkomen van bias.

Tafelgesprek: Hoe vergroten we AI-geletterdheid?

Tijdens het panelgesprek gaven drie experts hun visie op AI-geletterdheid binnen organisaties. Privacy-expert Emerald de Leeuw-Goggin (Global Head in Privacy & AI Governance bij Logitech) benadrukte het belang van trainingen, en dat deze gemaakt moeten worden vanuit verschillende perspectieven en door verschillende disciplines. ‘Tijdens die trainingen moeten we vooral niet alleen de risico’s benoemen, maar juist ook de kansen. Verplichte trainingen over regels zijn saai en werken vaak averechts. We moeten mensen laten zien hoe AI hun werk makkelijker maakt.’ Daarnaast benadrukte ze dat goede AI-kernwaarden essentieel zijn: ‘Vaak schrijven organisaties prachtig AI-beleid, pagina’s lang, maar niemand onthoudt dat. En als niemand zich eraan houdt, is het eigenlijknutteloos. Als je een stuk of vier à vijf kernwaarden opstelt, helpt dit medewerkers in het moment de juiste beslissing te nemen.’

Vonne Laan, Privacy en AI advocaat bij The Data Lawyers, gaf inzicht in de AI Act: ‘De AI Act is er en is ook al van kracht. De verschillende artikelen in de AI Act worden gefaseerd van toepassing. In februari worden acties op het vlak van AI-geletterdheid verplicht. Ook de verbodsbepalingen voor hoog-risico toepassingen gaan dan gelden. Om te bepalen wat dit voor een organisatie betekent, moet een organisatie wel eerst weten wat ze met AI doen. Veel partijen ontwikkelen weliswaar niet zelf AI, maar kopen wel AI in, bewust of onbewust. Veel software die wordt ingekocht draait op de achtergrond op AI. En nog los daarvan maken werknemers vaak gebruik van gratis AI-tools zoals ChatGPT en image generators. Voor vrijwel alle organisaties zijn de regels van de AI Act daarom relevant. En dat biedt juist ook kansen. De strategie waarbinnen de AI Act is ontwikkeld, is immers gericht op het bevorderen van innovatie en niet het belemmeren ervan. Vanuit die hoek adviseren wij ook onze cliënten.’

Esther van Egerschot, professor AI governance en Ethiek, AI-expert bij Woman4Ethical AI bij UNESCO en Lead AI Strategist bij Conclusion AI 360, waarschuwt ervoor dat veel bedrijven geen idee hebben welke AI-toepassingen ze gebruiken: "Vraag eens binnen je bedrijf hoeveel AI-toepassingen er zijn. Meestal blijft het dan stil. Als je niet weet wat je hebt, kun je ook niet controleren of je aan wet- en regelgeving voldoet.’

Waar beginnen?

Veel bedrijven en overheden kampen met een versnipperd AI-beleid. ‘We kwamen 24 verschillende manieren tegen om AI-risico’s af te wegen. Dat maakt het voor iedereen onduidelijk’, stelt Irrgang. Er is dus dringend behoefte aan duidelijke kaders en standaardisatie. De eerste stap? Begin met wat er al op orde is. ‘Je kunt niet drie jaar wachten tot de basis perfect is. Start nu en bouw verder’, adviseert Bohoudi. AI-geletterdheid gaat niet alleen over compliance, maar ook over concurrentievoordeel. ‘Bedrijven die dit serieus nemen, creëren tot 25 procent meer waarde’, voegt Van Egerschot toe. ‘Daarnaast vind ik het de morele plicht van organisaties en instellingen om iedereen erin mee te nemen. AI is here to stay, het gaat onze levens beïnvloeden. We hebben er allemaal mee te maken.’

Het speelkwartier is voorbij

De overheid en het bedrijfsleven staan op een kruispunt. AI biedt enorme kansen, maar brengt ook risico’s met zich mee. Zonder AI-geletterdheid is het onmogelijk om de juiste balans te vinden. Van Egerschot: ‘Trainen, trainen, trainen. Dat is mijn advies. Niet alleen de medewerkers maar vooral ook de board en de raad van commissarissen. De Autoriteit Persoonsgegevens is aan het onderzoeken of het senior management hoofdelijk aansprakelijk gesteld kan worden. Dus zorg ervoor dat de toplaag van de organisatie ontzettend goed op de hoogte is.’

Irrgang sluit af met een tekst van Bob Dylan: ‘You better start swimming, or you’ll sink like a stone, for the times they are a-changin.’ AI is geen toekomstmuziek, het is de realiteit van vandaag. Het speelkwartier is voorbij, het is nu echt tijd om AI-geletterd te worden.

WhitepaperAI-geletterdheid

De nieuwe wettelijke verplichting die kansen biedt en risico's kent

Iedere organisatie die AI gebruikt moet vanaf februari ‘25 voldoen aan artikel 4 van de EU AI-Act: het bevorderen van AI-geletterdheid. Ga dus aan de slag met AI-geletterdheid. Benut de kansen, ken de risico’s en voldoe aan de wet. Laat je inspireren door onze whitepaper.