Valentin Calomme over de rol van technologie bij het voldoen aan de AI Act

Wat is de AI Act?

De AI Act is de nieuwe Europese wet die regels stelt aan het gebruik van AI. Het doel dat de Europese Commissie hiermee nastreeft is dat burgers en organisaties erop kunnen vertrouwen dat AI-systemen veilig, transparant en milieuvriendelijk zijn. En dat beslissingen die door AI-modellen worden genomen op een traceerbare en niet-discriminerende wijze tot stand zijn gekomen. Hoewel de impact van de wet nog onduidelijk is en ieder land een eigen toezichthouder heeft met een eigen mening en dus eigen interpretatie, is Valentin Calomme, strategieconsultant bij Conclusion AI360, enthousiast. “Het is de eerste vorm van regulering die zich richt op de hele AI-keten: hoe is het gebouwd, hoe wordt het gecontroleerd, hoe wordt het gebruikt, op wie heeft het invloed? De EU stelt heel duidelijk: je moet de mens centraal stellen als je aan de slag gaat met AI. En dit zijn de waarden en normen waar je je aan te houden hebt. Ook het feit dat de AI Act rekening houdt met de klimaat- en milieu-impact vind ik krachtig.”

Feit is dat wetgeving altijd achterloopt bij de technologie. Toch wil Valentin daar geen al te groot punt van maken. “Natuurlijk, de technologie is nog lang niet uitontwikkeld, dus ook de wet zal in ontwikkeling blijven. Maar ik vind het goed dat de AI Act nu al van kracht wordt, op het moment dat opschaling aan de orde van de dag is. We hebben bij de introductie van de AVG gezien dat het lastig is om nieuwe regels te introduceren in een domein waar iedereen al jaren mee te maken heeft. Met de AI Act is dat anders. Hoewel AI zelf niet nieuw is, wordt het pas sinds een paar jaar en slechts door enkele bedrijven op grote schaal gebruikt en ontwikkeld. De meeste organisaties staan aan het begin. Zij worden door de wet nu gedwongen om vanaf het eerste moment aandacht te geven aan responsible AI. Je kunt het onderwerp niet meer negeren.” 

Waarvoor geldt de AI Act?

De AI Act is uiteraard van toepassing op AI. Maar wat is AI nu eigenlijk precies? Daarom begint de AI Act met een definitie: AI is de mogelijkheid van een machine om mensachtige vaardigheden te vertonen - zoals redeneren, leren, plannen en creativiteit. AI maakt het voor technische systemen mogelijk om hun omgeving waar te nemen, om te gaan met deze waarnemingen en problemen op te lossen om een specifiek doel te bereiken. De computer ontvangt data - reeds voorbereid en verzameld via eigen sensoren, zoals een camera - verwerkt deze en reageert erop. AI-systemen zijn in staat om hun gedrag in zekere mate aan te passen, door het effect van vorige acties te analyseren en autonoom te werken.

Valentin: “De uitdaging met de AI Act is dat veel mensen hun eigen definitie en/of interpretatie hebben van wat AI is. Daarom verwacht ik veel discussies van mensen die beweren dat wat ze bouwen ‘geen AI’ is, om zo de wet te ontlopen. De vraagtekens zitten niet zozeer in het woord artificial – dat zijn taken die een computer doet – maar vooral in het woord intelligence. Wanneer is iets intelligent? Sommige oplossingen die wij ontwikkelen voor klanten zijn best ‘dom’, of in ieder geval vrij eenvoudig. Maar ze bieden wel beslisondersteuning of automatiseren beslissingen. Is het dan AI of niet?” Hij geeft als voorbeeld een toepassing die een signaal geeft als iets een grenswaarde over gaat. Daar is niet heel veel intelligentie voor nodig, maar zo’n oplossing is in sommige situatie extreem waardevol. “Daarom leggen wij liever de nadruk op duurzame waardecreatie dan op de vraag of het AI is.”

Hoe kun je afdwingen dat je volgens de AI Act werkt?

Duurzame waardecreatie gaat hand in hand met responsible AI. Dat is een breed thema dat Conclusion heeft opgesplitst in zes pijlers. Om in de gaten te houden of die zes pijlers op de juiste manier worden ingevuld, ontwikkelde Conclusion het Responsible AI Framework. Dit raamwerk kijkt niet alleen naar code of wiskunde, maar ook naar de menselijke componenten die een kernonderdeel zijn van datgene wat technologie duurzaam waarde laat leveren. “Technologie is immers meer dan code en wiskunde, maar omvat ook zaken als beleid, governance en het organiseren van menselijke betrokkenheid”, zegt Valentin. 

Het feit dat het AI-vakgebied nog relatief jong is als je het vergelijkt met een vakgebied als traditionele softwareontwikkeling, vergroot de uitdagingen, denkt Valentin. “Het mist ongeveer 20 jaar van vallen en opstaan als het gaat om uitvinden hoe je dingen goed bouwt. Denk aan geautomatiseerd testen, continuous integration en deployment, et cetera. AI maakt gebruik van veel lessen die zijn geleerd van traditionele softwareontwikkeling, maar het blijft een ander vakgebied met eigen uitdagingen die om eigen oplossingen vragen. Terwijl het vakgebied zich razendsnel ontwikkelt, blijven de normen en standaarden achter.”

Hij haalt het voorbeeld aan van het monitoren van energiegebruik van AI. “Als je niet oppast, ontwikkel je energieslurpende toepassingen. Het zou makkelijk zijn als er straks een plug & play monitoringtool komt die je off the shelf kunt gebruiken; een tool die gebruikmaakt van een standaard die iedereen omarmt. Nu moeten wij nog zelf een monitoringsysteem ontwikkelen en vervolgens in beheer nemen.” Iets wat veel tijd kost maar ook waarde toevoegt, want juist door het monitoren van de ecologische impact van AI-modellen bedenk je creatievere oplossingen, zo heeft Conclusion al bij meerdere klanten ervaren.

Technologie als facilitator

Hoewel er dus nog veel ontwikkeld moet worden, is hij positief over de rol die technologie in alle zes pijlers van het Responsible AI Framework kan spelen. “Technologie moet natuurlijk voldoen aan wettelijke vereisten, maar je moet het vooral ook blijven zien als een facilitator. Bij het ontdekken van goede use cases kan bijvoorbeeld process mining worden ingezet. Veel van het vervelende werk dat werknemers moeten doen voor governance kan worden geautomatiseerd of versneld met behulp van slimme workflows en chatbots die interne kennisbanken raadplegen. En ga zo maar door.” Kortom, als je technologie op de juiste manier inzet, dan zorgt de AI Act niet voor extra werk, maar is het juist een steun in de rug om op een duurzame manier waarde te creëren met AI.