Het valt niet te ontkennen: we zitten midden in een AI-hype. Sinds de lancering van ChatGPT in 2022 raken kranten noch talkshows uitgepraat over de mogelijke toepassingen én gevaren van de nieuwe technologie. Het is vrij onmogelijk om LinkedIn te openen zonder dat iemand je iets probeert te vertellen over ‘innovatieve AI-oplossingen’ voor je al dan niet bestaande eenmanszaak. 

Maar AI is niet alleen een hype. Er zijn ook serieuze vraagstukken aan verbonden, niet in het minst voor politici. Namelijk: wat voor beleid hebben we nodig om de toepassingen van kunstmatige intelligentie in goede banen te leiden? Wat staat er op het spel als we dat niet doen? En hoe verschilt de Europese aanpak van die van China of Amerika?

De tweede categorie van risico’s is controleverlies: “Dat zien we in het klein op sociale media. Het systeem dat aanbevelingen genereert op je tijdlijn is een simpele vorm van kunstmatige intelligentie. Maar dat systeem kan onbedoelde consequenties met zich meebrengen, zoals de bestorming van het Capitool in de Verenigde Staten.” Experts wijzen inderdaad op de centrale rol die sociale media speelden in aanloop naar en tijdens de revolte op 6 januari 2021. Die eindigde met vijf doden en honderden gewonden. Een onwerkelijke couppoging die overal ter wereld live op televisie was te volgen.

Brakel: “De derde categorie ontstaat als mensen, bedrijven of landen onder druk van extreme concurrentie beslissingen overdragen aan AI. Als een land begint met het uitbesteden van militair-strategische beslissingen aan kunstmatige intelligentie – bijvoorbeeld door de lancering van z’n atoomwapens te laten automatiseren – prikkelt het andere landen om dat ook te gaan doen. Concurrentie leidt dan tot het vrijwillig overdragen van steeds meer besluitvorming aan AI. Daar wil je als mensheid ook regels over afspreken, die bepalen hoe ver je wilt en kunt gaan.”

Europese AI-wet 

De in het verkiezingsprogramma genoemde Europese wet over kunstmatige intelligentie is op 1 augustus in werking getreden. Brakel vertelt dat de wet een risicogerichte benadering gebruikt, waarbij de regels strenger worden naarmate het risico op het schenden van mensenrechten groter wordt. Aanvankelijk maakte de wet onderscheid tussen onaanvaardbaar, hoog en laag risico. AI-systemen met een onaanvaardbaar risico zijn verboden. Hieronder valt bijvoorbeeld het gebruik van kunstmatige intelligentie voor sociale kredietsystemen. Dat zijn systemen waarbij burgers scores krijgen op basis van hun gemonitorde gedrag, waardoor ze bepaalde maatschappelijke privileges en rechten krijgen of verliezen. 

Hoog-risico-toepassingen van AI zijn legaal binnen de EU-wetgeving, zegt Brakel: “Maar ze vereisen veel documentatie om te bewijzen dat de gebruikte data vrij zijn van vooringenomenheid. Denk hierbij aan het gebruik van kunstmatige intelligentie bij het beoordelen van uitkeringsaanvragen.”

De laag-risico-categorie omvat het gros van de AI. “Als iets niet verboden is en niet op de hoog-risico-lijst staat, dan zijn er geen regels. Wil netbeheerder TenneT bijvoorbeeld de hoogspanningsmasten controleren op kapotte kabels via een geautomatiseerde drone, dan kan dat zonder dat de AI-wet eisen oplegt.”

Effecten

Brakel denkt dat deze risico-aanpak in principe goed is, maar hij waarschuwt dat het model wel erg is toegespitst op relatief specifieke toepassingen van AI. “Terwijl er ook systemen zijn die heel veel verschillende toepassingen hebben en daarom aan het begin van de waardeketen staan. Als zo’n model een probleem heeft, verspreid dat zich naar alle systemen die dat model gebruiken.” Het CrowdStrike-incident van afgelopen zomer illustreert bijvoorbeeld hoe gevaarlijk het is als heel veel systemen afhankelijk zijn van één kwetsbaarheid. Complete vliegvelden en ziekenhuizen liepen wereldwijd vast door een knullige software-update.

Volgens Brakel is hier in Brussel wel naar gekeken: “Er is een hoofdstuk aan de wet toegevoegd waarbij modellen boven een bepaald niveau van rekenkracht ook aan risico-identificatie en -mitigatie moeten doen. Het nieuwe AI-kantoor in Brussel controleert dat.” Het Future of Life Institute, waar Brakel werkzaam is, pleit ervoor dat er over het algemeen meer verantwoordelijkheid bij de grote AI-aanbieders moet komen te liggen, in plaats van alleen bij de gebruikers van hun systemen.

Hoe dan ook is de wet volgens Brakel een mijlpaal: “Zij laat zien dat het überhaupt mogelijk is om AI te reguleren. Geen enkele markt van een soortgelijke omvang heeft dat eerder gedaan.” Daarbij heeft Europa volgens hem geleerd van het verleden en met name van de invoering van de Algemene verordening gegevensbescherming (AVG, de Europese privacywet). “Daarin staat nog dat de bescherming van gegevens van burgers gehandhaafd moet worden in de lidstaat binnen de EU waar het hoofdkantoor van een bedrijf zit. 

Om die reden hebben alle big tech-bedrijven hun hoofdkantoor in Ierland, waar de toezichthouder zwak is. De andere 26 lidstaten staan hierdoor buitenspel. Dit is onder de nieuwe wet onmogelijk: het AI-kantoor in Brussel heeft de macht om zelf handhavend op te treden.”

Kritiek

Dit kantoor lijkt op de AI-autoriteit waar GroenLinks en PvdA in hun gezamenlijke verkiezingsprogramma voor pleiten. Overigens is het geen zelfstandig agentschap, maar een afdeling van de Europese Commissie. De reden dat het agentschap er niet van is gekomen, is volgens Brakel vooral budgettair. “Kortzichtig”, noemt hij dit. “Het Verenigd Koninkrijk trekt honderd miljoen pond uit voor hun veiligheidsinstituut. Dat zijn bedragen waar Europa nog naar op zoek is. Het is heel belangrijk dat we in de volgende begroting van de EU – of zo snel mogelijk – meer middelen vinden.”

Andere vaak genoemde kritiek is dat Europa achterloopt bij het reguleren van de militaire toepassingen van kunstmatige intelligentie. “Verreweg het grootste gat in de wet”, aldus Brakel. De wet benadrukt expliciet dat het gebruik van AI-technologie voor defensie en nationale veiligheid vrijgesteld is van regelgeving. Dat is vanuit de geschiedenis van de EU heel verklaarbaar; defensiebeleid laten we immers over aan de lidstaten. 

Brakel: “Maar dat is aan het veranderen: we krijgen een Eurocommissaris voor Defensie en kopen gezamenlijk munitie in voor Oekraïne. Juist nu de wereld geopolitiek zo verandert en je ziet dat het gebruik van AI en autonome wapens ook de manier waarop we oorlog voeren gaat veranderen, zouden duidelijke richtlijnen van de EU een normerend effect kunnen hebben. Ze kunnen een basis leggen voor mogelijke toekomstige internationale afspraken.”

Hij betoogt dat landen zich wel degelijk zorgen maken. Want wat gebeurt er zodra een autonoom wapensysteem een oorlogsmisdaad begaat? “Je kunt dan niet duidelijk een link leggen met de soldaat die daar opdracht toe heeft gegeven. Daarbij is de vraag hoe je omgaat met systemen die handelen op basis van verkeerde signalen. Denk bijvoorbeeld aan een zonnestraal die wordt geïnterpreteerd als een afgevuurde kogel, waarop een tegenaanval wordt ingezet. Dat kan een onbedoelde oorlog veroorzaken.”

Nederland zit te slapen

De oplopende spanningen tussen het Westen en China de afgelopen jaren doen analisten nerveus kijken naar wat Beijing nou precies uitspookt. De Amerikaanse Nationale Veiligheidscommissie voor Kunstmatige Intelligentie noemde China maar liefst 699 keer in haar eindrapport, meer dan elke andere geopolitieke rivaal of bondgenoot.

Brakel beschrijft het Chinese AI-beleid als “deels geënt op het voorkómen van vrijheid van meningsuiting, en op de vraag hoe modellen kunnen worden ingezet om bepaalde ideeën in de samenleving te verspreiden”. Het is volgens hem goed dat de Amerikaanse president Biden en zijn Chinese tegenhanger Xi elkaar afgelopen jaar hebben ontmoet in San Francisco en daarbij specifiek spraken over de militaire toepassingen van AI. Maar hij plaatst ook een kanttekening: “We moeten ons ervan bewust zijn dat het grootste risico momenteel uit de Verenigde Staten komt. De technologie loopt daar zeker twee jaar voor op die van China, terwijl er geen enkele wet- of regelgeving is.”

Nederland zit volgens Brakel nog te veel te slapen. “Landen moeten beseffen dat er gigantische ontwikkelingen plaatsvinden. Ze moeten gaan bijdragen aan de discussie over hoe we als wereld de nieuwe technologie moeten vormgeven. Nederland behoort tot een heel beperkte groep landen die een belangrijk stuk van de AI-waardeketen hebben, namelijk chipmachinefabrikant ASML.”

Dat strategisch belang zou beter ingezet kunnen worden. Brakel had in het nieuwe kabinet graag een bewindspersoon voor Informatisering en Digitale Zaken gezien, in plaats van het dossier onder te brengen bij een staatssecretaris die ook Koninkrijksrelaties doet. Ook pleit hij ervoor om meer onderzoek te doen aan universiteiten. “Die hebben nu niet de middelen om zelf rekenkracht aan te schaffen. Dat kan niet in Nederland worden opgelost, dat moet minimaal op Europees niveau. Het pleidooi van Stuart Russell, een bekend computerwetenschapper, is dat bijvoorbeeld de EU, Canada en Japan hun krachten bundelen om gezamenlijk rekenkracht in te kopen. Zo kunnen we eigen modellen ontwikkelen en onderzoeken hoe we de modellen van bedrijven beheersbaar houden.”

Filosofische vraag

Wat gebeurt er met de wereld op het moment dat intelligentie niet meer voorbehouden is aan biologische wezens? Een filosofische vraag, die steeds relevanter wordt. Brakel vertelt over de voorzitter van de Future of Life Institute, Max Tegmark, die graag de vergelijking maakt met het uitsterven van de zwarte neushoorn. “Wisten die dieren wat er aan de hand was? Wisten ze dat men dacht dat hun hoorn erectieproblemen kon verhelpen? Waarschijnlijk niet. Maar ze stierven wél uit. Op het moment dat je eenmaal te maken hebt met intelligentie die de onze honderdmaal overstijgt, kun je niet heel veel zinnige discussies meer voeren over wat precies het risico is. Laat staan over hoe je dat risico moet aanpakken.”