Kunstmatige intelligentie is, ondanks al haar beloften, een tweesnijdend zwaard. We bouwen niet alleen machines die poëzie kunnen genereren of films kunnen aanbevelen. We creëren systemen die economieën, gezondheidszorg, nationale veiligheid en het weefsel van de samenleving beïnvloeden. Met zo'n enorm potentieel vragen ook de risico's van AI om serieuze aandacht.

Een recent International AI Safety Report (2025) geeft een uitgebreid overzicht van het beheersen van AI-risico's. Daarnaast legt het de verschillende aspecten van de technologie en de sector zelf uit in eenvoudige, begrijpelijke taal. Het beschrijft strategieën om risico's te beperken, kaders voor bestuur en toezicht en een spectrum aan risico's, van misbruik door kwaadwillenden tot onbedoelde systeemstoringen. Het rapport is uitstekend en Nobelprijswinnaars hebben eraan meegewerkt. Toch ontbreekt er naar mijn bescheiden mening één overduidelijk onderwerp: de militaire toepassingen van AI. Die afwezigheid zegt veel over de olifant in de kamer.

Laten we de belangrijkste conclusies van dit rapport bekijken, de risicostrategieën ontleden en afsluiten met de vraag waarom de rol van het leger in de ontwikkeling van AI niet langer kan worden genegeerd.

De technische fundamenten van AI-risicobeheer

AI-risico's beheersen is niet zo eenvoudig als een paar veiligheidscontroles toevoegen of betere code schrijven. Het rapport beschrijft meerdere overlappende strategieën, geïnspireerd door veiligheidskritische sectoren zoals de luchtvaart en kernenergie. Enkele van de belangrijkste benaderingen zijn:

1. Gelaagde verdediging: meerdere veiligheidslagen

Deze strategie is ontleend aan cybersecurity en nucleaire veiligheid, waar meerdere verdedigingsmaatregelen worden gestapeld om de kans op een catastrofale storing te verkleinen. Bij AI kan dit betekenen dat beveiligingen in verschillende ontwikkelfasen worden ingebouwd, bijvoorbeeld door trainingsdata voor modellen te beperken, realtimemonitoring tijdens de inzet toe te passen en strikte toegangscontroles voor gebruikers af te dwingen.

Zie het als een firewall voor AI-besluitvorming: als één barrière faalt, staat er een volgende klaar om het probleem op te vangen.

2. Risicodrempels: bepalen welk gevaar aanvaardbaar is

Een van de boeiendste (en meest controversiële) ideeën in het rapport is het gebruik van drempels voor modelcapaciteiten: vooraf vastgestelde grenzen die bepalen wanneer een AI-systeem te riskant wordt. Als bijvoorbeeld blijkt dat een model mensen ‘aanzienlijk helpt bij het verkrijgen, produceren of inzetten van chemische, biologische, radiologische of nucleaire (CBRN) wapens’, moet dat onmiddellijk ingrijpen uitlokken.

Dit is een ambitieuze aanpak, maar er zit een addertje onder het gras: het bepalen van deze drempels is ongelooflijk moeilijk. AI ontwikkelt zich zo snel dat een systeem dat vandaag ‘veilig’ is, morgen na een eenvoudige fine-tuning een veiligheidsnachtmerrie kan worden.

3. Als-dan-toezeggingen: de noodknop van AI

Sommige bedrijven die AI met een hoog risico ontwikkelen, voeren vooraf vastgelegde als-dan-afspraken in. Dit zijn in wezen rode lijnen die veiligheidsprotocollen voor noodsituaties activeren. Als een AI-systeem een vooraf bepaalde risicogrens overschrijdt, wordt de toegang beperkt, worden updates stilgelegd of starten interne onderzoeken.

In theorie klinkt dit geweldig, maar de uitdaging is handhaving. Zonder wereldwijde afstemming van regelgeving zijn deze toezeggingen slechts zo sterk als de bedrijven die ze doen.

4. Red teaming: AI hacken om AI te beschermen

Beveiligingsexperts gebruiken ‘red teaming’ al lange tijd om systemen onder druk te testen en kwetsbaarheden te vinden voordat kwaadwillenden dat doen. AI-bedrijven nemen deze praktijk over en vallen doelbewust hun eigen modellen aan om zwakke plekken bloot te leggen. Deze simulaties laten zien hoe AI kan worden misbruikt voor cyberaanvallen, desinformatiecampagnes of zelfs storingen in autonome systemen.

Maar hier is een ontnuchterende gedachte: ook kwaadwillenden hebben hun eigen red teams. Als onderzoekers de zwakke plekken van AI kunnen vinden, kunnen tegenstanders dat ook.

De risico's waar niemand over wil praten: AI en het leger

Ondanks alle diepgang blijft het AI Safety Report (2025) grotendeels stil over een van de meest controversiële toepassingsgebieden van AI: militaire toepassingen. Het idee dat de uitdagingen voor de wereld vooral bestaan uit het hacken of misbruiken van een taalmodel of chatbot is op zijn best lachwekkend.

De werkelijkheid is dat AI oorlogvoering al transformeert. In huidige conflictgebieden worden autonome drones, door AI aangedreven cyberoorlogvoering en beslissingsondersteunende systemen in gevechtssituaties getest en verder ontwikkeld. Al deze technologieën worden wereldwijd in hoog tempo in defensiestrategieën geïntegreerd. Het rapport erkent wel de risico's van dual-use-technologie (wetenschappelijke innovaties die ook militair kunnen worden ingezet), maar vermijdt grotendeels een bespreking van de directe rol die AI in moderne gevechten speelt.

Deze omissie is een enorme blinde vlek. Als we AI-veiligheid serieus nemen, kunnen we het ons niet veroorloven te negeren hoe AI als wapen wordt ingezet.

Een recent artikel van Human Rights Watch, https://www.hrw.org/news/2024/12/05/killer-robots-un-vote-should-spur-treaty-negotiations, zoomt in op de uitdaging van deze technologie, nu menselijke controle langzaam maar zeker van het moderne slagveld verdwijnt.

1. De opkomst van dodelijke autonome wapens (LAWS)

Discussies over AI-ethiek gaan vaak over desinformatie of bias, maar het echte Black Mirror-scenario speelt zich af in militaire laboratoria. Lethal Autonomous Weapons Systems (LAWS), door AI aangestuurde machines die zonder menselijke tussenkomst doelen kunnen selecteren en aanvallen, zijn geen sciencefiction meer.

Landen ontwikkelen en gebruiken deze systemen actief. De kans is zeer groot dat een van deze systemen op dit moment mensen doodt. De risico's? Verlies van menselijk toezicht, escalatie van conflicten en de angstaanjagende mogelijkheid dat AI omstandigheden op het slagveld verkeerd interpreteert.

2. AI in cyberoorlogvoering: stil maar verwoestend

AI wordt niet alleen gebruikt om fysieke wapens te bouwen, maar transformeert ook digitale slagvelden. Het vermogen van AI om cyberaanvallen te automatiseren, deepfakepropaganda te genereren en beveiligingslekken met ongekende snelheid uit te buiten, vormt een ernstig risico voor de nationale veiligheid.

Overheden gebruiken AI om zich zowel tegen cyberaanvallen te verdedigen als ze uit te voeren. Zo ontstaat een digitale wapenwedloop waarbij veel op het spel staat. En anders dan conventionele oorlogvoering blijft cyberoorlogvoering onzichtbaar totdat de schade is aangericht.

3. Militaire beslissingen aan AI delegeren: het ultieme risico

Misschien wel het zorgwekkendste scenario is door AI ondersteunde militaire besluitvorming. AI-systemen worden al gebruikt om satellietbeelden te analyseren, vijandelijke bewegingen te voorspellen en logistiek te optimaliseren. Maar wat gebeurt er wanneer AI beslissingen neemt over het gebruik van geweld?

Sommige militaire experts waarschuwen dat door AI aangestuurde oorlogsstrategieën tot escalatierisico's kunnen leiden, waarbij door machines genomen beslissingen conflicten buiten menselijke controle duwen.

De huiveringwekkende werkelijkheid? AI begrijpt menselijke diplomatie niet en heeft zelf niets op het spel staan.

Belangrijkste conclusies

  1. AI-risicobeheer ontwikkelt zich, maar duidelijke handhavingsmechanismen ontbreken nog. Strategieën zoals gelaagde verdediging, risicodrempels en als-dan-toezeggingen zijn veelbelovend, maar moeilijk te reguleren.
  2. Cyber- en bioveiligheidsrisico's worden actief onderzocht, maar militaire risico's blijven onderbelicht. De ontwikkeling van door AI aangedreven dodelijke wapens en instrumenten voor cyberoorlogvoering versnelt, terwijl wereldwijd toezicht grotendeels ontbreekt.
  3. De internationale AI-veiligheidsgemeenschap moet de realiteit van door AI aangestuurde oorlogvoering onder ogen zien. Het negeren van militaire toepassingen van AI maakt ze niet minder gevaarlijk, maar juist gevaarlijker.

De kans is reëel dat AI het krachtigste wapen wordt dat de mensheid ooit heeft gecreëerd. Wij in de AI-sector moeten ophouden met het tellen van de letter ‘r’ in het woord strawberry en met discussiëren over de gevolgen als taalmodellen al ons huiswerk maken. In plaats daarvan moeten we eisen dat overheden strikte richtlijnen opleggen aan door machine learning aangedreven geautomatiseerde oorlogvoering.

 Bedankt voor het lezen,

Kai Bergin