Militaire aanval op het laatste moment gestopt: het dodelijke risico van ongecontroleerde AI

De gevaarlijkste AI-fout ter wereld: waarom algoritmes extreem gevaarlijk zijn voor inlichtingendiensten

Intelligentieblunder veroorzaakt door AI: Hoe een door een machine gegenereerde leugen de wereldeconomie bijna lamlegde

Het klinkt als het script van een spannende politieke thriller, maar in het voorjaar van 2026 dreigde het bijna werkelijkheid te worden: een gebrekkig Amerikaans inlichtingenrapport, gegenereerd door kunstmatige intelligentie, leidde bijna tot een militaire escalatie in het Midden-Oosten. Doordat een chatbot openbaar beschikbare informatie en geheime signaalgegevens fataal verkeerd interpreteerde, werd een Chinees koopvaardijschip ten onrechte beschuldigd van het vervoeren van onderdelen voor kernwapens. Hoewel Amerikaanse militaire vliegtuigen al in de lucht waren, bliezen alerte officieren de missie op het allerlaatste moment af.

Maar dit incident is veel meer dan alleen het verhaal van een hallucinerende machine. Het legt een structureel en economisch kruitvat bloot: wat gebeurt er wanneer veiligheidskritische organisaties – verblind door de belofte van maximale efficiëntie – de controle overlaten aan algoritmes? De volgende tekst analyseert de diepe afgrond van een besluitvormingsketen waarin niet de technologie faalde, maar instellingen die snelheid aanzagen voor onveranderlijke waarheid. Een waarschuwend verhaal over waarom menselijk oordeel, in tijden van sterk geautomatiseerde processen, de belangrijkste en tegelijkertijd meest kwetsbare productiefactor in onze wereldorde is.

Het was niet de AI die de controle verloor, maar een organisatie die snelheid verwarde met waarheid

Een bijna-incident met een wereldwijd explosief potentieel

In het voorjaar van 2026 leidde een gebrekkig Amerikaans inlichtingenrapport, gegenereerd met behulp van kunstmatige intelligentie, bijna tot een militaire onderschepping van een Chinees koopvaardijschip in het Midden-Oosten. Volgens de momenteel beschikbare informatie gebruikte een analist een chatbot om informatie over de lading van het schip te beoordelen. Het systeem combineerde openbaar beschikbare informatie met geheime signaalgegevens en concludeerde ten onrechte dat het schip onderdelen vervoerde voor een kernwapenprogramma. Op basis hiervan begonnen de militaire autoriteiten zich voor te bereiden op een aanval. Strijdkrachten zouden aan boord van het schip gaan, terwijl militaire vliegtuigen naar verluidt al in de lucht waren.

De operatie werd kennelijk kort voor de uitvoering stopgezet nadat agenten de informatie nader hadden onderzocht. Hieruit bleek dat de cruciale identificatie van de lading onbetrouwbaar was en dat kunstmatige intelligentie was gebruikt, zowel bij de inhoudsanalyse als bij het omzetten van de resultaten naar het gestandaardiseerde format van een inlichtingenrapport. Welke lading er daadwerkelijk werd vervoerd, welk specifiek model werd gebruikt en welke technische of organisatorische controles vooraf werden uitgevoerd, blijft onduidelijk voor het publiek. Er is evenmin een officiële bevestiging met een volledige reconstructie van het incident. Daarom moet er een onderscheid worden gemaakt tussen de gerapporteerde kern van de gebeurtenissen, plausibele conclusies en de resterende onbeantwoorde vragen.

Economisch gezien is deze casus echter zeer relevant. Het laat zien hoe de introductie van generatieve AI in veiligheidskritische organisaties de productiviteit kan verhogen, maar tegelijkertijd de potentiële schade door individuele fouten kan vergroten. In een doorsnee kantoorproces kan een verzonnen verklaring leiden tot een gebrekkige presentatie of een onnodige bestelling. In een militair besluitvormingsproces kan dezelfde soort fout gevolgen hebben voor mensenlevens, handelsstromen, verzekeringspremies, grondstofprijzen, financiële markten en internationale betrekkingen. De technologie blijft hetzelfde, maar de economische waarde van een correct antwoord en de kosten van een onjuist antwoord veranderen drastisch.

Het incident is daarom niet in de eerste plaats een verhaal over een hallucinerende machine. Het is een verhaal over incentivesystemen, controlestructuren, informatie-economie en institutionele verantwoording. Een AI kan geen regels voor de inzet van geweld definiëren, geen organisatiecultuur creëren of verantwoordelijkheid nemen. Het genereert output binnen een systeem dat door mensen wordt aangeschaft, geconfigureerd, gebruikt, getest en vertaald in beslissingen. Wanneer een onzekere modelreactie een ogenschijnlijk betrouwbaar inlichtingenrapport wordt, en dat leidt tot een militaire operatie, ligt het kernprobleem in de gehele waardeketen van het besluitvormingsproces.

Versnelde analyse, versneld risico

Militaire en inlichtingendiensten kampen met een groot dataprobleem. Satellietbeelden, communicatiegegevens, scheepsbewegingen, scheepvaartdocumenten, open bronnen, sensorgegevens en situatieverslagen nemen sneller toe dan mensen ze handmatig kunnen analyseren. AI belooft enorme hoeveelheden informatie te sorteren, verbanden te leggen en sneller rapporten te genereren. De economische voordelen liggen in lagere zoekkosten, een grotere verwerkingscapaciteit en snellere besluitvormingsprocessen. Deze voordelen verklaren ook waarom bedrijven generatieve AI inzetten voor marktanalyse, juridische afdelingen, logistiek, klantenservice en onderzoek.

Snelheid staat echter niet automatisch gelijk aan efficiëntie. Een proces is pas economisch efficiënt als het extra voordeel van versnelling opweegt tegen de extra verwachte kosten van fouten en de gevolgen daarvan. Bij een administratieve taak met een laag risico kan het verstandig zijn om imperfecte AI te gebruiken, omdat fouten goedkoop kunnen worden gecorrigeerd. Andere omstandigheden gelden in het geval van een mogelijke militaire interventie op een nucleair bewapend schip. De relevante factor is dan niet de gemiddelde nauwkeurigheid van het systeem, maar de verwachte totale schade. Dit kan worden vereenvoudigd door de kans op een fout te vermenigvuldigen met de potentiële omvang van de schade.

Juist deze logica maakt zeldzame, extreme gebeurtenissen economisch zo belangrijk. Zelfs als een model in 99 van de 100 gevallen correct zou werken, zou het resterende foutpercentage onaanvaardbaar zijn zodra een vals positief resultaat een gewapend conflict zou kunnen veroorzaken. Een hoge gemiddelde prestatie is daarom geen voldoende bewijs van operationele paraatheid. Cruciale factoren zijn onder meer de soorten fouten, de operationele context, de onzekerheidsindicator, de herkomst van de gegevens, aanvalsvectoren en het vermogen van de organisatie om een ​​resultaat tijdig te weerleggen.

Daarbij komt nog de verkorting van de besluitvormingstijd. AI verkort niet alleen de analysetijd, maar verhoogt ook de druk om sneller te handelen. Zodra een organisatie technisch in staat is om informatie in minuten in plaats van uren te evalueren, veranderen de verwachtingen ten aanzien van het operationele tempo. Wat aanvankelijk een tijdsbesparing lijkt, kan zo een nieuwe verplichting worden. Leidinggevenden verwachten direct inzicht in de situatie, analisten moeten meer output leveren en afdelingen beginnen eerder met de voorbereidingen. De gewonnen tijd wordt dan niet gebruikt voor extra evaluatie, maar opgeslokt door een versnelde operationele cyclus.

Dit creëert een productiviteitsparadox. De technologie bespaart in de eerste fase werktijd, maar genereert in de daaropvolgende fasen nieuwe kosten voor testen, documentatie en validatie. Als deze kosten niet worden meegerekend, lijkt AI vanuit zakelijk oogpunt kosteneffectiever dan het in werkelijkheid is. De organisatie boekt de bespaarde analyse-uren, terwijl het risico van foute beslissingen een diffuse externe last blijft vormen buiten het projectbudget. Juist deze scheiding stimuleert een te snelle implementatie.

De werkelijke fout zat in de procesketen

De cruciale zwakte was kennelijk niet alleen de onjuiste identificatie van een zending. Problematischer was het feit dat de foutieve conclusie verschillende organisatorische stadia kon doorlopen zonder tijdig te worden herkend als een machinaal gegenereerde en onvoldoende geverifieerde verklaring. Dit duidt op een tekortkoming in de informatiebronnen, de etikettering, de kruiscontrole en de goedkeuringsprocessen. Een robuust systeem had op verschillende punten moeten ingrijpen: tijdens de invoer van gevoelige gegevens, wanneer verschillende soorten bronnen werden gecombineerd, tijdens de waardebepaling van de lading, tijdens het genereren van rapporten en uiterlijk tijdens de operationele planning.

Het tweede gebruik van AI voor het formatteren van resultaten is bijzonder problematisch. Gestandaardiseerde rapporten zijn onmisbaar voor grote organisaties omdat ze leesbaarheid, vergelijkbaarheid en snelle verspreiding garanderen. Tegelijkertijd verleent een vertrouwd formaat institutioneel gezag aan een verklaring. Als een taalkundig verfijnd en formeel correct rapport dezelfde uitstraling heeft als een product dat op traditionele wijze is onderzocht, kunnen ontvangers de onzekerheid achter de totstandkoming ervan niet meer herkennen. De vorm wordt een kwaliteitsindicator, ook al zegt deze niets over de kwaliteit van de inhoud.

Dit illustreert een economisch probleem van asymmetrische informatie. Idealiter kent de auteur de ontstaansgeschiedenis van het document, maar de ontvangers zien voornamelijk het eindproduct. Als de oorsprong, het model, de input, de onzekerheden en de verificatiestappen niet transparant worden weergegeven, kan de ontvanger het risico niet goed inschatten. Ze kunnen een door AI gegenereerd resultaat beschouwen als een herhaaldelijk gevalideerde menselijke analyse. Dit is vergelijkbaar met een financieel product waarvan de risicostructuur verborgen blijft achter een bekende rating.

Het gebruik van AI in twee opeenvolgende fasen kan de fout verergeren. Eerst genereert of neemt het systeem een ​​onjuiste conclusie aan. Vervolgens formuleert een ander, door AI ondersteund proces deze conclusie overtuigend, consistent en professioneel. De tweede fase verifieert de eerste niet per se, maar versterkt de taalkundige geloofwaardigheid ervan. Onzekerheid wordt in toon omgezet in zekerheid. Deze semantische versterking is gevaarlijk in veiligheidskritische processen, omdat besluitvormers vaak onder tijdsdruk handelen op basis van gecondenseerde informatie.

Een effectief controlesysteem moet daarom niet alleen individuele modelreacties evalueren, maar de gehele informatieketen. Elke transformatie kan de traceerbaarheid verstoren, waarschijnlijkheden gladstrijken en voorbehoud wegnemen. Een ruwe observatie wordt een classificatie, de classificatie een dreigingsveronderstelling, de veronderstelling een rapport en het rapport een actieoptie. Als elke fase de vorige zonder verificatie overneemt, is het resultaat geen onafhankelijke bevestiging, maar een cascade van gecorreleerde fouten.

Waarom de mens alleen niet genoeg is in de lus

De meest voorkomende politieke reactie op de risico's van AI in het leger is dat een mens betrokken moet blijven bij het besluitvormingsproces. Dit klinkt geruststellend, maar het is onvolledig. Een mens die aan het einde van een sterk geautomatiseerd proces slechts zijn goedkeuring geeft, is geen effectief toezicht. Cruciaal is dat deze persoon voldoende tijd, expertise, toegang tot primaire data en institutionele vrijheid heeft om de machine ter discussie te stellen. Zonder deze voorwaarden wordt de mens slechts een formele handtekening onder een vooraf vastgesteld besluit.

Automatiseringsbias ontstaat wanneer mensen meer vertrouwen stellen in machineaanbevelingen dan hun werkelijke betrouwbaarheid rechtvaardigt. Het is echter geen onvermijdelijke reflex en treedt niet in elke situatie in gelijke mate op. Vertrouwen hangt af van ervaring, werkdruk, presentatie, organisatiecultuur en de waargenomen autoriteit van het systeem. Krachtige tools kunnen met name problematisch worden wanneer ze doorgaans nuttige resultaten opleveren. Zeldzame fouten treden dan op in een omgeving met een hoge basisacceptatie.

In een militaire context verergeren hiërarchie en tijdsdruk het probleem. Als een gestandaardiseerd rapport al op meerdere niveaus is verspreid en eenheden al met de voorbereidingen zijn begonnen, nemen de psychologische en organisatorische kosten van afwijkende meningen toe. De analist of officier die het proces stopzet, moet niet alleen informatie in twijfel trekken, maar ook een lopende institutionele mobilisatie vertragen. Hoe verder het proces is gevorderd, hoe groter de impact van reeds gemaakte kosten, bevestigingsbias en de angst om een ​​reële dreiging te onderschatten.

Daarom moet echt menselijk toezicht al vóór de operationele fase beginnen. Dit vereist duidelijke drempels voor onafhankelijke bevestiging, verplichte kruisanalyse en een zichtbare scheiding tussen observatie, machine-interpretatie en menselijk oordeel. Voor bijzonder belangrijke beslissingen moet een tweede, organisatorisch onafhankelijke eenheid de inputgegevens beoordelen. Bovendien moet het afwijzen van een AI-aanbeveling geen negatieve gevolgen hebben voor de carrière van de betrokkenen. Als snelheid wordt beloond en vertraging wordt bestraft, bestaat toezicht weliswaar op papier, maar verliest het zijn praktische effectiviteit.

De cruciale formule is daarom niet "menselijke tussenkomst", maar eerder effectief menselijk oordeel binnen een controleerbare besluitvormingsketen. Iemand moet in staat zijn het proces te pauzeren, bronnen te raadplegen, alternatieven te eisen en onzekerheden naar boven te rapporteren. Die persoon moet ook weten wanneer een model buiten het beoogde toepassingsgebied opereert. Zonder deze competentie wordt menselijke participatie slechts decoratief bestuur.

De economische prijs van een misplaatste escalatie

De directe militaire kosten van een onderscheppingsoperatie zouden slechts een klein deel van de potentiële schade zijn geweest. Een gedwongen inbeslagname van een Chinees schip had diplomatieke tegenmaatregelen, militaire reacties, sancties of vergeldingsmaatregelen kunnen uitlokken. Zelfs zonder open oorlogsvoering zouden waarschijnlijk hogere risicopremies in de scheepvaart en het luchtvervoer zijn verwacht. Rederijen zouden routes hebben aangepast, verzekeraars zouden toeslagen hebben geëist en bedrijven zouden extra voorraden hebben aangelegd. Elk van deze reacties legt kapitaal vast en verhoogt de transactiekosten.

Het Midden-Oosten is van cruciaal belang voor de energievoorziening en de wereldhandel. Een confrontatie tussen de VS en China in deze regio zou de perceptie van geopolitieke risico's abrupt hebben veranderd. Olie- en gasprijzen reageren niet alleen op daadwerkelijke verstoringen in de aanvoer, maar ook op de verwachting van toekomstige schaarste. Hogere energieprijzen zouden een last vormen voor transport, de chemische industrie, de landbouw en energie-intensieve industrieën. Tegelijkertijd zouden veilige beleggingen in waarde kunnen stijgen, zouden de aandelenmarkten onder druk kunnen komen te staan ​​en zouden de financieringskosten voor risicovollere bedrijven kunnen toenemen.

Het grootste economische risico zou een kettingreactie van onzekerheid zijn geweest. Markten kunnen bekende schade relatief snel verwerken, maar onduidelijke escalatiepaden genereren een bijzonder hoge volatiliteit. Wanneer noch de intenties, noch de reactiegrenzen van de betrokken landen duidelijk zijn, houden bedrijven rekening met meerdere scenario's tegelijk. Investeringen worden uitgesteld, leveringscontracten worden ingekort en de kasreserves worden verhoogd. Deze voorzichtigheid is rationeel voor het individuele bedrijf, maar kan de vraag en de productiviteit op macro-economisch niveau verzwakken.

Ook de handelsbetrekkingen tussen de VS en China zouden erdoor beïnvloed worden. Ondanks de strategische rivaliteit blijven beide economieën met elkaar verbonden via goederen, halffabrikaten, technologie, kapitaal en afzetmarkten. Een militaire confrontatie zou exportcontroles, sanctieregimes en investeringsscreening kunnen versnellen. Halfgeleiders, elektronica, machinebouw, batterijen, maritieme logistiek en kritieke grondstoffen zouden bijzonder kwetsbaar zijn. Bedrijven zouden hun toeleveringsketens niet alleen moeten structureren op basis van kosten en kwaliteit, maar in toenemende mate ook op basis van politieke weerbaarheid.

Voor Europa en Duitsland zou een dergelijk conflict geen ver verwijderd veiligheidsprobleem zijn. De Duitse industrie is afhankelijk van exportgerichte bedrijfsmodellen, wereldwijde toeleveringsketens en stabiele maritieme verbindingen. Hogere transport- en energiekosten zouden de marges onder druk zetten, terwijl een gedwongen economische positionering tussen de VS en China de markttoegang zou kunnen bemoeilijken. Met name kleine en middelgrote ondernemingen (kmo's) beschikken vaak over minder financiële reserves en minder onderhandelingsmacht om parallelle toeleveringsketens in meerdere geopolitieke regio's op te zetten.

Deze casus illustreert een extreme vorm van negatieve externe effecten. Gebruikers van een AI-toepassing dragen niet automatisch alle kosten van hun foute beslissing. Een analist, een afdeling of een technologieproject kan lokaal profiteren van snelheid, terwijl een groot deel van het risico wordt afgewenteld op militairen, handelspartners, belastingbetalers en de wereldeconomie. Waar de voordelen voor particulieren of organisaties en de maatschappelijke schade uiteenlopen, zijn strengere regelgevingen nodig dan in gewone softwaremarkten.

Centrum voor Veiligheid en Defensie - Afbeelding: Xpert.Digital

Het Veiligheids- en Defensiecentrum biedt deskundig advies en actuele informatie om bedrijven en organisaties effectief te ondersteunen bij het versterken van hun rol in het Europees veiligheids- en defensiebeleid. In nauwe samenwerking met de werkgroep Defensie van het MKB-netwerk bevordert het centrum met name kleine en middelgrote ondernemingen (mkb's) die hun innovatievermogen en concurrentievermogen in de defensiesector verder willen ontwikkelen. Als centraal aanspreekpunt vormt het centrum zo een cruciale brug tussen het mkb en de Europese defensiestrategie.

Dit is hiermee gerelateerd:

• De werkgroep 'SME Connect Defence' – Versterking van het mkb in de Europese defensiesector

Veiligheid als onderschatte productiefactor

Economische analyses beschouwen veiligheid vaak als een overheidskader in plaats van als een productieve factor. In werkelijkheid vormt geopolitieke stabiliteit de basis van de internationale arbeidsverdeling. Bedrijven investeren voor de lange termijn wanneer eigendomsrechten, transportroutes, betalingssystemen en politieke verhoudingen voldoende voorspelbaar zijn. Elk extra risico op escalatie werkt als een onzichtbare belasting op handel en kapitaalvorming.

AI kan deze productiefactor in beide richtingen beïnvloeden. Correct gebruikt, verbetert het verkenning, onderhoud, cyberverdediging, logistiek en situationeel bewustzijn. Het kan helpen bij het identificeren van tegenstrijdige gegevens, de druk op schaars personeel verlichten en valse alarmen sneller onderzoeken. Onjuist gebruikt, versnelt het echter dreigingsanalyses, genereert het misleidende voorspellingen en vermindert het de beschikbare tijd voor diplomatie. Daarom moet de economische waarde van militaire AI niet alleen worden afgemeten aan de inzetsnelheid of personeelsbesparingen.

Een uitgebreide kostenanalyse zou ook moeten gaan om vermeden fouten, escalatierisico's en verlies van vertrouwen. Dit is methodologisch lastig, omdat een voorkomen incident niet direct waarneembaar is. Organisaties kunnen echter scenario's modelleren, stresstests uitvoeren en de verwachte schade van verschillende foutcategorieën inschatten. Een systeem dat economisch aantrekkelijk is voor routinetaken, is daarom mogelijk ongeschikt voor beslissingen die relevant zijn voor escalatie. Dit onderscheid is cruciaal, omdat de term kunstmatige intelligentie zeer uiteenlopende toepassingen omvat.

De economisch verstandige conclusie is niet om militaire AI volledig af te wijzen. Het volledig afschaffen ervan zou ook kosten met zich meebrengen: tragere analyses, een hogere personeelsbelasting, gemiste patronen en mogelijk slechtere beslissingen tegen tegenstanders die dergelijke systemen intensief gebruiken. Het gebruik ervan moet echter worden afgestemd op de potentiële schade. Hoe moeilijker het is om een ​​verkeerde beslissing terug te draaien, hoe hoger de eisen moeten zijn voor datakwaliteit, traceerbaarheid, onafhankelijke beoordeling en menselijke goedkeuring.

Wanneer efficiëntie de verkeerde prikkels creëert

De snelle verspreiding van generatieve AI wordt gedreven door een krachtig institutioneel narratief. Organisaties willen technologisch niet achterblijven, managers verwachten meetbare productiviteitswinsten en leveranciers beloven steeds krachtigere modellen in steeds kortere intervallen. In deze omgeving wordt voorzichtigheid al snel gezien als bureaucratie. Wie een toepassing snel implementeert, kan successen aantonen; wie risicovolle implementaties uitstelt, daarentegen, boekt vaak geen publiekelijk zichtbare resultaten.

Deze asymmetrie verstoort besluitvorming. De voordelen van versnelde analyses zijn direct zichtbaar in meetbare resultaten zoals verwerkingstijd, aantal gegenereerde rapporten of bespaarde werkuren. De kosten van een zeldzame fout komen pas later aan het licht, mogelijk in een andere organisatie-eenheid. Daarom is een project dat AI implementeert niet per se onderworpen aan dezelfde risicobeoordeling als militair leiderschap, diplomatie of de nationale economie. Zonder gecentraliseerd bestuur worden lokale optimalisaties een systemisch risico.

Aanbestedingscontracten kunnen ook problematische prikkels creëren. Leveranciers worden vaak beoordeeld op functionaliteit, integratiesnelheid en prijs. Moeilijker meetbare kenmerken, zoals onzekerheidskalibratie, traceerbaarheid, robuustheid tegen gemanipuleerde input of kwaliteit onder uitzonderlijke omstandigheden, krijgen minder gewicht. Een model kan een indrukwekkende demonstratie geven en toch falen in zeldzame, maar cruciale situaties. Daarom moet, met name bij overheidsaanbestedingen, het aantonen van beheersbare beperkingen belangrijker zijn dan retorische prestatiebeloftes.

Daarbij komt nog de politieke concurrentie om technologisch leiderschap. Wanneer staten vrezen achter te raken in de race om militaire AI, neemt hun bereidheid om zich aan trage testprocedures te houden af. Het veiligheidsdilemma is duidelijk: beide partijen versnellen omdat ze verwachten dat de andere partij hetzelfde doet. Dit kan ertoe leiden dat systemen worden ingezet voordat standaarden, training en testprocedures volledig zijn ontwikkeld. Vanuit het perspectief van een individuele staat lijkt dit defensief; collectief vergroot het echter de kans op misinterpretaties en onbedoelde escalatie.

Een degelijk economisch beleid moet innovatie en controle daarom als complementaire investeringen beschouwen. Governance is geen extern obstakel, maar een integraal onderdeel van de technologie. Een AI-systeem zonder betrouwbare logging, duidelijke verantwoordelijkheden en terugvalprocedures is geen afgewerkt product, maar een onvolledig productieproces. De kosten van controle mogen niet achteraf als regelgevende ballast worden beschouwd. Ze horen vanaf het begin in de businesscase thuis.

Gegevensfusie zonder garantie van waarheid

Het gemelde incident is ook leerzaam omdat de chatbot verschillende informatiebronnen zou hebben samengevoegd. Datafusie klinkt als een winst aan kennis, maar het kan onzekerheid maskeren. Open bronnen bevatten geruchten, verouderde gegevens, opzettelijke desinformatie en beweringen die van elkaar zijn gekopieerd. Geheime signalen kunnen waardevol zijn, maar ook die vereisen interpretatie en kunnen onvolledig zijn. Het combineren van beide gebieden met één taalmodel leidt niet automatisch tot een betere waarheid.

Generatieve modellen werken met statistische verbanden en taalkundige plausibiliteit. Ze kunnen tegenstrijdig bewijsmateriaal omzetten in een samenhangend verhaal, zelfs wanneer de data geen definitieve conclusie toelaten. Juist deze samenhang is aantrekkelijk: mensen krijgen geen chaotische verzameling fragmenten, maar een begrijpelijk antwoord. Het wegnemen van taalkundige tegenstrijdigheden kan echter worden verward met het wegnemen van schijnbare onzekerheid. Het model ordent de wereld, zelfs als de wereld op dat moment niet definitief geordend kan worden.

Voor inlichtingendiensten is herkomst daarom cruciaal. Elke verklaring moet traceerbaar blijven naar de oorspronkelijke bron. Het moet duidelijk zijn of de informatie is waargenomen, afgeleid, aangenomen of machinaal gegenereerd. Even belangrijk zijn tijdstempels, classificatieniveau, betrouwbaarheidsbeoordeling en bekende contra-indicatoren. Een AI mag deze kenmerken niet laten samensmelten tot een uniforme, vloeiende tekst, maar moet ze juist zichtbaar behouden.

De onafhankelijkheid van bronnen is ook economisch en analytisch van groot belang. Tien rapporten vormen geen tien bevestigingen als ze allemaal gebaseerd zijn op hetzelfde oorspronkelijke rapport. AI-systemen kunnen dergelijke afhankelijkheden over het hoofd zien of ze niet transparant weergeven. In open informatieomgevingen kan snel een valse meerderheid ontstaan ​​doordat nieuwsportalen, sociale media en databases dezelfde bewering versterken. Een robuust proces moet daarom niet alleen bronnen tellen, maar ook hun genealogische relaties onderzoeken.

Daarnaast bestaat het risico van gemanipuleerde invoergegevens. Als tegenstanders weten dat geautomatiseerde systemen open bronnen en signaalgegevens combineren, kunnen ze opzettelijk misleidende sporen achterlaten. Valse vrachtetiketten, gecoördineerde publicaties of vervalste documenten kunnen een gewenste classificatie bevoordelen. Een systeem dat geoptimaliseerd is voor snelheid wordt zo een doelwit voor aanvallen. AI-beveiliging omvat daarom niet alleen modelfouten, maar ook strategische misleiding.

Verantwoordelijkheid kan niet geautomatiseerd worden

Na een kritiek incident begint vaak de zoektocht naar één schuldige. De analist heeft mogelijk onkritisch gewerkt, een manager heeft te overhaast gehandeld of een leverancier heeft de beperkingen van zijn product onvoldoende uitgelegd. Een puur op personeel gerichte aanpak schiet echter tekort. Als veel redelijke mensen binnen een slecht ontworpen systeem dezelfde fout kunnen maken, dan is er sprake van een organisatorisch probleem.

Verantwoordelijkheid moet daarom op meerdere niveaus worden verankerd. Gebruikers zijn verantwoordelijk voor de juiste toepassing en etikettering. Leidinggevenden zijn verantwoordelijk voor goedkeuringen, toewijzing van middelen en werkdruk. Inkoopafdelingen moeten eisen stellen aan beveiliging en traceerbaarheid. Technische managers moeten modellen kunnen testen en monitoren en ze blokkeren in geval van afwijkingen. Ten slotte moet de politieke leiding beslissen welke taken aan generatieve systemen kunnen worden gedelegeerd.

Verantwoordelijkheid mag niet zo breed worden verdeeld dat uiteindelijk niemand verantwoording hoeft af te leggen. Een duidelijke rolstructuur vereist met name specifieke eigenaren voor het model, de data, de use case en de release. Voor elk kritisch rapport moet traceerbaar zijn wie de machine learning heeft geautoriseerd, wie het resultaat heeft beoordeeld en wie het operationele gebruik ervan heeft goedgekeurd. Deze traceerbaarheid dient niet alleen voor sanctionering, maar vooral om van te leren.

Een lerende organisatie heeft een cultuur nodig waarin bijna-incidenten gemeld kunnen worden. Deze specifieke casus is juist waardevol omdat de operatie kennelijk is stilgelegd. Als de focus uitsluitend ligt op individuele straffen, zullen toekomstige gebruikers eerder geneigd zijn fouten te verbergen. Omgekeerd, als overtredingen zonder consequenties worden getolereerd, verdwijnt de prikkel tot zorgvuldigheid. Wat nodig is, is een eerlijke beveiligingscultuur: duidelijke sancties voor opzettelijke of grove nalatigheid bij overtredingen van de regels, maar ook veilige meldingsmechanismen voor transparant gemelde fouten en kwetsbaarheden.

In deze architectuur kan een machine geen morele of wettelijke verantwoordelijkheid dragen. Ze heeft geen intentie, geen plichtsbesef en geen begrip van geopolitieke gevolgen. Zelfs als een model een aanbeveling formuleert, blijft de uiteindelijke beslissing institutioneel menselijk. Daarom verhullen termen als "de AI heeft besloten" of "het algoritme is de schuldige" wie het proces heeft ontworpen en wie de bevoegdheid heeft gedelegeerd.

Een robuust besturingsmodel voor AI met een hoog risico

Een effectief controlemodel begint met een strikte classificatie van gebruiksscenario's. Taken met een laag risico, zoals vertalen, plannen of formatteren, kunnen worden geautomatiseerd volgens algemene beveiligingsregels. Analyses die van invloed zijn op de selectie van militaire doelen, nucleaire proliferatie, identificatie van tegenstanders of operationele interventies, daarentegen, vallen in de hoogste risicocategorie. Deze vereisen aparte systemen, speciaal opgeleide gebruikers en aanzienlijk strengere goedkeuringsprocedures.

Wat de data betreft, is een complete herkomstketen essentieel. Invoergegevens, modelversies, systeeminstructies, opgehaalde documenten, tussenstappen, menselijke aanpassingen en de uiteindelijke vrijgave moeten allemaal worden vastgelegd. Het doel is niet om onnodig vertrouwelijke informatie te verspreiden, maar om latere en idealiter continue controles mogelijk te maken. Zonder deze traceerbaarheid kan niemand betrouwbaar reconstrueren hoe een conclusie is bereikt.

Wat de inhoud betreft, moet elke gevolgtrekking worden bevestigd door ten minste één methode die onafhankelijk is van de output van de AI. Dit kan een handmatige beoordeling van het originele document zijn, een technische meting, een tweede gegevensbron of een onafhankelijk analyse-eenheid binnen de organisatie. Twee reacties van hetzelfde model, of van twee modellen met vergelijkbare trainingsgegevens, vormen geen echte onafhankelijkheid. Ze kunnen dezelfde fout herhalen met een andere formulering.

Bovendien moet het systeem onzekerheid kunnen uiten. Een AI die altijd een definitief antwoord moet geven, wordt gedwongen tot een vals gevoel van precisie. In gevallen van onvoldoende data moet de correcte output kunnen aangeven dat een betrouwbare classificatie niet mogelijk is. Deze weglating mag niet automatisch worden geïnterpreteerd als een tekortkoming in de prestatie-indicatoren. In risicovolle omgevingen is een tijdige uiting van onzekerheid vaak waardevoller dan een overhaaste aanname.

Operationele drempelwaarden moeten duidelijk worden gedefinieerd. Een enkele door AI ondersteunde analyse mag geen voldoende basis vormen voor het gebruik van geweld. Hoe groter de potentiële schade, hoe meer onafhankelijke bevestigingen en hiërarchische niveaus vereist zijn. Tegelijkertijd moet een red team verplicht zijn om alternatieve verklaringen te ontwikkelen. Hun taak is niet om de heersende hypothese enigszins te verbeteren, maar om deze actief te weerleggen.

Ten slotte zijn technische en organisatorische noodmechanismen nodig. Een problematisch model moet op korte termijn uit kritieke processen kunnen worden verwijderd zonder dat de gehele organisatie instort. Dit vereist handmatige terugvalprocedures. Organisaties die al hun bestaande mogelijkheden afschaffen simpelweg omdat AI aanvankelijk efficiënter lijkt, worden afhankelijk en verliezen hun vermogen om te handelen in geval van een storing.

Lessen voor het bedrijfsleven en de overheid

Hoewel het incident zijn oorsprong vindt in de militaire sfeer, zijn de basispatronen ook van toepassing op het bedrijfsleven. Een door AI gegenereerde fout kan kredietbeslissingen, compliancecontroles, personeelsacties, leveranciersbeoordelingen of strategische investeringen beïnvloeden. De omvang van de schade is doorgaans minder dan bij een militaire escalatie, maar de logica achter de fouten is vergelijkbaar. Processen waarbij een door een machine gegenereerd resultaat wordt omgezet in een bekend documentformaat en vervolgens wordt doorgegeven zonder zichtbare herkomst, zijn bijzonder riskant.

Bedrijven moeten daarom onderscheid maken tussen ondersteuning en besluitvorming. Een systeem kan informatie opzoeken, concepten maken en mogelijke inconsistenties signaleren. De verantwoordelijkheid voor een besluit dat goedkeuring vereist, blijft echter bij een gekwalificeerd persoon. Deze persoon moet toegang hebben tot de bronnen en mag niet alleen het voltooide verhaal zien. Iemand die alleen een professioneel geschreven samenvatting goedkeurt, controleert niet de inhoud, maar slechts de opmaak.

Ook de belangrijkste prestatie-indicatoren (KPI's) moeten worden aangepast. Het meten van een AI-project uitsluitend op basis van tijdsbesparing creëert perverse prikkels. Betekenisvoller zijn gecombineerde meetwaarden, waaronder productiviteit, correctiepercentage, ernst van fouten, het percentage verifieerbare beweringen en het aantal tijdig geïdentificeerde onzekerheden. Voor processen met een hoog risico moet ook worden beoordeeld hoe vaak mensen terechte bezwaren tegen de AI uiten. Een bezwaarpercentage van nul kan wijzen op perfecte technologie, maar duidt waarschijnlijk eerder op een gebrek aan toezicht.

Voor middelgrote bedrijven is het ontwikkelen van een volledig interne technische oplossing meestal onrealistisch. Dit maakt duidelijke contracten met leveranciers des te belangrijker. Bedrijven hebben informatie nodig over modelwijzigingen, opslaglocaties, onderaannemers, logboekregistratie, beveiligingsincidenten en het gebruik van ingevoerde gegevens. Een goedkope dienst kan duur uitpakken als gevoelige informatie uitlekt of beslissingen niet meer traceerbaar zijn.

Het openbaar bestuur staat voor een extra uitdaging. Beslissingen moeten niet alleen economisch efficiënt zijn, maar ook rechtmatig, transparant en toetsbaar. Hoe meer AI de onderbouwing van een beslissing beïnvloedt, hoe crucialer duidelijke documentatie wordt. Burgers en bedrijven mogen niet worden afgescheept met de uitleg dat een model een risico heeft geïdentificeerd. Overheidsoptreden vereist een gerechtvaardigde, menselijk verantwoorde verklaring.

Innovatiebeleid tussen concurrentie en voorzorg

Het politieke conflict wordt vaak voorgesteld als een keuze tussen technologische superioriteit en regulering. Deze tegenstelling is echter onjuist. Staten die op onverantwoordelijke wijze risicovolle AI inzetten, behalen wellicht een voordeel op korte termijn, maar riskeren op de lange termijn het verliezen van vertrouwen, het vermogen om allianties te vormen en de operationele betrouwbaarheid. Een spectaculaire mislukking kan projecten vertragen, budgetten bevriezen en het publieke verzet vergroten. Effectieve regulering beschermt daarom ook innovatie.

Tegelijkertijd mogen voorzorgsmaatregelen niet leiden tot algehele verboden die civiele en risicoarme toepassingen onnodig belemmeren. Een risicogebaseerde aanpak is economisch superieur. Deze concentreert middelen daar waar onjuiste beslissingen onomkeerbaar, systemisch of levensbedreigend zijn. Voor het opstellen van eenvoudige teksten gelden andere regels dan voor het selecteren van doelen, medische behandelingen of kritieke infrastructuur.

Internationale standaarden blijven lastig vast te stellen. Militaire transparantie botst met geheimhouding, en staten zijn terughoudend om hun technische capaciteiten openbaar te maken. Realistischer dan volledige openbaarmaking zijn gemeenschappelijke minimumnormen: menselijk gezag over het gebruik van geweld, verplichte tests, deactiveringsmechanismen, duidelijke verantwoording en communicatiekanalen voor incidenten. Dergelijke regels sluiten concurrentie niet uit, maar kunnen wel de gevaarlijkste misinterpretaties beperken.

Maatregelen om het vertrouwen tussen de VS en China te versterken zouden bijzonder belangrijk zijn. Als beide partijen AI integreren in verkenning en besluitvorming, neemt het risico toe dat een vals bericht wordt geïnterpreteerd als een opzettelijke provocatie. Directe militaire communicatiekanalen, procedures voor het oplossen van maritieme incidenten en politieke toezeggingen voor menselijk toezicht zouden het risico op escalatie kunnen verminderen. Hun nut is vergelijkbaar met dat van een verzekering: in normale omstandigheden lijken ze onopvallend, maar in een crisis kunnen ze enorme schade voorkomen.

Bondgenoten en technologiebedrijven dragen ook een verantwoordelijkheid. Modellen, cloudinfrastructuur en datatools worden vaak ontwikkeld door particuliere aanbieders. Hierdoor verschuift een deel van de waardecreatie binnen het leger naar bedrijven waarvan de innovatiecycli en aansprakelijkheidslogica niet zijn ontworpen voor geopolitieke crises. Het inkoopbeleid moet er daarom voor zorgen dat overheidsinstanties de technische controle, het recht op controle en voldoende interne expertise behouden.

De strategische kern van de zaak

De bijna-botsing met een Chinees schip onthult een ongemakkelijke waarheid: het grootste risico van AI op korte termijn is misschien niet dat een machine zich tegen de mensheid keert. Waarschijnlijker is dat een mens te gemakkelijk een overtuigend geformuleerd, maar onjuist bericht van een machine gelooft. Het gevaar ontstaat door de wisselwerking tussen technologische onzekerheid, tijdsdruk, hiërarchie en de politieke drang naar snelheid.

De juiste aanpak is noch technologische paniek, noch blind optimisme over vooruitgang. Generatieve AI kan de efficiëntie van grote organisaties aanzienlijk verhogen. Het kan echter epistemische zorgvuldigheid niet vervangen – dat wil zeggen, het gedisciplineerd bevragen van de herkomst van een bewering, de betrouwbaarheid ervan en het bestaan ​​van tegenbewijs. Hoe krachtiger de tool, hoe belangrijker deze zorgvuldigheid wordt.

Vanuit economisch oogpunt moet bij de introductie van AI rekening worden gehouden met alle verwachte waarde. Dit omvat productiviteitswinst, maar ook testkosten, beoordelingsfouten, aansprakelijkheid, reputatieschade en systeemrisico's. In gevallen met potentieel catastrofale gevolgen is het niet voldoende dat een model gemiddeld nuttig is. De organisatie moet aantonen dat zij in staat is zeldzame, kritieke fouten te detecteren en te voorkomen.

Het cruciale succes van dit incident schuilt in het feit dat mensen de operatie konden afbreken. Een beveiligingsarchitectuur kan echter niet vertrouwen op oplettende individuen die op het laatste moment ingrijpen. Het moet zo ontworpen zijn dat twijfelachtige informatie nooit ongemerkt de operationele planningsfase bereikt. Controles moeten vroegtijdig, herhaaldelijk en onafhankelijk worden uitgevoerd.

Fouten maken is menselijk. Machines maken fouten op een andere manier: sneller, op grotere schaal en vaak op een taalkundig overtuigende wijze. De fout wordt pas catastrofaal wanneer instellingen deze kenmerken verwarren met kennis. De belangrijkste les is daarom niet om mensen uit het besluitvormingsproces te verwijderen of ze er slechts symbolisch bij te betrekken. Het gaat erom organisaties te bouwen waarin twijfel meer gewaardeerd wordt dan snelheid, zodra een valse zekerheid een oorlog zou kunnen ontketenen.

Markus Becker

Ik sta graag tot uw beschikking als uw persoonlijke adviseur.

Hoofd Bedrijfsontwikkeling

Voorzitter van de SME Connect Defensie Werkgroep

LinkedIn

Konrad Wolfenstein

Ik sta graag tot uw beschikking als uw persoonlijke adviseur.

U kunt contact met mij opnemen via wolfenstein∂xpert.digital of

U kunt me bellen op +49 7348 4088 965 .

LinkedIn