Generatieve AI is nog steeds relatief nieuw vergeleken met een groot deel van de technologie die onze wereld bestuurt. De potentiële verstrekkende gevolgen ervan zijn dus nog steeds een raadsel. Dit is de reden waarom we het niet in de buurt van grote overheidsinstanties willen hebben. Hoe dan ook, OpenAI heeft zojuist een contract getekend met een grote overheidsinstantie. Volgens bronnen heeft OpenAI een contract getekend met het Amerikaanse ministerie van Defensie (DOD).
Het OpenAI DOD-contract is niet zo eng als het klinkt
U kunt echter stoppen met het opzoeken van “Hoe bouw ik een nucleaire bunker” op Google. De regering geeft ChatGPT niet de leiding over het leger van het land of over andere grote raketten. Het zal worden gebruikt om cyberveiligheidsredenen. We weten niet welke software het Ministerie van Defensie precies gaat gebruiken. We weten niet zeker of het GPT-4 gaat gebruiken of dat OpenAI een gespecialiseerd model voor dit gebruik gaat ontwikkelen.
Hoe het ook zij, het contract moet de cyberveiligheid van het land helpen vergroten. OpenAI zal zijn software uitlenen om open-source cyberbeveiligingstools te helpen ontwikkelen. Dus geen raketten, gelukkig. Deze technologie zal ook worden gebruikt om deel te nemen aan de DARPA AI Cyber Challenge. Dit is een voortdurende competitie voor computerwetenschappers, AI-onderzoekers, ontwikkelaars, enz. om krachtige cyberbeveiligingstools te helpen ontwikkelen en kritieke kwetsbaarheden te patchen. Met de krachtige AI-tools van OpenAI zijn we er zeker van dat het een geduchte concurrent zal worden.
Moet u zich zorgen maken?
Welnu, we staan nog aan het begin van de betrokkenheid van AI bij overheidszaken, dus dit valt nog te bezien. De overheid gebruikt deze instrumenten alleen om cyberbeveiligingsinstrumenten te helpen ontwikkelen, en heeft dus nergens de leiding over. Alle belangrijke beslissingen zullen door mensen worden genomen.
Het probleem is echter dat AI-technologie nog niet 100% betrouwbaar is. Er is nog steeds een kans op AI-hallucinaties. Hoezeer bedrijven dit fenomeen ook proberen terug te dringen, het gebeurt nog steeds. Dat is niet zo erg als het hallucineert tijdens het genereren van een recept of een boekverslag, maar het is verschrikkelijk als de cyberveiligheid van het land op het spel staat. Dit is iets waar we op moeten wachten.
