De controversiële mede-oprichter van een in de VS gevestigd bedrijf op het gebied van kunstmatige intelligentie keert vier dagen na zijn verrassende ontslag als CEO op 17 november 2023 terug.
Voormalig en huidig CEO Sam Altman richtte in 2015 samen met anderen OpenAI op, een softwareontwikkelingsbedrijf. Zijn medeoprichters zijn Elon Musk, Greg Brockman, Ilya Sutskever, John Schulman en Wojciech Zaremba.
Altman was de drijvende kracht achter ChatGPT, een AI-toepassing die evenveel opwinding als angst heeft veroorzaakt. Hij presenteerde het idee aan Microsoft en slaagde erin CEO Satya Nadella ervan te overtuigen middelen ter waarde van 10 miljard dollar aan OpenAI te besteden. De technologiegigant heeft een staat van 49 procent in OpenAI. Altman leidde ook de onderhandelingen over een bod dat de waardering van het bedrijf zou opdrijven tot ruim $80 miljard.
OpenAI zal het geld gebruiken om onderzoek te stimuleren en enorme hoeveelheden gegevens te verwerken. Het doel is om dichter bij de ontwikkeling van een kunstmatige algemene intelligentie (AGI)-systeem te komen. Sam Altman stelt op de site dat het “de missie is om te zorgen voor kunstmatige algemene intelligentie [AGI]… komt de hele mensheid ten goede.”
AGI is een theoretisch raamwerk voor het creëren van AI-software die autonoom verschillende complexe problemen op verschillende kennisgebieden kan oplossen. Het is sterke AI vergeleken met de zwakke AI-software die alleen binnen nauwe kaders functioneert.
Industriewaarnemers prijzen Altman ook voor het aantrekken van toonaangevende AI-ingenieurs naar het bedrijf met de belofte enorm ontwrichtende technologie te ontwikkelen. Zijn moonshot-ethos raakte een gevoelige snaar bij technisch talent dat graag iets revolutionairs wilde doen en zichzelf in de geschiedenis wilde vestigen.
Ondanks zijn belangrijke bijdragen aan OpenAI verrast zijn afzetting als CEO de mensen die het weten niet. Altman botst naar verluidt al een tijdje met het bestuur, vooral vanwege zijn ‘beweeg snel en maak dingen kapot’-aanpak.
Speculaties
Niemand weet precies wat de discussie achter gesloten deuren tot het ontslag van Altman heeft geleid. Het bestuur of iemand anders die op de hoogte is, heeft geen bevestiging gestuurd van de redenen achter het besluit.
Een OpenAI-aankondiging bood één reden voor de afzetting. Het beweerde dat Altman er niet in slaagde “consequent openhartig te zijn in zijn communicatie met het bestuur, waardoor het vermogen van het bestuur om zijn verantwoordelijkheden uit te oefenen werd belemmerd.” Mede-oprichter Greg Brockman nam uit protest ontslag, maar in de kennisgeving wordt alleen melding gemaakt van zijn vertrek als bestuursvoorzitter. Brockman keerde terug naar OpenAI na het herstel van Altman, maar het is nog niet duidelijk in welke hoedanigheid.
Het is echter onwaarschijnlijk dat het gebrek aan openhartigheid van Altman de enige reden zal zijn voor zo’n belangrijke stap van het bestuur. Een interne memo van interim-CEO Emmett Shear ontkent dat het ontslag te wijten was aan een misdrijf of een meningsverschil over de veiligheid. Hij gaf de reden niet aan, maar beloofde de zaak te onderzoeken.
Het gebrek aan informatie heeft geleid tot talloze speculaties over wat er werkelijk is gebeurd. Deze omvatten te veel respect voor Microsoft of een buitensporige focus op zijprojecten. Sommige AI-experts zijn van mening dat het echte probleem dat tot de uitzetting heeft geleid een falend bestuur was.
Een daarvan is David Shrier, een AI-professor aan de Imperial College Business School. Hij is van mening dat de snelheid van adoptie en het potentieel voor commercialisering van ChatGPT tot spanningen tussen OpenAI Inc. en OpenAI LLP hadden geleid. OpenAI is een bedrijf met winstoogmerk waarvan de eigenaar OpenAI Inc. blijft, een 501(c)3 non-profitorganisatie. De ongebruikelijke relatie culmineerde in de vorming van een ‘afgetopte winst’-structuur, waarbij alle overtollige winst die OpenAI maakt naar de non-profitorganisatie gaat.
Op papier heeft het bestuur volledige controle over OpenAI. De enorme activiteiten en invloed van OpenAI en zijn CEO hebben het bestuur echter feitelijk ineffectief gemaakt. De directeuren hebben geen bestuursbevoegdheden over OpenAI, wat Shrier alarmerend vindt. Hij is van mening dat AI-technologie kan leiden tot een existentiële crisis, waardoor robuust bestuur van cruciaal belang is bij het beheer ervan.
De brief
Een van de meer onderbouwde geruchten is dat de druppel die de emmer deed overlopen een brief was. Voordat het bestuur besloot Altman af te zetten, ontvingen ze naar verluidt een waarschuwingsbrief van stafonderzoekers. Naar verluidt verklaarde het dat OpenAI een ontdekking had gedaan die krachtig genoeg was om de mensheid te bedreigen.
Hoewel de brief niet ter beoordeling beschikbaar is, heeft Murati interne communicatie verzonden om de staf en het bestuur te informeren over Project Q*. Zonder de speculaties in de media over de aard van Q* te bevestigen, zijn sommige OpenAI-medewerkers van mening dat Q*-teamleden een doorbraak hebben bereikt in de ontwikkeling van AGI.
De auteurs signaleerden de voortgang van een OpenAI-team bij het optimaliseren van AI-modellen om hun vermogen om te redeneren en wetenschappelijk werk te doen te vergroten. Ze wezen op het potentiële gevaar dat zeer intelligente machines voor de mensheid zouden kunnen vormen. De brief specificeerde niet de precieze aard van de dreiging.
De zorgen die hebben geleid tot het sturen van de brief naar het bestuur lijken te zijn veroorzaakt door software die wiskundeproblemen leert oplossen. Hoewel dat misschien reden tot feest lijkt in plaats van verdriet, zijn AI-onderzoekers het daar niet mee eens. Het vermogen om wiskundige problemen met slechts één juist antwoord te beantwoorden, duidt op een belangrijke stap in de richting van AGI.
Tijdens de APEC CEO Summit 2023 hintte Altman in een gesprek met andere technologie-experts op belangrijke doorbraken in AI-technologie. In zijn toespraak zei Altman gedeeltelijk dat “we als het ware de sluier van onwetendheid naar achteren schuiven en de grens van ontdekkingen naar voren schuiven, en dat doen is de professionele eer van ons leven.”
Het bestuur van OpenAI ontsloeg Altman de dag na de top.
Waarom dit zorgen zou moeten baren, kan worden samengevat in wat Altman verwoordde in zijn artikel op de site. Hij verklaarde: “AGI zou een ernstig risico met zich meebrengen op misbruik, drastische ongelukken en maatschappelijke ontwrichting. [However,] omdat de voordelen van AGI zo groot zijn, wij [should not] stop de ontwikkeling ervan voor altijd.” Altman suggereerde dat AGI-ontwikkelaars en de samenleving moeten uitzoeken hoe ze het goed kunnen doen.
Altman heeft eerder de zorgen over het op de markt brengen van producten terzijde geschoven zonder de gevolgen te begrijpen. Velen hebben sinds de lancering in november 2022 zorgen geuit over de veiligheid, vooringenomenheid, vertrouwelijkheid, nauwkeurigheid en ethische problemen met ChatGPT. Nu AGI schijnbaar op de rand van de schepping staat, lijken de angsten voor wat OpenAI onder leiding van Altman zal doen redelijk.
De Terugloop
Ongeveer 700 OpenAI-medewerkers dachten daar echter anders over. Toen het bestuur Altman ontheven van zijn taken als CEO, ondertekenden ze een open brief waarin ze hun ongenoegen kenbaar maakten. In de brief stond dat ze mochten aftreden tenzij het bestuur Altman en Brockman opnieuw aanstelde. Het verzocht het bestuur verder om af te treden en beweerde dat hun acties erop wezen dat ze “niet in staat zijn toezicht te houden op OpenAI.”
Na hun ontslag huurde Microsoft onmiddellijk Altman en Brockman in om leiding te geven aan een nieuw AI-onderzoeksteam. Het opende ook de deuren voor elke OpenAI die wilde overstappen.
Beleggers oefenden ook druk uit op het bestuur om terug te komen op hun besluit. Altman, die ooit aan het roer stond van YCombinator, had een talent voor het werven van fondsen en het aantrekken van toptalent. Voor het onderhouden van de verschillende softwareplatforms van OpenAI zijn grote hoeveelheden van beide nodig. Zijn afwezigheid heeft mogelijk een groot probleem voor het bedrijf gecreëerd op financieel en personeelsgebied.
Als gevolg hiervan zou het bestuur van OpenAI Altman terugbrengen als CEO. Ze maakten het besluit op 21 november bekend op X (voorheen Twitter) nadat ze een “principieel akkoord” met hem hadden bereikt. De details van de overeenkomst zijn niet openbaar gemaakt.
Altman bevestigde het herstel in een X-post en verklaarde dat hij ernaar uitkeek om terug te keren naar OpenAI. Hij zei dat Nadella zijn terugkeer onder het nieuwe bestuur volledig steunt. De CEO van Microsoft merkte op dat de veranderingen een “essentiële stap waren in de richting van een stabieler, goed geïnformeerd en effectief bestuur.”
De nasleep
De bevoegdheden van OpenAI vormden ook een nieuwe groep bestuursleden, voornamelijk beroemdheden op het gebied van zaken en technologie. De vorige raad van bestuur bestond voornamelijk uit onderzoekers en academici.
Het vernieuwde bestuur bestaat uit voormalig Salesforce-CEO Bret Taylor en voormalig minister van Financiën Lawrence Summers. Quora CEO Adam D’Angelo is het enige overblijfsel van het oorspronkelijke bestuur. Taylor neemt de mantel van OpenAI-bestuursdirecteur op zich. D’Angelo leidde echter de onderhandelingen met vertrekkende bestuursleden die uiteindelijk Altman en Brockman terug zouden brengen.
Voormalige bestuursleden wilden blijven en Altman en Brockman onder controle houden als er sprake zou zijn van een herplaatsing. Ze uitten hun bezorgdheid dat toekomstige bestuursleden Altman zouden laten doen wat hij wilde. Tijdens de onderhandelingen besloot het bestuur vast te houden aan zijn besluit om Altman en Brockman af te zetten.
Het mocht echter niet baten. Helen Toner, die in oktober 2023 openlijk kritiek uitte op OpenAI, trad af om plaats te maken voor een nieuwe start. Rand Corporation-wetenschapper Tasha McCauley verliet ook haar zetel. OpenAI-medeoprichter Ilya Sutskever trad ook af, maar lijkt hoofdwetenschapper te zijn gebleven.
Er zijn plannen om het bestuur uit te breiden. Vóór zijn afzetting drong Altman er al maanden op aan om meer directeuren toe te voegen, waaronder meer ervaren mensen. Het oorspronkelijke bord is kleiner, maar het is onwaarschijnlijk dat dit lang zo zal blijven. In alle opzichten zal het uiteindelijke bestuur hoogstwaarschijnlijk bestaan uit een diverse groep mensen die dichter bij de niet-doomkant van AI staan. De samenstelling van het huidige bestuur suggereert dat OpenAI zal gaan lijken op een typisch Silicon Valley-bedrijf.
Het is onduidelijk of Microsoft vanwege de herschikking een rol of vertegenwoordiging in het bestuur zal hebben. Gezien de deelname en invloed van de technologiegigant zullen de directeuren echter waarschijnlijk nauwe banden met Microsoft onderhouden.
Externe effecten
Het aanhoudende drama bij OpenAI vertegenwoordigt mondiale regelgevingskwesties, en mensen zullen nauwlettend in de gaten houden wat er daarna gebeurt. Het was voor de Amerikaanse Federal Trade Commission aanleiding om personeelsrichtlijnen uit te vaardigen die onderzoeken toestonden naar door AI aangedreven bedrijven die producten en diensten verkopen. De richtlijnen voorzagen in wettelijke bevoegdheden om bewijsmateriaal te verzamelen, waaronder documenten en getuigenissen.
De afgebroken afzetting van OpenAI had ook gevolgen voor de onderhandelingen over de voorgestelde AI-wet in de Europese Unie. Het gebeurde toen de lidstaten verwikkeld waren in debatten over de aanpak van regelgeving, met name agressief toezicht versus zelfregulering. Sommigen zijn van mening dat regelgeving zich moet richten op fundamentele modellen, terwijl anderen beweren dat ze zich moeten concentreren op toepassingen.
Drie EU-landen kwamen overeen zelfregulering te steunen, wat aangeeft dat Frankrijk, Italië en Duitsland erop vertrouwden dat bedrijven als OpenAI verantwoordelijk zouden handelen. Andere leden zien de OpenAI-evenementen echter anders, omdat ze geloven dat het bewezen heeft dat robuustere protocollen nodig zijn. Het vertrouwen op visionairs en disruptors in de AI-ruimte zal ongetwijfeld leiden tot een rampzalig gebrek aan bestuur.
Het onvermogen van het bestuur van OpenAI om onder druk vast te houden aan hun besluit zal waarschijnlijk de macht van belanghebbenden benadrukken. Het vergroot de behoefte aan robuuster publiek toezicht, omdat de overheid in theorie bedrijfsactiviteiten kan beperken die een bedreiging voor de samenleving kunnen vormen. De roep om overheidsbemoeienis met particuliere AI-ondernemingen zal echter waarschijnlijk niet in goede aarde vallen bij de grote technologiebedrijven.
De (mogelijke) echte deal
De redenen achter de afzetting en herplaatsing van Altman brachten de aandacht van het publiek op de opvattingen van marginale groepen over AI-risico’s. Bovendien bracht het heen en weer tussen het bestuur en Altman het conflict tussen de acties en overtuigingen van Altman aan het licht.
Altman was een van de meest uitgesproken voorstanders van AI-regulering toen hij voor de Senaat sprak. Hij verklaarde dat zijn grootste angst was dat de technologie en de industrie “de wereld aanzienlijke schade zouden toebrengen… op veel verschillende manieren.”
Hij concentreerde zich echter steeds meer op het werven van fondsen en het smeden van allianties om AI-technologie vooruit te helpen, die hij weliswaar niet helemaal begreep. Sommige deskundigen uit de sector beschouwen de ontkoppeling als oneerlijk. Zijn beleden angst voor een dystopische toekomst leidt de aandacht af van wat OpenAI momenteel doet. In de tussentijd verwerft OpenAI nog meer invloed en macht als commerciële onderneming.
Aan de andere kant zijn het verlangen naar regulering en commercialisering geen elkaar uitsluitende begrippen. Disruptieve technologie is doorgaans zeer winstgevend, maar kent altijd groeipijnen die uiteindelijk in de loop van de tijd worden opgelost.
OpenAI zal, als onderneming met winstoogmerk en disruptor, waarschijnlijk hetzelfde meemaken als de gloeilamp, het internet of digitaal bankieren. Niemand wil vandaag de dag terug naar de tijd vóór deze technologieën, maar velen waren er destijds bang voor. Niemand in de jaren negentig zou zijn geld aan iets anders toevertrouwen dan aan een traditionele bank. Toch genieten de meeste mensen tegenwoordig van de mogelijkheid om online een pensioenrekening te openen.
Technologische vooruitgang zal de samenleving altijd diepgaand beïnvloeden, zowel in goede als in slechte zin. De enige vraag is hoe mensen ermee om zullen gaan, zodat het goede zwaarder weegt dan het slechte.
