Als het om AI gaat, is veiligheid een van de belangrijkste onderwerpen. Zoals we hebben gezien bij bedrijven als Google en Meta, zit er een slechte kant aan deze innovatieve technologie. Welnu, OpenAI heeft zojuist een nieuwe toezichtsraad opgericht om ervoor te zorgen dat het AI veilig ontwikkelt.
De AI-startup had voorheen een toezichtsraad, maar het bedrijf heeft deze om de een of andere reden opgeheven. Twee mensen uit dat bestuur, Ilya Sutskever en Jan Leike, hebben het bedrijf inmiddels verlaten. Dat ziet er niet goed uit voor OpenAI, vooral omdat er geruchten de ronde doen dat de spanning bij het bedrijf toeneemt.
OpenAI richt een nieuwe toezichtsraad op
Alle AI-bedrijven zouden een soort entiteit moeten hebben die ervoor moet zorgen dat de bedrijven niet overboord gaan. Na het wegdoen van het oude bestuur heeft OpenAI zojuist aangekondigd dat het een nieuw toezichtsbord heeft opgericht. Het vorige bestuur kreeg de opdracht de potentiële langetermijneffecten van zijn AI-technologie in kaart te brengen. Eén werknemer klaagde dat het bestuur in de loop van de tijd lager op de prioriteitenlijst kwam te staan en naarmate de tijd verstreek, minder middelen kreeg. Laten we hopen dat dit met het nieuwe bestuur niet gebeurt.
Over het nieuwe bestuur gesproken: het bestaat uit CEO Sam Altman, voorzitter van het bedrijf Bret Taylor, Adam D'Angelo en Nicole Seligman. De komende negentig dagen zal het bestuur “de processen en waarborgen van OpenAI evalueren en verder ontwikkelen”. Daarna zal zij aanbevelingen voorleggen aan het voltallige bestuur. Vervolgens zal het voltallige bestuur publiekelijk een update over de aanbevelingen delen.
Op dit moment werkt OpenAI aan zijn volgende “grensmodel” (we zijn er vrij zeker van dat het GPT-5 is). Als zodanig zal het sneller, sterker en, nog belangrijker, slimmer zijn dan de modellen die momenteel op de markt zijn. Als zodanig is het uiterst belangrijk dat het bedrijf veiligheid hanteert, omdat we nog steeds niet weten wat de gevolgen zijn van het implementeren van krachtige AI-technologie in zoveel aspecten van ons leven.
