Zonder twijfel is AI geweldig. De dingen die het kan doen, de automatiseringen en de manier waarop we ermee omgaan, hebben ons leven echt veranderd. Maar zoals ze zeggen: te veel van het goede is slecht. Dat is de reden waarom meer dan 800 publieke figuren, waaronder Steve Wozniak en Prins Harry, hebben opgeroepen tot een verbod op AI-superintelligentie.
Publieke figuren roepen op tot een verbod op AI-superintelligentie
Volgens een rapport van The Financial Times hebben ruim 800 publieke figuren, waaronder ook AI-wetenschappers, voormalige militaire leiders en CEO’s, een verklaring ondertekend waarin wordt opgeroepen tot een verbod op het werk dat zou kunnen leiden tot AI-superintelligentie.
De verklaring luidt gedeeltelijk: “Wij roepen op tot een verbod op de ontwikkeling van superintelligentie, dat niet mag worden opgeheven voordat er een brede wetenschappelijke consensus bestaat dat dit veilig en controleerbaar zal gebeuren, en er een sterke publieke buy-in is..”
In een gesprek met NBC News zei de uitvoerend directeur van het Future of Life Institute, Anthony Aguirre: “Dit pad is op een bepaald niveau voor ons gekozen door de AI-bedrijven en oprichters en het economische systeem dat hen drijft, maar niemand heeft aan bijna iemand anders gevraagd: ‘Is dit wat we willen?“
Begrijpelijke zorgen
Hoe wonderlijk AI-technologie ook is, er zijn veel zorgen geuit. Sommige van de zorgen in de recente verklaring noemen kwesties als “menselijke economische veroudering en machteloosheid, verlies van vrijheid, burgerlijke vrijheden, waardigheid en controle, tot risico’s voor de nationale veiligheid en zelfs tot het potentieel uitsterven van de mensheid.”
Ze hebben echter geen ongelijk. Een recente MIT-studie heeft gesuggereerd dat een te grote afhankelijkheid van AI kan leiden tot wat de onderzoekers ‘cognitieve schulden’ noemen. Dit betekent in feite dat hoe meer we erop vertrouwen, hoe saaier onze geest wordt.
Laten we de sociale impact van AI niet vergeten, waarbij technologie zoals deepfakes allerlei soorten chaos en onheil kunnen veroorzaken. Last but not least is het moeilijk om de milieueffecten van AI te negeren. De hoeveelheid kracht die nodig is om al deze opdrachten te verwerken is enorm.
Voordat hij CEO van OpenAI werd, had Sam Altman ons al gewaarschuwd voor superintelligentie. In zijn blogpost schreef hij dat de “De ontwikkeling van bovenmenselijke machine-intelligentie (SMI) is waarschijnlijk de grootste bedreiging voor het voortbestaan van de mensheid.” Ironisch, nietwaar?
