Hoe slim AI ook is, we mogen er nooit 100% op vertrouwen. Om te beginnen is hallucinatie een van de grootste bekende AI-problemen. Dit is waar AI antwoorden verzint die volkomen verkeerd zijn. Dan is er nog de kwestie dat AI het altijd eens is met wat je zegt. Zozeer zelfs dat staatsadvocaten bedrijven als Google, OpenAI en Apple hebben gewaarschuwd om deze ‘waanvoorstellingen’ op te lossen.
Google, OpenAI en Apple waarschuwden voor waanvoorstellingen van AI
In een brief, ondertekend door tientallen procureurs-generaals uit verschillende Amerikaanse staten en territoria, hebben ze technologiebedrijven als Microsoft, OpenAI, Google, Apple, Anthropic en meer gewaarschuwd voor de waanvoorstellingen die AI kan veroorzaken. Ze vragen deze bedrijven ook om interne veiligheidsmaatregelen te implementeren om hun gebruikers te beschermen.
Dit omvat transparante audits door derden van grote taalmodellen. Het doel is om te zoeken naar tekenen van waanvoorstellingen of sycofantische ideeën. Ze pleiten ook voor procedures voor het melden van incidenten die gebruikers op de hoogte stellen wanneer chatbots resultaten produceren die psychologisch schadelijk kunnen zijn.
Dit volgt op verschillende incidenten waarbij mensen zelfmoord hebben gepleegd vanwege AI. Eerder dit jaar was er een incident waarbij een tiener zelfmoord pleegde. De ouders van de tiener beweren dat ChatGPT het daadwerkelijk heeft aangemoedigd. Er was ook een andere zaak uit 2024, waarin Character.ai werd aangeklaagd wegens een soortgelijk incident.
Dit zijn zorgwekkende trends en er moet iets aan gedaan worden. Het is echter misschien niet zo eenvoudig.
Staat versus federale regelgeving
Het is duidelijk dat het oplossen van dit soort uitgangen belangrijk is. De federale overheid heeft dat echter misschien moeilijker gemaakt. Onlangs dacht de regering-Trump na over het idee van een uitvoerend bevel dat staten zou verbieden om AI op eigen kracht te reguleren.
Dit betekent dat elke regelgeving met betrekking tot AI de verantwoordelijkheid van de federale overheid zou zijn. Op papier is het geen slecht idee, maar de werkelijkheid is een ander verhaal. Op dit moment zijn veel landen in een race om de AI-ruimte te domineren. Terwijl de VS bedrijven als OpenAI, Anthropic, Apple, Google en Microsoft heeft, loopt China niet ver achter.
Sommige technologiebedrijven hebben hun bezorgdheid geuit dat deze regelgeving hen tegenhoudt en hun rivalen in staat stelt vooruit te komen. De regering-Trump heeft sindsdien haar idee teruggetrokken. Het zou ons echter niet verbazen als het in de toekomst zou proberen het opnieuw ter sprake te brengen.
