Er is tegenwoordig veel buzz rondom generatieve AI, maar er is ook veel angst rondom. Dit komt omdat het de potentie heeft om grote schade aan te richten als het in de verkeerde handen terechtkomt. Nou, volgens een nieuw rapport zou je je maar matig zorgen moeten maken over de AI van OpenAI. GPT-4o is een medium risico.
Microsoft-backed OpenAI is de laatste tijd in het nieuws geweest vanwege zijn nieuwe veiligheidsteam. Voorheen bestond het team uit leden van buiten het bedrijf, wat de beste route is. Op deze manier kunnen mensen de veiligheidsprotocollen met een onbevooroordeelde blik evalueren. Het nieuwe veiligheidsteam bestaat echter uit leden binnen het bedrijf. Het is een beetje lastig om de meningen van mensen die aan het bedrijf verbonden zijn, te vertrouwen.
GPT-4o heeft een gemiddeld risico
OpenAI heeft zojuist de System Card voor GPT-4o uitgebracht. Dit is in feite een rapportkaart vol informatie over hoe het bedrijf zijn model veilig houdt. Het schetst de veiligheidsmaatregelen en risico’s.
Volgens de kaart kreeg GPT-4o een gemiddelde risicoscore. Dat is niet zo erg als het klinkt. De veiligheid van het model werd geëvalueerd op vier gebieden: Overreding, Cybersecurity, Biologische bedreigingen en Modelautonomie. Het model kreeg een lage risicoscore op de laatste drie. Wat Overreding betreft, scoorde het model een gemiddelde. Omdat de algehele score wordt bepaald door de hoogste score van een gebied, heeft het model een algehele score van gemiddelde.
Wat betekent dit? Er zijn momenten waarop dit model tekst kan produceren die overtuigender is dan door mensen geschreven tekst. Dat is eng, omdat mensen tekst die door ChatGPT is geschreven, kunnen gebruiken om de massa voor de gek te houden voor hun eigen behoeften. Dus dat is iets waar het bedrijf iets aan moet doen.
Kunnen we hierop vertrouwen?
De vraag is hier of we deze evaluatie kunnen vertrouwen. Nogmaals, dit is voornamelijk gegeven door een intern team. Het maakt niet uit hoezeer het bedrijf zijn verantwoordelijkheid claimt, we kunnen dat feit niet negeren. Het maakt niet uit hoe goed een student is, je zult toch een beetje sceptisch zijn als ze hun eigen wiskundetoets beoordelen.
