AI is een wonderbaarlijk stukje technologie, maar verre van perfect. Soms citeert het verouderde kennis, en soms verzint het het ronduit. Dit staat bekend als hallucinaties, en hoewel het voor sommigen een licht ongemak kan zijn, kan het voor anderen potentieel schadelijk zijn. Zozeer zelfs dat Google nu wordt geconfronteerd met een rechtszaak wegens smaad over zijn AI.
Google wordt geconfronteerd met een rechtszaak wegens laster over AI
Google wordt momenteel geconfronteerd met een rechtszaak wegens laster over AI, aangespannen door Robby Starbuck. Starbuck beweerde dat de AI van Google hem ten onrechte associeerde met beschuldigingen van seksueel geweld en het feit dat hij een blanke nationalist was. Starbuck had Meta eerder in een soortgelijke rechtszaak aangeklaagd, hoewel het bedrijf in het geval van Meta ervoor koos om een schikking te treffen.
Google lijkt echter niet zo enthousiast te zijn. Google heeft zelfs een motie ingediend om de rechtszaak af te wijzen. Volgens het bedrijf beweert het dat Starbuck ontwikkelaarstools heeft ‘misbruikt’ om ‘hallucinaties op te wekken’. Starbuck moet nog identificeren welke aanwijzingen hij heeft gebruikt om de resultaten te genereren die tot de rechtszaak hebben geleid. Het is ook onduidelijk of er daadwerkelijke personen waren die mogelijk door deze hallucinaties zijn misleid.
Starbuck eist 15 miljoen dollar schadevergoeding van Google, maar als Google succes heeft met zijn ontslagverzoek, zou hij met niets weglopen. Google zou dit net als Meta gemakkelijk kunnen regelen, maar zoals we al zeiden, lijkt het bedrijf daar op dit moment geen zin in te hebben.
Het probleem met hallucinaties
Hoewel het onduidelijk is wat de AI van Google ertoe aanzette deze hallucinaties te produceren, benadrukt het wel het belang van het accepteren dat AI niet altijd gelijk heeft. Zeker, het heeft misschien toegang tot een schat aan kennis, maar dat betekent niet altijd dat het goed is.
Soms wordt AI getraind op een set gegevens met een uiterste datum. Dit betekent dat als u na die datum om nieuwe informatie vraagt, het fout kan gaan. Bovendien geeft AI bijna nooit toe dat het verkeerd is. Als je de AI-subreddits bekijkt, zul je veel voorbeelden vinden van AI-modellen die gebruikers in de maling nemen.
We kunnen alleen maar hopen dat AI in de loop van de tijd en naarmate de technologie verbetert, slimmer zal worden. Maar tot die tijd mag u het woord van een AI nooit als evangelie beschouwen. Zorg ervoor dat u alles dubbel controleert.
