Chatgpt wordt voor AI -chatbots wat Google werd voor online zoeken. De service is het meest populair in zijn segment en leidt bijvoorbeeld consequent de beste gratis apps in Apple’s App Store. Het is echter niet controversevrij geweest gedurende het bestaan. Vanwege een ernstige fout in een output, heeft een man een rechtszaak aangespannen tegen Chatgpt, omdat de chatbot beweerde dat de man zijn kinderen had vermoord.
Je weet het misschien niet, maar er was een tijd dat Chatgpt geen internettoegang had. Elke platformupdate bevatte ook een modernere database. Dus als u vragen over dingen stelt na de databasedatumlimiet van de service, zou u waarschijnlijk het verkeerde antwoord krijgen – of een foutmelding.
De man dient een rechtszaak aan tegen Chatgpt voor het beweren dat hij zijn kinderen heeft vermoord
Gedurende die tijd vroeg Arve Hjalmar Holmen de chatbot om alles wat het van hem wist. De man had een onaangename verrassing toen Chatgpt beweerde dat hij was veroordeeld voor het vermoorden van zijn kinderen, naast het proberen een derde te doden. Het platform zei ook dat Holmen een gevangenisstraf van 21 jaar uitzag in Noorwegen.
Blijkbaar leed Chatgpt aan “hallucinaties” tijdens het genereren van de output. Hallucinaties in AI -platforms komen voor wanneer ze valse informatie ‘uitvinden’ en deze als reëel doorgeven, wat de betrouwbaarheid van de output beïnvloedt. De chatbot zou de valse details hebben gemengd met echte details over het leven van de man. Het antwoord toonde bijvoorbeeld correct de geboortestad van Holmen, hoeveel kinderen hij had en het geslacht van zijn kinderen.
Het is mogelijk dat het ontbreken van internettoegang op dat moment verhinderde dat Chatgpt verdere controles uitvoerde voordat de uitvoer werd verzonden. Het platform had ook informatie over een andere persoon met een vergelijkbare naam kunnen nemen en deze samen hebben gemengd. Hoe dan ook, het is duidelijk dat het antwoord Holmen helemaal niet gelukkig heeft gemaakt.
NOYB, een Oostenrijkse belangengroep, heeft de rechtszaak aangespannen bij de Noorse datatilsynet tegen Chatgpt namens de man voor het afbeelden van hem als een veroordeelde moordenaar. De rechtszaak beweert dat de dienst van OpenAI de EU -gegevensprivacyvereisten heeft geschonden.
De output van Chatgpt zou de gegevens privacyvereisten van de EU hebben geschonden
‘De GDPR is duidelijk. Persoonlijke gegevens moeten nauwkeurig zijn. En als dat niet zo is, hebben gebruikers het recht om het te laten veranderen om de waarheid weer te geven“Verklaarde Joakim Söderberg, een advocaat bij Noyb.”Chatgpt -gebruikers een kleine disclaimer laten zien dat de chatbot fouten duidelijk kan maken, is niet genoeg niet genoeg. U kunt niet zomaar valse informatie verspreiden en uiteindelijk een kleine disclaimer toevoegen die zegt dat alles wat u zei misschien gewoon niet waar is.”
De NOYB -groep zoekt een boete van Openai en het verwijderen van lasterlijke informatie over Holmen. Het vereist ook verbeteringen aan chatgpt om soortgelijke problemen te voorkomen. Dat gezegd hebbende, het is mogelijk dat Openai de laatste vereiste lang geleden heeft opgelost. Momenteel tonen de resultaten van Chatgpt voor dezelfde prompt die Holmen als een kindermoordenaar vermeldde nu alleen nieuws over de rechtszaak.
