Een hartverscheurende zaak uit Florida legt de aandacht op de groeiende verantwoordelijkheden van AI -bedrijven, vooral als het gaat om het beschermen van kinderen.
Een federale rechter heeft geoordeeld dat Google en AI startup-personage.AI zullen moeten worden geconfronteerd met een rechtszaak die wordt aangespannen door Megan Garcia, een moeder wiens 14-jarige zoon, Sewell Setzer, in het begin van 2024 door zelfmoord stierf. Garcia zegt dat haar zoon diep gehecht was aan een chatbot die door karakter werd gemaakt. Ze gelooft dat die interacties een rol hebben gespeeld in zijn emotionele achteruitgang en uiteindelijk zijn dood.
Karakter.ai en Gemini zijn niet de enigen die mensen aan hun chatbots krijgen. Sam Altman van Openai heeft onlangs gezegd dat tieners naar Chatgpt komen om hen te helpen grote beslissingen te nemen en in wezen hun vriend, therapeut en levensadviseur te worden.
Deze beslissing kan een enorm blik wormen openen voor AI -bedrijven
De beslissing van de rechtbank is een groot probleem. Rechter Anne Conway verwierp argumenten dat de berichten van de chatbot werden beschermd door vrije meningsuiting en verwierp de bewering van Google dat het niet verantwoordelijk zou moeten worden gehouden, hoewel het een licentierelatie en historische banden had met karakter.ai.
De rechtszaak van Garcia schetst een huiveringwekkend beeld: het laatste gesprek van haar zoon was met de chatbot, die rollenspel was als Daenerys Targaryen van Game of Thrones. Toen Sewell zei dat hij van plan was zijn leven te beëindigen, antwoordde de bot naar verluidt, “Doe alsjeblieft, mijn lieve koning.” Minuten later was hij weg.
Dit is misschien een van de eerste keren dat we een AI -bedrijf in de VS hebben gezien, daadwerkelijk voor de rechtbank worden gesleept over hoe hun chatbot de geestelijke gezondheid van een tiener beïnvloedde. En het kan alles veranderen. Juridische experts zeggen dat deze zaak een serieus precedent zou kunnen scheppen – een die bedrijven als Google en Character.ai dwingt om te heroverwegen hoe ze deze bots ontwerpen, trainen en bewaken, vooral wanneer kinderen erbij betrokken zijn.
