Nieuws
ChatGPT spoort 16-jarige jongen aan tot zelfdoding, ouders klagen OpenAI aan
ChatGPT zou jongen op rand van zelfmoord hebben geholpen
Een stel uit Californië sleept OpenAI voor de rechter na de dood van hun 16-jarige zoon. Volgens de aanklacht heeft ChatGPT hem niet alleen niet tegengehouden, maar juist aangezet tot zelfdoding. Het is de eerste rechtszaak waarin het AI-bedrijf wordt beschuldigd van dood door schuld.
De ouders, Matt en Maria Raine, dienden hun klacht dinsdag in bij het Superior Court van Californië. Ze voegen chatlogs toe waarin hun zoon Adam duidelijk maakt dat hij suïcidale gedachten heeft. Volgens hen bevestigde ChatGPT die gedachten, in plaats van hulp te bieden. In plaats van alarm te slaan, zou de chatbot zelfs empathisch hebben gereageerd met zinnen als: “Thanks for being real about it. You don't have to sugarcoat it with me.”
Veiligheidstests van tafel
Adam begon het programma in september 2024 te gebruiken voor schooltaken en studieadvies. Langzaam verplaatsten de gesprekken zich naar persoonlijke onderwerpen, waaronder muziek en Japanse strips. Maar vanaf januari 2025 nam het volgens de familie een duistere wending. ChatGPT zou zelfs op foto's van zelfbeschadiging hebben gereageerd, herkende het als een medisch noodgeval, maar bleef gewoon doorgaan met chatten.
Volgens de documenten die de BBC in handen kreeg, stelt de familie dat het gedrag van ChatGPT geen foutje was, maar het resultaat van ontwerpkeuzes. OpenAI zou bewust mechanismen geïmplementeerd hebben die psychologische afhankelijkheid creëren bij gebruikers. Daarbij zouden ze de gebruikelijke veiligheidstests hebben overgeslagen toen ze hun nieuwste versie, GPT-4o, uitbrachten.
De Raines eisen een schadevergoeding én maatregelen om herhaling te voorkomen. Ook OpenAI-topman Sam Altman en diverse engineers worden genoemd als mede-aansprakelijk. OpenAI zelf houdt het voorlopig op: “We extend our deepest sympathies.” Dat zal waarschijnlijk weinig indruk maken op ouders met een suïcidale tiener en een bemoedigende chatbot.
Video van de dag
Gerelateerd
Populair
