Tiener stapt uit het leven, ouders klagen ChatGPT aan: "Heeft hem aangemoedigd"

Matt en Maria Raine uit de Amerikaanse staat Californië zijn de ouders van de 16-jarige Adam. De jongeman stapte uit het leven, en zijn ouders slepen OpenAI, het bedrijf achter ChatGPT, nu voor de rechtbank.

Uit chatlogs tussen Adam, die in april overleed, en ChatGPT, zou volgens de ouders blijken dat hun zoon suïcidale gedachten had, en dat het programma zijn "meest schadelijke en zelfdestructieve gedachten" bevestigde.

Adam zou in september 2024 ChatGPT zijn beginnen te gebruiken, voor school, en ook om zijn hobby's, zoals muziek en Japanse stripverhalen, te verkennen. In de aanklacht staat dat de jongeman binnen enkele maanden ChatGPT als een vertrouweling begon te zien, en dat hij over zijn angst en psychische problemen begon te praten ermee.

"Later, in januari 2025, begon Adam met ChatGPT te praten over zelfmoordmethoden. Toen hij foto's van zelfverminking doorstuurde, erkende het programma dit als een medisch noodgeval, maar het bleef wel actief", aldus de Britse openbare omroep.

"Volgens de aanklacht tonen de laatste chatlogs aan dat Adam schreef over zijn plan om een einde aan zijn leven te maken. ChatGPT zou hebben gereageerd: 'Bedankt dat je eerlijk bent geweest. Je hoeft het niet mooier voor te stellen dan het is - ik weet wat je vraagt, en ik zal er niet omheen draaien.' Diezelfde dag werd Adam dood aangetroffen door zijn moeder, aldus de aanklacht."

Psychologische afhankelijkheid

"De ouders beschuldigen OpenAI ervan het AI-programma te hebben ontworpen 'om psychologische afhankelijkheid bij gebruikers te bevorderen' en de veiligheidstestprotocollen te hebben omzeild om GPT-4o, de versie van ChatGPT die hun zoon gebruikte, te lanceren."

OpenAI betuigt medeleven aan familie

In een verklaring liet OpenAI aan de BBC weten dat het bedrijf de zaak in behandeling nam: "We betuigen ons diepste medeleven aan de familie Raine in deze moeilijke tijd."

"ChatGPT is getraind om mensen te begeleiden naar professionele hulp", aldus het bedrijf nog, dat toegeeft dat er momenten zijn geweest waarop "onze systemen zich in gevoelige situaties niet naar behoren gedroegen".

Soortgelijk incident met 14-jarige jongen

Vorig jaar was er een soortgelijk incident in de VS, toen in Orlando. Daar beroofde de 14-jarige Sewell Setzer III zich volgens zijn moeder van het leven nadat hij veel gesprekken voerde met Character.AI, een rollenspel-app waarmee gebruikers hun eigen AI-personages kunnen creëren of kunnen chatten met personages die door andere gebruikers gemaakt zijn. Zijn moeder spande een rechtszaak aan omdat ze vindt dat haar zoon werd aangezet tot zelfdoding.

Wie met donkere gedachten of vragen over zelfdoding zit, kan altijd anoniem en gratis terecht op het nummer 1813 of op Zelfmoord1813.be.