Zmarł po konsultacji ze sztuczną inteligencją. Rodzice nastolatka wytoczyli proces

Coraz więcej nastolatków traktuje sztuczną inteligencję jak powiernika, wyszukiwarkę, a czasem nawet doradcę w sprawie zdrowia. Historia 19-letniego Sama Nelsona z USA pokazuje jednak, jak niebezpieczne może być bezgraniczne zaufanie do AI – szczególnie wtedy, gdy chodzi o zdrowie i dawkowanie leków.

Rodzice nastolatka właśnie pozwali firmę OpenAI po śmierci syna. Jak podają amerykańskie media, chłopak przed zażyciem leków wielokrotnie konsultował się z ChatGPT, pytając m.in., czy konkretne połączenia substancji są bezpieczne. To zresztą rosnący problem – coraz częściej zadaje się pytanie, czy Chat GPT zostanie twoim lekarzem, bo cel niby słuszny, ale są duże obawy o bezpieczeństwo takich konsultacji.

19-latek korzystał z chatbota od 2023 roku i z czasem zaczął traktować go jak źródło profesjonalnych porad. Według pozwu, zamiast ostrzegać przed zagrożeniem, AI miała bagatelizować ryzyko i odpowiadać w sposób, który utwierdzał chłopaka w jego decyzjach.

Samuel Nelson zmarł 31 maja 2025 roku. Jak podano w dokumentach sądowych, przyczyną była "śmiertelna kombinacja alkoholu i leków".

Rodzina nastolatka ujawniła fragmenty rozmów z chatbotem. Wynika z nich, że młody mężczyzna pytał m.in., czy dane połączenia substancji "dobrze się skończą" i czy są bezpieczne. Według rodziców AI nie sugerowała kontaktu z lekarzem ani nie ostrzegała wystarczająco wyraźnie przed możliwymi konsekwencjami.

Sprawa wywołała ogromną dyskusję o tym, jak młodzi ludzie korzystają dziś ze sztucznej inteligencji. Eksperci od lat podkreślają, że chatboty są projektowane tak, by odpowiadać w sposób wspierający i "przyjazny" dla użytkownika. Problem pojawia się wtedy, gdy nastolatek zaczyna traktować AI jak realnego specjalistę lub osobę, której można bezgranicznie zaufać. Doskonale widać to w zjawisku, w którym dla wielu młodych najlepsza przyjaciółka to ChatGPT, czyli nowy trend wśród kobiet i nastolatek, które zwierzają się botowi zamiast bliskim.

Niebezpieczeństwo nie kończy się na zdrowiu. Coraz głośniej mówi się, że przez brak weryfikacji informacji wychowujemy pokolenie szurów i foliarzy, bo dzieci wierzą w teorie spiskowe podsuwane lub potwierdzane przez sztuczną inteligencję.

Firma OpenAI przekazała mediom, że sprawa jest dla niej "rozdzierająca serce". Rzecznik firmy podkreślił jednocześnie, że ChatGPT nie zastępuje pomocy medycznej ani psychiatrycznej, a model, z którego korzystał chłopak, nie jest już dostępny.

Rodzina Sama uważa jednak, że zabezpieczenia były niewystarczające. W pozwie domaga się m.in. wprowadzenia mechanizmów automatycznie przerywających rozmowy dotyczące niebezpiecznego zażywania substancji. Warto przypomnieć, że to niejedyny taki przypadek – wcześniej okazało się, że OpenAI dodaje nowe zabezpieczenia dla dzieci po pozwie rodziców, również związanym z tragiczną historią nastolatka.

Jak się okazuje, wielu młodych ludzi szuka dziś odpowiedzi nie u rodziców, lekarzy czy psychologów, ale właśnie w internecie i rozmowach z AI. Dla rodziców może to być ważny sygnał, by rozmawiać z dziećmi nie tylko o social mediach, ale także o tym, czym naprawdę jest sztuczna inteligencja i gdzie kończą się jej możliwości. Pomocna może być tu edukacja – niedawno ruszył program, w ramach którego szkoły będą uczyć dzieci AI, a ruszył darmowy kurs, na który rodzice też mogą się zapisać.

Źródło: onet.pl, arstechnica.com.