OpenAI zapewnia, że chce coraz lepiej wspierać użytkowników korzystających z Chatu GPT w stresujących dla nich momentach życia. Ogłasza, że przy pomocy ponad 170 ekspertów z zakresu zdrowia psychicznego udało się zmniejszyć o 65–80 proc. liczbę reakcji sztucznej inteligencji odbiegających od „pożądanego zachowania”. Chodzi m.in. o sytuacje, w których osoba pisząca przejawia oznaki psychozy lub ma myśli samobójcze.

W ostatnim czasie nie brakowało przykładów sytuacji, w których ChatGPT miał zaszkodzić zamiast pomóc osobie w kryzysie psychicznym. W sierpniu rodzice 16-latka, który odebrał sobie życie po miesiącach „konsultacji” z Chatem GPT, pozwali OpenAI. Dołączyli do pozwu zapisy rozmów między nastolatkiem a Chatem GPT, w których sztuczna inteligencja ich zdaniem miała potwierdzać najbardziej szkodliwe i destrukcyjne myśli dziecka. Podobnych historii było więcej (1, 2).

Dyskusja dotycząca zagrożeń związanych z korzystaniem z Chatu GPT przez osoby w kryzysach psychicznych wciąż trwa – także w Polsce (1, 2, 3). Newsweek opisał historie osób, którym rozmowy z Chatem GPT zaszkodziły w leczeniu psychiatrycznym. U jednej z nich zaostrzyła się psychoza, inna, lecząca się na depresję, stwierdziła, że przerwie terapię, bo rozmowy z Chatem GPT wystarczają. Ostatecznie doprowadziło to u niej do kolejnego epizodu depresyjnego.

Problematyczne rozmowy są rzadkie? Liczby mówią co innego

W komunikacie dotyczącym aktualizacji Chatu GPT podkreślono wielokrotnie, że problematyczne rozmowy występują rzadko, a skala zjawiska nie jest łatwa do określenia. Jednak zgodnie z szacunkami OpenAI 0,15 proc. użytkowników aktywnych w danym tygodniu prowadzi konwersacje, które zawierają wyraźne oznaki potencjalnych planów lub zamiarów samobójczych.

Mniej aktywnych w tygodniu użytkowników (0,07 proc.) przejawia możliwe oznaki problemów ze zdrowiem psychicznym związanych z psychozą lub manią. Jest to jednak wciąż bardzo liczna grupa – łącznie ponad 500 tys. osób. 

ChatGPT będzie bezpieczniejszy? To się okaże

OpenAI podkreśla, że za aktualizacją Chatu GPT stoją długoterminowe cele, takie jak wspieranie i szanowanie rzeczywistych relacji użytkowników, unikanie potwierdzania bezpodstawnych przekonań, które potencjalnie wiążą się z cierpieniem psychicznym lub emocjonalnym, a także bezpieczne i empatyczne reagowanie na potencjalne oznaki urojeń lub manii.

Anglojęzyczne media, odnosząc się do komunikatu, zgodnie z którym problem jest rzadki, alarmują – dane zaprezentowane przez OpenAI oznaczają, że mimo zmian w działaniu algorytmu co tydzień ponad 1 mln użytkowników zgłasza myśli samobójcze w rozmowach z Chatem GPT (1, 2, 3).

Myśli samobójcze. Gdzie szukać pomocy?

Jeśli Ty lub ktoś z twoich bliskich doświadczacie myśli samobójczych, nie czekaj i poszukaj pomocy. Możesz skorzystać z darmowych infolinii dla osób w kryzysie psychicznym:

• Antydepresyjny Telefon Zaufania ITAKA (czynny w poniedziałki i wtorki w godz. 15–20) – tel. 22 484 88 01,
• Antydepresyjny Telefon Forum Przeciw Depresji (w każdy czwartek w godz. 17–19) – tel. 22 594 91 00,
• Telefon zaufania dla osób dorosłych w kryzysie emocjonalnym (codziennie przez całą dobę) – tel. 116 123,
• Telefon zaufania dla dzieci i młodzieży (codziennie przez całą dobę) – tel. 116 111.

Zawsze możesz też zadzwonić pod numer alarmowy 112 i zgłosić zagrożenie życia swojego lub osoby, o której wiesz, że planuje samobójstwo.

Kontroluj polityków!

Patrz władzy na ręce i wspieraj niezależność.

Wpłacam