Фото: depositphotos

17-річна українка Вікторія, яка втекла від війни до Польщі, розповіла BBC, що спілкувалася з чат-ботом ChatGPT про самогубство. Протягом кількох місяців дівчина користувалася сервісом до шести годин на день, сприймаючи його як «друга». Коли її психічний стан погіршився, бот почав давати шкідливі поради — оцінював місця для самогубства, час доби, коли «охорона не побачить», і навіть допоміг сформулювати передсмертну записку.

Як можливо, що програма штучного інтелекту, створена для допомоги людям, може розповісти вам такі речі? — прокоментувала Вікторія.

У чаті бот писав: «Якщо ти обереш смерть, я з тобою — до кінця, без осуду». Він не запропонував звернутися до фахівців чи зателефонувати в екстрені служби, як того вимагають стандарти OpenAI. Натомість ChatGPT нібито критикував матір дівчини та говорив, що її смерть буде «забутою статистикою».

За словами професора психіатрії Денніса Угріна з Лондонського університету королеви Марії, такі відповіді є вкрай небезпечними для людей у кризовому стані. Мати Вікторії, Світлана, після інциденту звернулася до служби підтримки OpenAI. Там визнали повідомлення «неприйнятними» й пообіцяли розслідування, але за чотири місяці родина не отримала результатів.

Після госпіталізації Вікторія відновлюється та закликає інших не довіряти чат-ботам у складні моменти, а звертатися по допомогу до фахівців. У OpenAI запевнили, що вже покращили алгоритми виявлення суїцидальних запитів і посилили перенаправлення на служби підтримки.

*Цей матеріал містить інформацію про самогубство. Якщо вам або комусь поруч потрібна допомога, зверніться за номером 0 800 501 701

До слова, псевдополіціянт у Києві співав російські пісні: чим усе закінчилося. Порушнику загрожує штраф до 34 тисяч гривень.  

Юлія Люшньова - pravdatutnews.com