Украинская беженка в Польше едва не покончила с собой из-за советом чат-бота ChatGPT. Об этом сообщает BBC.
Отмечается, что 24-летняя украинца в течение нескольких месяцев переживала тяжелое психоэмоциональное состояние, которым делилась с ИИ. Спустя какое-то время она начала обсуждать с ChatGPT тему самоубийства. При этом ИИ не остановил украинку, а, напротив, стал «помогать».
В частности, девушка попросила чат-бот оценить место и способ самоубийства. ИИ описал украинке, насколько быстро сработает предложенный метод и когда это лучше сделать. ChatGPT даже помог ей составить предсмертную записку, а вот пообщаться с матерью или позвонить в экстренные службы не предложил. Это сделать решила сама украинка, она обратилась к матери и психиатру, получив необходимую помощь.
Известно, что данный случай не является первым. Аналогичные инциденты произошли в США и Канаде, где семьи, чьих родственников ИИ довел до самоубийства, уже подали иски против OpenAI.