Частое использование чат-ботов может спровоцировать психоз, пишет The Wall Street Journal. В основу исследований вошли истории болезни десятков пациентов за последние девять месяцев.
Так, 26-летняя жительница США была уверена, что с помощью ИИ общается с умершим братом. Ряд врачей говорят, что их пациенты верят, что совершили сенсационное открытие, стали центром заговора или избраны Богом. Как правило, это связано с тем, что чат-боты соглашаются с пользователями и поддерживают их фантазии.
Врачи выделяют следующие признаки психоза, спровоцированного ИИ: галлюцинации, рассеянное мышление или речь, устойчивые ложные убеждения.
«Сама технология, возможно, и не вызывает бред, но человек рассказывает компьютеру о своей реальности, а компьютер принимает это за истину и отражает обратно, таким образом, он становится соучастником в возникновении заблуждения», – говорит психиатр из Калифорнийского университета Кит Саката. Он лечил 15 человек с психозом, вызванным чат-ботами.
В OpenAI сообщили, что продолжают совершенствовать обучение ChatGPT, чтобы он мог распознавать признаки расстройства и реагировать на них.
