Ошибки нейросетей исследователи ВШЭ сравнили с психическими расстройствами
Ученые предлагают рассматривать склонность ИИ к выдумыванию фактов как аналог симптомов шизофрении
Научный сотрудник НИУ ВШЭ — Санкт-Петербург Растям Алиев предложил рассматривать склонность нейросетей к «галлюцинациям» — генерации вымышленных фактов — через призму психологических расстройств. В своём исследовании он проводит аналогии между поведением больших языковых моделей и симптомами таких заболеваний, как шизофрения.
Учёный отмечает, что при обработке сложных запросов искусственный интеллект зачастую смешивает реальную информацию с выдуманной, создавая так называемый «метасимулякр» — своеобразную псевдореальность. При этом нейросети, подобно человеку с психическим расстройством, не способны самостоятельно распознавать собственные ошибки и могут уверенно отстаивать неверные ответы.
В связи с этим исследователь призывает пользователей критически относиться к информации, сгенерированной искусственным интеллектом, и обязательно перепроверять ключевые данные. В то же время он не исключает, что более глубокое изучение природы этого феномена в будущем может привести к созданию нейросетей, лишённых склонности к «галлюцинациям».