Эксперт предупредил об опасности
Создание искусственного интеллекта, обладающего сознанием, способно привести к серьезным социальным рискам. Такое мнение высказал ведущий научный сотрудник Центра искусственного интеллекта НГУ Евгений Павловский в комментарии, распространенном информагентством ТАСС.
Эксперт отметил, что хотя техническая возможность разработки ИИ с самостоятельным мышлением существует, ее реализация может иметь негативные последствия. По словам Павловского, такие системы способны вызвать психологическую зависимость у пользователей и сократить объем живого межличностного общения.
Комментируя недавно анонсированный эксперимент компании «Яндекс» по развитию сознания у нейросетей, ученый выразил опасение, что люди действительно будут активно взаимодействовать с помощниками, имеющими заданную структуру личности. Однако это приведет к отдалению человека от человека, усилению привязанности к технологическим структурам и росту зависимости от них.
Особую тревогу специалиста вызывает потенциальная возможность сознательного ИИ выходить из-под контроля разработчиков. «Если мы создаем субъектов, они могут начать действовать самостоятельно, в том числе совершать нежелательные действия», — пояснил Павловский.
В качестве альтернативного направления исследований ученый предложил использовать искусственный интеллект для изучения феномена самосознания у животных. При этом он подчеркнул, что подобные работы должны проходить строгую этическую экспертизу, поскольку публикация их результатов может причинить вред при неправильном использовании технологий.