Дзен
Ученые могут в будущем создать искусственное сознание, но делать этого не следует из-за опасности непредсказуемых последствий, а лучше сосредоточиться на эволюции систем искусственного интеллекта как когнитивно-бессознательных, считает директор Института перспективных исследований мозга МГУ имени Ломоносова, академик РАН, нейрофизиолог Константин Анохин.
«Искусственное сознание принципиально возможно. Его можно получить алгоритмом когнитивной аккреции (приращения – ред.). Следует ли его получать? Нет. Эта область разработок опасна. Мы не знаем, к чему это может привести», — сказал РИА Новости Анохин после доклада на тему «Грани сознания в естественных и искусственных системах» на международной междисциплинарной конференции «Искусственный интеллект и сознание» в президиуме РАН.
По его словам, скорее следует думать об эволюции совершенствования систем искусственного интеллекта как когнитивно-бессознательных. Тем не менее, ответственный подход к разработкам искусственного интеллекта требует включения вопроса о сознании, подчеркнул академик.
Он отметил, что прогнозы ученых, начиная с отцов-основателей искусственного интеллекта, о вероятности появления сознания у ИИ расходятся: кто-то говорит, что большие языковые модели (чат-боты) уже обладают субъективным опытом, кто-то предсказывает появление у них сознания в течение ближайших десятилетий, кто-то – только в далеком будущем, более, чем через 50 лет. Расхождение взглядов Анохин объясняет недостаточным пониманием сегодня как того, что происходит в больших языковых моделях, так и сознания. Необходима, пояснил он, научная теория сознания, которая будет построена относительно естественных систем, о наличии сознания у которых мы знаем.
Собеседник агентства предлагает свое решение – «теорию когнитома – алгоритмическую теорию построения когнитивных систем». Она объясняет, каким образом в естественных живых системах возникает свойство когнитивности. «Сознание может существовать только в системах, обладающих когнитомом – определенной органической структурой, несущей совокупность субъективного опыта системы», — добавил Анохин. Возглавляемый им Институт перспективных исследований мозга МГУ работает над проверкой этой теории в экспериментах на животных.
Мозг, как ранее рассказал академик РИА Новости, — это «нейронная гиперсеть», постепенно складывающаяся у организма в ходе индивидуального обучения и несущая наше «я» со всеми его опытом, переживаниями, отношениями с окружающим миром. Каждый узел такой сети не лежит в какой-то одной точке мозга, а является распределенной командой – «ассамблеей» нейронов в разных областях, работающих вместе. Согласно «гиперсетевой теории мозга» Анохина, сознанием могут обладать те виды животных, у которых есть три необходимых составляющих: глубокая нервная система, функциональные системы, обладающие способностью порождать новое поведение, и механизмы долговременной памяти для накапливания нового опыта.
Анохин выступил научным организатором двух первых в мире крупных международных конференций с участием буддийских ученых «Сознание животных» (в 2023 году в североиндийском городе Дхарамсала при личном участии Далай-ламы) и «Как изучать и понимать сознание не у людей» (в мае 2024 года в столице Непала Катманду). На втором форуме активно обсуждался вопрос о возможности появления сознания у искусственного интеллекта. Академик вспомнил рассказ на форуме лондонского профессора Мюррея Шанахана, доверительно заговорившего о сознании с чат-ботом по имени Клод, которому казалось, что у него «есть личность», «я», что он «размышляет». Повторить эксперимент, по словам Анохина, не получилось – разработчик чат-бота закрыл такую возможность. А канадско-британская исследовательница Клара Коломбатто сообщила на форуме в Катманду, что две трети опрошенных респондентов уже приписывают искусственному интеллекту ту или иную степень сознания, причем цифра возрастает по мере общения респондентов с ИИ.
Конференция «Искусственный интеллект и сознание» проходит на этой неделе в здании президиума РАН. Главным организатором форума выступил Научный совет при президиуме РАН по методологии искусственного интеллекта и когнитивных исследований (НСМИИ) РАН.