Исследование проводится совместно с нейробиологом, академиком РАН Константином Анохиным. В рамках эксперимента ученые намерены выяснить, способны ли нейросети формировать устойчивые предпочтения и собственную точку зрения.
На первом этапе специалисты проверили, может ли базовая языковая модель самостоятельно вырабатывать стабильные предпочтения без дополнительного обучения, и обнаружили, что это не происходит. Теперь исследователи переходят к основному этапу, в ходе которого нейросеть будут стимулировать к рассуждениям и рефлексии.
По словам Александра Крайнова, директора по развитию технологий искусственного интеллекта, человек постоянно обучает свою нейронную сеть в процессе мышления, тогда как ИИ учится лишь на чужих мыслях. Он выразил надежду, что если начать обучать нейросеть на её собственных рассуждениях, удастся создать модель с подлинной собственной точкой зрения — не навязанной и не имитированной, а основанной на внутренних убеждениях.
Эксперимент направлен на более глубокое понимание природы человеческого мышления и возможностей ИИ выйти за пределы статистического предсказания.
Ранее Владимир Путин поручил разработать штаб для управления развитием отрасли искусственного интеллекта. Правительству и регионам России предстоит сформировать национальный план по внедрению генеративного ИИ. Президент подчеркнул, что страна не должна зависеть от иностранных технологий, поскольку это вопрос национального суверенитета. Путин также отметил важность развития собственных нейросетей в России.
