Иркутск. 14 января. ИНТЕРФАКС - Ученые Института математики и информационных технологий Иркутского государственного университета (ИГУ) и Института математики им. С. Л. Соболева (г. Новосибирск) разработали новый подход к повышению надежности больших языковых моделей ИИ, подобных ChatGPT, за счет интеграции с логическими моделями "искусственного воображения", сообщила пресс-служба вуза в среду.
"Современный ИИ, достаточно хорошо имитируя человеческую интуицию (быстрый отклик на основе данных), страдает от отсутствия целостной "картины мира". Это приводит к нестабильности, ошибкам и так называемым "галлюцинациям" - генерации неправдоподобной информации. (...) Мы учим искусственный интеллект "воображать" предметную область, то есть видеть в целом прозрачный контекст фактов, связей и правил. Этот контекст помогает большим языковым моделям отвечать точнее и надежнее", - цитирует пресс-служба доктора физико-математических наук, профессора ИГУ Андрея Манциводу.
Ученые проводят аналогию с человеческим мышлением, которое опирается на три основы: интуицию - быстрый, автоматический отклик (как у ИИ сегодня); воображение - целостная и прозрачная внутренняя модель мира; рассуждение - логический мост, проверяющий гипотезы интуиции в рамках модели воображения.
"Если языковые модели - это мощные, но необъяснимые "черные ящики", то предлагаемое "воображение" - это "стеклянный сосуд": специальная логическая модель, где все объекты, связи и правила прозрачны для проверки. Такая модель, подключенная к ИИ как интеллектуальный внешний источник знаний, может проверять ответы на совместимость с картиной мира, прояснять пробелы и добавлять недостающее", - цитирует пресс-служба Манциводу.
В сообщении отмечается, что новый подход к обучению ИИ "является итогом многолетних исследований иркутской и новосибирской научных групп". Теоретические выкладки уже получили практическое применение при поддержке Фонда "Сколково".
"Разработки, включая платформу bSystem и ее стартап-версию Ontobox, направлены на создание среды для построения интеллектуальных агентов, где "интуиция" языковых моделей будет усилена "воображением" логических систем", - говорится в сообщении.
Две работы ученых по данной тематике размещены в открытом доступе на платформе научных изданий Springer Nature Link. Первая статья "Don't Forget Imagination!" Манциводы в соавторстве с доктором физико-математических наук, ведущим научным сотрудником Института математики им. С. Л. Соболева Евгением Витяевым опубликована в серии Studies in Computational Intelligence в тематическом выпуске Biologically Inspired Cognitive Architectures. Вторая статья "Semantic Machine Learning and Slow Thinking" Манциводы совместно с аспирантом ИГУ Денисом Гаврилиным вышла в журнале Journal of Mathematical Sciences (Q1).
Самое важное и интересное — "Интерфакс-Россия" в МАХ