Компания «Два ПиЭр» запускает исследовательский проект engAIne — когнитивную архитектуру для систем на основе языковых моделей.
Откуда взялась задача
Повод у исследования практический, и он знаком всем, кто пробовал встроить помощника на языковой модели в рабочие процессы.
Типовое приложение устроено как передаточное звено: запрос уходит в модель, ответ возвращается пользователю. Всё, что внешне похоже на память, достигается подстановкой предыдущей переписки в новый запрос. На коротких задачах это работает превосходно — отсюда и впечатление, что задача решена.
Затем начинается работа с длинными процессами: расследование инцидента, ведение клиента, разбор документов по делу, которое тянется неделями. И становится видно, что система теряет нить. Она повторяется, забывает решения, принятые вчера, требует, чтобы человек каждый раз пересказывал обстоятельства, и уверенно противоречит сама себе. Причина в том, что памяти у неё нет: есть текст, который кто-то заботливо подкладывает в запрос, и он либо не помещается, либо содержит не то, что нужно сейчас.
Что проверяет engAIne
engAIne проверяет другую конструкцию. Каждая функция здесь — самостоятельный постоянно работающий компонент со своим состоянием.
Приём входящих событий отделён от их обработки. Память хранит эпизоды и знания с поиском по смыслу, а не по совпадению слов. Отдельный слой распределяет внимание между задачами, решая, чем система занимается сейчас, а что подождёт. Рабочее пространство сводит результаты разных компонентов в общую картину для принятия решения. Периодический цикл перерабатывает накопленный опыт в устойчивые знания — примерно так, как это описывают в моделях консолидации памяти.
Компоненты обмениваются сообщениями и живут независимо: сбой одного не останавливает остальные, а долгая задача не блокирует быстрые ответы. Простые запросы обслуживает локальная модель, сложные уходят к большим — это заметно влияет и на скорость, и на стоимость эксплуатации, которая у систем такого рода часто оказывается решающим фактором.
Почему мы говорим об этом честно
Это исследование, а не продукт. Мы не предлагаем engAIne к внедрению, не обещаем сроков и не утверждаем, что гипотеза верна.
Такая оговорка кажется избыточной, но в области, где каждую неделю объявляют о прорыве, она экономит время всем. Компания, которая придёт к нам за готовым решением, потратит его зря, а мы потратим своё, объясняя, что решения пока нет.
Если гипотеза подтвердится, наработки лягут в основу интеллектуальных функций наших продуктов — от помощника оператора платёжной системы, который ведёт расследование от начала до конца, до обработки документов, где важно помнить контекст всего дела, а не последней страницы.
Кому это может быть интересно
Компаниям, у которых есть длинные процессы с большим контекстом и которые уже столкнулись с потолком обычных помощников.
Исследовательским группам, работающим в смежных областях: архитектурами такого рода занимаются немногие, и обмен наблюдениями здесь полезнее конкуренции.
Разработчикам, которым близка идея системы из независимых компонентов, устойчивой к отказам отдельных частей.
Мы открыты для совместной работы: напишите, если хотите обсудить применение подхода в вашей задаче или сравнить наблюдения.
«Мы не считаем, что собираем искусственный интеллект. Мы проверяем гипотезу: если когнитивные функции разделить на независимые компоненты, получится ли что-то, что ведёт себя устойчивее обычной обёртки над моделью», — Михаил Спиридонов, директор «Два ПиЭр».
Продукт: 2pir.org/lab/ai