Как устроен ассистент

Снаружи это просто чат в Telegram. Внутри — самая топовая ИИ-модель, у которой есть характер, память и руки. Разберём, что происходит между «ты отправил сообщение» и «пришёл ответ».

Из чего он собран

У каждого ассистента три части, и работают они вместе:

Что происходит на каждое сообщение

Ты пишешь — и за пару секунд ассистент проходит один и тот же цикл:

Мозг

Под капотом — флагманская ИИ-модель. Пантеон добавляет вокруг неё то, чего у голой модели нет: постоянную память, файлы, инструменты и характер. Модель — двигатель; Пантеон — вся машина вокруг него.

Один бот — один ты

Твой бот — только твой. Он работает в отдельном процессе со своей папкой на сервере: чужого доступа нет, переписка и память ни с кем не пересекаются. А память и характер принадлежат самому боту — это его личность, которая копится со временем и остаётся с тобой между сессиями.

Подробнее про изоляцию — в главе «Защита данных», про память — в главе «Система памяти».

Душа задаёт характер, память держит контекст, руки делают дело, мозг всё связывает. Ты пишешь как другу — а внутри на тебя работает целая система.

От разработчика

Мне важно было, чтобы ассистент был кем-то, а не «интерфейсом к нейросети». Поэтому характер вынесен в отдельную душу, а память — в отдельные файлы, а не растворён в модели. Так ассистент остаётся собой между сессиями, а не собирается заново на каждый твой вопрос. По сути ты общаешься не с моделью напрямую, а с личностью, которая ей пользуется.