Недавно нашу компанию объединили с другой, которая также разрабатывает no-code платформу. И сейчас мы знакомимся с новой командой разработки и активно обмениваемся знаниями. Так как наши продукты похожи, интересно посмотреть как у них всё реализовано.

На прошлой неделе лид AI-команды рассказывал, как в их продукте устроены ИИ-агенты и как используется RAG. Попробую кратко вам рассказать.

🤖 Чем вообще ИИ агент отличается от обычной программы?

Ключевые отличия заключаются в двух возможностях:

использовании инструментов
динамическом принятии решений

Под инструментами может подразумеваться:

function calling — мы описываем, с какими функциями в нашем коде ИИ может взаимодействовать. Конечно, ИИ не запускает код напрямую: он генерирует имя функции и входные параметры, а сам вызов мы делаем уже со своей стороны.
tools use — более высокоуровневые инструменты: поиск в интернете, работа с файлами, генерация картинок и так далее.

А благодаря тому, что у LLM есть условные «мозги», она сама понимает, какие инструменты и в какой последовательности вызывать и когда остановиться. Это и есть то самое динамическое принятие решений.

📚 Теперь кратко про RAG.

RAG — это генерация ответа, дополненная поиском по вашим данным, о которых сама LLM знать не может. Например, по корпоративной базе знаний.

Пример задачи: «Нам нужно, чтобы LLM отвечала на вопросы с учётом загруженных пользователями PDF-файлов».

Как это реализуется:

преобразуем PDF в текст
разбиваем текст на чанки
каждый чанк превращаем в векторное представление (эмбеддинг) с помощью embedding-модели
сохраняем текст вместе с вектором, например в Postgres с плагином pgvector

Кстати, на прошлой неделе нашёл отличную статью про то, как слова превращаются в векторы и используются в поиске. Скоро поделюсь 🔜.

Дальше, когда пользователь задаёт вопрос:

запрос преобразуется в вектор
находится наиболее подходящая по смыслу запись
в LLM передаётся: вопрос + найденные куски текста
LLM формирует ответ

Часть команды, немного растерялась, когда тимлид из другой платформы рассказывал обо всём этом 😅, так как большинство из нас ещё не сталкивались с разработкой агентов.

Сам я ИИ-агентов ещё не разрабатывал — пока разбираюсь в теме на уровне теории. В Guide DAO успел пройти только теоретическую часть курса по разработке ИИ-агентов, так что как минимум понимаю, о чём вообще идёт речь 😅. Если кто-то пропустил, Guide DAO — это образовательное комьюнити про разработку в web3 и ИИ-агентов.

🏷 До конца января у ребят действует акция — скидка 20%, плюс по промокоду CHERKASHIN можно получить дополнительную скидку 25%. В сумме — 45%.

А в марте запускается живой курс по вайбкодингу на 2 месяца (теория + практика + созвоны со спикером) Алексеем Аметовым в качестве спикера. Каждый будет решать свою задачу и учиться прямо на её примере. А при покупке курса по ИИ-агентам живой курс по вайбкодингу идёт в подарок.

Ставьте:

❤️ — если интересно читать про ИИ-агентов
🔥 — если уже понимаете, как они работают
👀 — если до изучения агентов пока не дошли руки