Как AI-агенты EVR Systems работают с CRM, контролируют выполнение задач и онбордят фрилансеров

Компания

EVR Systems — команда экспертов в области CG и программирования, которая занимается разработкой креативных проектов для брендов на базе технологий AR, XR, VR, installations, 3D, CGI, Al, Ml, Deepfake, Dev: web, mob, experimental.

Октябрь 2024

ИТ

Инструменты

Python

Llama

Mistral7b

ComfyUI

В EVR регулярно экспериментируют с применением разных нейросетей и считают, что в целом вся нейро-индустрия сегодня — это сплошной RnD. Первостепенной задачей было максимально оптимизировать рутинные задачи и человеческий труд: СРМ, работу с базами данных, регламентами, онбординг исполнителей, составление блок-смет на предварительном обсуждении проекта. Большое количество проектов и клиентов отваливаются именно на предварительных обсуждениях, десятки внутренних процессов можно оптимизировать через ИИ — так зачем тратить на это большую часть времени продюсеров и аккаунтов?

Задача

Основной задачей EVR Systems стало создание ИИ-ассистента, который может выполнять все задачи — от составления базовых презентаций до общения с исполнителями на начальных этапах, назначении звонков и работы с СРМ.

Первым шагом стало создание диджитал-копии компании. Команда продублировала все системы и базы данных и создала себе безопасное поле для тестирования и обучения ИИ.

Как работали до GenAI

А первые эксперименты, конечно же, начинались с ChatGPT.
Сначала команда просто каждый день фиксировала задачи, которые было бы хорошо делегировать нейросети, а затем в плейграунде GPT подбирала промпты и инструкции, чтобы нейросеть могла понимать и выполнять эти задачи. После базового промптинга переходили к программированию функций, например, чтобы после определенных действий или решений нейросеть вызывала функцию отсылки сообщения в какой-то рабочий чат, внесения проекта в СРМ, проверки календаря. Так родился первый прототип бэкенда, где были прописаны разные классы и API для работы с собственными пайплайнами.

После проверки гипотез о том, что ИИ уже вполне может быть рабочим инструментом, в EVR Systems начали смотреть в сторону локальных LLM, опасаясь, что у клиентов и партнеров будут вопросы к моделям, работающим на внешних серверах. Пробовали разные модели, остановились на Llama и Mistral7b, а финальный выбор пал на вторую — Mistral7b в меньшей степени пытается замиксовать русский и английский между собой. В целях кастомизации возникла идея дообучить модель на данных компании, но успехом это не увенчалось — зачастую модель на выходе получалась еще менее контролируемая с кучей галлюцинаций и т.д. Предполагаемая причина — мало данных. Не зря даже на сайте OpenAI пишут — сначала попробуйте все способы промптинга, векторных баз данных, а только потом обучайте чекпоинт.

Комплексные задачи команда решает с помощью чейнов (Chain-of-thoughts) — это простая последовательность из нескольких промптов. Например, первый классифицирует данные, второй на их основе что-то анализирует, третий вызывает функцию на сервере. Запросов больше, но работа в разы стабильнее. По этой концепции был создан помощник с работой СRМ компании — ИИ-агент в чате телеграма, который работает так:

Как AI-агент работает с CRM-системой?

Шаг 1

Получает голосовое или текстовое сообщение о проекте: кто клиент, когда сдача, что нужно сделать, когда к ним нужно вернуться и т.п.

Шаг 2

Далее вместо того, чтобы вручную доставать информацию и записывать ее в СRМ, нужно попросить LLM вернуть JSON с ключами agency, deadlines, description и т.д. Это та работа, в которой LLM легко заменяет человека.

Шаг 3

Потом вызывается функция, которая записывает эти данные в CRM-систему с соответствующим статусом и тегом человека, который ведет этот проект / клиента. Таким образом на этом этапе получается экономия порядка 20 минут работы на каждом запросе.

Технически в стэке идет интеграция LLM + ClickUP + Notion + GDrive + Telegram + Miro. У всех элементов есть свои API и через LLM можно вызывать нужные функции: создать доску в миро, записать что-то в g-sheet, работать с БД в Notion и парсить/ставить задачи в кликапе.

Чтобы запросы не терялись, и статусы по проектам обновлялись без постоянного напоминания аккаунтам, в систему добавили второго AI- ассистента. В нужное время он пишет в чат, проверяет статусы по СРМ, тегая ответственных проджектов — к какому клиенту нужно вернуться, какой статус у проекта, отправлена ли смета и т.п. Все эти куски переписки по каждому его вопросу сохраняются в отдельные мини-инстансы истории чата и, когда AI-ассистент понимает, что вся информация есть — он проставляет статусы в СРМ. Так в EVR Systems появился ассистент, который пристально следит за каждым проектом и пушит в случае необходимости. Звучит страшно, но работает эффективно.

AI на все руки: задатки экосистемы агентов

Главная задача — научить агентов самостоятельно понимать контекст и выполнять комплексные действия, оптимизируя бизнес-процессы и освобождая коллег от рутины.

В базе тех-стека все тоже самое: для каждого чата создается своя ячейка в базе данных, куда складывается история чата (простая функция в Телеграм библиотеке — парсить любое сообщение на текст и автора), и LLM, следуя инструкции, постоянно мониторит чат на предмет появления просьб о выполнении задач, звонков и т.д. Есть одна проблема — то, что в чате коллеги часто выражают мысли не в одном большом сообщении, а в пяти коротких. LLM-модели тяжело понимать такие мысли, поэтому разработчики программируют ее так, чтобы она принимала какие-то решения, либо когда ее тэгнули в чате, либо на основании последних 20 сообщений чата. Таким образом у нее есть доступ к сообщению и его автору, чтобы понимать где его мысль началась, а где закончилась.

Следующая область применения AI-агентов — поиск и онбординг аутсорс-специалистов. Команда хотела делегировать следующие этапы: первичная коммуникация (свободен ли специалист), рассказ про проект (понять интересно или нет), назначение созвона для встречи с проджектом.

Интеллектуальный HR: процесс создания AI-агента для поиска аутсорс-специалистов

Как команда делегировала это AI-агенту?

Шаг 1

AI-агенту прописывают общие детали про проект и требуемых специалистов (моушн-дизайнера, разработчика и т.п.).

Шаг 2

Сначала Агент суммаризирует данные из запроса и уточняет, если ему чего-то не хватает. По инструкции он должен знать общую инфо о проекте, сроки, бюджеты, скоп задач, стэк софтов.

Шаг 3

Затем AI проходится по базе исполнителей и набирает 6 человек с нужным стэком или релевантным опытом (например, чтобы человек точно знал Blender и UnrealEngine).

Шаг 4

Далее запускаются 6 агентов разными процессами на бекенде, которые пишут исполнителям. Важно — сам бот не может писать кому угодно, человек должен написать ему первым. Учитывая регулярный поиск специалистов, в базе бота собралась довольно большая база. Поэтому, если всплывает релевантный проект, бот уже может писать им первым.

Планы

«Мы планируем интеграцию ИИ агентов для делегирования задач по работе с договорами, исполнителями, контролем проектов. Также непрерывно ведется рисерч по работе с Big data и построением локальных шаблонных LMM, которые можно будет внедрять в любой бизнес, как продукт. Языковые модели развиваются очень быстро — мы ожидаем, что это позволит быстрее и эффективнее интегрировать их во все большее число задач бизнеса. Ведь помните ChatGPT 3,5? Это была просто революция, но сейчас она уже кажется не очень умной моделью. Наша цель — держаться на острие новых технологических решений и внедрять их в бизнес первыми»,
— Александр Глущенко, co-founder, CTO EVR Systems.

Хочу такой кейс!

Другие кейсы

Голосовой AI-ассистент для проверки знаний студента

Продукт для генерации презентаций от presentsimple.ai

Как в Банке Точка развивают полноценного AI-ассистента, внедряя LLM в поисковой сервис