ИИ-агенты в бизнесе: что они делают в рабочем процессе
Что такое ИИ-агент, чем он отличается от чат-бота, какие шаги процесса он берёт на себя и где по-прежнему нужны одобрение человека и защита данных.
Команда rabbitclipПубликация: 6 мин чтения
Коротко
ИИ-агент это программа, которая получает цель, разбивает её на шаги, сама выбирает и использует для этих шагов инструменты вроде электронной почты, календарей, таблиц или внутренних систем и смотрит на каждый результат, прежде чем решить, что делать дальше. От чат-бота он отличается тем, что выполняет работу, а не только выдаёт ответы. Он также может ошибаться: неверно прочитать документ, выбрать не тот инструмент или говорить уверенно, не будучи уверенным. Поэтому у хорошо построенного агента всегда есть письменно закреплённые границы и человек, который одобряет те шаги, что действительно важны.
О теме часто говорят высокими словами. Эта статья смотрит на вопросы, которые стоит задать владельцу или руководителю: что именно делает агент, какие задачи ему подходят, а какие нет, и как защищаются чувствительные данные, когда агент получает к ним доступ. Она написана как практическое руководство для принятия решения, а не как рекламный рассказ о продукте.
Чем агент отличается от чат-бота и классической автоматизации?
Классическая автоматизация следует жёсткому рецепту: когда происходит это, сделай то. Шаги написаны заранее, и за рамки рецепта она не выходит. Чат-бот получает вопрос, выдаёт ответ и на этом останавливается. Агент находится где-то между ними: ему дают цель, он сам планирует шаги и может изменить план после того, как увидит, что вернул каждый из шагов.
Такая гибкость приносит с собой одновременно и силу, и риск. Жёсткий рецепт каждый раз делает одно и то же, поэтому его легко проверять. Агент может прийти к той же цели разными путями; это помогает в неожиданных ситуациях, но делает его поведение труднее предсказать заранее. Что выбрать, зависит от того, что в конкретной задаче ценится больше: гибкость или предсказуемость.
Какие шаги рабочего процесса может взять на себя агент?
Агенты больше всего помогают в работе, где нужно переносить информацию между несколькими инструментами и сочетать её с небольшими решениями. Представьте сеть спа: читается входящая заявка на бронирование, в расписании ищется свободное время, для гостя готовится черновик ответа, а для команды остаётся краткая сводка. Каждый шаг невелик; вся трудоёмкость заключается в том, чтобы постоянно переходить от одного шага к другому и обратно.
Как правило, агенту подходят задачи такого рода:
- Сортировать входящие обращения по теме и направлять их нужному человеку
- Собирать сведения из нескольких источников и готовить краткую сводку или черновик
- Сопоставлять записи между таблицами и системами и отмечать, чего не хватает
- Составлять черновики типовых ответов и выносить их на одобрение человека
- Находить и перечислять записи, нарушающие заданное правило
Где агент допускает ошибки?
Языковые модели, на которых строятся агенты, могут выдавать сведения, которых не существует, причём убедительно. В единственном ответе эту проблему легко заметить. В агенте неверный шаг переносится в последующие шаги, и итог может выглядеть аккуратно, будучи ошибочным в самой основе. Ошибки накапливаются, а проследить их путь назад становится всё труднее.
Вторая слабая точка это контекст. Агент знает лишь то, что ему показали: не проблему, с которой клиент столкнулся в прошлом месяце, не негласную договорённость в контракте и не привычки вашей команды. Агент, который уверенно действует на неполных сведениях, не останавливается там, где остановился бы по наитию опытный коллега из вашей команды.
Где нужно одобрение человека и как защищаются чувствительные данные?
Одобрение нужно на каждом шаге, который нельзя отменить: сообщение клиенту, платёж, удаление записи, договор или обязательство по цене. Агент готовит всё это, а человек читает и утверждает. Шаги обратимые и малорискованные, например создание черновика или пометка записи, можно оставить без одобрения. Границу проводят в зависимости от того, во что обойдётся возможная ошибка.
Для чувствительных данных принцип такой: доступ как можно уже. Агент получает только те системы и поля, которые нужны его задаче; сведения об удостоверении личности, данные о здоровье и финансовые записи по возможности не показываются вовсе или маскируются. Каждое его действие должно записываться в журнал, чтобы позже вы могли увидеть, кто что смотрел и что было сделано, и при необходимости восстановить ход событий.
Какие данные можно отправлять в какой сервис, это отдельный вопрос законодательства о защите данных, например GDPR. Категоричный вывод здесь был бы неверным; прежде чем создавать агента, который работает с персональными данными, проконсультируйтесь с юристом.
Когда агент это неверный выбор?
Далеко не каждой задаче нужен агент. Задача, шаги которой никогда не меняются, выполняется в виде простой автоматизации дешевле, быстрее и гораздо предсказуемее. Агент оправдывает своё место лишь там, где входные данные меняются, а принимаемое решение зависит от конкретной ситуации.
Там, где ошибка обходится дорого, агента тоже не оставляют одного: одобрение платежей, медицинская сортировка обращений, юридическая переписка. Здесь он служит самое большее помощником, который готовит черновики и сводки, а само решение остаётся за человеком.
- Задачи, шаги которых никогда не меняются и которые описываются одним правилом
- Задачи, где ошибку нельзя отменить и её цена высока
- Задачи с разрозненными, не подтверждёнными источником или устаревшими данными
- Процессы, где никто явно не отвечает за результат
Какие ошибки компании допускают чаще всего?
Первая ошибка: строить агента до того, как процесс стал ясным. Если задача не выполняется последовательно даже вручную, агент не наведёт порядок в этом беспорядке, он его ускорит. Сначала запишите процесс на бумаге, и только затем выберите, какой именно шаг отдать агенту.
Вторая ошибка: дать агенту слишком широкий доступ. В первой пробе открываются все системы, и всё работает без одобрения; когда что-то идёт не так, ущерб оказывается большим. Лучше начинать с малого: одна задача, узкий доступ, журнал каждого шага и, поначалу, одобрение человека для большинства результатов. Доступ расширяется по мере того, как доверие подтверждается измерениями.
Третья ошибка: не проверять результат. Через регулярные промежутки времени просматривайте выборочно то, что выдаёт агент, отмечайте, на каких видах входных данных он ошибается, и соответственно исправляйте инструкции.
ИИ-агент это помощник, который получает цель и сам проходит шаги, но может ошибаться. Его ценность проявляется, когда ему дают подходящую работу: меняющиеся входные данные, малый риск и множество утомительных переходов туда и обратно между разными инструментами. Одобрение человека на каждом необратимом шаге, узкий доступ к чувствительным данным и журнал каждого действия составляют основу безопасной настройки. Если вы хотите вместе выяснить, какая задача в вашем бизнесе подходит агенту, мы будем рады провести с вами ознакомительную встречу: договориться о ней с rabbitclip можно в любое время.
Частые вопросы
ИИ-агент и чат-бот: это одно и то же?
Нет. Чат-бот выдаёт ответ на вопрос и на этом останавливается; агент планирует шаги к поставленной цели и выполняет работу с помощью инструментов. Поэтому ошибка агента может проявиться как совершённое действие, а не только как неверный ответ.
Что будет, если агент ошибётся?
Ошибка может перейти в последующие шаги и вырасти там в более серьёзную. Поэтому необратимые шаги привязывают к одобрению человека, каждое действие записывается в журнал, а результаты регулярно проверяются выборочно.
Можно ли давать агенту данные клиентов?
Можно, но доступ должен быть узким, чувствительные поля по возможности замаскированы, а также должно быть ясно, в какой сервис уходят данные. За твёрдым мнением по GDPR обратитесь к юристу.
Стоит ли малому бизнесу использовать агента?
Если есть повторяющаяся задача, которую делают вручную и у которой меняются входные данные, попробовать стоит. Если процесс ещё не ясен, то записать его на бумаге принесёт гораздо больше пользы, чем внедрение агента.
