Как работает ИИ: простое объяснение для владельцев бизнеса
Как работает ИИ простыми словами: языковые модели учатся на закономерностях, а не понимают. Почему они ошибаются и как безопасно использовать их в работе.
Команда rabbitclipПубликация: 6 мин чтения
Коротко
ИИ-ассистенты, которыми сегодня пользуются компании, это большие языковые модели: системы, которые выучили закономерности языка на очень большом объёме текстов и по кусочку за раз создают наиболее вероятное продолжение того, что вы им предложили. Они не достают ответы из базы данных и не понимают так, как понимает человек. То, что они пишут, это гладкое предсказание, которое подходит под выученные закономерности. Именно поэтому они часто работают очень хорошо, а иногда ошибаются с полной уверенностью. Для владельца бизнеса суть укладывается в три фразы: модель учится на закономерностях, она создаёт предсказания и она не гарантирует точность.
Это знание имеет вполне практические последствия. Оно определяет, где модели можно доверять, где это рискованно, какие задачи ей поручать и кто должен прочитать результат до того, как он куда-либо уйдёт. Ниже мы шаг за шагом объясняем сам механизм, не утопая в профессиональном жаргоне и оставляя только те части, которые касаются ваших решений.
Чему учится ИИ и как он этому учится?
На этапе, который называется обучением, языковая модель читает огромную массу текстов и узнаёт, какие слова или части слов обычно следуют за какими другими в каком контексте. В ходе обучения система делает предсказание, сравнивает его с настоящим текстом, подстраивает свои внутренние настройки в зависимости от ошибки и повторяет это очень много раз. В результате получается статистическая карта языка.
На этой карте есть грамматика, стиль, обрывки знаний и приёмы рассуждения, но ничего из этого не разложено по отдельности, как книги в библиотеке. Модель не запоминает факт. Она несёт в себе склонность к тому, как о нём обычно пишут. Именно это различие лежит в основе всего, о чём пойдёт речь дальше.
Что происходит за экраном, когда вы вводите вопрос?
Ваш текст разбивается на кусочки, и модель выбирает тот кусочек, который лучше всего его продолжает. Затем она принимает ваш текст вместе с этим новым кусочком как исходные данные и выбирает следующий. Ответ строится вдоль этой цепочки, кусочек за кусочком. Модель не готовит законченный ответ, чтобы потом показать его вам; на каждом шаге она предсказывает, что идёт дальше.
Модель может удерживать в поле зрения лишь ограниченный объём текста одновременно, поэтому по мере роста разговора более ранние части могут терять влияние. Она также сама не помнит предыдущий разговор. Так только кажется, потому что прежний текст каждый раз передаётся ей заново. Для работы, которая требует знаний о вашей компании, нужная информация должна дойти до модели в нужном месте и в нужный момент.
Почему ИИ иногда уверенно утверждает неверное?
Модель не проверяет, правдива ли фраза; она создаёт то, что звучит гладко и вероятно. Там, где знаний не хватает, она может заполнить пробел той фразой, которая выглядит наиболее уместной в данном контексте. Это часто называют галлюцинацией: выдуманный источник, придуманная цифра или неверная дата приходят тем же уверенным тоном, что и правильные сведения.
Поскольку неправильный ответ звучит так же, как правильный, отличить их по тону невозможно. Более рискованные области это те, где нужны конкретные, поддающиеся проверке факты: цены, нормативные требования, даты, имена и числа. Более безопасные это вопросы формы и формулировки: краткое изложение, переписывание, подготовка черновиков и наведение порядка.
Хорошая новость в том, что характер ошибок вполне предсказуем. Если просить у модели названия источников, ограничивать её ответы вашими собственными документами и давать результат на прочтение знающему человеку, риск заметно снижается.
ИИ это поисковая система или база данных?
Ни то ни другое. Поисковая система находит существующие страницы и показывает их вам; база данных возвращает сохранённую запись в точности такой, какой она была записана. Языковая модель создаёт новый текст. Некоторые ассистенты дополняют модель поиском или извлечением документов; в этом случае ответ сначала опирается на найденные источники, а затем модель превращает их в читаемый текст.
Для компании это различие означает следующее: ассистент, который работает по вашим собственным документам в какой-нибудь узкой теме, даёт более устойчивые ответы, чем тот, что говорит из общих знаний. Подробности такого подхода заслуживают отдельной статьи. Здесь важно, что модель с источниками и модель без них не одинаково надёжны.
Какие задачи она может безопасно выполнять в компании?
Больше всего пользы модель приносит именно там, где человек может быстро проверить результат, а ошибку легко исправить. Перечисленные ниже задачи подходят под это описание.
- Краткое изложение длинной заметки о совещании или длинной цепочки писем
- Переписывание уже имеющегося текста для другого читателя
- Подготовка первого черновика письма, объявления или публикации в социальных сетях
- Разбор разрозненных заметок по заголовкам и пунктам
- Составление списков идей и альтернативных заголовков
Какие ошибки встречаются чаще всего?
Большинство ошибок возникает не из-за слабости самой модели, а из-за неверных ожиданий, которые к ней предъявляют. Вот самые частые из них.
- Считать модель источником фактов и публиковать её ответ непроверенным
- Вставлять в инструмент данные клиентов или конфиденциальные документы, не зная, куда они попадают
- Ожидать каждый раз одинакового ответа на один и тот же вопрос
- Отправлять результат, не прочитав его
- Судить о возможностях инструмента по одной-единственной попытке
Когда ИИ это неверный выбор?
Там, где ошибка стоит дорого, а точность должна быть абсолютной, модель не должна быть единственным лицом, принимающим решение: условия договоров, финансовые расчёты, советы по здоровью или безопасности, юридическая переписка. В этих областях она может помогать, но последнее слово остаётся за человеком, который разбирается в предмете.
Плохо подходит она и для тех задач, которые каждый раз должны давать абсолютно одинаковый результат. Для итоговой суммы счёта, остатка на складе или налоговой ставки обычное правило в программе надёжнее, а модель только добавляет ненужную неопределённость.
Там, где речь идёт о конфиденциальных данных, заранее выясните, как инструмент их использует и хранит, и спросите юриста обо всём, что касается персональных данных. Если это остаётся неясным, самый безопасный путь заключается в том, чтобы вообще не передавать данные в инструмент.
ИИ это не оракул и не архив; это способный помощник в письме, который предсказывает по закономерностям. Компания, которая действительно это поняла, поручает ему черновики, краткие изложения и переписывание, а всё, что должно быть точным, отдаёт на прочтение знающему человеку. Если вы хотите вместе подумать, с чего начать в вашей собственной работе, можно назначить ознакомительную встречу с rabbitclip.
Частые вопросы
ИИ действительно понимает?
Языковые модели не понимают так, как люди; они создают наиболее вероятное продолжение на основе закономерностей в текстах. Результат часто выглядит как понимание, но точность не гарантируется.
Почему ИИ может выдавать выдуманную информацию?
Модель не проверяет, правдива ли фраза; она создаёт то, что звучит гладко и вероятно. Там, где знаний не хватает, она может заполнить пробел убедительной фразой, и это называется галлюцинацией.
Знает ли ИИ информацию о моей компании сам по себе?
Нет. Вам нужно дать ему знания, касающиеся именно вашей компании: либо добавив их в разговор, либо построив решение, связанное с вашими документами. Во всём, что не предоставлено, модель угадывает.
Всегда ли он будет давать один и тот же ответ на один и тот же вопрос?
Как правило, нет. Ответы каждый раз могут получаться немного разными, поэтому для работы, которой нужен одинаковый результат, лучше подходит обычное правило в программе.
