«Чтобы нейросеть не галлюцинировала, общайтесь с ней, как с человеком». Вот как сделать команду AI-экспертов для бизнеса

Внедрение искусственного интеллекта в работу компаний становится все более обыденной практикой, но это имеет смысл только в том случае, когда специалисты понимают и могут оценить эффективность инструментов ИИ. Недавно на «AI DAY_CONFERENCE: ПРОДАЖИ, КЛИЕНТЫ, МАРКЕТИНГ», где обсуждали способы внедрения и использования ИИ, Сергей Шима, AI-евангелист и популяризатор нейросетей, рассказал о том, как собрать команду AI-экспертов за 30 минут и как эффективно использовать Chat GPT.

Партнер по автоматизации бизнеса — Битрикс24
Партнеры ивента:
Tomoru
MARSCARS.BY
FIN.BY
ООО «Степановский, Папакуль
и партнеры. Юридические услуги»
BotWhyNot

«В работе с нейронками я встречаю абсолютно типичные ошибки»

— Я расскажу о подходе, который сейчас активно популяризируют разработчики. Например, Эндрю Ын (был главой Google Brain) активно «топит» за то, что будущее развитие искусственного интеллекта будет основано на подходе, называемом mix-of-agents. Это несколько агентов «под капотом»: вы как бы общаетесь с одной нейронкой, задаете вопросы, а вам отвечают, например, 8 агентов. Вы их даже не видите, но они между собой каждый вопрос обрабатывают и потом выдают уже согласованный результат. Это значительно повышает эффективность ответов, предоставляемых текстовыми моделями.

Представьте ChatGPT-4, у которого 80 триллионов параметров, 80 триллионов весов или векторов, которые лежат на 128 слоях. И вот эта огромная упакованная база, заархивированный, по сути, весь текст интернета лежит огромным файлом и никого не трогает. Как только мы начинаем с ним общаться, начинаем задавать вопросы, эта штука видит сны. И вот эти сны превращаются в ответы. Это точная метафора, потому что у нейросети есть такой параметр, как температура: если ее повышать, сны становятся бредовыми, похожими на галлюцинации. Это когда чат дает неточные и нелогичные ответы.

В работе с нейронками я встречаю абсолютно типичные ошибки. Их можно разделить на четыре основных направления.

Самая главная ошибка — люди продолжают жить в старой парадигме и общаться с ними, как с Google. А что такое общение с Google? Это «куда пойти на выходные» или «какой стиральный порошок купить по акции». В этом весь Google. И с таким же подходом люди приходят в нейронки и задают им вопросы. Естественно, этот гигант спросонья начинает что-то отвечать, рассказывать какие-то странные поверхностные вещи, которые никому не интересны. Люди в этом случае уверены, что инструмент неэффективный и уходят. Google — это такой алфавитный указатель, где проиндексирована вся библиотека, а Chat GPT — это библиотекарь, который прочитал все книги в библиотеке и имеет представление о них.

Вторая важная ошибка — потеря фокуса. Chat GPT, словно трансформер, которому скармливают огромное количество текста, и он учится думать, при этом важно постоянно поддерживать фокус внимания, поднимать те слои памяти из глубин этой нейронки, чтобы он отвечал ровно то, что нужно.

Нейронка так устроена, что она видит сны, на которые мы ей задаем вопросы, и она эти сны сразу же принимает. Если потеряли фокус, значит, вы уже не вернетесь к строго своей теме, к сожалению, или вернетесь, но только к галлюцинациям нейронки. ИИ всегда «смотрит» на контекст предыдущего общения с вами и учитывает его.

Третья ошибка — это вылет из контекста. Есть понятие контекстного окна: это оперативная память, которая содержит весь ваш разговор с нейронкой. Если вы слишком долго ведете этот диалог на разные темы, в определенный момент модель забывает начало разговора и может сказать: «Здравствуйте, чем могу помочь?» Если вы не получили с первого раза хорошего ответа, то можно закрыть чат, перейти в следующий новый чат, загрузить свежий инстанс (или сеанс общения, если хотите) как будто бы с вами разговаривает совершенно новая модель, которая, по сути, о вас ничего не знает. Задавайте новые вопросы, не сидите все время в одном и том же чате, если видите, что начались галлюцинации.

Ну и последняя, наверное, самая важная проблема — отсутствие критического мышления. Не стоит делать Ctrl+C\Ctrl+V, хотя встречаются ситуации, что даже в научных публикациях появляется копипаст.

Еще один практичный совет: никогда не пользуйтесь чатами в Telegram, если не вы их сделали. Вы не знаете, какую температуру там задали, какое контекстное окно, не знаете, сколько вообще итераций разговора нейронка помнит. Возможно, каждый новый для нее вопрос будет как новый инстанс.

Пользоваться бесплатными сервисами с нейронками, в которых еще и реклама интегрирована, точно не стоит. Я люблю пользоваться агрегатором poe.com, где есть доступ к разным моделям, знаю, что есть и белорусские качественные сервисы.

Как сделать команду AI-экспертов

Первый совет: общайтесь как с реальным человеком. Гениальная задумка OpenAI была в том, чтобы сделать интерфейс в виде чата. Даже если у вас получился совсем поверхностный ответ, то дальше попросите нейронку уточнить, дополнить, даже покритиковать. В одном чате — одна тема. Старайтесь не перепрыгивать, помните про фокус, будьте максимально точны в конкретных запросах. Сейчас навык составления точного брифа максимально актуален.

Нет волшебного промта (короткая формулировка-запрос для нейросети о том, что именно требуется от нее — прим.авт.), который все-все решит. Если вы встречаете подобные обещания, это точно инфоцыгане пытаются вам что-то «втюхать». Никаких промтов волшебных нет, можно начать с простого вопроса, потом углубляться и углубляться.

Второй совет: подход chain-of-thoughts. Другими словами: разложить большую задачу на маленькие шаги и последовательно выполнять их. Действуйте пошагово.

Третий совет: обратиться к нейросети как к самому крутому эксперту в теме. И тогда в ответах сеть не будет вылетать куда-нибудь, не будет расфокуса. Раз вы общаетесь с ней как с экспертом, значит, она будет отвечать вам строго на территории этой экспертности, никуда дальше не уйдет, т.е. вы ограничиваете круг ее знаний, это своего рода фильтр. Так вы получите концентрированную информацию. Задайте роль, например, «действуй как бизнес-тренер в области онлайн-продаж…»

Четвертый совет: рефлексия, просто обязательно. Можно покритиковать ответы, задать уточняющие вопросы, поинтересоваться, как улучшить ответ.

Самый крутой подход, который сейчас существует, — это команда экспертов в нейросети. Мы же все решаем задачи в команде: есть как минимум заказчик, аналитик, исполнители, целевая аудитория. Вот и в ChatGPT мы можем создать команду экспертов в обычном интерфейсе. Это 4−6 разных чатов и в каждом задаем роль, свой ролевой запрос. С ChatGPT можно и портрет ЦА создать, и заставить ее думать и отвечать как представитель аудитории со своими болями, страхами и потребностями.

Самый простой способ создать команду — сформулировать запрос к ChatGPT как к менеджеру проекта: ты менеджер проекта → вот моя задача → какие участники команды потребуются, чтобы решить эту задачу максимально эффективно? → а теперь напиши роль для каждого участника проекта в виде промпта к chatGPT, чтобы он действовал от лица этой роли и решал свою часть общей задачи. Эти промты распределите по шести ролевым чатам. Они представляют экспертов и целевую аудиторию. А дальше алгоритм действий простой. Вот ваш первый эксперт, собирает информацию — он аналитик. Эту информацию перекидываете в следующий чат следующему эксперту, который работает с ней как журналист. Он пишет по запросу вашего эксперта-аналатика статью. Эту статью вы передаете креативному директору, т.е. эксперту из другого чата нейросети. Директор осмысливает текст и правит TOV (Tone of voice или тональность и стиль текста — прим.авт.).

Потом вы отправляете готовый текст целевой аудитории (тоже отдельные чаты, каждый со своей ролью), трем разным портретам, прекрасно прописанным ChatGPT заранее. Так вы получаете обратную связь, и этими комментариями дополняете текст и повторяете цикл. По сути, происходит рефлексия.

Такие команды экспертов подходят для совершенно разных проектов, которыми вы занимаетесь. Проверьте: результаты вас очень сильно удивят. Это в разы лучше того, чем просто вести диалог на одну тему только в одном чате ChatGPT.