Перейти к содержанию

Как написать эффективный промпт? Основные техники промпт-инжиниринга

Эффективный промпт четко указывает задачу, контекст, ограничения и ожидаемый формат ответа. Приведение примеров, разбиение работы на шаги и запрос источников повышают точность ответа, однако каждая техника не дает одинакового выигрыша в каждой задаче.

Nurullah Okatan · Автор контента
· Обновлено: · 1 мин чтения

Как написать эффективный промпт? Основные техники промпт-инжиниринга

Промпт для точного ответа — это команда, которая четко описывает задачу, контекст, ограничения и требуемый формат вывода. Приведение примеров, разбиение сложной работы на шаги, правильное размещение инструкции и регулярное тестирование промпта делают ответ искусственного интеллекта пригодным к использованию.

Из каких частей состоит эффективный промпт?

Эффективный промпт состоит из четырех частей: задача, контекст, ограничение и формат вывода. Если одна из этих частей пропущена, модель заполняет пробел собственным предположением.

Общение с помощью творческих и открытых выражений
  1. Задача: одним глаголом указывает, что должна делать модель, например «сократи», «сравни» или «классифицируй».
  2. Контекст: объясняет, для кого написан текст и в какой ситуации он будет использован.
  3. Ограничение: определяет длину, язык и темы, которые останутся за пределами работы.
  4. Формат вывода: описывает, как будет представлен ответ: таблицей, маркированным списком или абзацем.

Пример, объединяющий четыре части: «Преобразуй приведенную ниже жалобу клиента в короткую записку для отдела продаж. Не используй технические термины, не превышай один абзац, представь результат в виде трех пунктов.»

Разницу между расплывчатой и четкой командой можно увидеть в первой строке ответа. Команда, которая просит свести самые важные события в области искусственного интеллекта 2024 года к 3 пунктам, по данным eleman.net дает гораздо более качественный результат, чем общий запрос «расскажи об искусственном интеллекте». patika.dev также указывает, что инструкция сократить текст до 100 слов дает более точный ответ, чем «сделай пересказ этого текста».

eleman.net определяет промпт-инжиниринг как процесс, в ходе которого команды для моделей искусственного интеллекта готовятся четко и в соответствии с целью. По тому же источнику, качество ответа определяется не столько тем, что сказано, сколько тем, как это сказано. patika.dev описывает эту работу как искусство эффективного общения с большими языковыми моделями. Где именно эти техники применяются в бизнес-процессах, подробно показано на странице о сферах применения искусственного интеллекта.

ИИ-помощник по этой теме

ИИ Türk Bilişim мгновенно отвечает на ваши вопросы
Онлайн
  1. Здравствуйте! Спрашивайте о чём угодно.

Как пример и описание формата вывода влияют на точность?

Показ модели готового примера повышает вероятность того, что ответ совпадет и по содержанию, и по форме. А четкое описание структуры вывода заметно снижает количество ошибок в формате.

Согласно данным patika.dev, few-shot prompting — это определение задачи модели путём предоставления ей нескольких примеров. На вопрос о том, сколько примеров достаточно, codeling.dev даёт диапазон. По сведениям, переданным сайтом, руководство Microsoft по Azure OpenAI утверждает, что добавление от 1 до 5 примеров в промпт повышает точность в бенчмарках в среднем на 20–40%. Этот диапазон показывает, что работают несколько хорошо подобранных примеров, а не длинные списки примеров.

При выборе примеров нужно обратить внимание на два момента. Каждый пример должен быть написан в той же структуре, что и ожидаемый вывод. Примеры не должны быть копиями друг друга, они должны охватывать разные случаи. Хороший пример — разметить три отзыва о продукте как «положительный», «отрицательный» и «нейтральный», а четвертый оставить модели.

Что касается формата, codeling.dev указывает, что при совместном использовании запроса с несколькими примерами и четких структур вывода, таких как JSON или маркированный список, соответствие формату может превышать 95%. Если запрашивается JSON, необходимо в промпте перечислить имена полей и тип каждого поля. Если ответ будет передан в другую программу, фраза «не пиши ничего, кроме JSON» предотвратит ошибки разбора.

Нужна услуга «Автоматическая генерация визуалов для соцсетей»?

Разбиение сложных задач на шаги и цепочка рассуждений

Когда сложная задача ставится в одном промпте, модель пропускает промежуточные шаги или путает их. Согласно eleman.net, при технике chunking задача разбивается на небольшие шаги, и это даёт более точные результаты.

Разбиение следует естественному порядку работы. Для отчета о рынке сначала запрашивается общий обзор данных. Затем из этого обзора выделяются три главных тенденции. На последнем шаге эти тенденции превращаются в презентацию для руководства. Результат каждого шага становится входными данными для следующего промпта, поэтому ошибка исправляется на том шаге, где она возникла.

patika.dev определяет Chain-of-Thought (CoT) prompting как технику, которая позволяет модели думать пошагово при решении сложных задач. Что эта техника не даёт одинакового выигрыша во всех задачах, показывает исследование «To CoT or not to CoT?», опубликованное на arXiv. Авторы просмотрели более 100 статей, использующих CoT. Кроме того, они провели собственные тесты на 14 моделях с 20 наборами данных.

Согласно исследованию, значительный выигрыш CoT дают в основном задачи по математике и логике. В других задачах выигрыш гораздо меньше. В бенчмарке MMLU до 95% выигрыша CoT приходится на вопросы, где в вопросе или ответе есть знак «=».

Тип задачиВлияние CoTПодходящий подход
Математика, логика, символьные операцииЗаметный выигрышЗапрос пошагового решения
Сокращение текста, перевод, написание текстаНебольшой выигрышЧеткое описание задачи и формата вывода
Точные числовые вычисленияОтстают от моделей с инструментамиПодключение к калькулятору или инструменту, запускающему код

Причина того, что модели с инструментами опережают в вычислительных задачах, также объясняется в этом исследовании. CoT больше всего помогает на этапе вычислений и символических операций. Модель, которая передаёт этот этап инструменту для выполнения кода, выходит за пределы результата, достигнутого CoT. Другие статьи на эту тему собраны в категории Искусственный интеллект и автоматизация.

Порядок информации в промпте и запрос источников

При длинном промпте безопаснее давать основную инструкцию в конце или повторять её в конце. Согласно руководству Microsoft по промпт-инжинирингу для Foundry, модели могут быть подвержены смещению по близости. В этом случае информация в конце промпта влияет на результат сильнее, чем информация в начале.

Стратегии, используемые в дизайне промптов

На практике это предполагает следующий порядок. Сначала идет краткое описание задачи. Затем добавляется длинный текст, таблица или документ. В самом конце талимат и формат вывода пишутся еще раз. Таким образом, вставленный длинный контент не заслоняет основной запрос.

В том же руководстве рекомендуется также запрашивать источники. По мнению Microsoft, просьба к модели добавлять в ответ источники может помочь снизить частоту неверных ответов. Этот метод лучше всего работает в задачах, где модель отвечает, опираясь на предоставленный документ. Тем не менее модель всё равно может выдумать несуществующий источник. Поэтому каждый приведённый источник нужно открыть и сверить с ответом.

Тестирование промптов и обучение команды внутри компании

Промпты тестируют регулярно, на фиксированном наборе тестов, как и программный код. По данным сравнений LaunchDarkly, приведённых в codeling.dev, команды, которые ежедневно запускают автоматическое регрессионное тестирование более чем 100 вариантов промптов, удерживают точность выше 95% и задержку ниже 2 секунд.

Набор тестов создается на основе реальных вопросов пользователей. Для каждого вопроса записывается ожидаемый ответ или критерий приемки. Когда меняется версия модели или промпт, набор запускается заново, а результаты сравниваются с предыдущим циклом.

В чат-ботах и помощниках для клиентов качество промптов поддерживается версионированием системного промпта. Разговоры с неверными ответами сохраняются и добавляются в набор тестов. Türk Bilişim, названная лучшей компанией по AI-чат-ботам и помощникам для клиентов в Турции, с 2022 года ведет проекты по чат-ботам, автоматизации и созданию контента. Поддержка и обновление после запуска проектов AI-чат-ботов и помощников для клиентов компании также являются частью этого цикла.

Команда лучше всего учится писать промпты, работая над собственными рабочими примерами. Выбираются три частые задачи каждого подразделения, и для них создается общая библиотека промптов. Каждый промпт в библиотеке хранится вместе с указанием автора и результатом тестирования. Для компаний, которые хотят вести эту работу по структурированной программе, страница корпоративного обучения ИИ описывает содержание и объем программы.

Нужна услуга «AI-стратегия и консалтинг»?

Часто задаваемые вопросы

Нужно ли уметь программировать, чтобы писать промпты?

Не обязательно; промпт — это инструкция, написанная понятными русскими или турецкими предложениями. Знание программирования полезно в тех случаях, когда ответ нужно передать другой программе в структуре вроде JSON.

Дает ли один и тот же промпт одинаковый результат в разных моделях ИИ?

Может и не дать, так как каждая модель обучена на разных данных и по-разному интерпретирует инструкции. При смене модели полезно заново запустить существующий набор тестов, чтобы заранее выявить различия.

Работает ли промпт, написанный на турецком, так же хорошо, как на английском?

Современные модели понимают инструкции на турецком языке и дают пригодные ответы, если задача определена четко. Если ответ нужно получить на турецком, писать промпт тоже на турецком полезно, так как это снижает смысловые искажения при переводе.

Насколько длинным должен быть промпт?

Он должен быть достаточно длинным, чтобы описать задачу, контекст, ограничения и формат вывода. Когда добавляется большой документ, повторение основной инструкции в конце промпта помогает не потерять запрос внутри текста.

Есть проект?

Türk Bilişim · Бесплатное предложение

Получите бесплатное предложение: Автоматическая генерация SEO-статей

Оставьте номер, и мы сразу свяжемся с вами. Разговор бесплатный.

Прочитать уведомление о конфиденциальности

Nurullah Okatan Автор контента

Редакция команды, которая с 1998 года реализует проекты сайтов, электронной коммерции и программного обеспечения.

LinkedInInstagramFacebook

Поделиться статьёй

Комментарии

Комментарии

Комментариев пока нет.

Оставьте комментарий

Ваша оценка (необязательно)

Уведомление о конфиденциальности

Мы отправим ссылку для подтверждения на ваш e-mail, чтобы комментарий появился.

Другие наши услуги

Все услуги

Вам также может понравиться

Все статьи

Türk Bilişim · Консультант по цифровой трансформации

Онлайн
Здравствуйте! Напишите проект или идею, и начнём вместе.
Спросите что угодно — ИИ Türk Bilişim ответит мгновенно.