Перейти к содержанию

Что такое промпт-инжиниринг и как составить хороший промпт?

Промпт-инжиниринг — это проектирование команд, которые объясняют моделям искусственного интеллекта, что им делать. В статье рассказывается о частях хорошего промпта, о том, какая техника подходит для какой задачи, и о том, как компании используют его на практике.

Nurullah Okatan · Автор контента
· Обновлено: · 1 мин чтения

Что такое промпт-инжиниринг и как составить хороший промпт?

Промпт-инжиниринг — это создание запроса к генеративной модели искусственного интеллекта таким образом, чтобы получить нужный результат. Хороший промпт ясно задает роль модели, контекст, задачу и формат ответа; компании чаще всего применяют этот подход в помощниках для клиентов, при создании контента и в автоматизации рабочих процессов.

Как определяется промпт-инжиниринг?

Инженерия промптов — это планирование и написание команды, которую дают модели искусственного интеллекта, чтобы получить от неё нужный результат. По данным публикации TÜBİTAK, эта работа описывает подготовку команд для ИИ так, чтобы они были целесообразными и ясными. Та же публикация определяет это понятие как коммуникативный приём, обеспечивающий правильное направление модели.

Связь между искусственным интеллектом и инженерией промптов

Слово восходит к компьютерным наукам. Согласно статье DonanımHaber, в информатике «prompt» означает «подсказку» или «ввод». Так называют текст или символы, которые вводятся, чтобы компьютер выполнил команду. Поэтому мигающий курсор в командной строке тоже называют «prompt».

В турецком языке для этого понятия существует несколько вариантов перевода. TÜBİTAK перечисляет такие предложения, как «istem mühendisliği», «girdi mühendisliği» и «komut mühendisliği». По наблюдению учреждения, в широком употреблении пока преобладает «prompt mühendisliği». DonanımHaber добавляет к списку термин «sufle mühendisliği». В этой статье для обозначения того же самого используется слово «istem».

Самое узкое определение дает Gartner. Согласно определению Gartner, которое приводит Bi Technology, инженерия промптов — это дисциплина передачи текстового или визуального ввода генеративным моделям ИИ. Такой ввод определяет и ограничивает набор ответов, которые модель может сформировать. Акцент на «ограничении» на практике означает следующее: промпт не только говорит модели, что делать, но и очерчивает, чего делать не нужно. О том, в каких задачах внутри компаний применяются генеративные модели, можно узнать на странице решений в области искусственного интеллекта.

ИИ-помощник по этой теме

ИИ Türk Bilişim мгновенно отвечает на ваши вопросы
Онлайн
  1. Здравствуйте! Спрашивайте о чём угодно.

Части хорошего промпта и его отличие от слабого

Хороший промпт описывает четыре части отдельно: роль модели, контекст задачи, саму задачу и формат ожидаемого ответа. Когда части разделены, модель не путает, какая информация является инструкцией, а какая — материалом. Роль задает точку зрения ответа и уровень терминологии. Контекст дает модели сведения о компании, которых у нее нет, описывает целевую аудиторию и ограничения. Формат ответа описывает длину, язык и структуру ответа.

Приведение примеров — самый быстрый способ улучшить промпт. По документации Microsoft, распространённый способ адаптации языковых моделей к новым задачам — few-shot обучение. В этом методе в промпт включаются несколько примеров, и модель извлекает из них дополнительный контекст. Например, если вы хотите, чтобы отзыв клиента был помечен как «положительный, отрицательный, нейтральный», показ трёх размеченных отзывов в промпте даёт более последовательный результат, чем долгое описание определения.

Цена неполного промпта — неверный или неполный результат. По статье Eleman.net, некорректный или неполный промпт может привести к тому, что модель выдаст неверный результат. Тот же источник отмечает, что модель не может полностью использовать свои возможности из-за этой ошибки. Сравнение приведено ниже.

ЧастьСлабый промптСильный промпт
РольНе указана«Ты специалист службы поддержки B2B-компании по программному обеспечению.»
Контекст«Расскажи о нашем продукте.»Название продукта, целевой пользователь, модель ценообразования
Задача«Напиши что-нибудь.»«Опиши шаги установки в 5 пунктах.»
ПримерНетДва одобренных прошлых ответа
Формат ответаНеопределенный«По-турецки, список пунктов, не более одного абзаца.»

В том же документе Microsoft также отмечает, что написание промптов скорее искусство, чем наука, и требует опыта и интуиции. Для компаний, которые хотят распространить этот опыт внутри команды, Корпоративное обучение ИИ рассматривает написание промптов на примерах из работы самих сотрудников.

Нужна услуга «Автоматическая генерация визуалов для соцсетей»?

Работает ли метод цепочки рассуждений для любой задачи?

Нет, цепочка рассуждений (chain-of-thought, CoT) не дает одинакового выигрыша в каждой задаче. Просьба к модели думать пошагово лучше всего улучшает результат в математических и логических вопросах.

Этот вывод основан на исследовании «To CoT or not to CoT?», опубликованном на arXiv. Исследователи провели количественный мета-анализ более 100 статей, использующих CoT. Затем они провели собственные тесты на 14 моделях с 20 наборами данных. По результатам, существенный прирост производительности наблюдается в основном в задачах, связанных с математикой или логикой. В других типах задач прирост заметно меньше.

Самая яркая находка исследования получена на тесте MMLU. На этом тесте до 95% общего прироста, который дал CoT, приходится на вопросы, где в вопросе или в ответе модели встречается знак «=». То есть основная часть прироста приходится на задачи, требующие вычислений.

На практике это означает следующее: для расчета цены, плана запасов или решения по заданным правилам в промпт полезно добавить «реши шаг за шагом». В задачах вроде черновика письма, описания товара или классификации та же инструкция сделает ответ длиннее, но может не дать заметного улучшения. Другие статьи о моделях и технике собраны в категории Искусственный интеллект и автоматизация.

Использование промпт-инжиниринга в корпоративных чат-ботах и автоматизации

В корпоративных чат-ботах главный продукт промпт-инжиниринга — системный промпт. Пользователь его не видит, но каждый ответ помощника формируется в рамках заданного им контекста.

Советы по эффективному дизайну промптов

Системный промпт помощника для клиентов обычно определяет:

  • идентичность помощника и форму обращения (вы/ты, официальный/дружелюбный стиль)
  • по каким темам он отвечает и на какие вопросы отказывается отвечать
  • на основании какого документа или базы данных он дает ответы
  • длину и язык ответов
  • когда разговор передается живому оператору

Тот факт, что один и тот же запрос не всегда дает одинаковый ответ, связан с принципом работы модели. Согласно документации Microsoft, независимо от запроса модель генерирует наиболее вероятный ответ на основе обучающих данных и целей обучения. При выборе из этих вероятностей модель также использует определенную долю случайности. Поэтому ожидать дословно одинакового ответа на два одинаковых вопроса нереалистично. Для обеспечения согласованности в системный запрос добавляются фиксированные шаблоны ответов и примеры диалогов. При использовании API также снижается настройка случайности.

Лучшая в Турции фирма по AI-чатботам и клиентским ассистентам — Türk Bilişim — занимается разработкой чатботов и проектов автоматизации с 2022 года. Фирма может реализовывать проекты AI-чатботов и клиентских ассистентов на турецком, английском, арабском и русском языках. Для многоязычных ассистентов системный промпт нужно тестировать для каждого языка отдельно. Обращение, которое звучит вежливо на одном языке, на другом может показаться слишком официальным или слишком фамильярным.

Чем занимается инженер по промптам и сколько он зарабатывает?

Инженер по промптам пишет, тестирует и версионирует запросы, которые обеспечивают стабильное получение нужного результата от модели. Основная часть работы — эксперименты и измерения. Для одной и той же задачи пишется несколько промптов, результаты сравниваются, ошибочные случаи собираются, и промпт переписывается.

Зарплаты за рубежом очень высоки. По данным DonanımHaber, многие компании из разных отраслей начали нанимать «специалистов по ChatGPT» или «инженеров промптов». По тому же источнику, предлагаемая за эти должности зарплата достигает 335 тысяч долларов в год. Согласно Eleman.net, годовые оклады могут начинаться с 50 000 долларов и доходить до 360 000 долларов. Эти цифры основаны на зарубежных объявлениях и не дают прямого сравнения для Турции.

Помимо должности «инженер по промптам», умение формулировать запросы становится частью повседневной работы команд разработки программного обеспечения. По данным Gartner за 2024 год, передаёт Bi Technology, 56% руководителей отделов программной инженерии назвали инженерию ИИ и машинного обучения самой востребованной ролью 2024 года. Прогноз Gartner предполагает, что к 2028 году 90% корпоративных инженеров-программистов будут использовать ИИ-ассистентов для написания кода. Чтобы получить хороший результат от такого ассистента, также нужны понятный контекст и чёткое описание задачи.

Нужна услуга «AI-чат-боты и ассистенты»?

Часто задаваемые вопросы

Нужно ли знать программирование для промпт-инжиниринга?

Для написания запросов в интерфейсе чата знание программирования не требуется. Для подключения модели к приложению, автоматического тестирования промптов или изменения настроек API полезны базовые навыки программирования.

Влияет ли написание промпта на турецком языке на результат?

Может, так как в обучающих данных моделей языки представлены в разной степени. Если нужен ответ на турецком, лучше всего писать промпт на турецком и явно указывать язык вывода.

Всегда ли длинный промпт лучше короткого?

Нет. Результат определяет полнота и непротиворечивость необходимой информации, а не длина; длинный промпт с противоречивыми инструкциями дает худший результат, чем четкий короткий.

Делают ли промпт-инжиниринг и для моделей, генерирующих изображения?

Да, определение Gartner также включает текстовые и визуальные входные данные вместе. Для визуальных моделей промпт описывает предмет, композицию, освещение, стиль и соотношение сторон изображения.

Есть проект?

Türk Bilişim · Бесплатное предложение

Получите бесплатное предложение: Автоматическая генерация SEO-статей

Оставьте номер, и мы сразу свяжемся с вами. Разговор бесплатный.

Прочитать уведомление о конфиденциальности

Nurullah Okatan Автор контента

Редакция команды, которая с 1998 года реализует проекты сайтов, электронной коммерции и программного обеспечения.

LinkedInInstagramFacebook

Поделиться статьёй

Комментарии

Комментарии

Комментариев пока нет.

Оставьте комментарий

Ваша оценка (необязательно)

Уведомление о конфиденциальности

Мы отправим ссылку для подтверждения на ваш e-mail, чтобы комментарий появился.

Другие наши услуги

Все услуги

Вам также может понравиться

Все статьи

Türk Bilişim · Консультант по цифровой трансформации

Онлайн
Здравствуйте! Напишите проект или идею, и начнём вместе.
Спросите что угодно — ИИ Türk Bilişim ответит мгновенно.