Инженерия подсказок

Инженерия подсказок можно определить как умение формулировать правильные вопросы к ИИ. Подсказка — это ваш ввод с вашим вопросом или запросом.

Инженерия подсказок означает разработку целевых вопросов и указаний, чтобы модели ИИ помогали давать правильные ответы в чатах. С лучшими подсказками вы получите лучшие результаты.

В сочетании с характеристиками выбранной модели это определяет качество ответа.

Элементы подсказки (вопроса)

Чтобы получить лучшие результаты, учитывайте:

• Цель: что именно вы хотите получить от языковой модели?
• Роль: какую роль выполняет языковая модель? (Напр., «Маркетинговый аналитик», «Юридический консультант», «Менеджер проекта»)
• Контекст: фоновая информация о запросе (напр., цели компании, детали проекта, рыночная информация)
• Стиль: какой стиль вы хотите использовать? (напр., формальный, убеждающий, лаконичный)
• Выход: в каком формате вы хотите получить результат? (напр., отчет, письмо, структура презентации, фрагмент кода)

Цель

Точно сформулированная цель вашего запроса критически важна и не может быть пропущена.

Что вы хотите узнать?

• Фактический вопрос допустим, но помните о ограничениях (например, актуальные знания могут отсутствовать)
• Как и в Google, вы не получите точно такой же ответ, если зададите вопрос чаще
• Преимущество — функция «чата», чтобы вы могли уточнять вопросы

Пример промпта с ясной целью:

Промпт с одной целью

Дайте описание основных проблем при внедрении новой AI-платформы в среднюю компанию.

Внедрение новой AI-платформы в среднюю компанию сопряжено с различными вызовами. Некоторые ключевые проблемы:

1. Сопротивление изменениям: сотрудники привыкли к существующим процессам и системам. Новая AI-платформа требует адаптации и может вызывать сопротивление, особенно если влияние на рабочие процессы не ясно.
2. Качество и доступность данных: AI-платформы сильно зависят от данных. Сбор, очистка и структурирование данных для новой платформы может быть сложным и времязатратным.
3. Интеграция с существующими системами: AI-платформа часто должна быть интегрирована с ERP, источниками данных, BI-инструментами и т. п. Это может создавать технические сложности.
4. Стоимость: помимо лицензий на платформу, могут быть затраты на внедрение, обучение, инфраструктуру данных и возможно специализированных сотрудников.
5. Обучение и принятие пользователями: сотрудники должны обучиться пользоваться новой платформой и интерпретировать результаты. Без надлежащей подготовки и поддержки уровень внедрения может быть низким.
6. Выбор подходящей платформы и кейсов использования: существует много платформ и технологий ИИ. Важно выбрать платформу и определить релевантные кейсы использования, соответствующие потребностям и стратегическим целям компании.
7. Этические соображения и соблюдение требований: в зависимости от применения платформы ИИ могут возникать этические вопросы и требования комплаенса (например, AVG/GDPR), которые нужно учитывать.
8. Управление проектом: успешная реализация требует грамотного управления проектом, четких целей и вовлечения заинтересованных сторон из разных отделов.

Роль и контекст

Добавление роли и контекста ведет к более точным и конкретным ответам.

Пример той же задачи, но с ролью и контекстом:

Промпт с целью, ролью и контекстом

Как проект-менеджер, ответственный за внедрение новой AI-платформы для анализа данных и оптимизации процессов у B2B-сервисной компании с 150 сотрудниками, дайте описание основных проблем и возможных стратегий смягчения.

Как проект-менеджер по внедрению новой AI-платформы для анализа данных и оптимизации процессов у B2B-сервисной компании с 150 сотрудниками, я вижу следующие ключевые проблемы и возможные стратегии смягчения:

1. Сопротивление изменениям & принятие пользователями:
   • Проблема: сотрудники, особенно те, чьи задачи напрямую затрагиваются, могут сопротивляться изменениям и неохотно принимать новые AI-выводы.
   • Смягчение: раннее вовлечение ключевых пользователей. Ясно объяснить преимущества (эффективность, лучшие решения, новые инсайты). Обеспечить обширное обучение по ролям и непрерывную поддержку. Назначить «AI-чемпионов» внутри отделов.
2. Качество данных, управление данными и миграция:
   • Проблема: эффективность AI-платформы зависит от качественных данных. Данные из существующих систем часто непоследовательны или неполны.
   • Смягчение: начать с аудита данных, определить рамки управления данными и провести очистку перед интеграцией/миграцией. Определить ясные модели данных и потоки данных. Провести тесты и тщательно валидировать данные.
3. Интеграция с существующей ИТ-инфраструктурой:
   • Проблема: интеграции с источниками данных, ERP, CRM и др. должны работать безопасно.
   • Смягчение: заранее определить все необходимые интеграции. Выбрать AI-платформу с надежными API или готовыми коннекторами. Тщательно тестировать интеграции.
4. Объем проекта и бюджет:
   • Проблема: во время проекта могут появиться новые требования к применения ИИ, что расширяет объем и увеличивает стоимость.
   • Смягчение: определить четкий ограниченный объем с конкретными кейсами (MVP) для первой фазы. Вести строгий процесс управления изменениями. Придерживаться реалистичного графика и бюджета, включая резерв.
5. Выбор технологий и партнера по внедрению:
   • Проблема: рынок ИИ сложный; неверный выбор технологий или неопытный партнер могут привести к провалу.
   • Смягчение: провести тщательное исследование подходящих технологий под заданные кейсы. Выбрать партнера с подтвержденным опытом в вашей отрасли и с выбранными технологиями. Запросить отзывы.
6. Недостаток знаний и навыков ИИ в организации:
   • Проблема: возможно недостаточно внутренней экспертизы для эффективного использования, поддержки и развития ИИ-платформы.
   • Смягчение: инвестируйте в обучение. Рассмотрите найм специалистов или тесное сотрудничество с внедренческим партнером для передачи знаний. Создайте культуру постоянного обучения.
7. Этические соображения и объяснимость (Explainable AI):
   • Проблема: решения, принятые или поддержанные ИИ, должны быть прозрачными и объяснимыми, особенно если они влияют на клиентов или сотрудников. Предвзятость в данных может приводить к несправедливым результатам.
   • Смягчение: формулируйте этические принципы использования ИИ. Придерживайтесь моделей, которые можно интерпретировать. Внедрите процессы обнаружения и снижения предвзятости. Обеспечьте человеческий надзор за критическими решениями ИИ.

Решая эти задачи проактивно, мы повышаем шансы на успешную реализацию IA-платформы, которая действительно способствует достижениям целей компании.

Техники

Ниже описаны некоторые техники, которые можно использовать для более продвинутых подсказок.

Техника 1 - дать примеры

Чтобы модель придерживалась вашего желаемого стиля, приведите один-два примера.

Метод называется “one & few-shot prompting”

Техника 1 - дать примеры

Напишите черновое письмо клиентам о предстоящем плановом обновлении системы. Используйте нашу внутреннюю политику по коммуникации с клиентами (включите соответствующие пункты политики). В качестве стилевого руководства используйте этот недавний выпуск новости, но не копируйте содержимое: (вставьте текст выпуска)

Полная подсказка такова:

Внутренняя политика по коммуникации с клиентами:

• Всегда оставайтесь профессиональными и вежливыми.
• Сообщайте своевременные обновления о важных изменениях или сбоях.
• Предоставляйте четкую и краткую информацию.
• Обеспечьте решение или компенсацию, если применимо.

Используйте стиль этого выпуска, но не используйте информацию из выпуска. Уважаемый клиент,

Мы хотим сообщить вам о предстоящем обновлении системы, которое может повлиять на наши услуги.

Дата и время обновления: [дата и время] Ожидаемая продолжительность перерыва: [продолжительность] Затронутые услуги: [услуги]

В этот период наши услуги могут быть временно недоступны. Мы постараемся минимизировать неудобства и восстановить работу служб как можно скорее.

Техника 1 - ответ

Ниже приведен ответ языковой модели на расширенную подсказку с примерами

Уважаемый клиент,

Мы хотим сообщить вам о предстоящем обновлении системы, которое может повлиять на наши услуги.

Дата и время обновления: [дата и время] Ожидаемая продолжительность перерыва: [продолжительность] Затронутые услуги: [услуги]

В этот период наши услуги могут быть временно недоступны. Мы постараемся минимизировать неудобства и восстановить работу служб как можно скорее.

Если у вас есть вопросы, не стесняйтесь обращаться к нам.

С уважением, [Ваше имя] [Ваша должность] [Название компании] [Контактная информация]

Техника 2 - дать шаблон

Чтобы модель использовала определенный формат, дайте шаблон и пример. Это поможет ей оформить ответ определенным образом или структурировать его. Возможны различные форматы, полезные в разных ситуациях, например:

• csv-вывод для импорта в Excel или инструмент анализа данных
• json-вывод для API-интеграций или конфигурационных файлов
• План проекта для рабочей встречи

Пример запроса: Сгенерируйте список из трех потенциальных маркетинговых каналов для нового SaaS-продукта, ориентированного на малый и средний бизнес. Оформите ответ в следующем формате: Канал: Достижение аудитории: Ожидаемая ROI: Необходимые ресурсы:

Например: Канал: Рекламa в LinkedIn Достижение аудитории: Конкретные должности, индустрии, размер компании Ожидаемая ROI: Высокая, при правильном таргетировании Необходимые ресурсы: Рекламный бюджет, создание контента, управление кампанией

Метод называется “output templates”

Техника 2 - дать шаблон

Ниже приведен ответ языковой модели на подсказку с шаблоном вывода

Канал: Content Marketing (Blog & SEO) Достижение аудитории: Компании, активно ищущие решения своих проблем, органический трафик Ожидаемая ROI: Высокая в долгосрочной перспективе, укрепляет авторитет Необходимые ресурсы: Контент-кадры, SEO-специалист, время на исследование ключевых слов и продвижение контента

Канал: Google Ads (Search) Достижение аудитории: Компании, активно ищущие конкретные ключевые слова, связанные с SaaS-продуктом Ожидаемая ROI: Средняя — высокая, зависит от конкуренции и CPC Необходимые ресурсы: Рекламный бюджет, исследование ключевых слов, оптимизация целевых страниц, управление кампанией

Канал: Email Marketing (Lead Nurturing) Достижение аудитории: Лиды, собранные через сайт, вебинары или другие каналы Ожидаемая ROI: Высокая, эффективна для конверсии лидов в клиентов Необходимые ресурсы: Платформа email-маркетинга, контент для серий писем, навыки сегментации

Техника 3 - подсказка

Чтобы заставить языковую модель начать писать определенным образом, дайте подсказку. Здесь подсказка помещается в конце запроса.

Пример запроса: Можете ли вы резюмировать этот рыночный отчет? (вставьте соответствующие разделы отчета). Начните ответ со следующего: Основные выводы из данного рыночного исследования:

• ВСТАВЬТЕ ТЕКСТ ОТЧЕТА

Метод называется “cue и hints” Этот пример использует вымышленный отчет.

Техника 3 - подсказка

Ниже приведен ответ языковой модели на подсказку с подсказкой

Основные выводы из данного рыночного исследования:

• Спрос на облачное программное обеспечение для управления проектами в малых и средних предприятиях за последние два года возрос на 35%.
• Основные факторы решения для МСП — простота использования, возможность интеграции с существующими инструментами и цена.
• Конкурент A имеет долю рынка 25%, за ним следует Конкурент B с 18%. Есть место для новых игроков, которые нацелены на конкретные ниши или предлагают превосходный пользовательский опыт.
• Главные препятствия для принятия нового ПО — первоначальные инвестиции и время, необходимое для обучения сотрудников.
• Ожидается, что рынок продолжит расти примерно на 15% в год в течение следующих пяти лет.

Техника 4 - разбиение содержания инструкций

Иногда запрос слишком длинный из-за дополнительного контента, и языковая модель может неправильно понять, что нужно. Разделяйте контент тремя кавычками в начале и в конце текста основной части запроса.

Пример запроса: Можете ли вы резюмировать эту статью? “”” (вставьте текст вашей статьи) “”” Начните ответ с: Основные моменты этой статьи:

Метод называется “content splitting” Этот пример снова использует статью из интернета: https://www.leraar24.nl/2619420/onderwijs-op-afstand-wat-hebben-we-geleerd/

Техника 4 - разделение контента

Ниже приведен ответ языковой модели на запрос с разделенным контентом. Мы используем три кавычки или три звездочки, чтобы отделить контекст запроса.

Основные моменты этой статьи:

• Во время кризиса COVID-19 учителя должны были придумывать стратегии и техники, чтобы дистанционное обучение было максимально эффективным, в то время как родители брали на себя большую часть поддержки учеников.
• Важными факторами успешного дистанционного обучения были организация структурированного распорядка дня, поддержание открытой коммуникации между учителем и учеником, и обоснованный выбор того, какие части урока проходят онлайн, а какие — на бумаге.
• Проблемы включали поиск способов поддержки уязвимых учащихся и дополнительное давление на родителей, особенно тех, кто тоже работает на дому.
• Наблюдалось быстрое ускорение цифровизации школ, внедрялись новые цифровые инструменты и методы. В статье упоминается пример учителя Мэнди де Фриз, которая, имея небольшой опыт в образовании, помогла своим коллегам благодаря своим цифровым навыкам.
• В статье подчеркивается важность устойчивого контакта и внимания к ученикам, особенно тем, кто обучается в специальных условиях, и приводятся практические советы для учителей и родителей.
• В конце статьи выражается надежда, что вовлеченность родителей в образование их детей дома сохранится и после пандемии.

Техника 5 - сначала запросить дополнительную информацию

Вы можете попросить модель задать дополнительные вопросы перед генерацией ответа, чтобы уточнить и конкретизировать запрос.

Пример запроса: “Я хочу подготовить проектное предложение по разработке нового мобильного приложения для внутренней коммуникации. Приложение должно включать функции для новостных обновления, справочник, и прямую переписку. Прежде чем писать проектное предложение, можете задать мне дополнительные вопросы для улучшения предложения?”

Метод называется “ask before answer prompting”

Техника 5 - сначала спросить дополнительную информацию

Ниже приведен ответ языковой модели на запрос с вопросом о дополнительной информации

Конечно! Ниже приведены вопросы, которые можно задать, чтобы улучшить проектное предложение:

• Какова основная цель внутреннего коммуникационного приложения? (например, повышение вовлеченности, улучшение распространения информации, содействие сотрудничеству)
• Кто является конкретной аудиторией внутри компании? (например, все сотрудники, конкретные отделы, полевые сотрудники)
• Есть ли существующие системы или платформы, с которыми приложение должно интегрироваться? (например, интранет, HR-система, Active Directory)
• Каков предполагаемый бюджет и желаемый срок разработки и внедрения?
• Есть ли требования по безопасности или соответствию (например, GDPR, политика хранения данных)?
• Какие KPI будут использоваться для оценки успеха приложения?
• Есть ли идеи по дизайну или брендингу приложения? Should it align with organizational identity?
• Есть ли предпочтение по платформе разработки (iOS, Android, кросс-платформенное)?

С этими дополнительными данными мы сможем точнее определить объем и требования и подготовить более сильное проектное предложение.

Техника 6 - эмоциональная подсказка

Можно задавать инструкции по настройке тона текста под эмоциональный отклик или вызвать определенную эмоциональную реакцию. Это полезно для поддержки клиентов, внутренней коммуникации или маркетинга.

Пример запроса: “Мне нужно письмо клиенту, недовольному недавним перерывом в сервисе. Клиент написал: ””“ … ”“” (скопируйте текст клиента). Я хочу, чтобы письмо было сопереживающим, признавалo фрустрацию клиента и предлагало конструктивное решение.”

Метод называется “emotional prompting” Этот пример использует вымышленную жалобу.

Полный текст запроса:

Мне нужно письмо клиенту, недовольному недавним перерывом в сервисе. Клиент написал: """Уважаемое лицо,

Я очень разочарован недавним непредвиденным перерывом в сервисе вчера днем. Это значительно нарушило нашу работу и привело к потере производительности. Мы полагаемся на ваши услуги, и такие инциденты недопустимы. Я ожидаю ясного объяснения и надлежащей компенсации."""

Я хочу, чтобы письмо было сопереживающим, признавалo фрустрацию клиента и предлагало конструктивное решение.

Техника 6 - эмоциональная подсказка

Ниже приведен ответ, который мы получили от языковой модели

Уважаемый [Имя клиента],

Спасибо за ваше сообщение и наши искренние извинения за перерыв в сервисе, который вы пережили вчера. Я полностью понимаю вашу фрустрацию и влияние, которое это оказало на ваш бизнес. Нам очень жаль, что мы не оправдали ваши ожидания и наши стандарты сервиса.

Перерыв был вызван [краткое, понятное объяснение причины, напр., непредвиденная техническая неисправность в нашем дата-центре]. Мы уже приняли меры, наши инженеры усердно работают, чтобы вернуть сервис в полном объеме как можно скорее. Сервис восстановлен с [время].

Мы относимся к этому инциденту очень серьезно и сейчас проводим анализ причин, чтобы предотвратить повторение в будущем.

Чтобы компенсировать неудобство, мы предлагаем [конкретное предложение, напр., скидку на следующий счет, бесплатное обновление на месяц, кредит за услуги]. Один из наших менеджеров по работе с клиентами свяжется с вами в течение 24 часов, чтобы обсудить это лично и ответить на дополнительные вопросы.

Еще раз приносим извинения за причиненные неудобства. Мы ценим вашу лояльность и стремимся в будущем обеспечить надежный сервис, который вы ожидаете от нас.

С уважением,

[Ваше имя/Название компании]

Техника 7 - создание нескольких версий

Вы можете запросить несколько вариантов ответа, чтобы выбрать. Например, вам нужна пара слоганов для нового продукта. Существует множество точек зрения, поэтому полезно получить несколько вариантов. Это можно эффективно сочетать с указанием конкретной роли для модели и системной подсказкой для дальнейшего направления.

Подробнее о ролях можно прочитать в соответствующей статье. Этот пример с несколькими версиями находится в конце статьи и не повторяется полностью здесь.

Техника 8 - сочетание с системной подсказкой

Системная подсказка — это инструкция, которую можно задать модели, чтобы направлять задачу или поведение модели. Она задает, какой вывод вы ожидаете от модели. Это способ управлять выводом и предотвращать нерелевантные или нежелательные ответы.

Некоторые простые и общие системные подсказки:

"Я хочу, чтобы вы были дружелюбным и полезным помощником."

"Всегда оставайтесь профессиональными и уважительными в тоне."

"Сосредоточьтесь на конкретных, прямолинейных ответах без лишних деталей."

Системная подсказка задает тон и ожидания для конкретного разговора или задачи.

Вы можете также создавать более сложные системные подсказки для конкретных задач, например, суммирования текста: "Тщательно проанализируйте данный текст и дайте краткое, но информативное резюме основных пунктов. Определите основную идею и ключевые детали."

Системные подсказки не имеют одинакового влияния на всех моделях. В chatGPT они очень влиятельны, в Claude тоже, у других моделей влияние может быть меньше. Интересно попробовать и посмотреть, какая модель лучше подходит для вашего ввода.

Вы можете установить общую системную подсказку в настройках предпочтений, но лучше настраивать их для каждой задачи, которую вы хотите автоматизировать. Мы называем это ролями.

Подробнее о ролях можно прочитать в соответствующей статье.

Аннотирование фрагмента

Выделите текст в завершённом сообщении и выберите действие для вопроса об этом тексте. Напишите вопрос или указание по изменению и отправьте, например: «Упрости только это предложение». Фрагмент сохраняется вместе с комментарием. Перед отправкой можно убрать выделение, не удаляя комментарий. На телефоне нажмите и удерживайте текст, чтобы выделить его.