Меры защиты от prompt injection и утечки данных
Не промпт для генерации изображения, а описание концептуальных мер безопасности Google Finance: классификации prompt injection, усиления защитных инструкций, очистки Markdown и подтверждения рискованных действий.
Примеры к промпту
Классификаторы prompt injection — собственные модели машинного обучения, которые распознают вредоносные промпты и инструкции в данных разных форматов. Усиление защитных инструкций — целевые указания вокруг содержимого промпта. Они напоминают LLM (большой языковой модели), что нужно выполнить задачу пользователя и игнорировать враждебные инструкции. Очистка Markdown и удаление подозрительных URL — обнаружение и удаление внешних ссылок на изображения и подозрительных URL с помощью Google Safe Browsing, чтобы предотвратить атаки через ссылки и утечку данных. Система подтверждения от пользователя — контекстный механизм, который требует явного подтверждения потенциально рискованных действий, например удаления событий календаря. Уведомления для пользователей о мерах безопасности — контекстные сообщения о найденных и устранённых угрозах. Они предлагают узнать больше в специальных статьях справочного центра. Устойчивость модели — защита моделей Gemini от враждебных манипуляций и их способность противостоять таким атакам.
Источник: YouMind · Автор: Tao Hu. Русская версия: Kvantora. Источники и лицензии.
Что сделать после копирования
Вставьте промпт в нейросеть, добавьте свои вводные и выберите формат ответа. Для фото или видео понадобится модель с поддержкой этой задачи. Проверьте результат и уточните запрос при необходимости.
