protectai/deberta-v3-base-prompt-injection-v2
Классифицирует текстовые входные данные как безопасные
0запусков
EN@protectai
Стоимость
~ 5,00 ₽ за вызовОписание
Эта модель разработана для повышения безопасности в приложениях с языковыми моделями.
Что делает
Модель классифицирует текстовые входные данные на две категории: безопасные (без вредоносных вмешательств) и с обнаруженными инъекциями (найдены вредоносные вмешательства).
Когда использовать
Эта модель полезна в приложениях, где языковые модели подвержены атакам с инъекциями команд, например, в чат-ботах и других системах ИИ, обрабатывающих пользовательский ввод.
Как работает
Модель анализирует текстовые входные данные для обнаружения любых вредоносных изменений или вставок, которые могут вызвать опасные ответы.
Возможности
Классифицирует текстовые входные данные как безопасные или с обнаруженными инъекциями
Помогает повысить безопасность в приложениях с языковыми моделями
Может обрабатывать текстовые входные данные для анализа
Отзывы
Средний рейтинг 0.0 на основе 0 отзывов.