Контроль запросов и ответов языковых моделей. Проверяет запросы и ответы модели: отсекает внедрение инструкций и не выпускает защищаемые данные в промпт.
Встречается также как: LLM Firewallguardrailsprompt injection
Это подсказка, а не требование приказа: класс средств защиты в тексте меры не назван, связь определена экспертным путём. Как читать эту привязку и почему здесь нет названий продуктов.
Какие меры помогает закрыть
4 меры каталога. Через них класс выходит на 25 угроз БДУ. Прочерк в столбце означает, что меры с таким смыслом в этом приказе нет.
| Мера | № 239 | № 117 | № 21 | № 31 |
|---|---|---|---|---|
| Ограничения по вводу информации в информационную (автоматизированную) систему | ОЦЛ.3 | — | ОЦЛ.6 | ОЦЛ.3 |
| Контроль данных, вводимых в информационную (автоматизированную) систему | ОЦЛ.4 | — | ОЦЛ.7 | ОЦЛ.4 |
| Защита информации от утечек | ЗИС.17 | — | — | ЗИС.17 |
| Контроль использования мобильного кода | ЗИС.23 | — | ЗИС.7 | ЗИС.23 |
Нужна не отдельная угроза, а модель угроз целиком?
Инструмент проводит систему по шагам методики оценки угроз ФСТЭК России от 05.02.2021: профиль системы, негативные последствия, модель нарушителя, выбор угроз, сценарии. На выходе — готовый документ с мерами защиты по выбранным приказам.