Угроза хищения обучающих данных

Угроза заключается в возможности хищения нарушителем обучающих данных, используемых в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта. Данная угроза обусловлена слабостями разграничения доступа к обучающим данным, используемым в информационной (автоматизированной) системе. Реализация данной угрозы возможна при наличии у нарушителя непосредственного доступа к обучающим данным

Источник угрозы

Внешний нарушитель со средним потенциалом; Внутренний нарушитель со средним потенциалом

Объект воздействия

Программное обеспечение (программы), использующее машинное обучение; обучающие данные машинного обучения

Виды объектов воздействия

Прикладное ПОДанные и файлыМодели машинного обучения группировка поля выше, сделанная в этом справочнике: ни БДУ, ни методика видов объектов не перечисляют

Нарушаемые свойства

конфиденциальность

Среда реализации

Искусственный интеллект / машинное обучение

Первоисточник — карточка угрозы в банке данных ФСТЭК России: https://bdu.fstec.ru/threat/ubi.219. Перед применением сверьте формулировку с первоисточником.

Меры защиты против УБИ.219

Сопоставление ведётся не с кодом конкретного приказа, а с мерой «по сути»: у одной и той же меры в разных приказах разные коды, а иногда она там отсутствует. Прочерк в столбце означает, что меры с таким смыслом в приказе нет. Для нейтрализации угрозы потребуется мера из другого источника — это дополнение базового набора, предусмотренное шагом 4 методики.

Почему именно эти меры

Хищение обучающих данных, используемых системой, реализующей технологии ИИ. Как и в УБИ.218, специализированной группы мер нет: обучающие данные защищаются как любой другой чувствительный набор данных. Базовую защиту дают корректная модель доступа (УПД.2) и управление физическим доступом к носителям, на которых они хранятся (ЗНИ.2). Защита при передаче (ЗИС.19) добавляется, если обучающие данные перемещаются между средами.

Сценарий реализации

Черновик пути нарушителя, который инструмент предлагает для этой угрозы на шаге «Сценарии». Это не разметка ФСТЭК: методика (п. 5.3.5–5.3.6) требует строить сценарий по результатам инвентаризации и тестирования конкретной системы.

Конечное воздействие по тактике Т10 — Т10.1 Несанкционированный доступ к информации в памяти системы, файловой системе, базах данных, репозиториях, в программных модулях и прошивках