Стандартизация оценки рисков ИИ для объектов критической инфраструктуры

ИИ-системы уже работают в энергетике, водоподготовке, производстве и здравоохранении. Единого признанного подхода к оценке рисков таких систем пока не существует.

Согласно Приложению B к NIST AI Risk Management Framework 1.0 (2023), действующие фреймворки не охватывают специфику ИИ-рисков. В отличие от детерминированных систем промышленной автоматики, машинные модели способны деградировать незаметно, вести себя непредсказуемо при нештатных условиях и формировать труднообъяснимые результаты.

Риски в OT-среде включают: ненадёжность автономных решений при тонком человеческом контроле, дрейф и деградацию точности модели, компрометацию обучающих данных, уязвимости в цепочке поставок, размытую ответственность и слабый аудит.

Действующие документы:

• NIST AI RMF (2023) - четыре функции: Govern, Map, Measure, Manage; разрабатываются отраслевые профили для критической инфраструктуры.
• ISO/IEC 23894:2023 - управление рисками ИИ согласно ISO 31000.
• ISO/IEC 42001:2023 - сертифицируемая система менеджмента ИИ.
• ISO/IEC TR 5469:2024 - функциональная безопасность и ИИ-системы.
• ISA/IEC 62443 - кибербезопасность промышленных систем.
• IEC 61511 - функциональная безопасность в перерабатывающих отраслях.

Документ, комплексно закрывающий оценку ИИ-рисков в промышленных OT-средах, пока не принят.

Источник — The ANSI Blog