Згідно з Cisco Cybersecurity Readiness Index 2025, «AI Fortification» — захист та зміцнення ШІ-рішень — стає критичним стовпом кіберстійкості. Для корпоративних систем документообігу (DMS) цей виклик полягає у переході від декларативних політик безпеки до архітектурного впровадження NIST AI RMF 1.0. Основна проблема сучасних DMS полягає в тому, що ШІ-моделі часто функціонують як «чорні скриньки», маючи доступ до даних без урахування контексту ідентичності користувача чи правил розмежування доступу.
Архітектурна інтеграція контролів
Без прямої інтеграції Row-Level Security (RLS) у логіку ШІ-інференсу виникає ризик несанкціонованого доступу до конфіденційних документів. Відповідно до структури NIST AI RMF (Govern, Map, Measure, Manage), безпека має бути «прошита» в інфраструктуру системи:
- Управління ідентичністю: Відповідно до NIST SP 800-63, доступ до чутливих даних повинен підкріплюватися надійними процесами ідентифікації та MFA.
- RLS та метадані: Використання доменних метаданих дозволяє маркувати конфіденційні дані, обмежуючи доступ ШІ-агентів лише тими документами, на які має права конкретний користувач.
- Human-in-the-loop: Архітектурне впровадження верифікації людиною для критичних процесів (наприклад, класифікації фінансових документів) забезпечує підзвітність рішень.
Рівні інтеграції NIST AI RMF у DMS
| Рівень | Опис |
|---|---|
| Початковий | ШІ працює як зовнішній сервіс без інтеграції з RLS/RBAC. |
| Базовий | Використання загальних прав доступу, аудит обмежений логами HTTP-запитів. |
| Архітектурний | RLS та Domain metadata інтегровані в інференс, реалізовано Human-in-the-loop. |
| Оптимальний | Повна відповідність NIST AI RMF з автоматизованим аудитом кожного кроку ШІ-агента. |
Ефективна реалізація NIST AI RMF вимагає відходу від оцінки лише точності моделі до оцінки контексту використання та безпеки. Для організацій, що потребують архітектурної модернізації DMS, фахівці Intecracy Group можуть надати підтримку в аудиті технологічного стеку, впровадженні контролів доступу (RBAC/RLS) та модернізації систем для відповідності стандартам NIST. Це забезпечується завдяки експертизі в компетенціях «Документообіг» та «Кібербезпека», а також використанню платформи UnityBase, де вбудовані механізми безпеки дозволяють керувати доступом на рівні доменної моделі.
Поширені питання
Як обмежити доступ ШІ-агента до документів у DMS?
Необхідно інтегрувати Row-Level Security (RLS) та правила RBAC безпосередньо в логіку запитів ШІ, щоб агент мав доступ лише до тих даних, які дозволені поточному користувачу.
Чи гарантує NIST AI RMF захист від витоку даних?
NIST AI RMF — це фреймворк для управління ризиками, а не автоматичний захист. Безпека досягається через архітектурну реалізацію його функцій (Govern, Map, Measure, Manage) у вашій системі.
Як інтегрувати Human-in-the-loop у процеси автоматичної класифікації?
Архітектура системи повинна вимагати підтвердження користувачем результатів роботи ШІ для критичних операцій до їхньої фіксації у системі чи передачі у фінансові модулі.