← Все руководства

Как построить журнал аудита для решений с участием ИИ

Шаги

1. Шаг 1: Определите границы журнала — перечислите процессы, в которых ИИ влияет на решение, и зафиксируйте, какие действия требуют обязательной записи.

2. Шаг 2: Записывайте контекст — сохраняйте дату и время, идентификатор операции, инициатора, цель использования ИИ, исходные данные или ссылку на их неизменяемую копию.

3. Шаг 3: Фиксируйте работу ИИ — указывайте название системы, идентификатор версии модели и настроек, использованный запрос, полученный результат и сведения о проверках качества.

4. Шаг 4: Отделяйте рекомендацию от решения — отмечайте, что предложил ИИ, что проверил сотрудник, какие изменения он внес и почему принял итоговое решение.

5. Шаг 5: Назначьте подписантов — закрепите владельца процесса, сотрудника, ответственного за проверку, и уполномоченное лицо, утверждающее решение в случаях повышенного риска.

6. Шаг 6: Защитите записи — ограничьте доступ по ролям, ведите журнал просмотра и изменений, применяйте защиту от незаметного удаления и регулярно проверяйте полноту данных.

7. Шаг 7: Установите срок хранения — сопоставьте его с применимыми требованиями, договорными обязательствами, внутренними правилами и риском спора, назначьте владельца пересмотра срока и безопасного уничтожения записей.

Чеклист

• В каждой записи есть дата, время, инициатор и идентификатор операции.
• Указаны версия системы ИИ, настройки и входные данные либо ссылка на их защищенную копию.
• Сохранены результат ИИ, итоговое решение человека и объяснение существенных изменений.
• Для процесса определены проверяющий, утверждающий и владелец журнала.
• Доступ к записям ограничен ролями, а просмотры и изменения протоколируются.
• Срок хранения утвержден с учетом требований, договоров, риска и процедуры удаления.
• Проведена тестовая проверка: по записи можно восстановить весь путь от входных данных до решения.

Типичные ошибки

• Сохранять только итоговое решение без исходных данных, результата ИИ и действий сотрудника.
• Считать подпись формальностью и не закреплять, за какую часть решения отвечает каждый подписант.
• Использовать одну общую учетную запись, из-за чего невозможно установить автора действия.
• Устанавливать единый срок хранения для всех процессов без оценки требований и риска.
• Разрешать редактирование журнала без истории изменений и контроля доступа.
• Записывать персональные или конфиденциальные данные без определения цели, доступа и правил защиты.