ИИ против отмывания денег: почему объяснимость убивает эффективность

Регуляторы и банки годами требовали одного: ИИ-системы для AML должны быть объяснимыми. Каждое решение о подозрительной транзакции должно сопровождаться понятным обоснованием. Новая система на базе больших языковых моделей, представленная исследователями, именно это и делает — извлекает доказательства и проводит контрфактуальные проверки.

Проблема в том, что объяснимость и эффективность работают в противоположных направлениях. Исследование показывает: системы, которые могут объяснить свои решения человеку, на 23% хуже выявляют сложные схемы отмывания. Причина проста — реальные преступники используют паттерны, которые человеческая логика не распознает как подозрительные.

Пока банки внедряют 'прозрачные' алгоритмы, криминальные структуры адаптируются. Они изучают объяснения системы и создают транзакции, которые выглядят логично для человека, но остаются преступными по сути. Получается парадокс: чем лучше мы понимаем ИИ, тем легче его обмануть.