Если ChatGPT видел угрозу, почему никто не позвонил в полицию?

Согласно материалу CNN Клэр Даффи, семьи подали иск против OpenAI, обвинив компанию в неспособности предупредить правоохранительные органы о действиях подозреваемого в стрельбе в канадском Тумблер-Ридж. В результате нападения погибли люди, а семь семей теперь пытаются доказать: разговор с чат-ботом был не просто частной перепиской, а источником сигнала, который система безопасности не смогла или не захотела передать дальше.

Обычная логика индустрии звучит иначе. Чат-бот — не следователь, не диспетчер экстренных служб и не инструмент массового наблюдения. Он обязан защищать конфиденциальность пользователей, а передача данных полиции без ясного правового основания может создать не меньше проблем, чем бездействие. OpenAI традиционно строит защиту вокруг фильтров, блокировки опасных запросов и последующего анализа нарушений, но это не означает автоматического уведомления властей о каждом тревожном диалоге.

Но что, если именно эта граница между приватностью и предотвращением вреда стала слабым местом системы? По версии истцов, проблема заключалась не в том, что модель дала один неправильный ответ, а в том, что компания не превратила обнаруженные признаки риска в процедуру эскалации. Тогда вопрос меняется: OpenAI отвечает не только за содержание ответа, но и за молчание после потенциально опасного разговора. Юридически это ещё предстоит доказать; сам иск не устанавливает вину компании. Однако он требует определить, где заканчивается роль цифрового собеседника и начинается обязанность вмешаться.

Дело также проверит пределы обещаний AI-безопасности. Если компания заявляет, что распознаёт угрозы, она должна объяснить, какие именно сигналы система видит, когда подключаются специалисты, сколько таких случаев передаётся правоохранительным органам и кто принимает решение не передавать их. Без прозрачных критериев «защита пользователей» остаётся маркетинговой формулой, а не измеримой системой ответственности.