ИИ-ассистенты не ругаются на людей с инвалидностью — они считают их менее способными

Общепринятая проверка безопасности устроена просто: ищут токсичные формулировки, прямые отказы и различия в ответах на одинаковые запросы. Если модель отвечает вежливо, предлагает поддержку и не использует стигматизирующую лексику, её считают нейтральной. Такой подход хорошо ловит явную дискриминацию, но почти не замечает патернализм — ситуацию, когда система заранее понижает планку ожиданий.

Исследование «Выявление скрытой предвзятости в чат-ИИ на базе больших языковых моделей по отношению к людям с интеллектуальными нарушениями» предлагает смотреть не только на содержание, но и на рамку ответа. Авторы выделяют три сигнала: предположение о неспособности человека принимать решения, чрезмерное упрощение объяснений и автоматическую подмену самостоятельности опекой. Один и тот же совет может быть корректным для любого пользователя, но дискриминационным, если модель предлагает его только после упоминания инвалидности.

Поворот здесь принципиален: а что если вежливость чат-бота — не доказательство равного отношения, а маскировка неравного? Модель может написать «давайте попросим кого-то помочь вам» там, где другому пользователю предложила бы пошаговый план действий. Она может заменить нейтральное «человек» на «подопечный», решить, что сложная тема недоступна собеседнику, или свести разговор к безопасности вместо права на риск и выбор. Внешне ответы остаются доброжелательными; функционально они отнимают у пользователя субъектность.

Это меняет и критерии аудита. Проверять нужно не только токсичность, но и симметрию: одинаково ли система объясняет задачу, предлагает варианты и признаёт право на самостоятельное решение при изменении одного фактора — упоминания интеллектуальной инвалидности. Важен не один удачный ответ, а серия сопоставимых сценариев: бытовых, образовательных, медицинских и финансовых. Иначе разработчик измеряет комфорт модели, а не свободу пользователя.