Claude хотел спрятать чаты от поисковиков, но выдал им главный секрет приватности

Сегодня • Techmeme
Пользовательский чат с ИИ обычно воспринимается как личный разговор: вы задаёте вопрос, Claude отвечает, история остаётся внутри сервиса. Но некоторые такие страницы обнаружились в результатах Google и Bing. Проблема оказалась не в том, что поисковики взломали защиту, а в том, что защита была рассчитана не на тот механизм.

Обычная логика веба здесь выглядит убедительно. Если владелец сайта размещает в файле robots.txt запрет на сканирование определённых страниц, поисковые роботы должны их не посещать. Anthropic такой запрет указала для страниц с чатами Claude, однако журналистка Wired Мэдди Варнер обнаружила ссылки на отдельные разговоры в поисковой выдаче Google и Bing. Это создавало впечатление, что поисковики проигнорировали прямое распоряжение разработчика.

Но robots.txt — не средство удаления страницы из поиска и не механизм конфиденциальности. Он сообщает добросовестному роботу, куда не следует заходить, но не запрещает поисковой системе показывать уже известный URL. Для этого обычно используется отдельная директива noindex — метка, которая просит не включать страницу в поисковую выдачу. По данным Wired, на обнаруженных страницах такой метки не было. В результате поисковик мог сохранить адрес, увидеть его через внешнюю ссылку или другой сигнал и показать результат, даже не загружая содержимое заново.

Именно здесь переворачивается привычная история о «непослушных» поисковиках. Они не обязательно нарушили запрет Anthropic: robots.txt ограничивает обход, а noindex управляет индексацией. Это два разных слоя, которые пользователи воспринимают как одну настройку. Для публичного сайта такая путаница неприятна. Для сервиса, где пользователь может случайно поделиться ссылкой на разговор, она превращается в архитектурный просчёт: URL может стать видимым, даже если содержимое не должно было индексироваться.

Случай также показывает пределы любых технических обещаний о приватности, если они не подкреплены моделью угроз. Ни robots.txt, ни noindex не заменяют авторизацию, запрет публичных ссылок и контроль доступа. Если чат доступен по адресу без проверки владельца, поисковая выдача становится лишь одним из возможных каналов утечки. Вопрос теперь не только в том, почему Google и Bing увидели Claude, а в том, сколько других сервисов называют «скрытым» то, что на самом деле просто не проиндексировано.