Claude-User: что это за бот и как его открыть или закрыть
Claude-User — бот Anthropic, который открывает страницу по просьбе человека: когда пользователь Claude просит прочитать ссылку или ассистент ищет ответ прямо в чате. Это не обход всего сайта, а разовое чтение страницы.
User-Agent Claude-User
Так Claude-User представляется в запросах к сайту. В robots.txt пишут только токен — Claude-User.
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Claude-User/1.0; [email protected])
загрузка по запросу пользователя
Как открыть сайт для Claude-User
Добавьте группу в robots.txt в корне сайта. Служебные разделы закройте в ней же: бот со своей группой не читает правила «User-agent: *».
User-agent: Claude-User Allow: /
robots.txt — ещё не всё. Если на сайте стоит Cloudflare или другая защита от ботов, она может отдавать Claude-User ошибку 403 или страницу-проверку, даже когда robots.txt всё разрешает.
Как закрыть сайт от Claude-User
Чтобы закрыть весь сайт, добавьте в robots.txt группу ниже. Правило действует для ботов, которые соблюдают robots.txt.
User-agent: Claude-User Disallow: /
Что будет, если закрыть Claude-User
Когда пользователь Claude попросит открыть вашу страницу, ассистент не сможет её прочитать и ответит без вашего сайта.
Как проверить, заходит ли Claude-User на сайт
Найдите токен в логах веб-сервера. Строку User-Agent легко подделать, поэтому для уверенности сверяйте IP-адрес с диапазонами, если Anthropic их публикует.
grep "Claude-User" /var/log/nginx/access.log
Пускает ли ваш сайт Claude-User
Бесплатная проверка за 15 секунд: читаем ваш robots.txt и запрашиваем сайт от имени ботов ИИ — видно, кого пускают сервер и защита, а кого нет.
Другие боты Claude
Claude-SearchBotпоискClaudeBotобучениеanthropic-aiобучение
Вопросы и ответы
Нужно ли закрывать Claude-User?
Обычно нет: Claude-User открывает страницу только по просьбе человека. Закрыв его, вы мешаете пользователю Claude прочитать ваш сайт.
Как узнать, заходит ли Claude-User на сайт?
Найдите токен в логах веб-сервера. Строку User-Agent легко подделать, поэтому для уверенности сверяйте IP-адрес с диапазонами, если Anthropic их публикует.
Достаточно ли открыть Claude-User в robots.txt?
robots.txt — ещё не всё. Если на сайте стоит Cloudflare или другая защита от ботов, она может отдавать Claude-User ошибку 403 или страницу-проверку, даже когда robots.txt всё разрешает.