OAI-SearchBot: что это за бот и как его открыть или закрыть
OAI-SearchBot — поисковый бот OpenAI: находит и читает страницы, чтобы ChatGPT мог найти ваш сайт и сослаться на него в ответе. Если его закрыть, сайт пропадёт из таких ответов.
User-Agent OAI-SearchBot
Так OAI-SearchBot представляется в запросах к сайту. В robots.txt пишут только токен — OAI-SearchBot.
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; OAI-SearchBot/1.0; +https://openai.com/searchbot
индекс ChatGPT Search
Как открыть сайт для OAI-SearchBot
Добавьте группу в robots.txt в корне сайта. Служебные разделы закройте в ней же: бот со своей группой не читает правила «User-agent: *».
User-agent: OAI-SearchBot Allow: /
robots.txt — ещё не всё. Если на сайте стоит Cloudflare или другая защита от ботов, она может отдавать OAI-SearchBot ошибку 403 или страницу-проверку, даже когда robots.txt всё разрешает.
Как закрыть сайт от OAI-SearchBot
Чтобы закрыть весь сайт, добавьте в robots.txt группу ниже. Правило действует для ботов, которые соблюдают robots.txt.
User-agent: OAI-SearchBot Disallow: /
Что будет, если закрыть OAI-SearchBot
ChatGPT перестанет находить и читать ваши страницы: в ответах с поиском сайт не появится, а ссылок на него ассистент давать не будет.
Как проверить, заходит ли OAI-SearchBot на сайт
Найдите токен в логах веб-сервера. Строку User-Agent легко подделать, поэтому для уверенности сверяйте IP-адрес с диапазонами, если OpenAI их публикует.
grep "OAI-SearchBot" /var/log/nginx/access.log
Пускает ли ваш сайт OAI-SearchBot
Бесплатная проверка за 15 секунд: читаем ваш robots.txt и запрашиваем сайт от имени ботов ИИ — видно, кого пускают сервер и защита, а кого нет.
Вопросы и ответы
Нужно ли закрывать OAI-SearchBot?
Нет, если вы хотите, чтобы ChatGPT находил и рекомендовал ваш сайт. Закрывать поисковых ботов имеет смысл только для страниц, которые не должны попадать в ответы.
Как узнать, заходит ли OAI-SearchBot на сайт?
Найдите токен в логах веб-сервера. Строку User-Agent легко подделать, поэтому для уверенности сверяйте IP-адрес с диапазонами, если OpenAI их публикует.
Достаточно ли открыть OAI-SearchBot в robots.txt?
robots.txt — ещё не всё. Если на сайте стоит Cloudflare или другая защита от ботов, она может отдавать OAI-SearchBot ошибку 403 или страницу-проверку, даже когда robots.txt всё разрешает.