ZH
登录 创建机器人
首页 / BotNow 爬虫

BotNow 爬虫

如果你在网站日志中看到 User-Agent 为 BotNowBot 的请求,那就是我们的爬虫。当网站所有者(或受其委托的人)在 BotNow 中输入网址以创建 AI 助手时,它会读取这家网店的页面。

它如何表明身份

BotNowBot/0.1 (+https://botnow.site/bot/)

它的行为方式

如何屏蔽它

在你网站的 robots.txt 中加入:

User-agent: BotNowBot
Disallow: /

你可以只屏蔽网站的一部分:把 / 换成相应路径即可。如果希望爬虫读取网站,但你的防护拦截了它(返回 403),请把 BotNowBot 加入白名单。

问题与投诉:请见联系我们页面。