标签：robots文件配置

大家做网站难免有些时候不想让某些搜索引擎抓取某些页面，当然可以在根目录下放robots.txt文件屏蔽搜索引擎或者设置搜索引擎可以抓取文件范围以及规则。Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robot...

赞(0)吾爱主机2021-09-14wordpress教程 阅读()