新浪爱问的蜘蛛,竟然不遵循robots.txt的规定,我的robots.txt不允许任何蜘蛛访问,可是iaskspider仍然我行我素,极度气愤!
我的网站只允许Baiduspider.
User-agent: Baiduspider
Disallow: User-agent: * Disallow: /
[name:Hateful spider][From AlphaWu.Blog]
博主对新浪爱问的蜘蛛iaskspider不遵循robots.txt规定表示极度不满,其网站仅允许Baiduspider访问,而iaskspider无视此设置,引发讨论。
新浪爱问的蜘蛛,竟然不遵循robots.txt的规定,我的robots.txt不允许任何蜘蛛访问,可是iaskspider仍然我行我素,极度气愤!
我的网站只允许Baiduspider.
User-agent: Baiduspider
Disallow: User-agent: * Disallow: /
[name:Hateful spider][From AlphaWu.Blog]
转载于:https://www.cnblogs.com/AlphaWu/archive/2006/12/12/590096.html

被折叠的 条评论
为什么被折叠?