使用Chromedriver时会遇到get(url)超时的情况,导致页面一直加载无法继续,当存在大量不同的url需要访问抓取时,一个超时会导致后面所有的访问全部直接报time out错误。这里使用try捕获超时是不能解决问题的,错误即使捕获到了也无法继续使用当前标签。
简单的解决方法是:开启两个标签,主标签访问请求,另一个标签访问任意网站如百度
当捕获到timeout的时候 立即关闭主标签,切换到另一个标签上继续操作后面的URL。此时记得打开一个新的标签做备用。如此循环即可
详细代码可以到我的博客查看 http://www.xiaomilu.top/archives/106