蓝天采集器采集的永远是第一页

2018-05-15 134 19 编辑:wangchenyuF2 来源:蓝天采集社区

http://不能发.com/v.php?next=watch&page={param:num,1081 2161 1 0}然后爬到的永远是某一页,


http://不能发.com/v.php?next=watch&page=10000
(这个是他们没有的网页,他们只有1-4335页) 大写的10000 是分页

还是能爬到内容, 我到测试页面测试 把分页改成任何数字 爬到全是相同的, (没挂IP,没挂 自定义头)(挂了也一样)
不知道问题出在哪
爬到相同的页面是有数据的还是对方的提示页面?有可能是对方有ip访问频率限制

admin 发表于 2018-5-15 21:59
爬到相同的页面是有数据的还是对方的提示页面?有可能是对方有ip访问频率限制 ...

是有数据的,但数据都一样,好比如:我让他爬 6 7 8 页.他爬的三个页面都是是 第7 页的数据 , 我让他 爬 1 2 3 页, 得到的 还是第7页的数据, 给我感觉就是 我的IP被绑在他的第7页了 浏览器打开网址正不正常?抓取其他网站内容正不正常,如果都正常,估计就是ip被屏蔽了

相关知识点: 爬到 页面 数据
本站文章均为蜀戎网络摘自权威资料,书籍,或网络原创文章,如有版权纠纷或者违规问题,请即刻联系我们删除,未经允许禁止复制转载!感谢...
更多人喜欢

在线
客服

在线客服服务时间:9:00-21:00

客服
热线

13227777380
7*24小时客服服务热线

客服
微信

扫一扫微信咨询
顶部