蓝天采集器使用常见问题及解决办法

2020-09-16 1930 19 编辑:蜀戎seo 来源:蜀戎网

采集中断、自动采集无效、图片下载不了

详见:https://www.srso.cn/fy/657.html


cli命令模式

php可执行文件:默认自动识别,识别不了,在linux系统中关闭目录跨站保护,手动输入:可输入环境变量名“php”(需要系统中已配置)或输入可执行文件路径,注意不是php目录,一般windows中文件为“php目录/php.exe”,linux中文件为“php目录/bin/php”

详见:https://www.srso.cn/fy/248.html


触发不了采集:

1、确定php配置是否正确

2、开启proc_open函数(详见:https://www.srso.cn/fy/103.html)

3、给web服务器配置执行命令的权限


页面渲染设置(详见:https://www.srso.cn/fy/93.html)

谷歌浏览器安装:windows百度下载安装即可,linux请看https://www.srso.cn/fy/93.html

配置谷歌路径:可输入环境变量名“chrome”(需要系统中已配置),或者输入可执行文件路径:一般windows中文件为“浏览器目录/chrome.exe”,linux中文件为“浏览器目录/bin/google-chrome”,注意:浏览器版本不同可能会导致可执行文件名不同!


采集规则设置

手机移动端页面:开启请求头信息,设置UserAgent浏览器标识

需要登录的页面:开启请求头信息,设置Cookie缓存数据,如何获取cookie:https://jingyan.baidu.com/search ... D%91%E7%AB%99cookie


采集到的网址没有域名:开启自动补全网址


规则中的特殊字符识别不了:使用正则规则的时候特殊字符必须使用“”转义才能使用,和正则冲突的字符有:^$.*+|?[]{}()


页面渲染:使用渲染和不使用时的html源码是不一样的,规则可能不通用!


浏览器中获取到的xpath在采集器中没有用:可能该xpath的对象是渲染出来的元素,采集器默认只能抓取原始html源码的内容,渲染出来的元素需要开启“页面渲染”功能,或者分析相应的js链接来抓取,使用“测试》分析网页”可以看到采集器实际抓取到的页面


字段怎么插入内容:添加一个新字段,获取方式选择“字段组合”


发布设置

本地cms程序检测不出来:

1、采集器和cms程序是在同一个网站目录中,可能是不支持您的cms程序,需要在路径结尾中加上“@cms名称”即可识别出插件

2、采集器和cms程序不在同一网站但在同一服务器中,可能是服务器开启了目录跨站保护,关闭即可


工具

错误日志文件太多占用空间:可以在“站点设置”中关闭,后台首页使用“清除缓存”可以清空日志


插件/应用开发

应用程序无法访问:应用需要配置伪静态才能使用,配置文件在蓝天采集器根目录:nginx.conf(nginx),.htaccess(apache),web.config(iis)

函数插件创建后不显示:需要在“云端》已下载》函数插件”中点击开启


云平台下载的文件去哪了

在“云端》已下载”中可找到云平台中下载的规则、插件等

采集规则在 “编辑任务 > 导入规则 > 已下载规则” 中使用

发布插件在 “任务 > 发布设置 > 本地CMS程序” 中使用

函数插件在 “任务 > 采集器设置 > 数据处理” 中使用


第三方如何使用

开发者安装了“第三方平台”应用,点击“云端》已下载》应用程序》第三方平台”的管理连接,界面中的“应用首页”链接即为您需要提供给用户的平台网址!

用户在“云端》第三方”中添加开发者提供的平台网址即可在对方平台中下载规则、插件等。

更多使用教程请看这里:https://www.srso.cn/skycaiji

相关知识点: 蓝天采集器 蓝天采集器采集教程
本站文章均为蜀戎网络摘自权威资料,书籍,或网络原创文章,如有版权纠纷或者违规问题,请即刻联系我们删除,未经允许禁止复制转载!感谢...
更多人喜欢

在线
客服

在线客服服务时间:9:00-21:00

客服
热线

13227777380
7*24小时客服服务热线

客服
微信

扫一扫微信咨询
顶部