ajax采集抓取ajax数据

如何抓取一个https的页面

可以使用ForeSpider软件，这款软件支持支持登录、Cookie、Post、https、验证码、JS、Ajax、关键词搜索等等技术的采集。要是想抓取https页面，就在采集过程中设置几步就可以了。另外使用也非常便捷，简单几步就可以完成采集配置，或者可以直接从前嗅购买配置好的模板，拿来之后直接点一个按钮，就可以开始采集，我之前用笔记本使用ForeSpider采集数据，一天就是好几百万条。现在他有了免费版，还不限制时间。

网络爬虫软件都有哪些比较知名的

个人感觉免费的爬虫软件都是给别人当肉鸡，爬虫最大的问题就是代理ip了，没有代理几下就会被网站反爬了，问题是高质量的代理ip很贵的，一个vps拨号服务器只能并发一个ip，虽然可以换但是并发只有一个，一月100块钱，比如他有10000个免费用户，那他一个月运营成本就代理池最起码70多万，你免费用运营方承受不了，如果把这一万用户都变代理服务器，那就赚大发了，那运营方就有一万个免费的代理ip池，那就是你用别的用户ip别的用户也用你的ip，大家都把ip共享了那么优质的代理池就建起来了，然后把付费用户用普通用户的终端进行代理，

推荐2个好用免费的爬虫软件—后羿采集器和八爪鱼采集器，这2个软件采集网页数据都非常简单，不用写任何代码，只需要用鼠标点击需要采集的网页信息，就会自动开始采集，非常方便，下面简单介绍一下这2个软件的安装和使用：

后羿采集器

1.首先，下载安装后羿采集器，这个直接到官网上下载就行，完全免费的，各个平台的版本都有，选择适合自己平台的版本即可，如下：

2.安装完成后，打开这个软件，直接输入需要采集的网页地址，就会自动打开网页并识别需要采集的信息，这里以采集58同城租房信息为例，如下，非常简单，不需要自己动手，这里你也可以对自动采集的信息进行编辑，删除或修改等：

3.最后点击右下角的“开始采集”，设置好“定时启动”，如下，软件就会自动开始采集数据，并自动翻页，不需要人为设置：

4.采集的数据如下，就是刚才识别需要采集的网页信息，运行速度非常快，你也可以随时暂停或停止，非常方便：

5.最后，点击“导出数据”按钮，可以数据导出为你需要的文件格式，如Excel、CSV、HTML、数据库等，也可以导出到网站，如下：

八爪鱼采集器

1.首先，下载安装八爪鱼采集器，这个也直接到官网上下载就行，如下，也是免费的，目前只有Windows平台的：

2.安装完成后，打开这个软件，进入主界面，这里我们选择“自定义采集”，如下：

3.接着输入我们需要采集的网页地址信息，就会自动跳转到对应页面，这里以采集大众点评上的评论信息为例，如下：

4.这时你就可以直接鼠标点击需要采集的网页信息，按照操作提示步骤一步一步往下走就行，非常简单容易，如下：