一、爬虫怎么爬取js动态生成的数据？

我用Jsoup写爬虫，一般遇到html返回没有的内容。但是浏览器显示有的内容。都是分析页面的http请求日志。分析页面JS代码来解决。

1、有些页面元素被隐藏起来了->换selector解决

2、有些数据保存在js/json对象中->截取对应的串，分析解决

3、通过api接口调用->伪造请求获得数据

还有一个终极方法

4、使用phantomjs或者casperjs这种headless浏览器

二、爬虫怎么爬取js动态生成的数据

我用Jsoup写爬虫，一般遇到html返回没有的内容。但是浏览器显示有的内容。都是分析页面的http请求日志。分析页面JS代码来解决。

1、有些页面元素被隐藏起来了->换selector解决

2、有些数据保存在js/json对象中->截取对应的串，分析解决

3、通过api接口调用->伪造请求获得数据

还有一个终极方法

4、使用phantomjs或者casperjs这种headless浏览器

三、爬虫爬https站点怎么处理的

爬虫工具是可以支持https的，比如jsoup，用这种工具来爬就行了。

四、如何用爬虫抓取股市数据并生成分析报表

推荐个很好用的软件，我也是一直在用的，就是前嗅的ForeSpider软件，

我是一直用过很多的采集软件，最后选择的前嗅的软件，ForeSpider这款软件是可视化的操作。简单配置几步就可以采集。如果网站比较复杂，这个软件自带爬虫脚本语言，通过写几行脚本，就可以采集所有的公开数据。

软件还自带免费的数据库，数据采集直接存入数据库，也可以导出成excel文件。

如果自己不想配置，前嗅可以配置采集模板，我的模板就是从前嗅购买的。

另外他们公司不光是软件好用，还有自己的数据分析系统，直接采集完数据后入库，ForeSpider内部集成了数据挖掘的功能，可以快速进行聚类分类、统计分析等，采集结果入库后就可以形成分析报表。

最主要的是他采集速度非常快，我之前用八爪鱼的软件，开服务器采，用了一个月采了100万条，后来我用ForeSpider。笔记本采的，一天就好几百万条。

这些都是我一直用前嗅的经验心得，你不妨试试。

建议你可以下载一个免费版试一试，免费版不限制功能，没有到期时间。

五、如何利用matlab爬虫抓数据

[data,status]=urlread('http:\\www.baidu.com');