4种Python爬虫(3. 微信小程序,如,超级猩猩)

目录:
1. PC网页爬虫
2. H5网页爬虫
3. 微信小程序爬虫
4. 手机APP爬虫

爬取超级猩猩的课表,该平台仅提供了微信小程序这一个途径,前面两种针对html网页的爬取方式都不再适用。

采用抓包分析是我们制定方案的第一步。

我用的Mac电脑,fiddler只有一个简化版,所以另找了Charles这个类似的软件。启动Charles的代理,在手机WIFI中设置好对应的代理就可以开抓了。但是,抓到的https包的内容都是乱码,咋办?

Charles中提供了ssl证书,在手机端安装证书即可。推荐使用iPhone,直接安装描述文件即可。Android手机必须使用系统版本在7.0以下的才行,7.0以上还需要反编译什么的,太麻烦了。

很容易的定位到了超级猩猩微信小程序载入课表的后台接口。拿这个URL在浏览器里访问试试,直接返回了json结果!超级猩猩很友好!

提取对应的URL,放到浏览器中验证,也可以支持返回json包,剩下就是分析一下这个json的数据结构,按照需要的方式导出了。

直接通过接口的爬取效率非常高,几秒钟就拉取了全国各个门店的排课,相当舒心。(下图的录屏没有进行加速)

最后一个挑战就是对只有Android/iOS的APP端应用数据的爬取。请看下一章

请点击: <下一页>

八爪鱼采集器无法直接采集微信小程序数据。八爪鱼采集器是一款功能强大的网页数据采集器,可以采集公开网页上的数据。如果您想要采集微信小程序数据,可以前往八爪鱼官网咨询八爪鱼数据服务,可以根据您的需求直接交付数据,无需自己手动操作。八爪鱼采集器在数据采集领域有着广泛的应用,已与国内外数百家企业建立了长期合作关系。了解更多八爪鱼采集器的功能与合作案例,请前往官网了解更多详情。

扩展阅读:python网站 ... python教程(非常详细) ... python手机版下载安装 ... python爬虫教程免费 ... python进入 ... python视频教程在线观看 ... java python ... python1 ... python进去界面 ...

本站交流只代表网友个人观点,与本站立场无关
欢迎反馈与建议,请联系电邮
2024© 车视网