python轻松抓取app接口

赵云龙龙

发布于 2019-11-28 22:27:14

2.1K0

发布于 2019-11-28 22:27:14

文章被收录于专栏：python爱好部落python爱好部落

我们使用代理软件拦截 http 或者 https 请求常见的有 Fiddler 和 Charles。这两款软件虽然比较强大，但是如果我们想实现 python 抓取一些 app 数据进行分析的话，今天介绍一款更方便的工具 mitmproxy

安装 mitmproxy

如果我们本机安装了 pip 或者 pip3

pip install mitmproxy --ignore-installed six

或者直接

brew install mitmproxy

或者下载安装包手动安装下载地址，安装完成后配置环境变量

启动

直接 mitmproxy 命令默认在端口 8080 上启动一个 mitmproxy 本地的代理服务

mitmproxy

当然也可以使用如上命令添加 -p 自定义启动的端口如，mitmproxy -p 8888

使用 mitmweb 命令会同时在 8080 端口和 8081 端口启动两个服务，访问 8081 端口是一个 web 页面，实时显示访问数据

mitmweb

app 抓包

配置手机代理手机代理和通用的代理配置一样，在 wifi 网络的高级里面设置手动，并输入 pc 端的 ip 地址，端口号是上面启动 mitmproxy 的端口默认 8080

https 抓包浏览器访问 http://mitm.it 下载对应的 pem 证书并安装。然后在手机端打开需要抓包的 app 就可以正常读取 app 请求每个页面的数据包

测试抓取指定 app 接口数据编写 python 程序并使用命令为 test.py 程序如下然后使用 mitmweb -s wlw.py 命令启动服务

#!/usr/bin/env python3
# -*- coding: UTF-8 -*-
import json
from mitmproxy import ctx

def response(flow) :
    url = "https://xxx/handle/execute.jhtml"
    if flow.request.url.startswith(url) :
        text = flow.response.text
        data = json.loads(text)
        print(data)

        result = data.get('result')
        print(result)
        ctx.log.info(str(result))
    else:
        print(flow.request.url)
        print("\n")
        print(flow.request.text)
        print("\n")
        print(flow.response.text)

可以发现我们可以直接把抓包得到的数据结果在控制台打印出来，这样我们在 python 程序中获取到指定的数据以后就可以非常方便的保存和进行分析。

{'result: '{"sign":"","secret":"","oper":"loginoffice","type":"account","source":"O","version":"1009","app_version":"4.9.4_debug","device":{"OSV":"","OS":"","IMEI":"00000000-21a8-bdd2-ffff-ffff97d5da05"},"para":{"umtoken":"","password":"123456","username":"FJFZSOP1Y1"},"deviceBrand":"HUAWEI","deviceModel":"PRA-AL00X","deviceOsVersion":"8.0.0","deviceOs":"Android","name":"","userName":"FJFZSOP1Y1","code":"3","msg":"密码不正确！"}', 'arg': '{"sign":"","secret":"","oper":"loginoffice","type":"account","source":"O","version":"1009","app_version":"4.9.4_debug","device":{"OSV":"","OS":"",""00000000-21a8-bdd2-ffff-ffff97d5da05"},"para":{"umtoken":"","password":"123456","username":"FJFZSOP1Y1"},"deviceBrand":"HUAWEI","deviceModel":"PRA-AL00X","deviceOsVersion":"8.0.0","deviceOs":"Android","name":"","userName":"FJFZSOP1Y1"}'}

至此 app 的数据包的抓包流程就走完了。

申明特此申明：本文只作为笔者自己的 app 数据抓包分析使用，请读者不要恶意使用抓包程序对商业 app 进行违法的一些行为。

本文参与腾讯云自媒体分享计划，分享自微信公众号。

原始发表：2019-11-21，如有侵权请联系 cloudcommunity@tencent.com 删除

安全