前端人必須掌握的抓包技能

作者:jecyu

https://juejin.cn/post/7140040425129115684

1. 前言

時隔 3 年,重新接觸了移動端 h5 頁面開發,上一次還是大四實習。這一次是 hybrid 開發,涉及到 h5 頁面與原生 app 的交互,h5 頁面需要與原生打通登錄態,以及調用原生 app 的接口,比如調用原生相機進行二維碼掃描。跟微信小程序開發不同,本地開發時微信有提供微信開發者工具,可以本地模擬調用而我這邊需要每次都打包靜態文件,上傳服務器才能調試,非常麻煩。

能不能在原生 app 加載線上 h5 時,跑本地的代碼呢?答案是可以的,通過抓包工具比如 whistle 就可以做到攔截線上頁面請求數據,再響應本地代碼,本文主要講述抓包的原理和抓包工具 whistle 使用。

2. 抓包的原理

2.1 什麼是抓包?

抓包就是將網絡傳輸發送與接收的數據包進行截獲、重發、編輯、轉存等操作,通過抓包可以:

回顧下計算機網絡知識,數據在網絡上是以很小的的單位傳輸的,幀通過特定的稱爲網絡驅動程序的程序進行成型,然後通過網卡發送到網線上,通過網線到達目的機器,在目的機器的一端執行相反的過程。

接收端機器的以太網捕獲到這些幀,並告訴操作系統幀已到達,然後對其進行存儲。在這個傳輸和接收的過程,就可以使用抓包工具(Sniffers)進行抓包,作爲前端開發者,通常是抓取應用層的 HTTP/HTTPS 的包。

2.2 HTTP/HTTPS 抓包原理

HTTP/HTTPS 是應用層使用的通信協議,常見的應用層體系結構是客戶端 - 服務器體系。

對運行在不同端系統上的客戶端程序和服務端程序是如何互相通信的麼?實際上,在操作系統上的術語中,進行通信的實際上是進程而不是程序,一個進程可以被認爲是運行在端系統中的一個程序。

在 web 應用程序中,一個客戶瀏覽器進程與一臺服務器進程進行會話交換報文。

瀏覽器進程需要知道接收進程的主機地址,以及定義在目的主機中的接收進程的標識符,也就是目的端口。

多數應用程序由通信進程對組成,每對中的兩個進程互相發送報文。進程通過一個稱爲套接字的軟件接口向網絡發送報文和從網絡接收報文。

進程可以類比一座房子,而它的套接字可以是它的門,套接字是應用層與運輸層之間的端口。

知道了兩個進程的通信流程,我們要怎麼抓包呢?舉一個生活中的例子,小明暗戀小雯,於是他寫了一封情書,但他有點害羞,找了小雯的好朋友小花幫忙傳遞情書。這個時候,小花可以負責小雯與小明之間的情書傳遞,作爲中間人,她可以偷偷查看他們的情書內容。

思路就是設置一箇中間人進程負責抓包,每次目標進程之間的會話都先與中間人進程通信,再進行轉發。

2.2.1 HTTP 抓包原理

在 http 標準中,沒有對通信端身份驗證的標準。對於服務器來說,它接收的 HTTP 請求報文只要格式符合規範,就發送響應報文。

對於客戶端來說也是如此,它無法校驗服務器的身份,比如它連接的 http://www.jecyu.com 的主機,但由於中間節點的存在,最終連接的可能是 http://www.jerry.com 的主機。

因此,對於 HTTP 抓包,無需做過多的處理,只需要讓中間人負責轉發客戶端和服務端的數據包。

2.2.2 HTTPS 抓包原理

HTTP 是明文傳輸,容易受到中間人攻擊,不安全。

HTTPS 語義仍然是 HTTP,只不過是在 HTTP 協議棧中 http 與 tcp 之間插入安全層 SSL/TSL

安全層採用對稱加密的方式加密傳輸數據和非對稱加密的方式來傳輸對稱密鑰,解決 http 數據沒有加密、無法驗證身份、數據容易纂改三個核心問題。

HTTP + 加密 + 認證 + 完整性保護 = HTTPS

其中驗證身份問題是通過驗證服務器的證書來實現的,證書是第三方組織(CA 證書籤發機構)使用數字簽名技術管理的,包括創建證書、存儲證書、更新證書、撤銷證書。

瀏覽器連接至一個 HTTPS 網站,服務器發送的不僅僅只是服務器實體證書,而是一個證書鏈,但不包含根證書,根證書會被內嵌在 Windows, Linux, macOS, Android, iOS 這些操作系統裏。

其中校驗證書分爲兩步,證書的簽發者校驗和服務器實體證書校驗

  1. 證書鏈校驗:

校驗成功則繼續,否則證書校驗失敗。

  1. 服務器實體證書校驗:訪問的域名信息是否與證書一致、日期、證書擴展校驗等。

瞭解完證書校驗後,我們來看看具體的 https 通信流程:

中間人想要抓包,需在 HTTPS 加密通信之前:

  1. 截取客戶端發送的包含證書的報文,僞裝成服務端,把自己的證書發給客戶端,然後拿到【客戶端返回的包含對稱加密通信密鑰的報文】,生成中間人與客戶端對稱加密的密鑰。

  2. 同樣僞裝成客戶端,以服務端自己的非對稱公鑰加密【客戶端返回的包含對稱加密通信密鑰的報文】發給服務端,獲得服務端生成的對稱加密密鑰。

  3. 這樣一來,加密通信建立完成,而中間人拿到了通信的數據密鑰,可以查看、修改 HTTPS 的通信報文。

  4. 這裏客戶端與中間人通信、中間人與服務端通信,都是正常建立了 HTTPS 加密連接的。

其中很重要的一步是瀏覽器的根證書校驗,CA 機構不可能隨便給一箇中間人簽發不屬於它的域名證書,也就不在客戶端的操作系統上了,因此只能把中間人的根證書,導入到客戶端的操作系統了,以此完成建立加密通信時對中間人證書的驗證。

2.3 電腦如何抓手機的包

要想通過電腦端獲取手機 Web 應用的數據包,根據前面所學,就需要中間人策略。

PC 端建立一個服務器中間人進程,僞裝爲 web 應用的目標服務器。手機端 web 應用發送的請求數據先經過中間人,中間人進行攔截處理再發送給目標服務器。反過來,目標服務器發送的數據包先通過中間人,再由中間人響應給瀏覽器客戶端。

這裏要注意的是,無論是個人電腦 PC,還是移動端手機,都需要接入互聯網網絡,可以相互找到對方纔能建立通信。

一般對開發來說,個人電腦本地起的服務器進程,在公網上是訪問不到的。一般是無線局域網,個人電腦與手機端連接同一個路由器發出的 Wi-Fi,就可以相互通信。

具體步驟:

  1. 在 PC 電腦本地起一個服務器進程,監聽一個端口比如 8899

  2. 在手機上連接同一個局域網,配置網絡代理,指向 PC 端的 IP 地址和 8899 端口

  3. 這樣一來,手機上所有的網絡通信都會被先轉發到 PC 端的 8899 端口,就可以對數據包進行分析處理

拿訪問 youtuBe 來說,比如電腦已經使用【服務器軟件】成功訪問,此時只要手機配置代理指向電腦 ip 地址和指定端口,手機就可以同樣訪問 youtuBe 了。

3. 抓包工具 whistle

3.1 whistle 是什麼

Whistle 是基於 Node 實現的跨平臺抓包免費調試工具,其主要特點:

  1. 完全跨平臺:支持 Mac、Windows 等桌面系統,且支持服務端等命令行系統

  2. 功能強大:

  1. 操作簡單

如何快速使用 whistle

  1. 先安裝 node,建議用 nvm 管理

  2. 全局安裝 whistle

npm i -g whistle & w2 start

安裝後,可以在電腦上設置全局代理,代理的端口爲 8899.

w2 proxy // 設置全局代理

w2 proxy off // 關閉全局代理

就可以通過瀏覽器訪問 http://127.0.0.1:8899/ 查看抓包、修改請求等。

如果你不想使用全局代理,就可以安裝 SwitchyOmega 插件,按需對某些網站設置 whistle 代理。

  1. 選擇 Whistle 代理

  1. 設置 Whistle 代理

3.2 whistle 可以做的事情

whistle 可以做的事情很多,以下是官網圖:

一些例子配置如下圖所示:

4. whistle 實戰案例

4.1 原生 app 加載 PC 本地代碼開發

在原生 app 上已經通過 h5 域名加載了 web 頁面,但是本地開發時不想每次都走流水線或本地打包上傳代碼。

需要把原生 app 的請求代理到本地服務器上來,前提條件是 wifi 手機與電腦可相互訪問,也就是前面提到的電腦抓 pc 的包。

因爲我的 web 服務端是 https 應用,因此需要下載 whistle 提供的根證書,手動導入到手機上。

點擊 HTTPS 菜單,然後使用手機掃描二維碼,使用手機瀏覽器打開即可下載,在手機證書中設置進行導入並且設置信任。

此時,再在手機上配置代理指向 PC 電腦的 IP 和 whistle 監聽的端口即可在電腦上截獲數據包。

我本地 webpack 啓動的服務器應用訪問地址爲:xxx.xxx.xxx.xxx:8080

whistle 的配置規則:

# Rules

# 訪問首頁走本地

jecyu.com/webs/short-transport http://xxx.xxx.xxx.xxx:8080?deptCode=755DL # 首頁路徑

# 後續的請求都使用本地代碼

jecyu.com http://xxx.xxx.xxx.xxx:8080?deptCode=755DL

其中試過在原生 app 訪問本地應用時出現錯誤 “webpack 會提示 invalid host header”,解決方案是在 devServer 配置添加即可:

devServer: {

allowedHosts: 'all',

}

至此,成功讓原生 app 訪問 PC 端本地的開發代碼。

4.2 查看移動端的 DOM 樣式

Whistle 能夠通過內置的 Weinre 去實現查看移動端的 DOM 樣式,配置規則如下

# 設置 weinre

https://juejin.cn weinre://test

手機上重新訪問 juejin.cn 網站,然後打開 weinre 可以看到如下,綠色表示遠程連接成功。

可以點擊 Element 查看手機上網頁 DOM 結構、樣式等信息。

也可以在 console 控制檯中,執行代碼,比如 alert ,手機應用上會顯示彈框。

5. 總結

學會抓包是軟件開發人員必須掌握的調試技能,本文先介紹抓包的原理,再介紹抓包工具 whistle 的使用,whistle 非常強大,本文只是粗略的介紹,更多的使用技巧,大家可以查看官方文檔 whistle 文檔:http://wproxy.org/whistle/webui/https.html 。

關注「大前端技術之路」加星標,提升前端技能

本文由 Readfog 進行 AMP 轉碼,版權歸原作者所有。
來源https://mp.weixin.qq.com/s/FRWEL885gcIKwGSoDPmTFg