從 3s 到 25ms!看看人家的接口優化技巧,確實很優雅!!
作者:京東雲
來源:zhuanlan.zhihu.com/p/610756706
大家好,最近看到京東雲的一位大佬分享的接口優化方案,感覺挺不錯的,拿來即用。建議收藏一波或者整理到自己的筆記本中,隨時查閱!
下面是正文。
一、背景
針對老項目,去年做了許多降本增效的事情,其中發現最多的就是接口耗時過長的問題,就集中搞了一次接口性能優化。本文將給小夥伴們分享一下接口優化的通用方案。
二、接口優化方案總結
1. 批處理
批量思想:批量操作數據庫,這個很好理解,我們在循環插入場景的接口中,可以在批處理執行完成後一次性插入或更新數據庫,避免多次 IO。
//for循環單筆入庫
list.stream().forEatch(msg->{
insert();
});
//批量入庫
batchInsert();
2. 異步處理
異步思想:針對耗時比較長且不是結果必須的邏輯,我們可以考慮放到異步執行,這樣能降低接口耗時。
例如一個理財的申購接口,入賬和寫入申購文件是同步執行的,因爲是 T+1 交易,後面這兩個邏輯其實不是結果必須的,我們並不需要關注它的實時結果,所以我們考慮把入賬和寫入申購文件改爲異步處理。如圖所示:
至於異步的實現方式,可以用線程池,也可以用消息隊列,還可以用一些調度任務框架。
3. 空間換時間
一個很好理解的空間換時間的例子是合理使用緩存,針對一些頻繁使用且不頻繁變更的數據,可以提前緩存起來,需要時直接查緩存,避免頻繁地查詢數據庫或者重複計算。
需要注意的事,這裏用了合理二字,因爲空間換時間也是一把雙刃劍,需要綜合考慮你的使用場景,畢竟緩存帶來的數據一致性問題也挺令人頭疼。
這裏的緩存可以是 R2M,也可以是本地緩存、memcached,或者 Map。
舉一個股票工具的查詢例子:
因爲策略輪動的調倉信息,每週只更新一次,所以原來的調接口就去查庫的邏輯並不合理,而且拿到調倉信息後,需要經過複雜計算,最終得出回測收益和跑贏滬深指數這些我們想要的結果。如果我們把查庫操作和計算結果放入緩存,可以節省很多的執行時間。如圖:
4. 預處理
也就是預取思想,就是提前要把查詢的數據,提前計算好,放入緩存或者表中的某個字段,用的時候會大幅提高接口性能。跟上面那個例子很像,但是關注點不同。
舉個簡單的例子:理財產品,會有根據淨值計算年化收益率的數據展示需求,利用淨值去套用年化收益率計算公式計算的邏輯我們可以採用預處理,這樣每一次接口調用直接取對應字段就可以了。
5. 池化思想
我們都用過數據庫連接池,線程池等,這就是池思想的體現,它們解決的問題就是避免重複創建對象或創建連接,可以重複利用,避免不必要的損耗,畢竟創建銷燬也會佔用時間。
池化思想包含但並不侷限於以上兩種,總的來說池化思想的本質是 ** 預分配與循環使用,** 明白這個原理後,我們即使是在做一些業務場景的需求時,也可以利用起來。
比如:對象池
6. 串行改並行
串行就是,當前執行邏輯必須等上一個執行邏輯結束之後才執行,並行就是兩個執行邏輯互不干擾,所以並行相對來說就比較節省時間,當然是建立在沒有結果參數依賴的前提下。
比如,理財的持倉信息展示接口,我們既需要查詢用戶的賬戶信息,也需要查詢商品信息和 banner 位信息等等來渲染持倉頁,如果是串行,基本上接口耗時就是累加的。如果是並行,接口耗時將大大降低。
如圖:
7. 索引
加索引能大大提高數據查詢效率,這個在接口設計之出也會考慮到,這裏不再多贅述,隨着需求的迭代,我們重點整理一下索引不生效的一些場景,希望對小夥伴們有所幫助。
具體不生效場景不再一一舉例,後面有時間的話,單獨整理一下。
8. 避免大事務
所謂大事務問題,就是 ** 運行時間較長的事務,** 由於事務一致不提交,會導致數據庫連接被佔用,影響到別的請求訪問數據庫,影響別的接口性能。
舉個例子:
@Transactional(value ="taskTransactionManager", propagation =Propagation.REQUIRED, isolation =Isolation.READ_COMMITTED, rollbackFor ={RuntimeException.class,Exception.class})
publicBasicResultpurchaseRequest(PurchaseRecordrecord){
BasicResult result =newBasicResult();
//插入賬戶任務
taskMapper.insert(ManagerParamUtil.buildTask(record,TaskEnum.Task_type.pension_account.type(),TaskEnum.Account_bizType.purchase_request.type()));
//插入同步任務
taskMapper.insert(ManagerParamUtil.buildTask(record,TaskEnum.Task_type.pension_sync.type(),TaskEnum.Sync_bizType.purchase.type()));
//插入影像件上傳任務
taskMapper.insert(ManagerParamUtil.buildTask(record,TaskEnum.Task_type.pension_sync.type(),TaskEnum.Sync_bizType.cert.type()));
result.setInfo(ResultInfoEnum.SUCCESS);
return result;
}
上面這塊代碼主要是申購申請完成後,執行一系列的後續操作,如果現在新增申購完成後,發送 push 通知用戶的需求。很有可能我們會在後面直接追加,如下圖所示:事務中嵌套 RPC 調用,即非 DB 操作,這些非 DB 操作如果耗時較大的話,可能會出現大事務問題。大數據引發的問題主要有:死鎖、接口超時、主從延遲等。
@Transactional(value ="taskTransactionManager", propagation =Propagation.REQUIRED, isolation =Isolation.READ_COMMITTED, rollbackFor ={RuntimeException.class,Exception.class})
publicBasicResultpurchaseRequest(PurchaseRecordrecord){
BasicResult result =newBasicResult();
...
pushRpc.doPush(record);
result.setInfo(ResultInfoEnum.SUCCESS);
return result;
}
所以爲避免大事務問題,我們可以通過以下方案規避:
1,RPC 調用不放到事務裏面
2,查詢操作儘量放到事務之外
3,事務中避免處理太多數據
9. 優化程序結構
程序結構問題一般出現在多次需求迭代後,代碼疊加形成。會造成一些重複查詢、多次創建對象等耗時問題。在多人維護一個項目時比較多見。解決起來也比較簡單,我們需要針對接口整體做重構,評估每個代碼塊的作用和用途,調整執行順序。
10. 深分頁問題
深分頁問題比較常見,分頁我們一般最先想到的就是 limit ,爲什麼會慢,我們可以看下這個 SQL:
select*from purchase_record where productCode ='PA9044'andstatus=4orderby orderTime desclimit100000,200
limit 100000,200 意味着會掃描 100200 行,然後返回 200 行,丟棄掉前 100000 行。所以執行速度很慢。一般可以採用標籤記錄法來優化,比如:
select*from purchase_record where productCode ='PA9044'andstatus=4and id >100000limit200
這樣優化的好處是命中了主鍵索引,無論多少頁,性能都還不錯,但是侷限性是需要一個連續自增的字段
11.SQL 優化
sql 優化能大幅提高接口的查詢性能,由於本文重點講述接口優化的方案,具體 sql 優化不再一一列舉,小夥伴們可以結合索引、分頁、等關注點考慮優化方案。
12. 鎖粒度避免過粗
鎖一般是爲了在高併發場景下保護共享資源採用的一種手段,但是如果鎖的粒度太粗,會很影響接口性能。
關於鎖粒度:就是你要鎖的範圍有多大,不管是 synchronized 還是 redis 分佈式鎖,只需要在臨界資源處加鎖即可,不涉及共享資源的,不必要加鎖,就好比你要上衛生間,只需要把衛生間的門鎖上就可以,不需要把客廳的門也鎖上。
錯誤的加鎖方式:
//非共享資源
privatevoidnotShare(){
}
//共享資源
privatevoidshare(){
}
privateintwrong(){
synchronized(this){
share();
notShare();
}
}
正確的加鎖方式:
//非共享資源
privatevoidnotShare(){
}
//共享資源
privatevoidshare(){
}
privateintright(){
notShare();
synchronized(this){
share();
}
}
三、最後
我相信很多接口的效率問題不是一朝一夕形成的,在需求迭代的過程中,爲了需求快速上線,採取直接累加代碼的方式去實現功能,這樣會造成以上這些接口性能問題。
變換思路,更高一級思考問題,站在接口設計者的角度去開發需求,會避免很多這樣的問題,也是降本增效的一種行之有效的方式。
本文由 Readfog 進行 AMP 轉碼,版權歸原作者所有。
來源:https://mp.weixin.qq.com/s/_e2PVNEfjcocFNS2BSUbdQ