C++ 多線程編程總結(jié) |
發(fā)布時間: 2012/9/20 16:50:04 |
在開發(fā)C++程序時,一般在吞吐量、并發(fā)、實時性上有較高的要求。設(shè)計C++程序時,總結(jié)起來可以從如下幾點提高效率: ● l 并發(fā) ● l 異步 ● l 緩存 下面將我平常工作中遇到一些問題例舉一二,其設(shè)計思想無非以上三點。 1任務(wù)隊列 1.1 以生產(chǎn)者-消費者模型設(shè)計任務(wù)隊列 生產(chǎn)者-消費者模型是人們非常熟悉的模型,比如在某個服務(wù)器程序中,當(dāng)User數(shù)據(jù)被邏輯模塊修改后,就產(chǎn)生一個更新數(shù)據(jù)庫的任務(wù)(produce),投遞給IO模塊任務(wù)隊列,IO模塊從任務(wù)隊列中取出任務(wù)執(zhí)行sql操作(consume)。 設(shè)計通用的任務(wù)隊列,示例代碼如下: 詳細實現(xiàn)可參見: http://ffown.googlecode.com/svn/trunk/fflib/include/detail/task_queue_impl.h
1.2 任務(wù)隊列使用技巧 1.2.1 IO 與 邏輯分離 比如網(wǎng)絡(luò)游戲服務(wù)器程序中,網(wǎng)絡(luò)模塊收到消息包,投遞給邏輯層后立即返回,繼續(xù)接受下一個消息包。邏輯線程在一個沒有io操作的環(huán)境下運行,以保障實時性。示例:
注意,此模式下為單任務(wù)隊列,每個任務(wù)隊列單線程。 1.2.2 并行流水線 上面的只是完成了io 和 cpu運算的并行,而cpu中邏輯操作是串行的。在某些場合,cpu邏輯運算部分也可實現(xiàn)并行,如游戲中用戶A種菜和B種菜兩種操作是完全可以并行的,因為兩個操作沒有共享數(shù)據(jù)。最簡單的方式是A、B相關(guān)的操作被分配到不同的任務(wù)隊列中。示例如下:
注意,此模式下為多任務(wù)隊列,每個任務(wù)隊列單線程。 1.2.3 連接池與異步回調(diào) 比如邏輯Service模塊需要數(shù)據(jù)庫模塊異步載入用戶數(shù)據(jù),并做后續(xù)處理計算。而數(shù)據(jù)庫模塊擁有一個固定連接數(shù)的連接池,當(dāng)執(zhí)行SQL的任務(wù)到來時,選擇一個空閑的連接,執(zhí)行SQL,并把SQL 通過回調(diào)函數(shù)傳遞給邏輯層。其步驟如下: ●n 預(yù)先分配好線程池,每個線程創(chuàng)建一個連接到數(shù)據(jù)庫的連接 ●n 為數(shù)據(jù)庫模塊創(chuàng)建一個任務(wù)隊列,所有線程都是這個任務(wù)隊列的消費者 ●n 邏輯層想數(shù)據(jù)庫模塊投遞sql執(zhí)行任務(wù),同時傳遞一個回調(diào)函數(shù)來接受sql執(zhí)行結(jié)果 示例如下:
注意,此模式下為單任務(wù)隊列,每個任務(wù)隊列多線程。 2. 日志 本文主要講C++多線程編程,日志系統(tǒng)不是為了提高程序效率,但是在程序調(diào)試、運行期排錯上,日志是無可替代的工具,相信開發(fā)后臺程序的朋友都會使用日志。常見的日志使用方式有如下幾種: ●n 流式,如logstream << “start servie time[%d]” << time(0) << ” app name[%s]” << app_string.c_str() << endl; ●n Printf 格式如:logtrace(LOG_MODULE, “start servie time[%d] app name[%s]“, time(0), app_string.c_str()); 二者各有優(yōu)缺點,流式是線程安全的,printf格式格式化字符串會更直接,但缺點是線程不安全,如果把app_string.c_str() 換成app_string (std::string),編譯被通過,但是運行期會crash(如果運氣好每次都crash,運氣不好偶爾會crash)。我個人鐘愛printf風(fēng)格,可以做如下改進: ●l 增加線程安全,利用C++模板的traits機制,可以實現(xiàn)線程安全。示例:
這樣,除了標(biāo)準(zhǔn)類型+std::string 傳入其他類型將編譯不能通過。這里只列舉了一個參數(shù)的例子,可以重載該版本支持更多參數(shù),如果你愿意,可以支持9個參數(shù)或更多。 ●l 為日志增加顏色,在printf中加入控制字符,可以再屏幕終端上顯示顏色,Linux下示例:printf(“\033[32;49;1m [DONE] \033[39;49;0m") http://hi.baidu.com/jiemnij/blog/item/d95df8c28ac2815cb219a80e.html ●l 每個線程啟動時,都應(yīng)該用日志打印該線程負責(zé)什么功能。這樣,程序跑起來的時候通過top –H – p pid 可以得知那個功能使用cpu的多少。實際上,我的每行日志都會打印線程id,此線程id非pthread_id,而其實是線程對應(yīng)的系統(tǒng)分配的進程id號。 3. 性能監(jiān)控 盡管已經(jīng)有很多工具可以分析c++程序運行性能,但是其大部分還是運行在程序debug階段。我們需要一種手段在debug和release階段都能監(jiān)控程序,一方面得知程序瓶頸之所在,一方面盡早發(fā)現(xiàn)哪些組件在運行期出現(xiàn)了異常。 通常都是使用gettimeofday 來計算某個函數(shù)開銷,可以精確到微妙?梢岳肅++的確定性析構(gòu),非常方便的實現(xiàn)獲取函數(shù)開銷的小工具,示例如下:
Cost 應(yīng)該被投遞到性能統(tǒng)計管理器中,該管理器定時講性能統(tǒng)計數(shù)據(jù)輸出到文件中。 4 Lambda 編程 使用foreach 代替迭代器 很多編程語言已經(jīng)內(nèi)建了foreach,但是c++還沒有。所以建議自己在需要遍歷容器的地方編寫foreach函數(shù)。習(xí)慣函數(shù)式編程的人應(yīng)該會非常鐘情使用foreach,使用foreach的好處多多少少有些,如: http://www.cnblogs.com/chsword/archive/2007/09/28/910011.html 但主要是編程哲學(xué)上層面的。 示例:
比如要實現(xiàn)dump 接口,不需要重寫關(guān)于迭代器的代碼
實際上,上面的代碼變通的生成了匿名函數(shù),如果是c++ 11 標(biāo)準(zhǔn)的編譯器,本可以寫的更簡潔一些:
但是我大部分時間編寫的程序都要運行在centos 上,你知道嗎它的gcc版本是gcc 4.1.2, 所以大部分時間我都是用變通的方式使用lambda函數(shù)。 Lambda 函數(shù)結(jié)合任務(wù)隊列實現(xiàn)異步 常見的使用任務(wù)隊列實現(xiàn)異步的代碼如下:
這樣做的缺點是,一個接口要響應(yīng)的寫兩遍函數(shù),如果一個函數(shù)的參數(shù)變了,那么另一個參數(shù)也要跟著改動。并且代碼也不是很美觀。使用lambda可以讓異步看起來更直觀,仿佛就是在接口函數(shù)中立刻完成一樣。示例代碼:
這樣當(dāng)要改動該接口時,直接在該接口內(nèi)修改代碼,非常直觀。 5. 奇技淫巧 利用shared_ptr 實現(xiàn)map/reduce Map/reduce的語義是先將任務(wù)劃分為多個任務(wù),投遞到多個worker中并發(fā)執(zhí)行,其產(chǎn)生的結(jié)果經(jīng)reduce匯總后生成最終的結(jié)果。Shared_ptr的語義是什么呢?當(dāng)最后一個shared_ptr析構(gòu)時,將會調(diào)用托管對象的析構(gòu)函數(shù)。語義和map/reduce過程非常相近。我們只需自己實現(xiàn)講請求劃分多個任務(wù)即可。示例過程如下: ●l 定義請求托管對象,加入我們需要在10個文件中搜索“oh nice”字符串出現(xiàn)的次數(shù),定義托管結(jié)構(gòu)體如下:
●l 定義執(zhí)行任務(wù)的 worker
●l 將任務(wù)分割后,投遞給不同的worker
本文出自:億恩科技【mszdt.com】 服務(wù)器租用/服務(wù)器托管中國五強!虛擬主機域名注冊頂級提供商!15年品質(zhì)保障!--億恩科技[ENKJ.COM] |