總結一次C++ 程序優(yōu)化歷程
近期用到了一位師兄寫的C++程序,總體功能良好。使用不同的數(shù)據(jù)測試,發(fā)現(xiàn)了一個明顯的缺點:大數(shù)據(jù)量下,預處理過程耗時很長。中科院的某計算集群,普通隊列中的程序運行時間不能超過6個小時。而手上這套程序,大數(shù)據(jù)量下預處理就花了不止六個小時,結果當然是還沒開始就被結束了。
和天河二號的工作人員聯(lián)系,確認沒有執(zhí)行時間限制。于是開通了天河二號的賬號,把程序扔上去跑。執(zhí)行大數(shù)據(jù)量時,程序莫名被kill。詢問技術支持,得知是內存耗盡,建議每個節(jié)點的進程數(shù)少一點。如此折騰了兩次,大數(shù)據(jù)量的例子沒跑通,大部分時間都費在預處理上,然后程序崩了,又要調整參數(shù)重新再來。
耗時長,最多是多花點機時,問題不大。但是沒跑通的情況下每次要等五六個小時,然后才知道能否運行,測試然后反饋的過程太低效。忍無可忍,就開始進行優(yōu)化吧!
第一步,找出耗時的點。原來的程序輸出日志用的cout,沒有附帶時間,不能通過日志發(fā)現(xiàn)耗時的點。為了找出性能關鍵點,第一步是改進log,在輸出中加上時間。寫了一個Log類,替換掉cout,程序的輸出中就帶上時間了:
#include "../include/Log.hpp"
#include
#include
#include
#include
using namespace std;
namespace tlanyan {
string Log::datetimeFormat = "%F %T";
Log::Log()
{
}
void Log::info(const char* message) {
cout << getCurrentTime() << " [info] " << message << endl;
}
void Log::debug(const char* message) {
#if DEBUG
cout << getCurrentTime() << " [debug] " << message;
#endif;
}
const char* Log::getCurrentTime()
{
//locale::global(locale("zh_CN.utf8"));
time_t t = time(NULL);
char mbstr[512];
if (strftime(mbstr, sizeof(mbstr), Log::datetimeFormat.c_str(), localtime(&t))) {
return mbstr;
}
cerr << "獲取或格式化時間錯誤!" << endl;
exit(1);
}
Log::~Log()
{
}
}
// 調用示例:
Log::info("program begins...");
通過查看Log,定位到了耗時長的過程。
- 第一步,目測程序源代碼,找出問題所在。該段代碼比較好理解,主要是進行數(shù)據(jù)初始化和打標簽。程序中規(guī)中矩,都是操控內存中的數(shù)組,沒有磁盤、網(wǎng)絡、進程通信等耗時調用。審查代碼中發(fā)現(xiàn)第一個問題:內存重分配。程序聲明了vector,沒有指定大小,后續(xù)代碼中使用push_back對數(shù)組的每一項進行賦值。內存分配和數(shù)據(jù)拷貝的代價是很大的,這應該是一個性能點。修改代碼,聲明時指定數(shù)組大小。編譯并運行程序,結果表明省下了30%的耗時。
- 第二步,統(tǒng)計代碼的工作量。耗時過程的初始化數(shù)據(jù)量,大概是整個數(shù)據(jù)量的10%,就算其中內嵌了兩層循環(huán),也不應該耗時如此多。為了查看是否有額外工作量,加入了計數(shù)器。運行結果顯示,該段函數(shù)的計算量不大,耗時長應該有其他的原因。
- 第三步,根據(jù)經(jīng)驗判斷是緩存失效導致。第一反應是用valgrind查看緩存命中,但valgrind模擬運行的效率太差,幾個小時后kill掉放棄了。目測程序源碼,發(fā)現(xiàn)很多數(shù)據(jù)都是從全局內存讀取,沒有充分利用緩存。修改代碼,使用局部變量緩存全局數(shù)據(jù),接下來代碼中的數(shù)據(jù)使用緩存數(shù)據(jù)。經(jīng)過測試,效果非常明顯,提升了50%的效率。
- 第四步,查找其他性能熱點。經(jīng)過幾次小的調優(yōu)測試,發(fā)現(xiàn)一些全局內存訪問不可避免(隨機訪問,無法利用緩存),按照目前的方式難以繼續(xù)優(yōu)化。要大幅降低耗時需要重寫算法,目前無法保證對算法和程序意圖十分了解,遂暫時作罷。
優(yōu)化前后的結果對比:中等數(shù)據(jù)規(guī)模下,耗時從8'43"降到3'25";大數(shù)據(jù)量下,耗時從4h38'44"降到1h49'21"(注:使用自己的機器測試,CPU主頻3.46GHz,比中科院和天河二號集群的CPU主頻都要高,所以耗時短)。從數(shù)據(jù)看出,效果還是很明顯的。
以上就是C++ 程序優(yōu)化歷程總結的詳細內容,更多關于C++ 程序優(yōu)化的資料請關注腳本之家其它相關文章!
相關文章
VSCode遠程代碼開發(fā)及DNS隧道端口轉發(fā)實現(xiàn)遠程辦公代碼
這篇文章主要介紹了VSCode遠程代碼開發(fā)及DNS隧道端口轉發(fā)實現(xiàn)遠程辦公,本文通過圖文并茂的形式給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-04-04

