Nginx日志統(tǒng)計(jì)分析的常用命令總結(jié)
本文主要給大家總結(jié)了關(guān)于Nginx日志統(tǒng)計(jì)分析的一些常用命令，分享出來(lái)供大家參考學(xué)習(xí)，下面來(lái)一起看看詳細(xì)的介紹：
一、IP相關(guān)統(tǒng)計(jì)
統(tǒng)計(jì)IP訪問(wèn)量
awk '{print $1}' access.log | sort -n | uniq | wc -l查看某一時(shí)間段的IP訪問(wèn)量(4-5點(diǎn))
grep "07/Apr/2017:0[4-5]" access.log | awk '{print $1}' | sort | uniq -c| sort -nr | wc -l查看訪問(wèn)最頻繁的前100個(gè)IP
awk '{print $1}' access.log | sort -n |uniq -c | sort -rn | head -n 100查看訪問(wèn)100次以上的IP
awk '{print $1}' access.log | sort -n |uniq -c |awk '{if($1 >100) print $0}'|sort -rn查詢某個(gè)IP的詳細(xì)訪問(wèn)情況,按訪問(wèn)頻率排序
grep '104.217.108.66' access.log |awk '{print $7}'|sort |uniq -c |sort -rn |head -n 100二、頁(yè)面訪問(wèn)統(tǒng)計(jì)
查看訪問(wèn)最頻的頁(yè)面(TOP100)
awk '{print $7}' access.log | sort |uniq -c | sort -rn | head -n 100查看訪問(wèn)最頻的頁(yè)面([排除php頁(yè)面】(TOP100)
grep -v ".php" access.log | awk '{print $7}' | sort |uniq -c | sort -rn | head -n 100查看頁(yè)面訪問(wèn)次數(shù)超過(guò)100次的頁(yè)面
cat access.log | cut -d ' ' -f 7 | sort |uniq -c | awk '{if ($1 > 100) print $0}' | less查看最近1000條記錄，訪問(wèn)量最高的頁(yè)面
tail -1000 access.log |awk '{print $7}'|sort|uniq -c|sort -nr|less每秒請(qǐng)求量統(tǒng)計(jì)
統(tǒng)計(jì)每秒的請(qǐng)求數(shù),top100的時(shí)間點(diǎn)(精確到秒)
awk '{print $4}' access.log |cut -c 14-21|sort|uniq -c|sort -nr|head -n 100每分鐘請(qǐng)求量統(tǒng)計(jì)
統(tǒng)計(jì)每分鐘的請(qǐng)求數(shù),top100的時(shí)間點(diǎn)(精確到分鐘)
awk '{print $4}' access.log |cut -c 14-18|sort|uniq -c|sort -nr|head -n 100每小時(shí)請(qǐng)求量統(tǒng)計(jì)
統(tǒng)計(jì)每小時(shí)的請(qǐng)求數(shù),top100的時(shí)間點(diǎn)(精確到小時(shí))
awk '{print $4}' access.log |cut -c 14-15|sort|uniq -c|sort -nr|head -n 100三、性能分析
在nginx log中最后一個(gè)字段加入$request_time
列出傳輸時(shí)間超過(guò)3秒的頁(yè)面，顯示前20條
cat access.log|awk '($NF > 3){print $7}'|sort -n|uniq -c|sort -nr|head -20列出php頁(yè)面請(qǐng)求時(shí)間超過(guò)3秒的頁(yè)面，并統(tǒng)計(jì)其出現(xiàn)的次數(shù)，顯示前100條
cat access.log|awk '($NF > 1 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100四、蜘蛛抓取統(tǒng)計(jì)
統(tǒng)計(jì)蜘蛛抓取次數(shù)
grep 'Baiduspider' access.log |wc -l
統(tǒng)計(jì)蜘蛛抓取404的次數(shù)
grep 'Baiduspider' access.log |grep '404' | wc -l
五、TCP連接統(tǒng)計(jì)
查看當(dāng)前TCP連接數(shù)
netstat -tan | grep "ESTABLISHED" | grep ":80" | wc -l
用tcpdump嗅探80端口的訪問(wèn)看看誰(shuí)最高
tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." '{print $1"."$2"."$3"."$4}' | sort | uniq -c | sort -nr六、實(shí)例腳本
獲取前一分鐘nginx訪問(wèn)日志條數(shù)
#!/bin/bash export LANG=C export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin TIME=$(date -d "1 minute ago" +"%d/%h/%Y:%H:%M") grep "$TIME" /var/log/nginx/access.log | wc -l
獲取前一分鐘nginx錯(cuò)誤日志條數(shù)
#!/bin/bash export LANG=C export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin TIME=$(date -d "1 minute ago" +"%Y-%m-%d %H:%M") grep "$TIME" /var/log/nginx/error.log | wc -l
常用操作命令
根據(jù)訪問(wèn)ip統(tǒng)計(jì)UV
awk '{print $1}' access.log|sort | uniq -c |wc -l根據(jù)訪問(wèn)url統(tǒng)計(jì)PV量
awk '{print $7}' access.log | wc -l查詢?cè)L問(wèn)最頻繁的URL
awk '{print $7}' access.log|sort | uniq -c |sort -n -k 1 -r|more
查詢?cè)L問(wèn)最頻繁的IP
awk '{print $1}' access.log|sort | uniq -c |sort -n -k 1 -r|more
查詢傳輸時(shí)間超過(guò)3秒的頁(yè)面
cat access.log |awk '($NF > 3){print $7}'|sort -n|uniq -c|sort -nr|head -20統(tǒng)計(jì)某路由平均響應(yīng)時(shí)間
grep "/" access.log | awk '{print $NF}' | grep -P '\d{3}?$' | awk '{sum += $0;}END {if(sum==0)print 0;else print sum/NR}'
獲取每分鐘的請(qǐng)求數(shù)量，輸出到文件
cat access.log | awk '{print substr($4,14,5)}' | uniq -c | awk '{print $2","$1}' > access.txt
日志截取
# 從總?cè)罩疚募薪厝∽蛱煲徽斓臄?shù)據(jù)出來(lái)，并覆蓋到新文件中： cat access.log | awk '$4 >="[14/Mar/2023:00:00:00" && $4 <="[14/Mar/2023:23:59:59"' > access.2023051010.log
將某一時(shí)間段的日志輸出到文件中
# 打印一天的日志 cat access.log | egrep "2023-05-04" > test.log # 打印一小時(shí)的日志cat access.log | egrep "04/Jun/2023:10" > test.log #打印任意時(shí)間段的日志 sed -n '/04\/Jun\/2023:10/,/04\/Jun\/2023:12/p' access.log > test.log
備注
sort 排序
sort 默認(rèn)是升序，sort -r 降序
sort -u 去除重復(fù)行
uniq 去重
-i 忽略大小寫字符
-c 進(jìn)行計(jì)數(shù)
-u 只顯示唯一的行
cut 從文件文件中截取
-d 后接分割字符
-f 依據(jù)-d的分隔符將信息分割成數(shù)段，-f 取出第幾段
-c 以字符的單位取出固定字符區(qū)間
wc 統(tǒng)計(jì)文件里面有多少單詞，多少行，多少字符
-l ：僅列出行
-w ：僅列出多少字(英文單字)
-m ：多少字符最后提供一個(gè)綜合有用的腳本
#!/bin/bash
#此腳本用于統(tǒng)計(jì)nginx日志當(dāng)前時(shí)間n分鐘之內(nèi)不同接口的訪問(wèn)量統(tǒng)計(jì)
LOG=/mnt/data/nginx-1.20.1/logs/access.log
TMP=/tmp/url.tmp
URLSTATS=mnt/data/nginx-1.20.1/logs/urlstats.log
#刪除臨時(shí)統(tǒng)計(jì)文件
[ -f $TMP ] && rm -fr $TMP
for i in `seq 15`
do
d=`date +%d/%h/%Y:%H:%M -d "$i minutes ago"`
#將每個(gè)時(shí)間段的URL進(jìn)行統(tǒng)計(jì)并追加到臨時(shí)文件
awk -v b="$d" '{if ($4 ~ b)a[$7]++}END{for(i in a)printf("%-42s %-d\n", i,a[i])}' $LOG >> $TMP
done
#將匯總到臨時(shí)文件的URL統(tǒng)計(jì)進(jìn)行匯總
if [ -s $TMP ];then
awk '{a[$1]+=$2;}END{for(i in a)printf("%-42s %-d\n", i,a[i])}' $TMP | sort -nr -k2 > $URLSTATS
else
echo "沒(méi)有統(tǒng)計(jì)到相關(guān)數(shù)據(jù)"
fi總結(jié)
以上就是這篇文章的全部?jī)?nèi)容了，希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作能帶來(lái)一定的幫助，如果有疑問(wèn)大家可以留言交流，謝謝大家對(duì)腳本之家的支持。
相關(guān)文章
本文主要介紹了Nginx路徑匹配規(guī)則小結(jié)，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2023-03-03
Nginx?請(qǐng)求超時(shí)的實(shí)現(xiàn)
Nginx請(qǐng)求超時(shí)是服務(wù)器無(wú)法在規(guī)定時(shí)間內(nèi)完成對(duì)客戶端請(qǐng)求的響應(yīng),本文就來(lái)介紹一下Nginx?請(qǐng)求超時(shí)的實(shí)現(xiàn),具有一定的參考價(jià)值,感興趣的可以了解一下2025-02-02
Nginx 解決504錯(cuò)誤超時(shí)問(wèn)題小結(jié)
本文主要介紹了ginx出現(xiàn)504 Gateway Timeout錯(cuò)誤的原因,通常是因?yàn)槌绦驁?zhí)行時(shí)間過(guò)長(zhǎng)導(dǎo)致響應(yīng)超時(shí),下面就來(lái)介紹一下解決方法,具有一定的參考價(jià)值,感興趣的可以了解一下2025-02-02
今天小編就為大家分享一篇關(guān)于使用nginx設(shè)置代理服務(wù)器，小編覺(jué)得內(nèi)容挺不錯(cuò)的，現(xiàn)在分享給大家，具有很好的參考價(jià)值，需要的朋友一起跟隨小編來(lái)看看吧2018-12-12
nginx 多個(gè)location轉(zhuǎn)發(fā)任意請(qǐng)求或訪問(wèn)靜態(tài)資源文件的實(shí)現(xiàn)
這篇文章主要介紹了nginx 多個(gè)location轉(zhuǎn)發(fā)任意請(qǐng)求或訪問(wèn)靜態(tài)資源文件的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-11-11
修改Nginx源碼實(shí)現(xiàn)worker進(jìn)程隔離實(shí)現(xiàn)詳解
這篇文章主要為大家介紹了修改Nginx源碼實(shí)現(xiàn)worker進(jìn)程隔離實(shí)現(xiàn)詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-10-10
nginx 代理服務(wù)器配置雙向證書(shū)驗(yàn)證的方法
這篇文章主要介紹了nginx 代理服務(wù)器配置雙向證書(shū)驗(yàn)證的方法，小編覺(jué)得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2019-02-02
解決nginx啟動(dòng)失敗(bind()?to?0.0.0.0:80?failed，An?attempt?was?
這篇文章主要介紹了解決nginx啟動(dòng)失敗問(wèn)題(bind()?to?0.0.0.0:80?failed,An?attempt?was?made?to?access?a?socket?in?...),具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-05-05
這篇文章主要介紹了Nginx整合Kafka的方法示例，nginx整合kafak后，可以將nginx中的數(shù)據(jù)，直接保存到kafka中，感興趣的小伙伴們可以參考一下2018-10-10
ubuntu上配置Nginx+PHP5 FastCGI服務(wù)器配置
ubuntu上配置Nginx+PHP5 FastCGI服務(wù)器配置方法， 需要的朋友可以參考下。2010-06-06