20多個Linux命令分析日誌,太全了!

原文連結:https://www.cnblogs.com/lvzhenjiang/p/16251416.html
1、檢視有多少個IP訪問

awk '{print $1}' log_file|sort|uniq|wc -l

2、檢視某一個頁面被訪問的次數

grep "/index.php" log_file | wc -l

3、檢視每一個IP訪問了多少個頁面

awk '{++S[$1]} END {for (a in S) print a,S[a]}' log_file | sort -n -t ' ' -k 2

4、將每個IP訪問的頁面數進行從小到大排序

awk '{++S[$1]} END {for (a in S) print S[a],a}' log_file | sort -n

5、檢視某一個IP訪問了哪些頁面

grep ^111.111.111.111 log_file| awk '{print $1,$7}'

6、去掉搜尋引擎統計的頁面

awk '{print $12,$1}' log_file | grep ^\"Mozilla | awk '{print $2}' |sort | uniq | wc -l

7、檢視2015年8月16日14時這一個小時內有多少IP訪問

awk '{print $4,$1}' log_file | grep 16/Aug/2015:14 | awk '{print $2}'| sort | uniq | wc -l

8、檢視訪問前十個ip地址

awk '{print $1}' |sort|uniq -c|sort -nr |head -10 access_log

uniq -c 相當於分組統計並把統計數放在最前面

cat access.log|awk '{print $1}'|sort|uniq -c|sort -nr|head -10
cat access.log|awk '{counts[$(11)]+=1}; END {for(url in counts) print counts[url], url}

9、訪問次數最多的10個檔案或頁面

cat log_file|awk '{print $11}'|sort|uniq -c|sort -nr | head -10
cat log_file|awk '{print $11}'|sort|uniq -c|sort -nr|head -20
awk '{print $1}' log_file |sort -n -r |uniq -c | sort -n -r | head -20

訪問量最大的前20個ip
10、透過子域名訪問次數,依據referer來計算,稍有不準

cat access.log | awk '{print $11}' | sed -e ' s/http:\/\///' -e ' s/\/.*//' | sort | uniq -c | sort -rn | head -20

11、列出傳輸大小最大的幾個檔案

cat www.access.log |awk '($7~/\.php/){print $10 " " $1 " " $4 " " $7}'|sort -nr|head -100

12、列出輸出大於200000byte(約200kb)的頁面以及對應頁面發生次數

cat www.access.log |awk '($10 > 200000 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100

13、如果日誌最後一列記錄的是頁面檔案傳輸時間,則有列出到客戶端最耗時的頁面

cat www.access.log |awk '($7~/\.php/){print $NF " " $1 " " $4 " " $7}'|sort -nr|head -100

14、列出最最耗時的頁面(超過60秒的)的以及對應頁面發生次數

cat www.access.log |awk '($NF > 60 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100

15、列出傳輸時間超過 30 秒的檔案

cat www.access.log |awk '($NF > 30){print $7}'|sort -n|uniq -c|sort -nr|head -20

16、列出當前伺服器每一程序執行的數量,倒序排列

ps -ef | awk -F ' ' '{print $8 " " $9}' |sort | uniq -c |sort -nr |head -20

17、檢視apache當前併發訪問數
對比httpd.conf中MaxClients的數字差距多少

netstat -an | grep ESTABLISHED | wc -l

18、可以使用如下引數檢視資料

ps -ef|grep httpd|wc -l
1388

統計httpd程序數,連個請求會啟動一個程序,使用於Apache伺服器。
表示Apache能夠處理1388個併發請求,這個值Apache可根據負載情況自動調整

netstat -nat|grep -i "80"|wc -l
4341

netstat -an會列印系統當前網路連結狀態,而grep -i “80”是用來提取與80埠有關的連線的,wc -l進行連線數統計。最終返回的數字就是當前所有80埠的請求總數

netstat -na|grep ESTABLISHED|wc -l
376

netstat -an會列印系統當前網路連結狀態,而grep ESTABLISHED 提取出已建立連線的資訊。然後wc -l統計最終返回的數字就是當前所有80埠的已建立連線的總數。

netstat -nat||grep ESTABLISHED|wc

可檢視所有建立連線的詳細記錄
19、輸出每個ip的連線數,以及總的各個狀態的連線數

netstat -n | awk '/^tcp/ {n=split($(NF-1),array,":");if(n<=2)++S[array[(1)]];else++S[array[(4)]];++s[$NF];++N} END {for(a in S){printf("%-20s %s\n", a, S[a]);++I}printf("%-20s %s\n","TOTAL_IP",I);for(a in s) printf("%-20s %s\n",a, s[a]);printf("%-20s %s\n","TOTAL_LINK",N);}'

20、其他的收集
分析日誌檔案下 2012-05-04 訪問頁面最高 的前20個 URL 並排序:

cat access.log |grep '04/May/2012'| awk '{print $11}'|sort|uniq -c|sort -nr|head -20

查詢受訪問頁面的URL地址中 含有 www.abc.com 網址的 IP 地址:

cat access_log | awk '($11~/\www.abc.com/){print $1}'|sort|uniq -c|sort -nr

獲取訪問最高的10個IP地址 同時也可以按時間來查詢:

cat linewow-access.log|awk '{print $1}'|sort|uniq -c|sort -nr|head -10

時間段查詢日誌時間段的情況:

cat log_file | egrep '15/Aug/2015|16/Aug/2015' |awk '{print $1}'|sort|uniq -c|sort -nr|head -10

分析 2015/8/15 到 2015/8/16 訪問/index.php?g=Member&m=Public&a=sendValidCode的IP倒序排列:

cat log_file | egrep '15/Aug/2015|16/Aug/2015' | awk '{if($7 == "/index.php?g=Member&m=Public&a=sendValidCode") print $1,$7}'|sort|uniq -c|sort -nr

($7~/.php/) $7裡面包含.php的就輸出,本句的意思是最耗時的一百個PHP頁面

cat log_file |awk '($7~/\.php/){print $NF " " $1 " " $4 " " $7}'|sort -nr|head -100

列出最最耗時的頁面(超過60秒的)的以及對應頁面發生次數:

cat access.log |awk '($NF > 60 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100

統計網站流量(G):

cat access.log |awk '{sum+=$10} END {print sum/1024/1024/1024}'

統計404的連線:

awk '($9 ~/404/)' access.log | awk '{print $9,$7}' | sort

統計http status:

cat access.log |awk '{counts[$(9)]+=1}; END {for(code in counts) print code, counts[code]}'
cat access.log |awk '{print $9}'|sort|uniq -c|sort -rn

每秒併發:

watch "awk '{if($9~/200|30|404/)COUNT[$4]++}END{for( a in COUNT) print a,COUNT[a]}' log_file|sort -k 2 -nr|head -n10"

頻寬統計:

cat apache.log |awk '{if($7~/GET/) count++}END{print "client_request="count}'

找出某天訪問次數最多的10個IP:

cat /tmp/access.log | grep "20/Mar/2011" |awk '{print $3}'|sort |uniq -c|sort -nr|head

當天ip連線數最高的ip都在幹些什麼:

cat access.log | grep "10.0.21.17" | awk '{print $8}' | sort | uniq -c | sort -nr | head -n 10

小時單位裡ip連線數最多的10個時段:

awk -vFS="[:]" '{gsub("-.*","",$1);num[$2" "$1]++}END{for(i in num)print i,num[i]}' log_file | sort -n -k 3 -r | head -10

找出訪問次數最多的幾個分鐘:

awk '{print $1}' access.log | grep "20/Mar/2011" |cut -c 14-18|sort|uniq -c|sort -nr|head

END
官方站點:www.linuxprobe.com
 Linux命令大全:www.linuxcool.com

劉遄老師QQ:5604215
Linux技術交流群:2636170
(新群,火熱加群中……)
想要學習Linux系統的讀者可以點選"閱讀原文"按鈕來了解書籍《Linux就該這麼學》,同時也非常適合專業的運維人員閱讀,成為輔助您工作的高價值工具書!


相關文章