原文連結:https://www.cnblogs.com/lvzhenjiang/p/16251416.html
1、檢視有多少個IP訪問
awk '{print $1}' log_file|sort|uniq|wc -l
|
2、檢視某一個頁面被訪問的次數
grep "/index.php" log_file | wc -l
|
3、檢視每一個IP訪問了多少個頁面
awk '{++S[$1]} END {for (a in S) print a,S[a]}' log_file | sort -n -t ' ' -k 2
|
4、將每個IP訪問的頁面數進行從小到大排序
awk '{++S[$1]} END {for (a in S) print S[a],a}' log_file | sort -n
|
5、檢視某一個IP訪問了哪些頁面
grep ^111.111.111.111 log_file| awk '{print $1,$7}'
|
6、去掉搜尋引擎統計的頁面
awk '{print $12,$1}' log_file | grep ^\"Mozilla | awk '{print $2}' |sort | uniq | wc -l
|
7、檢視2015年8月16日14時這一個小時內有多少IP訪問
awk '{print $4,$1}' log_file | grep 16/Aug/2015:14 | awk '{print $2}'| sort | uniq | wc -l
|
8、檢視訪問前十個ip地址
awk '{print $1}' |sort|uniq -c|sort -nr |head -10 access_log
|
uniq -c 相當於分組統計並把統計數放在最前面
cat access.log|awk '{print $1}'|sort|uniq -c|sort -nr|head -10
|
cat access.log|awk '{counts[$(11)]+=1}; END {for(url in counts) print counts[url], url}
|
9、訪問次數最多的10個檔案或頁面
cat log_file|awk '{print $11}'|sort|uniq -c|sort -nr | head -10
|
cat log_file|awk '{print $11}'|sort|uniq -c|sort -nr|head -20
|
awk '{print $1}' log_file |sort -n -r |uniq -c | sort -n -r | head -20
|
訪問量最大的前20個ip
10、透過子域名訪問次數,依據referer來計算,稍有不準
cat access.log | awk '{print $11}' | sed -e ' s/http:\/\///' -e ' s/\/.*//' | sort | uniq -c | sort -rn | head -20
|
11、列出傳輸大小最大的幾個檔案
cat www.access.log |awk '($7~/\.php/){print $10 " " $1 " " $4 " " $7}'|sort -nr|head -100
|
12、列出輸出大於200000byte(約200kb)的頁面以及對應頁面發生次數
cat www.access.log |awk '($10 > 200000 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100
|
13、如果日誌最後一列記錄的是頁面檔案傳輸時間,則有列出到客戶端最耗時的頁面
cat www.access.log |awk '($7~/\.php/){print $NF " " $1 " " $4 " " $7}'|sort -nr|head -100
|
14、列出最最耗時的頁面(超過60秒的)的以及對應頁面發生次數
cat www.access.log |awk '($NF > 60 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100
|
15、列出傳輸時間超過 30 秒的檔案
cat www.access.log |awk '($NF > 30){print $7}'|sort -n|uniq -c|sort -nr|head -20
|
16、列出當前伺服器每一程序執行的數量,倒序排列
ps -ef | awk -F ' ' '{print $8 " " $9}' |sort | uniq -c |sort -nr |head -20
|
17、檢視apache當前併發訪問數
對比httpd.conf中MaxClients的數字差距多少
netstat -an | grep ESTABLISHED | wc -l
|
18、可以使用如下引數檢視資料
統計httpd程序數,連個請求會啟動一個程序,使用於Apache伺服器。
表示Apache能夠處理1388個併發請求,這個值Apache可根據負載情況自動調整
netstat -nat|grep -i "80"|wc -l
|
|
netstat -an會列印系統當前網路連結狀態,而grep -i “80”是用來提取與80埠有關的連線的,wc -l進行連線數統計。最終返回的數字就是當前所有80埠的請求總數
netstat -na|grep ESTABLISHED|wc -l
|
|
netstat -an會列印系統當前網路連結狀態,而grep ESTABLISHED 提取出已建立連線的資訊。然後wc -l統計最終返回的數字就是當前所有80埠的已建立連線的總數。
netstat -nat||grep ESTABLISHED|wc
|
可檢視所有建立連線的詳細記錄
19、輸出每個ip的連線數,以及總的各個狀態的連線數
netstat -n | awk '/^tcp/ {n=split($(NF-1),array,":");if(n<=2)++S[array[(1)]];else++S[array[(4)]];++s[$NF];++N} END {for(a in S){printf("%-20s %s\n", a, S[a]);++I}printf("%-20s %s\n","TOTAL_IP",I);for(a in s) printf("%-20s %s\n",a, s[a]);printf("%-20s %s\n","TOTAL_LINK",N);}'
|
20、其他的收集
分析日誌檔案下 2012-05-04 訪問頁面最高 的前20個 URL 並排序:
cat access.log |grep '04/May/2012'| awk '{print $11}'|sort|uniq -c|sort -nr|head -20
|
查詢受訪問頁面的URL地址中 含有 www.abc.com 網址的 IP 地址:
cat access_log | awk '($11~/\www.abc.com/){print $1}'|sort|uniq -c|sort -nr
|
獲取訪問最高的10個IP地址 同時也可以按時間來查詢:
cat linewow-access.log|awk '{print $1}'|sort|uniq -c|sort -nr|head -10
|
時間段查詢日誌時間段的情況:
cat log_file | egrep '15/Aug/2015|16/Aug/2015' |awk '{print $1}'|sort|uniq -c|sort -nr|head -10
|
分析 2015/8/15 到 2015/8/16 訪問/index.php?g=Member&m=Public&a=sendValidCode
的IP倒序排列:
cat log_file | egrep '15/Aug/2015|16/Aug/2015' | awk '{if($7 == "/index.php?g=Member&m=Public&a=sendValidCode") print $1,$7}'|sort|uniq -c|sort -nr
|
($7~/.php/) $7裡面包含.php的就輸出,本句的意思是最耗時的一百個PHP頁面
cat log_file |awk '($7~/\.php/){print $NF " " $1 " " $4 " " $7}'|sort -nr|head -100
|
列出最最耗時的頁面(超過60秒的)的以及對應頁面發生次數:
cat access.log |awk '($NF > 60 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100
|
統計網站流量(G):
cat access.log |awk '{sum+=$10} END {print sum/1024/1024/1024}'
|
統計404的連線:
awk '($9 ~/404/)' access.log | awk '{print $9,$7}' | sort
|
統計http status:
cat access.log |awk '{counts[$(9)]+=1}; END {for(code in counts) print code, counts[code]}'
|
cat access.log |awk '{print $9}'|sort|uniq -c|sort -rn
|
每秒併發:
watch "awk '{if($9~/200|30|404/)COUNT[$4]++}END{for( a in COUNT) print a,COUNT[a]}' log_file|sort -k 2 -nr|head -n10"
|
頻寬統計:
cat apache.log |awk '{if($7~/GET/) count++}END{print "client_request="count}'
|
找出某天訪問次數最多的10個IP:
cat /tmp/access.log | grep "20/Mar/2011" |awk '{print $3}'|sort |uniq -c|sort -nr|head
|
當天ip連線數最高的ip都在幹些什麼:
cat access.log | grep "10.0.21.17" | awk '{print $8}' | sort | uniq -c | sort -nr | head -n 10
|
小時單位裡ip連線數最多的10個時段:
awk -vFS="[:]" '{gsub("-.*","",$1);num[$2" "$1]++}END{for(i in num)print i,num[i]}' log_file | sort -n -k 3 -r | head -10
|
找出訪問次數最多的幾個分鐘:
awk '{print $1}' access.log | grep "20/Mar/2011" |cut -c 14-18|sort|uniq -c|sort -nr|head
|
官方站點:www.linuxprobe.com
Linux命令大全:www.linuxcool.com
劉遄老師QQ:5604215
Linux技術交流群:2636170
(新群,火熱加群中……)
想要學習Linux系統的讀者可以點選"閱讀原文"按鈕來了解書籍《Linux就該這麼學》,同時也非常適合專業的運維人員閱讀,成為輔助您工作的高價值工具書!