什么是日志？

飛機(jī)的日志：黑匣子

電腦的日志：電腦管理-事件查看器-應(yīng)用程序

關(guān)于網(wǎng)站的日志分析，這是SEO數(shù)據(jù)分析重點重要一環(huán)，好的SEOer能夠通過網(wǎng)站的日志分析出來網(wǎng)站目前是否是健康的
，是否被人攻擊。

網(wǎng)站日志分析有什么用？
1、重要的頻道(大量流量著陸頁面，高轉(zhuǎn)化率，用戶直接交易頁面等)有更多的爬蟲來抓取;
2、在爬蟲一定的抓取時間內(nèi)，盡量少花精力放在一些無用的噪音頁面上(重復(fù)頁面，低質(zhì)量頁面，空內(nèi)容頁面，404頁  

 面，不排名頁面，低轉(zhuǎn)化頁面等);
3、爬蟲在抓取頁面的時候，盡量增加抓取的有效性，而不是重復(fù)抓取幾篇相同的頁面;
4、爬蟲不會被繁雜的URL參數(shù)所擾，不會進(jìn)入無休止的爬蟲陷阱中;
5、每個頁面的下載時間足夠的快，這樣，可以讓爬蟲在時間一定的基礎(chǔ)上能夠更多的抓取頁面;
6、爬蟲都能夠完整的抓到我們想讓他抓的頁面，不要抓到我們的隱私頁面;
7、日志中不要有太多的404，不要有無理由的跳轉(zhuǎn)，不要有很多的500(服務(wù)器錯誤),這樣的情況出現(xiàn);
8、那些更新頻繁但是價值很低的頁面不要吸引太多的爬蟲精力;
9、我們所有的產(chǎn)品，所有的品類，所有一切有用的東西都要被爬蟲完整爬到并且快速遍歷;
10、能用碰到真正的爬蟲，而不是一些模擬爬蟲的機(jī)器人;
11、爬蟲能夠完整的下載到我們的robots.txt;
12、爬蟲可以根據(jù)我們?nèi)肟诘恼{(diào)整，robots.txt的限制引導(dǎo)，JS的設(shè)計等按照我們的要求進(jìn)行爬取;
13、爬蟲越多越好。。。對我們的興趣越大越好，當(dāng)然，一切是在我們自身信任度和重要度增加的基礎(chǔ)上。

網(wǎng)站日志分析需要從哪些維度進(jìn)行分析

1、網(wǎng)站日志中的搜索引擎爬蟲類型，以目前國內(nèi)的搜索引擎時?？?，從日志中可以看到的爬蟲大體有:
百度蜘蛛（包括PC移動及渲染蜘蛛等，具體spider名稱不做闡述，站長平臺均有詳細(xì)蜘蛛講解）；
搜狗蜘蛛、360蜘蛛、神馬蜘蛛、頭條蜘蛛（具體spider名稱不做闡述，站長平臺均有詳細(xì)蜘蛛講解）；
各蜘蛛的抓取占比應(yīng)與目前搜索引擎所占市場份額相差不大；需注意的是神馬為移動端站長平臺；

2、抓取鏈接
分析各個爬蟲抓取鏈接的結(jié)構(gòu)類型，例如目錄頁面還是詳情頁或者serch頁面JS鏈接等；

分析各個類型抓取占比是否正常；
分析爬蟲抓取鏈接的時間規(guī)律，比如百度，在哪個時間端的來訪抓取量最大，抓取時間線可了解；
分析訪問鏈接與抓取鏈接的關(guān)聯(lián)；

3、抓取量級
計算總抓取量級，各個爬蟲抓取量級、各個鏈接類型抓取量級，是否在正常范圍；

4、狀態(tài)碼
200、301、302、304、404、403、500、502等（根據(jù)抓取鏈接狀態(tài)碼分析網(wǎng)站是否正常等）

5、IP是否對應(yīng)
是否存在偽爬蟲IP段、是否存在采集、掃描、攻擊等行為，將異常IP段及爬蟲進(jìn)行封禁；

6、新增抓取量
分析近期站內(nèi)新生成鏈接的抓取占比、抓取次數(shù)等

常用網(wǎng)站日志分析工具

1、天眼日志分析系統(tǒng)
軟件介紹：
天眼日志分析系統(tǒng)是中國推廣學(xué)院推出的一套針對SEO日志分析軟件，支持windows和linux等操作系統(tǒng)的日志分析。包

括對百度、谷歌、360和搜狗等搜索引擎蜘蛛爬行情況分析。另外軟件獨(dú)創(chuàng)網(wǎng)站安全分析，和IP黑名單功能。軟件兼容

性強(qiáng)可以在本機(jī)和服務(wù)器系統(tǒng)直接運(yùn)行。是目前國內(nèi)出色的SEO日志分析系統(tǒng)。

2、愛站日志分析

軟件介紹：
愛站日志分析工具是一款由愛站打造的日志分析軟件，能幫助站長進(jìn)行日志分析工作，即時監(jiān)控蜘蛛訪問狀況，發(fā)現(xiàn)問

題，及時處理。此工具可以自動識別IIS、Apache、Nginx日志格式,支持直接拖拽日志一個或多個文件（夾）至窗口進(jìn)

行分析，每一項數(shù)據(jù)都分別以“數(shù)據(jù)顯示”和“圖形顯示”兩種不同方式向用戶展示數(shù)據(jù)結(jié)果。


愛站SEO工具包之網(wǎng)站日志分析工具使用方法
http://gongju.aizhan.com/course/32.html

網(wǎng)站日志分析工具視頻教程 - 愛站seo工具包
http://gongju.aizhan.com/jc_7.html