經(jīng)常聽到做SEO的朋友說引蜘蛛,到頭來很多小白朋友卻不明白是什么意思,其實這里所說的蜘蛛是搜索引擎蜘蛛,專業(yè)點來說就是搜索引擎派出來抓取索引網(wǎng)站內(nèi)容的程序。
由于這種程序幾乎遍布在互聯(lián)網(wǎng)的任何角落,就像一張蜘蛛網(wǎng),所以SEO業(yè)內(nèi)人士就形象稱其為“蜘蛛”。
引蜘蛛顧名思義就是吸引搜索引擎蜘蛛過來抓取咱們網(wǎng)站的內(nèi)容,因為只有我們的網(wǎng)站被搜索引擎抓到并展現(xiàn)出來,才能形成通過搜索引擎過來的流量。
答案是:發(fā)外鏈。
通常來講,蜘蛛活躍最平凡而且數(shù)量比較多的地方是那些權(quán)重高更新頻繁的網(wǎng)站,比如蜘蛛池、論壇、第三方自媒體博客、分類目錄等。
蜘蛛抓取我們的網(wǎng)站主要是通過URL過來,所以我們要將網(wǎng)站的URL放在蜘蛛活躍的地方,通過發(fā)外鏈的方式將蜘蛛引到我們自己的網(wǎng)站上從而實現(xiàn)網(wǎng)站被搜索引擎抓取的目的。
一般情況下,剛上線的新站需要引下蜘蛛加速網(wǎng)站收錄,之后我們把SEO做好點,讓蜘蛛喜歡上我們的網(wǎng)站之后就不需要再麻煩的去單獨引蜘蛛了,因為蜘蛛會慢慢活躍在我們的網(wǎng)站的各個角落。
一個網(wǎng)站365天不停地更新,就是為了吸引百度蜘蛛爬行。多多的收錄網(wǎng)站頁面,達到百度覆蓋。然后有的時候每天更新蜘蛛也不過來。文章寫得再好也沒法被收錄,那不收錄的話咋辦呢?
既然蜘蛛不來網(wǎng)站爬,那咱們就主動的把網(wǎng)站提交給蜘蛛,這樣會更快的讓你的網(wǎng)站被收錄到,達到一定的時間后。蜘蛛就會在每天的同一個時間點來爬行收錄。
①深度優(yōu)先遍歷策略
簡單理解,深度優(yōu)先遍歷策略主要是指建立一個起點,按照這個起點的順序,順序抓取鏈條上,沒有被抓取的每個節(jié)點。但有的時候,面對“無限循環(huán)”節(jié)點的時候,這一策略便顯得捉禁見肘。
②寬度優(yōu)先遍歷策略
寬度優(yōu)先便利策略,是早期搜索引擎常用的一種抓取策略,主要流程是提取整個頁面中的URL,其中未被抓取的URL,就被放入待抓取列隊,以此循環(huán)。
③PR優(yōu)先策略
RP優(yōu)先策略是一個非常注明的鏈接分析方法,它用于衡量網(wǎng)頁的重要性,通常它會計算一個頁面上URL的PR,按照從高到低的順序進行抓取。
由于PR值的計算,需要不斷的迭代更新,通常這里所采用的都是非完全PageRank策略。
④反鏈策略
反鏈策略,并沒有一個明確的官方文檔說明,這里小編認(rèn)為,它主要是基于反鏈的數(shù)量以及種子頁面的權(quán)威度,二者進行加權(quán)評估后,按照優(yōu)先順序抓取。
⑤社會化媒體分享策略
社會化媒體分析策略,主要是指一個URL在社交媒體中的流行度,它的轉(zhuǎn)載量,評論,轉(zhuǎn)發(fā)量,綜合指標(biāo)的評估。
言外之意,如果你的URL最先沒有在百度網(wǎng)址提交,而是出現(xiàn)在社交媒體中,比如:頭條文章,也是很有可能被百度抓取的。
對于搜索引擎而言,常見的抓取流程包括:種子頁URL提取->整理新的待抓取URL集合->合并更新鏈接(包括已經(jīng)抓取過的鏈接)->解析頁面內(nèi)容->進入鏈接總庫(索引庫)
其中,在解析頁面內(nèi)容,進入索引庫的時候,它需要經(jīng)過多層復(fù)雜的系統(tǒng)計算,評估目標(biāo)URL的質(zhì)量,從而決定是否進入低質(zhì)量庫。
對于合理引導(dǎo)蜘蛛爬行頁面,具體常見的操作是:
①內(nèi)容更新頻率
理論上,如果你的頁面更新頻率相對較高,那么搜索引擎自然爬蟲就是頻繁來訪,目的是抓取更多潛在的優(yōu)質(zhì)內(nèi)容。
②內(nèi)容更新質(zhì)量
言外之意,如果你長期頻繁更新低質(zhì)量內(nèi)容,是不可取的,特別是百度爬蟲而言,如果你定期輸出高質(zhì)量且具有稀缺性的內(nèi)容(獨特的視角)你會發(fā)現(xiàn)蜘蛛的來訪頻率很高,并且經(jīng)過一定周期的信任度累積,很容易達到“秒收錄”
③網(wǎng)站頁面穩(wěn)定
服務(wù)器的連通率是決定,搜索引擎蜘蛛是否能夠順利抓取的主要因素,如果你的網(wǎng)站經(jīng)常產(chǎn)生延遲,識別對抓取與索引產(chǎn)生重要影響。
④整站目標(biāo)權(quán)重
這是一個綜合性指標(biāo)的考慮,通常而言,高權(quán)重的站點,更受搜索引擎的親睞,蜘蛛抓取的也相對頻繁,但這個評級,并不是咱們SEO專員,簡單通過站長工具查詢的結(jié)果,而是百度自身,一個非常私密的評估體系。