搜索引擎的組成部分：蜘蛛、指數、界面

    搜索引擎的歷史并不長，但搜索引擎為互聯網所作出的巨大貢獻卻顯而易見，搜索引擎改變了世界，改變了用戶的使用習慣，讓我對互聯網的未來充溢信心。

    搜索引擎起步的時候做的并不好，第一個搜索引擎甚至沒有分析網頁的副本，而且沒有排名的規(guī)范，為了深度挖掘商業(yè)潛力，這才推動搜索引擎漸漸發(fā)展，研發(fā)更先進的系統。

    第一個比較大的商業(yè)搜索引擎是美國的斯坦福大學， 2001 年花 65 億美元購買了 @ 主頁。開始推廣的時候，最大的競爭對手是網址站，主要是因為那時候搜索結果中很多都是垃圾郵件，而且人們還不習慣用搜索引擎。

    元標記是協助搜索引擎排序的一個工具，通常叫做關鍵詞堆砌。一旦搜索關鍵詞，那關鍵字和元標志就會告訴搜索引擎內容是哪一頁，很短的時間做好中繼標記工作，提供相關搜索結果，但隨著一些企業(yè)的市場營銷經驗增加，很容易提高關鍵詞的排名，那時候比較流行 “ 貸款、貸款、貸款 ” 之類的關鍵詞堆砌，所以當時搜索引擎的垃圾信息泛濫成災，造成許多用戶的不信任感。

    那時候一些重要的搜索引擎包括： EINet 銀河、 WebCrawl 萊科斯、 Infoseek Inktomi Ask AllTheWeb 等。

每一個搜索引擎都有三個主要部分組成：

1 蜘蛛

    蜘蛛的工作職責是發(fā)現新的網頁并收集這些網頁的快照，然后分析該網頁。

蜘蛛以抓取頁面為主，比如掃描網頁，所有的搜索引擎都能夠實現深層檢索和快速檢索。深層檢索中，蜘蛛可以查找和掃描網頁內的所有內容；快速檢索中，蜘蛛不遵循深層檢索的規(guī)則，只搜索重要的關鍵詞局部，而不檢查和掃描網頁里的所有內容。

    大家都知道網站最重要的快照時間，也就是說蜘蛛爬行和收錄的網頁速度越快，就說明這個網站在搜索引擎心中越重要，比如新華網和人民網，蜘蛛每小時爬 4 次以上，有的網站一個月也不見得能被蜘蛛爬一次。快照的抓取程度取決于網站內容的流行度、更新速度與網站域名的新舊。

蜘蛛的爬行規(guī)則中，如果有許多外部鏈接指向這個網站，那就說明這個網站比較重要，所以抓取這個網站的頻率很高。當然，搜索引擎這樣做也是為了省錢，如果都以同樣的頻率爬行所有網站，這樣需要更多的時間和成本，才干得到更全面的搜索結果。

2 指數

    蜘蛛在爬行的過程中，可能會重復檢查網頁的內容，然后檢查網站內容是否是復制其他網站的以保證網站原創(chuàng)內容的指數，該指數的結果一般都是基本堅持復制內容的排序搜索結果。當你進行搜索時，搜索引擎不會從網絡上搜索，會從指數中選擇搜索結果，所以搜索得到網頁數量并不能代表整個網站，但蜘蛛會在后臺掃描和保存網站的網頁數量。

    搜索結果數量中，谷歌 1-10 個搜索結果約為 16.05 萬，還有每個區(qū)域的搜索結果排名，這些都可以用搜索引擎的算法指數來控制，或者說是控制一部分。

每個搜索引擎在全國或全世界各地都建立數據中心，當你輸入需要搜索的關鍵詞的時候，會由于數據更新的時間不同而致搜索結果同步，所以在不同的地區(qū)就會出現不同的搜索結果。

3 Web 界面

    當你使用搜索引擎所看到界面（比方 google.com baidu.com 搜索結果取決于復雜的算法，算法都是從指數內調用結果，通過查詢并分析才能在前臺顯示，所以算法的制作時間比較長，谷歌在這個技術領域上領先。

還有一些搜索引擎的一站式 ” 特性，這類特性在英文搜索上比較常見，一般來說，搜索引擎忽略 “ 一站式 ” 話，這樣的搜索結果將更加正確，比如搜索 “ 貓，狗 ” 時候，搜索引擎會排除 “ 貓和狗 ” 只搜索 “ 貓 ” 狗 ”

    關鍵詞密度是衡量一個關鍵詞出現在網頁上的頻率，一般搜索引擎看到某網頁上的關鍵詞逾越密度范圍，那它就會分析該網頁是否作弊，現在搜索引擎可以做到任何地域的字詞相關度處理。所以在一般情況下，關鍵詞應該在整個網頁中分散，但一定要有某個標題或段落長期不變。

    搜索引擎還有個核心分析技術就是鏈接的相關性分析，除了網頁排名和一般的鏈接，谷歌還看重錨文本鏈接，錨文本鏈接主要在于鏈接的年齡和位置，還有該鏈接的網頁是否屬于權威網站等。

鏈接是最大的網站質量指標，搜索引擎都很關注著，因為現在友情鏈接比較難找，而你又很需要友情鏈接，所以鏈接中很少有垃圾信息。比如大學的網站在谷歌的權重很高，那是由于大學有很多高質量的外部鏈接。隨著大家都了解到外部鏈接的重要性后，很多網站開始買賣鏈接，這也是現在搜索引擎比較頭疼的問題，不過 ask 現在判定網站排名更多在于網站的質量。

    所有的搜索引擎都希望得到用戶反饋的信息，期待在查詢之前、搜索查詢、時間間隔、和語義關系等方面，能更加了解到用戶的意圖，還會跟蹤用戶的點擊，如果用戶點擊一個物品，然后又馬上回到搜索頁面，那搜索引擎就會認為這個購買不成功，會刪除跟蹤清單，其實這種做法已經在向電子商務靠近了

由此可以看出，搜索引擎已經開始注重用戶體驗，為了做讓用戶肯定自己的勞動效果，并成為搜索引擎行業(yè)的一個標準，或許未來的發(fā)展就在個性化搜索。