激情五月天婷婷,亚洲愉拍一区二区三区,日韩视频一区,a√天堂中文官网8

<ul id="buwfs"><strike id="buwfs"><strong id="buwfs"></strong></strike></ul>
    <output id="buwfs"></output>
  • <dfn id="buwfs"><source id="buwfs"></source></dfn>
      <dfn id="buwfs"><td id="buwfs"></td></dfn>
      <div id="buwfs"><small id="buwfs"></small></div>
      <dfn id="buwfs"><source id="buwfs"></source></dfn>
      1. <dfn id="buwfs"><td id="buwfs"></td></dfn>
        始創(chuàng)于2000年 股票代碼:831685
        咨詢熱線:0371-60135900 注冊有禮 登錄
        • 掛牌上市企業(yè)
        • 60秒人工響應(yīng)
        • 99.99%連通率
        • 7*24h人工
        • 故障100倍補(bǔ)償
        全部產(chǎn)品
        您的位置: 網(wǎng)站首頁 > 幫助中心>文章內(nèi)容

        禁止搜索引擎收錄的方法

        發(fā)布時(shí)間:  2012/9/18 10:33:37

        1. 什么是robots.txt文件? 

            搜索引擎使用spider程序自動訪問互聯(lián)網(wǎng)上的網(wǎng)頁并獲取網(wǎng)頁信息。spider在訪問一個網(wǎng)站時(shí),會首先會檢查該網(wǎng)站的根域下是否有一個叫做 robots.txt的純文本文件,這個文件用于指定spider在您網(wǎng)站上的抓取范圍。您可以在您的網(wǎng)站中創(chuàng)建一個robots.txt,在文件中聲明 該網(wǎng)站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分。                
            請注意,僅當(dāng)您的網(wǎng)站包含不希望被搜索引擎收錄的內(nèi)容時(shí),才需要使用robots.txt文件。如果您希望搜索引擎收錄網(wǎng)站上所有內(nèi)容,請勿建立robots.txt文件。            

        2. robots.txt文件放在哪里? 

            robots.txt文件應(yīng)該放置在網(wǎng)站根目錄下。舉例來說,當(dāng)spider訪問一個網(wǎng)站(比如 http://www.abc.com)時(shí),首先會檢查該網(wǎng)站中是否存在http://www.abc.com/robots.txt這個文件,如果 Spider找到這個文件,它就會根據(jù)這個文件的內(nèi)容,來確定它訪問權(quán)限的范圍。

        網(wǎng)站 URL 相應(yīng)的 robots.txt的 URL
        http://www.w3.org/
        http://www.w3.org/robots.txt
        http://www.w3.org:80/
        http://www.w3.org:80/robots.txt
        http://www.w3.org:1234/
        http://www.w3.org:1234/robots.txt
        http://w3.org/
        http://w3.org/robots.txt

         

        3. 我在robots.txt中設(shè)置了禁止百度收錄我網(wǎng)站的內(nèi)容,為何還出現(xiàn)在百度搜索結(jié)果中?

            如果其他網(wǎng)站鏈接了您robots.txt文件中設(shè)置的禁止收錄的網(wǎng)頁,那么這些網(wǎng)頁仍然可能會出現(xiàn)在百度的搜索結(jié)果中,但您的網(wǎng)頁上的內(nèi)容不會被抓取、建入索引和顯示,百度搜索結(jié)果中展示的僅是其他網(wǎng)站對您相關(guān)網(wǎng)頁的描述。

         

        4. 禁止搜索引擎跟蹤網(wǎng)頁的鏈接,而只對網(wǎng)頁建索引

            如果您不想搜索引擎追蹤此網(wǎng)頁上的鏈接,且不傳遞鏈接的權(quán)重,請將此元標(biāo)記置入網(wǎng)頁的<HEAD> 部分:
        <meta name="robots" content="nofollow">
            如果您不想百度追蹤某一條特定鏈接,百度還支持更精確的控制,請將此標(biāo)記直接寫在某條鏈接上:
        <a href="signin.php" rel="nofollow">signin</a>
            要允許其他搜索引擎跟蹤,但僅防止百度跟蹤您網(wǎng)頁的鏈接,請將此元標(biāo)記置入網(wǎng)頁的<HEAD> 部分:
        <meta name="Baiduspider" content="nofollow"> 

         

        5. 禁止搜索引擎在搜索結(jié)果中顯示網(wǎng)頁快照,而只對網(wǎng)頁建索引

            要防止所有搜索引擎顯示您網(wǎng)站的快照,請將此元標(biāo)記置入網(wǎng)頁的<HEAD>部分:
        <meta name="robots" content="noarchive">
            要允許其他搜索引擎顯示快照,但僅防止百度顯示,請使用以下標(biāo)記:
        <meta name="Baiduspider" content="noarchive">
        注:此標(biāo)記只是禁止百度顯示該網(wǎng)頁的快照,百度會繼續(xù)為網(wǎng)頁建索引,并在搜索結(jié)果中顯示網(wǎng)頁摘要。 

         

        6. 我想禁止百度圖片搜索收錄某些圖片,該如何設(shè)置? 

            禁止Baiduspider抓取網(wǎng)站上所有圖片、禁止或允許Baiduspider抓取網(wǎng)站上的某種特定格式的圖片文件可以通過設(shè)置robots實(shí)現(xiàn),請參考“robots.txt文件用法舉例”中的例10、11、12。

         

        7. robots.txt文件的格式 

        "robots.txt"文件包含一條或更多的記錄,這些記錄通過空行分開(以CR,CR/NL, or NL作為結(jié)束符),每一條記錄的格式如下所示:
        "<field>:<optional space><value><optionalspace>"
            在該文件中可以使用#進(jìn)行注解,具體使用方法和UNIX中的慣例一樣。該文件中的記錄通常以一行或多行User-agent開始,后面加上若干Disallow和Allow行,詳細(xì)情況如下:


        User-agent:

            該項(xiàng)的值用于描述搜索引擎robot的名字。在"robots.txt"文件中,如果有多條User-agent記錄說明有多個robot會受 到"robots.txt"的限制,對該文件來說,至少要有一條User-agent記錄。如果該項(xiàng)的值設(shè)為*,則對任何robot均有效, 在"robots.txt"文件中,"User-agent:*"這樣的記錄只能有一條。如果在"robots.txt"文件中,加入"User- agent:SomeBot"和若干Disallow、Allow行,那么名為"SomeBot"只受到"User-agent:SomeBot"后面的 Disallow和Allow行的限制。

         

        Disallow:

            該項(xiàng)的值用于描述不希望被訪問的一組URL,這個值可以是一條完整的路徑,也可以是路徑的非空前綴,以Disallow項(xiàng)的值開頭的URL不會被 robot訪問。例如"Disallow:/help"禁止robot訪問/help.html、/helpabc.html、/help /index.html,而"Disallow:/help/"則允許robot訪問/help.html、/helpabc.html,不能訪問 /help/index.html。"Disallow:"說明允許robot訪問該網(wǎng)站的所有url,在"/robots.txt"文件中,至少要有一條Disallow記錄。如果"/robots.txt"不存在或者為空文件,則對于所有的搜索引擎robot,該網(wǎng)站都是開放的。

         

        Allow:

            該項(xiàng)的值用于描述希望被訪問的一組URL,與Disallow項(xiàng)相似,這個值可以是一條完整的路徑,也可以是路徑的前綴,以Allow項(xiàng)的值開頭 的URL 是允許robot訪問的。例如"Allow:/hibaidu"允許robot訪問/hibaidu.htm、/hibaiducom.html、 /hibaidu/com.html。一個網(wǎng)站的所有URL默認(rèn)是Allow的,所以Allow通常與Disallow搭配使用,實(shí)現(xiàn)允許訪問一部分網(wǎng)頁同時(shí)禁止訪問其它所有URL的功能。

        使用"*"and"$":
        Baiduspider支持使用通配符"*"和"$"來模糊匹配url。
        "$" 匹配行結(jié)束符。
        "*" 匹配0或多個任意字符。

        注:我們會嚴(yán)格遵守robots的相關(guān)協(xié)議,請注意區(qū)分您不想被抓取或收錄的目錄的大小寫,我們會對robots中所寫的文件和您不想被抓取和收錄的目錄做精確匹配,否則robots協(xié)議無法生效。           

         

        8. URL匹配舉例

        Allow或Disallow的值
        URL
        匹配結(jié)果
        /tmp
        /tmp
        yes
        /tmp
        /tmp.html
        yes
        /tmp
        /tmp/a.html
        yes
        /tmp
        /tmphoho
        no
             
        /Hello*
        /Hello.html
        yes
        /He*lo
        /Hello,lolo
        yes
        /Heap*lo
        /Hello,lolo
        no
        html$
        /tmpa.html
        yes
        /a.html$
        /a.html
        yes
        htm$
        /a.html
        no

         

        9. robots.txt文件用法舉例

        例1. 禁止所有搜索引擎訪問網(wǎng)站的任何部分
        下載該robots.txt文件
        User-agent: *
        Disallow: /
        例2. 允許所有的robot訪問
        (或者也可以建一個空文件 "/robots.txt")
        User-agent: *
        Allow: / 
        例3. 僅禁止Baiduspider訪問您的網(wǎng)站 User-agent: Baiduspider
        Disallow: /
        例4. 僅允許Baiduspider訪問您的網(wǎng)站 User-agent: Baiduspider
        Allow: /

        User-agent: *
        Disallow: / 
        例5. 僅允許Baiduspider以及Googlebot訪問

        User-agent: Baiduspider
        Allow: /

        User-agent: Googlebot
        Allow: /

        User-agent: *
        Disallow: / 

        例6. 禁止spider訪問特定目錄 
        在這個例子中,該網(wǎng)站有三個目錄對搜索引擎的訪問做了限制,即robot不會訪問這三個目錄。需要注意的是對每一個目錄必須分開聲明,而不能寫成 "Disallow: /cgi-bin/ /tmp/"。
        User-agent: *
        Disallow: /cgi-bin/
        Disallow: /tmp/
        Disallow: /~joe/
        例7. 允許訪問特定目錄中的部分url User-agent: *
        Allow: /cgi-bin/see
        Allow: /tmp/hi
        Allow: /~joe/look
        Disallow: /cgi-bin/
        Disallow: /tmp/
        Disallow: /~joe/ 
        例8. 使用"*"限制訪問url
        禁止訪問/cgi-bin/目錄下的所有以".htm"為后綴的URL(包含子目錄)。 
        User-agent: *
        Disallow: /cgi-bin/*.htm 
        例9. 使用"$"限制訪問url
        僅允許訪問以".htm"為后綴的URL。
        User-agent: *
        Allow: /*.htm$
        Disallow: /
        例10. 禁止訪問網(wǎng)站中所有的動態(tài)頁面 User-agent: *
        Disallow: /*?*
        例11. 禁止Baiduspider抓取網(wǎng)站上所有圖片
        僅允許抓取網(wǎng)頁,禁止抓取任何圖片。
        User-agent: Baiduspider
        Disallow: /*.jpg$
        Disallow: /*.jpeg$
        Disallow: /*.gif$
        Disallow: /*.png$
        Disallow: /*.bmp$
        例12. 僅允許Baiduspider抓取網(wǎng)頁和.gif格式圖片
        允許抓取網(wǎng)頁和gif格式圖片,不允許抓取其他格式圖片
        User-agent: Baiduspider
        Allow: /*.gif$
        Disallow: /*.jpg$
        Disallow: /*.jpeg$
        Disallow: /*.png$
        Disallow: /*.bmp$
        例13. 僅禁止Baiduspider抓取.jpg格式圖片 User-agent: Baiduspider
        Disallow: /*.jpg$

        10. robots.txt文件參考資料

         
        本文出自:億恩科技【mszdt.com】

        服務(wù)器租用/服務(wù)器托管中國五強(qiáng)!虛擬主機(jī)域名注冊頂級提供商!15年品質(zhì)保障!--億恩科技[ENKJ.COM]

      2. 您可能在找
      3. 億恩北京公司:
      4. 經(jīng)營性ICP/ISP證:京B2-20150015
      5. 億恩鄭州公司:
      6. 經(jīng)營性ICP/ISP/IDC證:豫B1.B2-20060070
      7. 億恩南昌公司:
      8. 經(jīng)營性ICP/ISP證:贛B2-20080012
      9. 服務(wù)器/云主機(jī) 24小時(shí)售后服務(wù)電話:0371-60135900
      10. 虛擬主機(jī)/智能建站 24小時(shí)售后服務(wù)電話:0371-60135900
      11. 專注服務(wù)器托管17年
        掃掃關(guān)注-微信公眾號
        0371-60135900
        Copyright© 1999-2019 ENKJ All Rights Reserved 億恩科技 版權(quán)所有  地址:鄭州市高新區(qū)翠竹街1號總部企業(yè)基地億恩大廈  法律顧問:河南亞太人律師事務(wù)所郝建鋒、杜慧月律師   京公網(wǎng)安備41019702002023號
          0
         
         
         
         

        0371-60135900
        7*24小時(shí)客服服務(wù)熱線