6、什么是Robots?Robots.txt文件放在哪里?

發布時間:2019-11-12 19:49:23   瀏覽人數: 10036 次  

答:搜索引擎通過一種程序robot(又稱spider),自動訪問互聯網上的網頁并獲取網頁信息。

可以在網站中創建一個純文本文件robots.txt,在這個文件中聲明該網站中不想被robot訪問的部分,這樣,該網站的部分或全部內容就可以不被搜索引擎收錄了,或者指定搜索引擎只收錄指定的內容。

robots.txt文件應該放在網站根目錄下。舉例來說,當robots訪問一個網站(比如http://www.abc.com)時,首先會檢查該網站中是否存在http://www.abc.com/robots.txt這個文件,如果機器人找到這個文件,它就會根據這個文件的內容,來確定它訪問權限的范圍。


資料來源網絡,僅供學習交流,如您發現本文中有涉嫌抄襲,請發送郵件至:support@iisp.com,一經查實,本站將立刻刪除涉嫌侵權內容。


上一篇:7、什么是外鏈?如何做?
下一篇:5、什么是sitemap?

旗下網站:耐思智慧 - 淘域網 - 我的400電話 - 中文域名:耐思尼克.cn 耐思尼克.top

耐思智慧 © 版權所有 Copyright © 2000-2025 IISP.COM,Inc. All rights reserved

備案號碼: 粵ICP備09063828號  公安備案號: 公安備案 粵公網安備 44049002000123號  域名注冊服務機構許可:粵D3.1-20240003 CN域名代理自深圳萬維網

聲明:本網站中所使用到的其他各種版權內容,包括但不限于文章、圖片、視頻、音頻、字體等內容版權歸原作者所有,如權利所有人發現,請及時告知,以便我們刪除版權內容

本站程序界面、源代碼受相關法律保護, 未經授權, 嚴禁使用; 耐思智慧 © 為我公司注冊商標, 未經授權, 嚴禁使用

法律顧問:珠海知名律師 廣東篤行律師事務所 夏天風 律師

主站蜘蛛池模板: 国产裸模视频免费区无码| 无人在线观看视频高清视频8| 人妻丝袜无码专区视频网站| 西西人体欧美大胆在线| 国产福利不卡视频| 91av在线导航| 夜夜躁日日躁狠狠久久av| 一本加勒比HEZYO无码专区| 无码人妻一区二区三区免费n鬼沢| 久草福利资源网站免费| 欧美乱人伦视频| 亚洲最大av网站在线观看| 热久久精品免费视频| 免费国产美女爽到喷出水来视频| 中国一级黄色片子| 日本免费人成黄页在线观看视频 | porn在线精品视频| 国产裸模视频免费区无码| 97大香伊在人人线色| 夜夜影院未满十八勿进| littlesulaa小苏拉| 影音先锋在线免费观看| 中国一级毛片在线观看| 打臀缝打肿扒开夹姜| 久久不见久久见免费影院www日本 久久不见久久见免费影院www日本 | 香蕉在线精品视频在线观看6| 国产裸模视频免费区无码| 99久久精品免费看国产一区二区三区| 天天色天天综合| sihu国产精品永久免费| 妞干网视频在线观看| 一本大道香蕉高清视频视频| 成人亚洲欧美日韩在线| 中文午夜人妻无码看片| 成人黄色在线观看| 中文亚洲日韩欧美| 成年人影院在线观看| 中文字字幕在线乱码| 成人在线第一页| 一级美国片免费看| 性做久久久久久|