网站今天基本完成,并到各大搜索引擎提交网站,随后检查LOG日志文件,发现YAHOO、Google、bing返回404错误代码,原因是没有在根目录下放robots.txt文件,至于收录情况我还不是很了解,不够百度返回的200代码,表明成功收录。
07:16:41 67.195.37.91 GET /alliance.asp 404 Mozilla/5.0+(compatible;+Yahoo!+Slurp/3.0;+
http://help.yahoo.com/help/us/ysearch/slurp)
09:17:10 203.208.60.88 GET /robots.txt 404 Mozilla/5.0+(compatible;+Googlebot/2.1;++
http://www.google.com/bot.html)
09:17:10 203.208.60.88 GET /base.asp 404 Mozilla/5.0+(compatible;+Googlebot/2.1;++
http://www.google.com/bot.html)
09:17:15 207.46.199.42 GET /robots.txt 404 msnbot/2.0b+(+
http://search.msn.com/msnbot.htm)