搜索引擎抓取不到的内容

搜索引擎抓取不到的内容有那些
　没有搜索引擎是万万不能的，但搜索引擎不是万能的；

　　有些内容，网上明明存在，但是你用搜索引擎搜不到。如果事先理解搜索引擎能做的和不能做的，你就可以设计更佳的搜索策略。而搜索之前思考一下搜索策略，是搜索成功最关键的一步。

-----------------------------------------------------------------------------    本文章转载于互联网某网站!

这样的内容，主要有3类：
======================

1、网上有，但是搜索引擎库里没有
------------------------------------------------------

1.1 spider未能正确处理的网页性质及文件类型
（如flash、script、ps、某些动态网页及frame、数据库）
1.2 没有指向链接的孤岛网页
1.3 spider访问时因为某些原因正好是死链接
1.4 被认为是劣质网页而不抓
1.5 因为/色情/反动/spam/等问题而不抓的非法网页
1.6 需要输入用户名、密码方可打开的网页
1.7 网站用robots协议拒绝搜索引擎抓取的网页
1.8 搜索引擎还未来得及抓取的新网页
1.9 gopher、newsgroups、Telnet、ftp、wais等非http信息
1.10 网站数据库做得太差劲，spider一抓就宕，只好不抓

2、搜索引擎库里有，但是未能正确索引网页中信息
------------------------------------------------------

2.1 分词引起误差
2.2 图型中的文字信息你看得懂但搜索引擎看不懂
2.3 停用词等搜索引擎故意不索引的信息
2.4 搜索引擎对某些网页有选择的索引，未索引全部网页信息

3、搜索引擎正确索引了网页中信息，但和你用的关键词不同
-------------------------------------------------------

3.1 你用的搜索关键词中含有错别字
3.2 网页作者用了错别字
3.3 没有错别字，但网页作者用的词汇和你的关键词不同，毕竟，文字的特性，允许有n种方式表达同一种信息
3.4 简体繁体不同编码