百度蜘蛛有一个特点，就是它不能实时的比较它正在抓取的内容是不是重复的内容。因为如果要做到实时的比较，那它至少要把正在抓取的页面和那些已经在索引库的页面做对比，这是不可能短时间内可以完成的。

把所有 URL 统一放到一个待抓取列表中的方法只能避免那种 URL 完全一模一样的重复抓取，但是无法应对 URL 不一样、但是内容一样的抓取。

我经常看到，在一个网站中，有很多非SEO的人员，例如工程师和网页设计人员或者网站编辑，都以为SEO和他们做的事情是相反的。

这都是因为长期以来一些 SEOer 经常提交很多明显违反用户体验的 SEO 需求给他们，造成他们以为 SEO 就是和他们做的事情是有冲突的。

实际上，SEO 和别的部门有非常少的冲突，只要你能用科学的方法去实践，就能发现以前有太多误导人的观点了。还有，对于其他部门的专业人员，他们专业领域的意见非常值得去考虑。

所以归根结底来说，我们SEOer们还是需要从用户的体验感着手，才是对网站进行真正的良性优化。

深圳市天企网络信息技术有限公司致力于互联网品牌建设与网络营销多年，专业领域包括PC、移动网站建设、小程序开发、APP开发、网站优化推广、品牌推广及竞价托管等，公司秉承 “ 客户至上，为客户创造价值 ” 的理念，把握时尚脉搏，不断创新，坚持把整体技术做硬，凭我们团结壮大的技术队伍、丰富的专业技能、坚定的成功信念为客户创造更多的价值。