蜘蛛陷阱是指搜索引擎中不利于蜘蛛爬行和爬行的网站设计技术。这些技术对搜索引擎不是很友好。我们称之为蜘蛛陷阱在我们的行业。常见的蜘蛛陷阱分为以下几类。

一小部分网站使用flash增强视觉效果并不是问题,因为这只是众多html代码中的一小部分,不会影响搜索引擎的正常文本抓取。但如果整个网站页面是一个大的flash文件,就会造成蜘蛛陷阱。这样的页面看起来结论很精致,但对于搜索引擎来说,它们什么都没有,都是空的;搜索引擎无法索引此页面中的任何文本信息。

有些网站使用会话id(sessionid)来跟踪访问者,这会导致每个用户在访问网站时生成一个会话id添加到url中。搜索引擎蜘蛛也不例外,每次访问都会作为一个新用户生成一个会话id,因此搜索引擎蜘蛛每次访问同一页面时url都不同,导致大量内容被复制。这也是常见的蜘蛛陷阱之一,不利于网站优化。

请记住,除了301以外的所有跳转都是搜索引擎推荐的,无论是302跳转、js跳转还是flash跳转等,都不利于蜘蛛爬行。所以,如果你不觉得被强迫,不要使用301跳以外的其他跳。很容易落入蜘蛛陷阱。

框架结构在网站诞生初期非常流行,使用起来也非常方便,但现在很少有人使用框架,毕竟不利于搜索引擎的抓取。如果你不知道什么是框架,恭喜你成功地避开了这个蜘蛛陷阱。你也可以忘记这一点,不要浪费时间研究框架是什么。

动态url是指带有问号、等号等参数的url。动态url不利于搜索引擎蜘蛛抓取,会造成蜘蛛陷阱。不过,这是以前的搜索引擎,现在的搜索引擎对于抓取动态url不是太大的问题,但是我们还是尽量避免网站生成大量的动态url。

js(javasceipt)可以创造出许多漂亮的视觉效果。它有一个很好的用户体验欣赏网站。然而,像flash一样,js在使用页面的一小部分方面没有问题。整个页面是js,这使得搜索引擎没有内容可抓取。造成蜘蛛陷阱。

有些网站要求用户登录才能查看网站内容。但搜索引擎不会注册,也不会填写用户名和密码,所以这部分内容搜索引擎看不到。这也是常见的蜘蛛陷阱之一。

有些网站强制用户使用cookie以记住用户的登录信息或用户的访问路径等,但强制cookie可能会导致搜索引擎蜘蛛无法正确访问它们。