NaverBot

NaverBot（ネイバーボット）は、ネイバーが過去に使用していたクローラの名称である。

概要韓国の大手検索エンジンであるネイバーが2005年1月まで使用していた、Web文書収集目的のクローラーである。2005年以降は使用されなくなり、Yetibotという新しいクローラーが使用されるようになった。

NaverBotは、当初は韓国語のサイトを中心にアクセスしていた。しかし、ネイバーが日本での事業を開始した2000年以降は日本語ウェブサイトにアクセスする機会が増え、日本でも知られるようになった。

日本では、国際基準への対応不備などの問題が一部のWebサイト管理者らに指摘され、アクセスを拒否するサイトも見られた。これに対して、ネイバー側は公式のコメントを出してはいないが、後継のクローラー（YetiBot）では当時指摘された以下のような問題はすべて解決されている。NAVER Web Robot Support Center

主な指摘秒間隔で次々リクエストを行うため、DoS攻撃のようにサーバーを不安定にさせる。全てのディレクトリに対し、default.htm, default.html, home.php等インデックスに使われそうな名前のページを、ページの有無を確認せずにリクエストする。セッションを識別せず、同じURLに対してセッションだけ変えて何度もリクエストを行う。サイト管理者が用意するrobots.txt（クローラのアクセスを制御するファイル）を読み込みながらも無視。あるいは、robots.txtを短時間に何度も読み込む。 HTMLのMETAエンティティを使ったロボットのアクセス制御を無視する。 HTTPリクエストのUserAgentフィールドを次々に変える。変名はNABOT/5.0、nhnbot、minibot(NaverRobot)、dloader(NaverBot)、nabot、Cowbot、NaverBot-1.0+(NHN+Corp.+/++82-2-3011-1954+/[email protected])等さまざまな名前が確認されている。また、robots.txtへのアクセス時にGoogleのクローラGooglebotに似たGoogleBotというユーザーエージェント名を用いたことも確認されている。

NaverBot

Źródło i licencja