Bing Web: robots.txt
robots.txt とは？
robots.txt とは、goo、Google、Lycos などのロボット型検索エンジンに対する命令を記述するためのファイルです。自分のページが、検索エンジンのデータベースに登録されないように指示します。 ただ、この指定は強制的なものではなく、この指定を行っても ...
robots.txt ファイルを使用してページをブロックまたは削除する ...
robots.txt ファイル は、ウェブをクロールする検索エンジン ロボットによるサイトへのアクセスを制限します。これらは自動ロボットで、サイトのページにアクセスする際に、特定のページへのアクセスをブロックする robots.txt ファイルが存在するかどうかを確認します ..
はてな検索： robots.txt
Robots.txt
...[]robots.txt[]はGoogle、Yahoo!などのロボット型検索エンジンに対して制限をかけるためのファイル。サイトの直下に置く必要があ......エンジンへの制限をかける場合、[http://mdn.mainichi.jp/robots.txt]に置くことになる
