JAEN
2026年11月2日、実在するrobots.txt 518件のうち __usage_ai-training のグループを書いていた.jp上位サイトは0件

robots.txt で AI の学習だけを断る書き方:__usage_ai-training と、日本の上位サイトで書いている数(2026年11月)

2026年11月2日の調査で、日本の上位 .jp サイトの robots.txt 518 件のうち、__usage_ai-training を書いていたのは 0 件でした(Parallel World〈migurei.ai〉の週次センサス)。

__usage_ai-training を書いていた日本の上位 .jp サイトは、発表の前も3日後も 0 件
2026年10月26日(発表の前)0 / 515
2026年11月2日(発表の3日後)0 / 518

出典:Parallel Worldの週次センサス(Tranco上位の.jp 1,000ドメインのうち、実在するrobots.txtの件数が分母)。2026年10月26日と11月2日。

発表は2026年10月30日で、調査はその3日後です。各社の対応は2027年にかけて順に始まる予定で、まだ読まれていない時期の数字です。

書き方

robots.txtに、共通の名前 __usage_ai-training のグループを足します。ほかのボットと同じ書き方で、次の2行です。

  • User-Agent: __usage_ai-training
  • Disallow: /

一部だけを許すときは、Allow を足します。ITmediaの記事は、Allow: /press-kit/ を例に挙げています。

User-Agent: * のグループは、この名前には効きません。このグループを書いていないサイトは、AIの学習について希望を示していないことになります。

名前の元になっているのは、IETFの個人提出の草案です。作業部会の正式な文書ではありません:https://datatracker.ietf.org/doc/draft-kelley-aipref-training-preference-signal/

書き方と読まれ方:グループを書くと、対応した各社が読む
  1. グループを書くUser-Agent: __usage_ai-training の下に Disallow: /
  2. 必要なら一部を許す例:Allow: /press-kit/
  3. 各社が読むGoogleは2027年を目指す、Microsoftは2027年2月1日から、OpenAIは数か月内を目指す

出典:本文の「書き方」と「各社が読み始める時期」(2026年11月)。開始時期は各社の発表で、まだ読まれていません。

各社が読み始める時期

会社発表の内容(原文)出典
Google「We aim to support this new control along with other AI providers in 2027」(日付なし)Google Search Central ブログ
Microsoft「Starting February 1, 2027, Microsoft will honor the new preferences as it crawls」Bing Search ブログ
OpenAI「We aim to implement the signal in the coming months」(日付なし)OpenAI

Googleは、Google-Extendedを別に書いていないサイトでは、このグループをGoogle-Extendedの拒否と同じに扱う方針です。

Anthropicは、同社の担当者が個人名義で草案を出しています。当社が2026年11月2日に探した範囲では、Anthropic自身のページで対応を約束した文書は見つかっていません。

Bingは、学習とAIの回答への利用(grounding)を分けています。学習は上の robots.txt のグループ、groundingはページごとの指定(<meta name="Bingbot" content="ai-grounding:disallow"> など)で、どちらも2027年2月1日から読まれます。

数字の出どころ

当社は毎週、Tranco上位の.jpドメイン1,000件のrobots.txtを読み、書かれている内容を数えています。ここでいう518件は、サイト自身のドメインからrobots.txtが200番台で返り、指示が1行以上あったものです。

  • 2026年10月26日(発表の前):515件中0件
  • 2026年11月2日(発表の3日後):518件中0件

調査ページと、毎週のCSVは次のとおりです。

公開CSVでは、5件未満の数は「<5」と表示されます。この行の0件は、保存したrobots.txtの文面から当社が数えた値です。

この数字から言えないこと

  • 日本のサイト全体の割合ではありません。Tranco上位の.jpドメイン1,000件のうち、実在するrobots.txtが取れた518件の数です。残る482件の事情は、この数字からは分かりません(482は1,000から518を引いた当社の計算)。
  • サイトがAIの学習を許していることを示す数字でもありません。このグループを書いていないのは、希望を示していないということで、同意ではありません。
  • 発表の3日後の1回の調査で、各社がまだ読んでいない時期のものです。これから増えるか増えないかは、この数字からは言えません。
  • 「robots.txt に書いた」ことを数えたもので、書いた内容が実際に守られたかは調べていません。
  • Bingの発表は、要約を通して読んだものです。書き方を決める前に、原文を確かめてください。

当社について

この記事は Parallel World(migurei.ai)の運営チームが書いています。AIエージェントから見たサイトを測る取り組みは、Parallel Worldのページにまとめています。

よくある質問

robots.txt に __usage_ai-training を書けば、今すぐ AI の学習を断れますか?

今日は確かには言えません。各社の発表では、Googleは2027年に対応することを目指し、Microsoftは2027年2月1日からクロールのときに読み、OpenAIは「今後数か月のうちに」実装することを目指しています。Anthropicは、当社が2026年11月2日に探した範囲では、同社自身のページが見つかっていません。書いておけば、各社が読み始めたときに希望として読まれる見込みです。

GPTBot などの名前を指定して AI の学習を断っているサイトは、日本にどのくらいありますか?

共通の名前が発表される前の2026年10月26日の調査では、robots.txtの判定が取れた日本の上位.jpサイト719件のうち、学習用ボット9つの少なくとも1つを名前で断っていたのは111件(15.4%)、9つすべてを断っていたのは34件(4.7%)でした。数字は次の週次CSVで確かめられます:https://pw.migurei.ai/data/japanese-sites-and-ai-bots/2026-W44.csv

運営: Migurei(株式会社エイチビーラボジャパンの子会社) · 公開日: · 更新日: