AI ボット
Google-Agent: 正体、IP レンジ、ブロックの方法
Google-Agent は Google の AI 検索と回答 向けクローラーです。
| ベンダー | |
|---|---|
| 用途 | AI 検索と回答 |
| User-Agent 内の名前 | Google-Agent |
| ベンダーのアドレスリスト | https://developers.google.com/static/crawling/ipranges/user-triggered-agents.json |
| IP レンジ | 20 |
AI の検索や、アシスタントに頼んだ人のためにページを読み、訪問者をもたらすことがあります。Bot Protection は既定で通します。ブロックすることもできます。
検証の方法
どのボットでも User-Agent に Google-Agent と書けます。リクエストが Google-Agent なのは、そのアドレスが下の Google の公開リストにあるときだけです。名前ではなくアドレスを確認してください。
ブロックの方法
robots.txt では、立ち入らないよう依頼します:
User-agent: Google-Agent Disallow: /
robots.txt はお願いであってブロックではなく、本物のクローラーと名前を名乗るボットを見分けられません。Bot Protection はすべてのリクエストで Google-Agent をアドレスで検証し、セットアップページで選んだとおりに応答します。種類ごとにも、Google-Agent だけにも選べます。名前を名乗るだけのボットは、ほかのボットと同じように判定されます。
IP レンジ一覧
Google 自身のリストより。毎日ダウンロードし直しています。
IPv4
136.121.16.0/24 136.121.24.0/21 136.121.40.0/21 136.122.0.0/16 74.125.232.0/28 74.125.232.112/28 74.125.232.16/28 74.125.232.32/28 74.125.232.48/28 74.125.232.64/28 74.125.232.80/28 74.125.232.96/28
IPv6
2001:4860:c::/124 2001:4860:c::10/124 2001:4860:c::20/124 2001:4860:c::30/124 2001:4860:c::40/124 2001:4860:c::50/124 2001:4860:c::60/124 2001:4860:c::70/124