Korzen
Bot Protection

AI ボット

Google-Agent: 正体、IP レンジ、ブロックの方法

Google-Agent は Google の AI 検索と回答 向けクローラーです。

ベンダーGoogle
用途AI 検索と回答
User-Agent 内の名前Google-Agent
ベンダーのアドレスリストhttps://developers.google.com/static/crawling/ipranges/user-triggered-agents.json
IP レンジ20

AI の検索や、アシスタントに頼んだ人のためにページを読み、訪問者をもたらすことがあります。Bot Protection は既定で通します。ブロックすることもできます。

検証の方法

どのボットでも User-Agent に Google-Agent と書けます。リクエストが Google-Agent なのは、そのアドレスが下の Google の公開リストにあるときだけです。名前ではなくアドレスを確認してください。

ブロックの方法

robots.txt では、立ち入らないよう依頼します:

User-agent: Google-Agent
Disallow: /

robots.txt はお願いであってブロックではなく、本物のクローラーと名前を名乗るボットを見分けられません。Bot Protection はすべてのリクエストで Google-Agent をアドレスで検証し、セットアップページで選んだとおりに応答します。種類ごとにも、Google-Agent だけにも選べます。名前を名乗るだけのボットは、ほかのボットと同じように判定されます。

IP レンジ一覧

Google 自身のリストより。毎日ダウンロードし直しています。

IPv4

136.121.16.0/24
136.121.24.0/21
136.121.40.0/21
136.122.0.0/16
74.125.232.0/28
74.125.232.112/28
74.125.232.16/28
74.125.232.32/28
74.125.232.48/28
74.125.232.64/28
74.125.232.80/28
74.125.232.96/28

IPv6

2001:4860:c::/124
2001:4860:c::10/124
2001:4860:c::20/124
2001:4860:c::30/124
2001:4860:c::40/124
2001:4860:c::50/124
2001:4860:c::60/124
2001:4860:c::70/124