SEO与搜索🔥8.0

Google的Illyes:robots.txt只管抓取,管不了AI训练

原标题: Google的Illyes:robots.txt只管抓取,管不了AI训练

SearchEngineJournal·2026/10/22 10:58:04🔗 原文

📋总体概括

Google搜索关系团队负责人Gary Illyes发布新视频澄清robots.txt的定位:该协议只管爬虫抓取行为,不决定内容被抓后如何使用,也无法用于禁止AI训练。视频同时建议网站对非英文路径做百分号编码,避免解析错误。这一表态回应了站长期望用robots.txt阻挡AI抓取训练数据的普遍误解,明确了技术标准的能力边界。

⚡关键信息

  • ▸Google的Illyes在官方视频中确认:robots.txt仅控制爬取,不涉及内容的使用方式
  • ▸网站无法通过robots.txt阻止其内容被用于AI模型训练
  • ▸视频建议对robots.txt中非英文路径采用百分号编码以避免解析问题
  • ▸此澄清针对社区中普遍存在的robots.txt可管理AI训练的误解

🔥犀利点评

无数站长还幻想在robots.txt里写一行Disallow就能挡住AI巨头抓内容训练模型,Illyes这次直接把幻想戳破:robots.txt是上世纪的抓取礼仪协议,管不了内容用途。想控制AI使用,得靠Copyright、AI-specific爬虫UA屏蔽或授权协议。别再把工具箱里唯一的锤子当万能钥匙了。

本文由本站自动聚合,以下为原始来源:前往 SearchEngineJournal 阅读全文 →