搜索与 AI
llms.txt 是什么?
The /llms.txt file
llms.txt 是放在网站根目录或子路径下的 Markdown 文本文件,用标题、摘要和链接列表,告诉大语言模型和 AI 智能体这个网站是做什么的、重要内容在哪里。智能体先读这份精简索引,需要时再顺着链接获取细节。它由 Jeremy Howard 在 2024 年 9 月提出,目前仍是开放社区讨论的提案。
H1网站或项目名称
唯一必填的部分。
Blockquote摘要
一段简短摘要,写明读懂全文所需的关键信息。
Details补充说明
不含标题的段落或列表,说明细节以及如何理解后面的链接,可省略。
H2 file lists分节链接列表
以 H2 分节的 Markdown 链接列表,链接后可加说明;名为 Optional 的一节放可以跳过的次要链接。
.md pages页面的 Markdown 版本
建议为重要页面另外提供 Markdown 版本,网址是在原网址后加 .md,或把扩展名换成 .md。
文件由哪几部分组成
按照 v2 提案,文件依次包含前四项;第五项是针对网站其他页面的配套建议。
提案版本与 llms-full.txt
提案页目前标注为 v2,最后修改于 2026 年 8 月 10 日。修订说明列出的变动包括:明确一份文件覆盖其所在路径以下的页面,多份适用时以最具体的为准;建议用 rel="alternate" 与 rel="describedby" 链接指向页面的 Markdown 版本与对应的 llms.txt;v1 的上下文展开工具移出提案,Optional 一节也不再有特殊作用。
常见的 llms-full.txt 不在 v2 提案的格式定义中,而是部分平台的做法,例如 Mintlify 会把整个文档网站合并成一个 llms-full.txt。
和 robots.txt、sitemap.xml 的区别
llms.txt 不是访问控制。robots.txt 告诉自动化工具哪些访问是可以接受的,llms.txt 则是智能体协助用户、需要信息时才读取的导览。它不能允许或阻止任何爬虫,管理 AI 爬虫仍要靠 robots.txt,写法见〈robots.txt 要不要屏蔽 AI?〉。
sitemap.xml 列出所有可被收录的页面,llms.txt 则是给 LLM 的精选导览。
有没有被读取:官方说法与公开数据
Google 搜索中心的生成式 AI 优化指南点名 llms.txt:Google 搜索本身不使用这类文件,维护它对 Google 搜索的可见度与排名既不加分也不扣分。〈AI features and your website〉也说,出现在 AI 概览或 AI 模式中不需要新的机器可读文件或 AI 文本文件。
Chrome 的 Lighthouse 则在智能体浏览审核中检查 llms.txt,理由是缺少它,智能体可能要花更多时间爬取网站;但没有这个文件只会判为“不适用”,因为提供该文件目前是可选做法。
Ahrefs 在 2026 年 6 月发表的研究,分析了 137,210 个使用 Ahrefs Web Analytics、2026 年 5 月有流量的域名:28% 设有 llms.txt,而在约 38,000 个设有有效文件的域名中,97% 的 llms.txt 整个月没有收到任何请求。对于不存在的 llms.txt,AI 机器人的请求为零。Ahrefs 也提醒,样本偏向懂技术和 SEO 的网站,28% 应视为上限;被抓取也不等于被读取,研究中的数字都是实际使用量的上限。
Mintlify 的测试则呈现另一面:它用 Claude Code 与 Codex 在 20 个 Mintlify 文档网站上跑了 2,400 次,页面加上指向 llms.txt 的链接后,无效网址减少约九成,但答题正确率在各种格式之间差异不大。Mintlify 托管的每个网站都会发布 llms.txt,解读时要考虑这层利益关系。
使用范围与限制
llms.txt 不是排名信号,也不保证被任何 AI 服务读取;目前没有证据显示做了它就会被 AI 概览或 ChatGPT 引用。提案页也说,它用得最多的是软件文档,由编程智能体顺着它查找 API 参考与教程。Mintlify 的测试对象同样是编程智能体与技术文档,不能直接套用到一般品牌官网。
如果读者会用编程智能体查你的文档,或智能体会替用户在网站上查找信息、执行操作,做一份成本不高,但要从页面加链接指向它,智能体才比较可能找到。这属于 AX(智能体体验)的范围。若目标是 Google 排名或 AI 概览,先做好 robots.txt、sitemap 与页面内容更实际。
文件过期或遭篡改,会误导每个读到它的智能体,Ahrefs 建议像管理代码一样做版本控制并限制编辑权限。LS-Labs 研究库目前没有 llms.txt 读取情况的观测。
参考资料
- Jeremy Howard(2024 发表,2026 修订):The /llms.txt file, v2
- Jeremy Howard(2026):Changes: v2 (August 2026)
- Mintlify:llms.txt
- Louise Linehan/Ahrefs(2026):We Analyzed 137K Sites: 97% of llms.txt Files Never Get Read
- Google Search Central(2026):Optimizing your website for generative AI features on Google Search
- Google Search Central(2025):AI features and your website
- Chrome for Developers(2026):llms.txt
- Aadit Shah/Mintlify(2026):Docs URL Benchmark: Markdown & llms.txt > HTML
最近查核: