GEO实操:用llms.txt和Markdown路由提升AI搜索可见度

· 进步分子, 投稿

编辑点评 · AI 连续创业者视角(以下内容由 AI 提炼,观点归原作者;读完可不看原文)

这是一篇针对AI搜索优化(GEO)的技术实操指南。作者指出83%的AI引用来自传统排名10名外的页面,且AI引荐流量转化率是传统的5倍。核心策略包括:在robots.txt中区分并允许“搜索爬虫”而屏蔽“训练爬虫”;部署llms.txt(已有84万网站使用)让AI优先读取结构化信息;提供Markdown路由将页面Token数减少80%。对搞钱者而言,这是低成本提升品牌在ChatGPT/Perplexity中曝光率的增量渠道。下一步动作:立即检查站点robots.txt配置,生成llms.txt文件并提交至目录站,同时为关键页面生成.md版本。

  • 配置robots.txt:允许OAI-SearchBot…
  • 站点根目录部署llms.txt,包含项目描述与链接
  • 为页面生成Markdown版本,添加HTTP Accept头支持
  • 提交站点至Perplexity出版者计划获取收入分成
  • 通过IndexNow主动通知Bing更新,加速AI收录

核心打法:把内容喂给AI,别等排名

传统SEO拼PageRank,AI搜索(GEO)拼结构清晰度与来源可靠性。数据显示,83%的AI引用来自传统排名10名外的页面,且AI引荐流量转化率约为传统搜索的5倍。虽然目前AI搜索占总引荐流量不足1%,但这是低成本建立品牌在ChatGPT、Perplexity中可见性的增量渠道。核心策略只有三步:配置robots.txt精准放行检索爬虫、部署llms.txt让AI优先读取结构化摘要、提供Markdown路由降低Token消耗。

关键配置:区分爬虫与部署llms.txt

robots.txt不能一刀切。需允许OAI-SearchBot、Claude-SearchBot等“搜索/检索爬虫”,它们负责实时抓取回答用户;屏蔽GPTBot、CCBot等“训练爬虫”,避免内容被用于模型训练。同时屏蔽Bytespider等未声明身份的爬虫。

部署llms.txt是新增量的关键。该文件位于站点根目录,用Markdown格式写明项目描述、关键链接、作者信息。BuiltWith追踪显示已有84万+网站使用此标准,包括Anthropic、Stripe。在SE Ranking调研的30万域名中采用率仅10%,早期布局有先发优势。格式极简,一段描述加列表链接即可。进阶玩法是部署llms-full.txt(30-60KB),包含FAQ、竞品对比等深度内容。Mintlify数据显示,llms-full.txt访问量是llms.txt的3-4倍,AI读完摘要后会索取详情。

技术降负:Markdown路由与索引加速

为每个页面生成.md版本,并在HTML head标签添加<link rel="alternate" type="text/markdown" href="/page.md" />。这将15000 token的HTML页压缩至3000 token,减少80%加载成本。Claude Code、Cursor等工具已支持发送Accept: text/markdown头。

索引是前提。AI搜索底层依赖Bing或Google索引。去Google Search Console验证域名并提交Sitemap;去Bing Webmaster Tools注册,利用其“AI Performance”面板监控引用次数。接入IndexNow:在根目录放API key文件,发布新内容时向api.indexnow.org发POST请求,Bing几分钟内即抓取。Perplexity出版者计划(pplx.ai/publisher-program)提供80/20收入分成,建议同步申请。

可复现步骤

  • 检查并修改robots.txt:Allow OAI-SearchBot/Claude-SearchBot,Disallow GPTBot/CCBot/Bytespider
  • 创建llms.txt(概要)和llms-full.txt(详解),提交至directory.llmstxt.cloud等目录站
  • 为关键页面生成.md版本,添加Alternate Link标签
  • 在Bing Webmaster Tools提交Sitemap,配置IndexNow API key
  • 一周后在ChatGPT/Perplexity搜索品牌名,验证引用来源与描述准确度变化

怎么用它赚钱

此工具适合自用降本,项目化空间有限。但若目标客户是出海SaaS或开发者工具团队,可接单做“AI可见性审计”:交付robots.txt配置、llms.txt生成、Markdown路由部署服务,报价500-2000美元/家,成本主要为1-2小时人工,利润率高。

原文 · Tw93 Blog:阅读原文 →

相关工具推荐(推广):八爪鱼采集器

订阅《创造者日报》邮件版
每天精选可动手的搞钱机会、好用工具与稀缺观点,免费直达你的邮箱。
English reader? Subscribe the EN edition →
iMessage 邮件 联系我们
EN