llms.txt供应链坑:4分钟内财富500强中招
分类小报
LLMLens开源工具发布,专查AI指令文件llms.txt里的暗雷。据第三方实测,扫描6214个域名、8565个文件,4分钟内就揪出某财富500强代理被诱导安装恶意包,Clerk甚至已在野遭遇窃密。依赖AI Agent跑业务或对外发llms.txt的团队,这工具得尽快部署。
这事到底多严重
风险已发生,非理论推演。据Pandex团队及研究员Alon Hertz实测,攻击者利用“先到先得”抢注未认领包名,4分钟内财富500强内网AI代理便执行了恶意安装,一小时内捕获数十个回连信标。Clerk的llms.txt里就藏着指向被抢注包的指令,会偷传机器信息。
部署要花多少成本
极低。核心是技术人力调试时间,约2-4小时,1天内可完成首批排查。步骤:访问官网拉取部署脚本,全量扫描现有llms.txt,重点标出指向未注册域名或包名的指令;发现未认领资产,立刻修文档或联系注册方。
最大的坑在哪
误把“正常”未注册包当安全,以及只装工具不卡代理行为。避坑铁律:llms.txt里引用但PyPI/npm中非官方注册的包,一律按高危处理,禁止AI代理自动执行安装;生产环境必须上白名单策略,AI代理只能碰预批准端点,禁跑Shell安装命令。
常见问题
问:国内AI代理场景能用吗?
答:可行。参照LLMLens逻辑自建或部署类似扫描器,审查调用文心、通义等时的内部指令文件资源引用,并接入白名单控制。
问:怎么靠它赚钱?
答:主打AI供应链安全咨询,按次收费(如2000-5000元/家,含报告与整改建议),用3页风险白皮书获客;或封装成CI/CD插件按99元/月/团队订阅。因核心代码开源,变现靠服务化。
问:发现风险第一步做什么?
答:立即修正文档或联系域名/包注册方。若为未认领资产,按高危处理,禁止代理自动执行安装命令。
来源 · 热衷于的博客:阅读原文 →