换个词,准确率跌27%,坑在哪

分类小报
· 进步分子, 投稿

搞AI外包或自研的都知道,Prompt写得多严谨不重要,词选得对不对才要命。据素材来源SUMSEC实测,在Claude Code搭配DeepSeek V3.2环境下,仅把术语“漏洞”改成“风险”,56个营销接口的代码审计准确率直接从89.3%掉到62.1%。这个落差不是bug,是语义边界崩了。想避坑,得把“结构化工作流+进度文件+穷举定义”这三样嵌进代码里,别让模型自由发挥。

这词到底坑在哪

“漏洞”在安全圈有硬边界,指具体的可被利用缺陷;“风险”语义太宽,模型容易乱扯。SUMSEC的对比实验里,两个Skill工作流、工具链完全一样,唯一变量是这个词。用“风险”时,模型把“代码逻辑错误”“参数校验不足”也算进去了,甚至误判接口属性,结果全乱。

怎么改才稳

别指望换词解决,得从结构上锁死。分三步:①拆6个强制依赖步骤,写死“不能跳步,跳了从头来”;②每步加“校验→执行→验证”三阶段,比如执行完强制回读进度文件确认;③在定义文件里穷举11个“非漏洞场景”,配9个完整判定示例,把“campId从配置取=外部不可控”这种写明白。这套组合拳,模型才没法滑走。

能不能拿来卖钱

能,但别吹得天花乱坠。路径一:给中小企业做Skill审计,单个开发+测试成本约2-3人天(素材作者自报),市场报价5000-10000元/个,拿56个case的回归测试集当证明,展示“换词掉27%”的实证,客户才信专业度。路径二:做Prompt咨询,200-500元/小时(第三方转述参考价),顺手做个“语义敏感度测试工具”引流,输入Prompt自动标近义风险点。别指望靠情怀,用数据砸客户。

常见问题

问:我不用“漏洞”这个词,换成“安全缺陷”行不行?
答:不行。任何近义词都可能改变语义宽度,必须建立回归测试集,用56个固定case跑一遍,准确率波动超5%就得重新调定义。

问:小团队没资源做回归测试,怎么办?
答:先拿3-5个高频接口当种子集,每次改词跑一遍,记录准确率。别贪全量,先保核心场景不崩,再扩。

问:这方法能通用到非安全领域吗?
答:能,但得重新穷举边界。比如做文案生成,把“品牌调性”换成“风格”,模型同样会漂移。核心逻辑不变:词越精确,约束越硬。

来源 · SUMSEC:阅读原文 →

订阅《创造者日报》邮件版
每天精选可动手的搞钱机会、好用工具与稀缺观点,免费直达你的邮箱。
English reader? Subscribe the EN edition →
iMessage 邮件 联系我们
EN