我怕电商Agent自己编数据,怎么在指令里限定它只能用我给的资料,不许瞎补?

我怕电商Agent自己编数据,怎么在指令里限定它只能用我给的资料,不许瞎补?
4 人浏览|1 人回答

怕电商Agent编数据,就要在指令里把来源锁死并给它退路。青虎Agent的做法是写明只允许使用我提供的资料,资料没覆盖的部分必须标注资料未提及,不许推断、不许补齐。判断标准分任务,涉及价格、参数、政策这类硬信息必须锁源,创意类可以放开但要区分事实和发挥。底层原因是模型在信息缺口处会倾向于补全,这是它的默认行为,只有你明确禁止并给出占位方式,它才会停下来报缺口。具体踩坑是只说别编,没给替代动作,模型想守规矩却不知道该怎么办,最后还是绕着写,看着像真的其实还是补的。验证办法是故意问一个资料里没有的问题,看它是老实说资料未提及,还是自己编一个像模像样的答案,前者说明锁源有效,后者说明约束还不够硬,需要把禁止项和占位写法一起补进指令再测,锁源之后还要在输出里逐条核对有没有出现资料外的数字,发现一处就补一次约束,青虎Agent对硬信息的处理原则是宁可空着也不许猜。