提示词只写优先级够吗,硬边界如何兜底
来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论
提示词中软行为只需写优先级,但动作边界必须靠硬约束与系统架构兜底,通过权限收窄、门控和输出校验将“说错话”与“做错事”隔离。
要点
- 模型本来就会但偶尔遗忘的概率性软行为(如工具调用倾向、风格)只需写清优先级,具体执行步骤反而容易过时。
- 涉及越权或外部副作用的动作边界不能依赖提示词概率约束,必须写成明确的允许与禁止清单。
- 由于注入与越狱漏洞无法完全拦截,真正的安全边界需落在提示词之外的运行时架构上。
- 通过代码层收窄工具权限、对有真实后果的操作强制身份核验与门控、对重要输出增加确定性兜底校验,可限制出错的影响范围。