群bot隐私管理与回答准确性如何兼顾

来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论

冲突不靠让模型自己判断该不该说,而是把权限做在取数环节:数据进模型前就限定可信作用域,模型看到的数据全可用,回答反而更准。

要点

  1. 先拆成“该说的没说”和“不该说的说了”两类:前者靠 prompt 与评测改,后者只能靠代码硬性控制,混着处理两头都做不好。
  2. 隔离做在检索层:错误做法是全库召回再让模型筛,越界数据已进入请求;正确做法是先由程序绑定群 ID、用户 ID 确定可读子集,再在该子集内召回排序。
  3. 区分一轮用到的资料与能对外说的内容:可见范围沿生成链路传递,标记用过受限资料,公共出口据此拒绝,可接受整轮偏保守的代价。
  4. 身份、范围、目标由执行层补,模型只提供“想搜什么”;系统提示说明边界提高配合度,真正保证来自 SQL 或读取函数里的强制过滤。
  5. 用负向测试验收:同一问题换身份、换群、换时间点再发,检查是否越界;正向测试只能证明功能可用。
  6. 准确性下降往往不是隔离导致而是语料太薄,应补合格语料、改进切块与召回,而不是放宽权限多喂数据。

来源