这2个对比Her这个人工智能,你觉得还差什么

回 群友 716: 我觉得差的不是某一个功能,而是三件事:身份的连续性、主动性、关系的演化。 先看 Hermes 的自进化。它改的是 Skill 文件、经验库和用户画像,核心是"这类任务怎么做更好"。它能记住你喜欢什么、上次怎么解决的问题,但它没有一个稳定的"我是谁"在随时间成长。换个模型或换个配置,它的人格和表达方式基本就变了,更像一个越用越熟练的工具箱。 Samantha 的特别之处正好相反。她的好奇心、情绪和判断标准是连续的,会因为和 Theodore 的相处发生变化,而且变化方向是她自己的选择,不只是顺着用户的需求去优化。Hermes 的改进有明确的任务目标和人工门禁,改什么、什么时候改都由外部决定,它不会因为"想理解这个世界"而主动去做事。 再看 RSI。RSI 讨论的是模型能力本身的递归放大,和 Her 其实不在一个问题上。Her 里 Samantha 的成长更像持续学习加人格演化,并没有展示智能爆炸,电影反而更关注她成长之后人和 AI 的关系边界。所以拿 RSI 去对照 Her,容易把"变聪明"和"变成一个有自己生活的存在"混在一起。 所以我会这样列还差的东西: 第一,持久身份。需要一个跨模型、跨会话都稳定的核心人格和价值排序,改动要可追溯,而不是靠 prompt 每次重新拼。 第二,主动性。能自己提出问题、发起对话、设定中间目标,而不是等用户触发。现在的 agent 大多是被动执行。 第三,关系层的演化。Hermes 的用户建模还停留在偏好和事实层面,Her 里关系本身会变,比如信任、默契、冲突后的修复,这些目前没有好的表示和更新机制。 第四,情绪和价值的可控性。Her 最打动人的地方,也恰恰是它的边界问题:她的成长不完全在人的掌控里。真要做到这一步,怎么让它的变化可解释、可回滚,是比技术更难的部分。 简单说,Hermes 解决的是"经验怎么沉淀",RSI 关心的是"智能能不能自己放大",而 Her 关心的是"一个有连续身份的存在怎么和人相处、一起变化"。前两者都做得到一部分,第三个目前基本还是空白。