返回博客
掌握主动,又不被打扰:LIA 如何征求你的同意
架构4 分钟阅读

掌握主动,又不被打扰:LIA 如何征求你的同意

问题

语言模型理解得快,但也可能理解错。它可能弄错收件人、日期或语气。如果它只是回答,错误的代价是重读一遍。如果它采取行动,发出一封邮件、挪动一个日程或删除一个联系人,代价就可能大得多。

反过来,一个凡事都要请示的助手很快就会让人厌烦。如果每次读取日历都会触发一个问题,你最后会看都不看就点确认,保护也就失去了意义。

我想要的

我希望 LIA 在操作准备好的那一刻,针对真正要发出的内容征求你的同意,而且只在有用时才问。读取你的日历或搜索一封邮件不需要任何确认。写入、发送、修改或删除,则要经过你,只有少数不会影响别人、点一下就能撤销的操作除外,比如勾掉一项任务或打开一盏灯。

具体怎么进行

你说:「把我周四的约会改到周五」。LIA 准备好这项修改,并以卡片的形式给你看:这个日程,修改前,修改后。你可以确认、拒绝,或者回答「还是改到下午 3 点吧」。卡片上有按钮,不过你也可以直接回答,打字或说话都行。

  • 一次一份草稿。如果你的请求产生了好几份草稿,比如两封邮件和一个日程,LIA 会逐一展示,并告诉你进行到哪里了(「草稿 2 / 3」)。在你最后一次回答之前,什么都不会发出。
  • 你确认的就是要执行的。如果你要求改了三次,发出的就是最后显示的那个版本,别无其他。如果资源在此期间发生了变化,LIA 会重新给你看预览,因为你同意的是旧的版本。
  • 如实的汇报。事后,LIA 会区分哪些成功了、哪些只完成了一部分、哪些在等待、哪些失败了。她不会把某个服务拒绝了的事说成已经办好。

当屏幕前没有人时

LIA 也会在你不在时工作:定时运行的例程,以及她接手的工单。这时有两条规则。在工单上,如果她准备了一件无权独自完成的事,她会在工单上向你提问,并附上你本会在聊天中看到的那张卡片;你用一条评论来回答。而例程会拒绝这个操作并说明原因,因为不然的话,你下一条为别的事写的消息,可能会被当成回答。

例外,以及原因

有些操作除了你之外,不会触及任何人。LIA 可以给你自己的地址发邮件,或者打电话到你验证过的号码,无需确认卡片,在例程中也可以。同样,在你的邮箱里保存、修改或丢弃草稿不需要任何确认;需要你同意的是发送它,而且只需一次。你自己输入的地址,哪怕是你自己的,仍然要经过通常的确认:一个有时能绕过检查的收件人,会是一个太容易得手的目标。

对于 MCP,你可以按账户、服务器和工具设置确认规则。行为概览会在修改前解释实际生效的规则。只要一个工具需要批准,专用代理便会在任务前询问;这次批准涵盖该任务中的调用。工具声明变化时,“从不询问”会暂停。聊天只能加强这些保护,减少确认只能在设置中操作。例行任务可以使用你在其表单中明确预先批准的服务器。

局限

一次确认针对的是所展示的操作,而不是外部服务之后会做的每一件事:当 LIA 委托给某个工具时,她无法证明它内部的每一个效果。而当一个请求需要连接账户、输入密钥或选择文件时,LIA 会先把它准备好,再让你在浏览器里完成,在那里你的身份会得到验证。

原则可以用一句话概括:LIA 准备,你决定,然后她告诉你实际发生了什么。

延伸阅读:保护你的账户和数据:LIA 的安全,一层一层来看;当模型编造时:LIA 如何防范。

#hitl#approval#human-validation#safety#trust