破解智能体协作难题 探索生态协同路径

破解智能体协作难题 探索生态协同路径

  智能体正逐步走进日常生活 ,可跨应用辅助用户处理各类事务 。但智能助手可执行哪些操作、各方应承担何种责任,相关规则仍有待明确。9月15日,经济借鉴 报社与中国科学院软件研究所联合举办“智能体时代的移动终端生态 ”研讨会 ,与会专家学者围绕上述问题展开讨论。

破解智能体协作难题 探索生态协同路径-第1张图片

  就在9月14日,豆包手机助手发布消费者版本,同步推出屏幕自动化操作声明协议(SAEP) ,启动为期30天的公示,尝试为助手与应用之间的合作提供可执行的规则 。该机制为破解智能体协作难题提供了新的思路。

  协作面临现实困局

  过去,查找商品 、比较费用 等操作需要用户在不同应用间来回切换。如今 ,用户提出“帮我买杯咖啡”等指令 ,智能体可以辅助用户在不同应用中查找商品、比较费用  。智能体的作用正从回答问题,扩展到辅助用户完成任务。

  用户期待一句话就能完成任务,应用厂商则需要考虑合作对自身业务的影响。智能体已经能够操作手机应用 ,但应用是否允许助手操作、允许操作到什么程度,行业尚未形成共同认可的规则 。

  中国科学院软件研究所高级工程师郑森文分析,跨应用协作的核心矛盾 ,在于信任无法在授权链条上完整传递 。即便用户已授权智能体辅助处理任务,智能体识别屏幕 、模拟点击等行为,仍可能被应用判定为异常操作 ,导致代理操作被误拦截。解决问题的关键,并非要求应用无条件开放,而是应当建立可信任、可审计的接入与责任机制。

  与此同时 ,传统协作模式难以实现行业全覆盖 。郑森文介绍,以往主要依靠企业双边谈判推进合作,该模式仅能覆盖大型终端厂商与头部应用平台。大量中小智能体企业和应用开发者受资源限制难以完成对接 ,最终造成跨终端使用体验割裂 ,安全标准、责任规则参差不齐。由此,一套公开化 、标准化、低成本的边界声明规则显得尤为必要 。

  推动争议前置协商

  按照豆包手机助手公布的方案,应用开发者可以接入SAEP协议 ,也可以回复官方沟通邮件,说明是否允许助手在自家应用内执行自动化操作。两种方式效力相同,且长期有效。30天公示期内 ,助手只对系统自带应用、字节跳动旗下应用,以及已明确同意接入的第三方应用执行自动化操作,对其余应用默认不操作 。公示期结束后 ,对既未回复邮件 、也未接入协议的应用,助手将根据风险高低逐步开展操作;对明确拒绝的应用,助手始终不操作。

  中国科学院软件研究所所长武延军表示 ,豆包手机助手推出的SAEP协议,通过公示期与第三方应用开展异议协商,将事后冲突转化为事前规则协商 ,提供了标准化 、低成本且长期有效的解决思路 ,打破了一直以来无规则可依、各方静默不合作的局面,为行业规则探索迈出了重要一步。

  “可以把SAEP理解成‘AI时代的Robots协议’ 。”中国科学院软件研究所高级工程师邰阳打了这样一个比方,以前网站靠robots.txt告诉搜索引擎哪些能用、哪些不能用;现在手机智能体要帮用户跨应用完成任务 ,同样需要一套规则,让第三方应用提前说清楚,接不接受智能体操作 ,哪些能做 、哪些碰不得。

  这一类比并非指二者技术同源,而是二者都将自动化程序与服务方之间模糊的边界,转化为公开、明确、可落地的规则。

  他尤其认同“公示期 ”的设计 。“公示期就是把矛盾提前摆到台面上协商 。规则先公开 ,应用开发者有意见可以提,协议也能根据反馈不断调整,把原本事后的技术冲突 ,变成了事前的规则协商。”

  中国互联网协会数据安全与治理委员会副主任方禹从治理角度肯定了该机制的价值。他表示,企业冲突一旦发生在损害既成事实之后,协调化解的难度会大幅提升 。

  “将争议前置 ,把契约精神放在前端 ,正是网络空间治理的应有方向。”在他看来,SAEP这类产业探索一定程度弥补了制度滞后性,为尚在萌芽发展阶段的产业预留出观察和成长空间。

  筑牢产业协作底座

  北京大学教授 、北京大数据研究院院长刘云淮认为 ,智能体本质是执行用户指令的程序,其安全风险未必高于传统App,治理要抓住两端:一是权限端 ,应用能够访问的数据,智能体只能访问应用可访问的数据,不能僭越应用本身的权限;二是执行端 ,为操作行为划定清晰边界 。把两端管控到位,再打通充分竞争的市场通道,交由用户凭借实际体验作出选取 。依靠市场机制优胜劣汰 ,会更契合产业发展规律。他同时建议,后续可以探索智能体交叉互验机制,借助不同智能体互相校验 ,降低单一模型出错带来的风险 。

  “很难要求智能体永远不犯错。 ”上海交通大学教授夏虞斌说 ,但系统可以为其划定不可逾越的操作边界,操作记录应由系统强制留存,保证事后能够追溯。

  根据豆包手机助手公开的协议接入文档 ,执行操作前,系统需要检查由哪个助手发起操作、用户是否授权、应用是否允许,以及操作是否符合安全要求 。

  对于支付转账 、账号认证、内容发布、删除等风险较高的操作 ,系统可以要求用户再次确认 、由用户亲自完成,也可以直接阻止操作。系统还需记录谁对哪个应用做了什么、系统依据什么作出判断,以及最终结果。开发者只能查询与自身应用有关的记录 。这些记录可为还原操作过程、厘清责任提供依据 。部分操作限制和记录查询功能取决于系统版本 ,实际效果仍需在使用中检验。

  聚力共建行业规则

  SAEP验证了企业自律与规则公示的现实可行性,但面向跨终端 、跨智能体的通用规则,仍有赖全行业共同参与建设。

  “终端智能体助手开展跨应用协作是技术创新的必然趋势 ,这一过程涉及安全 、个人信息保护等多重议题,需要多方充分协商,从技术、商业模式层面共同探索新型规则 。”武延军表示。他期待 ,在相关利益方充分互动博弈、主管机构的指导规范之下 ,智能体领域能够诞生行业公认的“Robots协议”,构建有序繁荣的移动终端生态。

  从无据可依到规则公示,从技术对抗走向协商共治 ,SAEP为智能体跨应用协作提供了现实透明 、可落地的治理样本 。规则唯有在产业实践中持续打磨,在多方博弈中迭代完善,兼顾创新与安全、效率与边界 ,智能体生态方能行稳致远,真正实现从“可用 ”向“好用 ”跨越。

(文章来源:经济借鉴 报)

©版权声明
THE END