豆包手机助手调整AI能力,将与厂商共同制定清晰准则。
《科创板日报》12月5日讯(记者张洋洋)上线三天后,豆包手机助手发布《关于调整AI操作手机能力的说明》,称计划在接下来的一段时间,在部分场景,对AI操作手机的能力做一些规范化调整。豆包助手方面还强调,将积极与各方沟通,希望推动形成更加清晰、可预期的规则,避免用一刀切的方式否定用户合理使用AI的权利。 对于此次调整,可以看出,随着AI技术在手机应用中的深入,如何在提升用户体验与保障安全规范之间找到平衡,已成为行业关注的焦点。豆包此次的表态,显示出其在技术发展与管理规范之间的审慎态度。在推动AI应用的同时,也需兼顾用户的合理需求,避免因过度限制而影响实际使用体验。未来,如何建立更透明、合理的AI使用规则,仍需各方共同努力。
根据官方说明,豆包手机助手的调整主要针对三类场景:一是限制在各类App中用于刷分、刷激励的自动操作能力,以尊重厂商鼓励“真实用户主动交互”的初衷;二是进一步限制银行、互联网支付等金融类应用的代操作能力;三是对涉及竞技排名的部分游戏场景暂停开放AI使用,以维护公平性。 此次调整反映出平台在技术应用与用户体验之间的权衡。一方面,限制自动操作和代操作行为有助于防止滥用,保护用户的真实参与体验,同时也符合行业监管的趋势。另一方面,对于游戏场景的AI使用限制,则体现了对竞技公平性的重视。这些措施虽可能影响部分用户的便捷性,但从长远看,有助于构建更加健康、可持续的数字生态。
作为新事物,豆包手机助手预览版发布后,引发了社会各界的广泛关注。在官方视频中,豆包手机助手预览版展示了其帮助用户点外卖、预订机票、进行价格比较购物,甚至回复微信消息、操作小程序游戏等多样化功能。
然而,在正式上线之后,有多个用户反馈,在使用“操作手机功能”时,部分第三方应用,例如微信,会出现登录受限的情况。
后有传闻称,豆包手机助手在使用过程中被指未经用户授权便调用了系统功能。对此,豆包手机助手回应称,其AI操作手机的功能需要用户明确授权,并且在执行任务时用户可以随时中止操作。如果在操作第三方应用时涉及敏感权限,需用户进行二次手动确认。然而,仍有部分声音认为,用户对数据的授权并不能等同于对第三方平台的授权。
一名曾任两家互联网大厂安全业务的专业人士向《科创板日报》记者解释到,这次豆包手机助手预警事件,冲突的核心并不在于用户授权,而是AI助手与应用开发者之间的博弈。豆包助手所使用的能力,本质上属于通过系统权限,在客户端模拟用户对其他App的操作。豆包AI助手操作指令并非用户本人直接发起,第三方应用(如微信)会识别到“非典型用户行为”,自然会触发风控机制。
“能够在各类APP和智能体之间起到信使、协同、反馈与联动的作用,极大地方便了用户的使用,提升了整体效率。”北京大学武汉人工智能研究院副院长吕鹏表示,技术服务人类是基本底线,人类不应被剥夺使用技术的权利是不可逾越的红线。对于各类APP而言,尽管背后的企业和资本方各不相同,但都应坚守这一底线,不触碰这条红线。 在我看来,技术的发展应当始终以服务人为核心,避免因商业利益或技术垄断而损害用户的权益。在智能化日益深入生活的今天,确保技术的公平性与可及性,不仅是企业责任,更是社会进步的重要体现。
中国社会科学院大学互联网法治研究中心主任刘晓春指出,在获得用户明确授权并确保个人信息处理行为符合相关法规的前提下,AI代替用户访问第三方应用,体现了用户的合法意愿。目前,AI智能代理行业仍处于初级阶段,技术和规范仍在不断探索中。对于此类创新技术,应采取包容审慎的态度,在有效防控风险的同时,为行业发展留出空间,推动其健康有序发展。