AI智能体治理座谈会召开

2025-11-16 14:16:09 来源:央广财经

AI智能体治理座谈会召开

央广网北京11月16日消息(记者樊瑞)近些年来,人工智能技术飞速发展,AI智能体作为新兴应用形态,正逐渐渗透到日常生活与商业场景之中。在提升效率、优化体验的同时,也引发了数据安全、用户隐私以及市场竞争秩序等方面的诸多难题。

近日,在由中国工商出版社于北京组织召开的“AI智能体不正当竞争治理”调研座谈会上,来自学术界、行业协会、市场监管部门的多位专家代表齐聚,围绕AI智能体的技术路径、法律规制、执法实践与合规治理等议题展开深入探讨。

AI智能体能力与风险并存

北京邮电大学网络空间安全学院技术专家聂煜晴博士介绍称,2025年被视作“AI智能体元年”,各类智能体正从对话工具演变为具备感知、理解、决策与执行能力的复杂系统。她分析得出,当前AI智能体实现跨App操作主要依靠三大技术路径:无障碍服务、共享屏幕API以及定时截图与OCR识别。尽管这些技术本身中立,但部分厂商为求效率,在实际应用中采用侵入式路径,滥用系统权限,致使用户隐私数据面临“裸奔”风险,甚至影响第三方应用的正常运营。

聂煜晴强调,AI智能体与传统外挂工具的本质区别在于其具备语义推理与自主操作能力,泛化性强,但正因如此,其数据泄露、越权操作、注入攻击等安全风险更为隐蔽和复杂。海外技术对读屏、调取三方应用应更谨慎、安全。她呼吁行业遵循“最小可用权限”与“双重授权”原则,推动技术走向透明、可控、合规。

反不正当竞争法如何回应AI挑战?

在法律规制层面,与会专家普遍觉得,AI智能体的快速发展对现有法律体系提出了更高要求。

北京理工大学智能科技法律研究中心研究员王磊指出,AI智能体在数据抓取、模型训练、界面操作等环节容易引发新型竞争纠纷。在AI模型结构及参数侵权和AI写作工具进行虚假宣传方面,相关法院已经审理了典型案例。他认为,反不正当竞争法、著作权法和专利权法相互补充可对AI进行规制,同时要避免将技术争议简单归为商业道德问题,而应结合具体行为类型进行细致分析。

对外经贸大学法学院教授许可进一步把AI智能体相关法律问题归纳为三大类:个人权益侵害、网络安全与国家安全风险、以及市场竞争秩序问题。他特别指出,AI智能体可能成为新的流量入口,甚至颠覆现有以App为核心的移动互联网生态。终端厂商若利用硬件与系统底层优势,捆绑推广自研AI应用,构成搭售、自我优待、设置不合理交易条件等行为,未来可能触及反垄断红线。

而在不正当竞争领域,AI智能体未经相关经营者授权调用第三方App的行为,涉及强制获取数据、破坏服务完整性,跳过广告或用户付费环节可能直接侵害第三方App的商业利益和用户粘性。许可指出,新修反不正当竞争法第十三条第二款、第三款均可用于规制此类行为。坚持用户与第三方App双重授权原则以及透明、公平的方式解决AI智能体这个问题,是可行的办法。

消费者权益与数据安全应是合规底线

中国社会科学院大学教授张严方从消费者权益保护角度提出,公安部门长期提醒公众严防共享屏幕与远程操控,而AI智能体却处于灰色地带。AI智能体通过无障碍权限等手段截取屏幕内容,已实质架空了通信秘密保护、数据安全管理、金融安全与用户真实意愿三大合规支柱,导致App被“掏空”,消费者的知情权和意图的真实性被架空,数据收集的最小必要原则被破坏。设备侧自动化操作模拟用户点击、确认、支付等行为,不仅侵犯用户知情权与选择权,也可能导致金融交易的真实性审核机制失效,风险防控逻辑被“掏空”。

中国广告协会副秘书长张德志结合具体场景分析指出,AI智能体在旅游预订、医疗服务等复杂消费流程中,若盲目追求效率而忽略安全确认环节,可能引发财产损失与法律纠纷。他强调,涉及生物识别、支付密码等高敏感信息时,必须坚持“人工最终确认”原则,守住安全底线,“不怕AI幻觉,就怕AI自觉”。

执法实践秉持包容审慎与依法监管并重

来自市场监管部门的代表分享了执法层面的思考与经验。

上海市市场监管局价监竞争处副处长黄伟丰指出,AI智能体产业的发展是人机交互演进的重要方向,未来甚至可能重塑终端形态。在竞争监管中,AI智能体在反不正当竞争法方向上应重点关注用户选择权与知情权是否被剥夺或扭曲,例如强制跳转,亦或是为选择设置障碍以及欺骗误导用户,确保交易过程透明、可追溯。他强调,反不正当竞争法的核心在于维护市场参与方自主决策的市场机制,重点关注采用强制、误导等方式不当影响用户选择的行为。

北京市市场监管局价监竞争处处长贾晓强表示,AI领域的不正当竞争行为往往是传统行为的“智能化、规模化、隐蔽化”升级和放大。监管部门秉持包容审慎态度,但也需持续提升技术识别与取证能力,应对新型案件挑战,希望能有典型案例以案释法。他透露,北京已查处全国首例涉及AI模型服务的商业混淆案件,展现出对新兴领域竞争秩序的关注与维护。

面对AI智能体带来的复杂挑战,与会专家一致认为,单一主体或单一法律部门难以独自解决所有问题,必须推动多方共治,构建开放且公平、可信的产业生态。



(文章来源:央广财经)


原标题:AI智能体治理座谈会召开

郑重声明:信查查发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。

相关企业

荣旗工业科技(苏州)股份有限公司 海峡创新互联网股份有限公司 天力锂能集团股份有限公司 上海新炬网络信息技术股份有限公司 龙洲集团股份有限公司 广广东安居宝数码科技股份有限公司 杭州初灵信息技术股份有限公司 深圳市天健(集团)股份有限公司 中达安股份有限公司 深圳市赛为智能股份有限公司 深圳和而泰智能控制股份有限公司 无锡先导智能装备股份有限公司 新智认知数字科技股份有限公司 恒信东方文化股份有限公司 睿智医药科技股份有限公司 厦门盈趣科技股份有限公司 三维通信股份有限公司 日联科技集团股份有限公司 福建省招标股份有限公司 杭州初灵信息技术股份有限公司 福建实达集团股份有限公司 国脉科技股份有限公司 金现代信息产业股份有限公司 金科环境股份有限公司 邦彦技术股份有限公司 东华软件股份公司 浙江和达科技股份有限公司 广广州市品高软件股份有限公司 瑞纳智能设备股份有限公司 北京利尔高温材料股份有限公司 上海威派格智慧水务股份有限公司 江苏康力源体育科技股份有限公司 世纪恒通科技股份有限公司 技源集团股份有限公司 荣信教育文化产业发展股份有限公司 长春高新技术产业(集团)股份有限公司 奥瑞德光电股份有限公司 创业慧康科技股份有限公司 深圳达实智能股份有限公司