人民网
人民网>>社会·法治

AI应用泄露个人隐imtoken钱包存doge私?数据安全亟需构建三方“协作桥”

本报记者 刘少华
2025-10-18 07:15:08 | 来源:人民网-人民日报海外版
小字号

最佳回答

“imtoken钱包存doge”AI应用泄露个人隐imtoken钱包存doge私?数据安全亟需构建三方“协作桥”

  深圳10月17日电(记者 左雨晴) 人脸识别数据遭泄露,自己的面部数据被非法用于AI换脸牟利;与AI虚拟伴侣聊天,私密对话、图片视频和交易记录却被暴露在公共网络……

  近年来,人工智能(AI)迅猛发展,在文字处理、数据分析、个性化服务等领域展现出卓越能力,AI Agent(智能体)应用需求迅速增长,极大便利和丰富人们生活。然而,AI的爆发式增长离不开海量用户数据的支持,这也让用户面临更高的隐私泄露风险。

  今年5月,国家网络安全通报中心公布的35款存在违法违规收集使用个人信息情况的移动应用中,多款应用涉及AI大模型。同月,该中心发布警告称,AI绘图工具ComfyUI存在多个高危漏洞,已有境外黑客组织利用ComfyUI漏洞对我国网络资产实施网络攻击,伺机窃取重要敏感数据。

  发展人工智能应如何在合理利用数据的同时,确保数据的应用合法、透明和安全,从而保障用户的隐私安全?

  10月15日,在2025 OPPO开发者大会——AI安全与隐私分论坛上,中国信息通信研究院泰尔终端实验室信息安全部副主任傅山表示,保护数据隐私安全需要智能终端、APP企业和用户三方共同努力,建好“协作桥”。

  对于端侧,西安交通大学教授蔺琛皓表示,AI技术发展让对数据库的攻击变得更加多元化,这让从端侧进行轻量化、全面化的防御变得更为困难。因此,企业在构建数据安全防护体系时,需要从硬件、系统、开发框架、数据、模型等多个方面入手,甚至还需要采取交互式防御手段,才能保证整个链路式的数据安全。

  OPPO、华中科技大学、蚂蚁金服、火山引擎、阿里云、复旦大学、西安交通大学、南京邮电大学15日联合发布的《移动Agent安全技术白皮书》预测,移动Agent安全架构将经历从“外挂式”防护到“内生式”安全的根本性转变,通过硬件重构、系统重构和协议重构,构建更加安全、可靠的基础技术底座。其中,端云协同的机密计算环境将成为移动Agent安全的核心支撑,下一代移动平台或将整合独立AI安全引擎,实现模型参数和用户数据的“内存加密-计算隔离-密钥轮换”全流程保护。

  白皮书指出,尽管移动Agent安全技术前景广阔,但仍面临加密计算带来的算力开销可能影响用户体验、多样化的硬件平台和操作系统导致安全方案难以标准化、自主决策能力可能引发不可预知的安全事件三大核心挑战,Agent安全技术需要破现有封闭格局,通过标准共建、算力端云协同、安全中间件构建为产学研用一体化形成开放协同的全网生态。

  在监管层面,近年来对个人信息保护的监管不断加强,相关部门通过专项整治、常态化检查等方式,推动企业的数据收集向最小、必要、透明、可控的方向加速转变。然而,由于AI技术革新和落地的速度较快,因此监管标准和政策的制定往往具有滞后性。

  对此,蔺琛皓表示,应尽快拟定初步的标准及相关规定,并跟随AI技术的迭代不断修订。

  傅山也认为,从标准制定角度看,由于AI变化发展迅速,且具有千人千面的特性,因此难以用单一标准管理所有场景。建议采用隐私分级的方式进行逐级递增的管理和规范。“为了更好落实标准并保障合规性,需要对AI使用的数据进行分级处理,以便更好地适应政策要求并创造更多的创新空间。”

  傅山强调,用户在尝试新功能、新应用时应仔细审查权限请求,谨慎授予访问通讯录、位置信息、相册、麦克风等敏感数据权限,并经常性检查敏感数据的使用情况。“只有三方共同实现事前预防、事中把控、事后检查,才能更好实现AI功能的安全使用。”(完)

(责编:天安门下半旗悼念李克强同志)

分享让更多人看到

返回顶部