360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
手机APP弹窗关不掉?加力整治!******
原标题:开展乱象整治专项行动,规范应用软件预置行为
手机APP弹窗关不掉?加力整治!
移动互联时代,即时通讯、网络视频、在线购物、新闻资讯等各类移动互联网应用程序(APP)在快速发展的同时也滋生了种种乱象。近日,有关部门接连出台相关举措,开展专项行动、印发联合通告,为APP领域的健康规范发展加码发力。
APP领域乱象时有发生
关不掉的弹窗广告、山寨APP以假乱真、未经同意强制捆绑下载、难以卸载的预置程序……眼下,APP领域乱象严重影响了用户体验。
弹窗广告是用户遭遇的普遍问题。“APP投放广告本身没问题,但现在打开APP都不敢动手机,因为有时候稍不注意晃一下手机,就跳进了‘摇一摇’广告。”网友“小花一朵”说。
此外,有些APP页面里“关不掉”的广告也实在令人糟心。不少网友表示遇到过“虚假关闭按钮”,本以为点了关闭,实际上还是跳转到了外部页面。
中国互联网络信息中心数据显示,截至2022年6月,中国市场上监测到的APP数量为232万款。海量的应用数量也给不少山寨APP带来了可乘之机。“有些山寨APP图标和正版APP十分相似,一不注意就容易下载错了,最终导致信息泄露甚至是经济损失。”网友“柒柒”说。
黑龙江哈尔滨银发网友吴淑琴说:“我们老年人使用智能手机本身就是一个学习的过程,很多操作都不熟悉,有些细微的操作也容易忽略,因此下载APP的时候更容易遭遇捆绑下载。没用的APP在手机里不仅侵占手机空间,还让手机越用越慢。”
一项针对手机预置软件的调查显示,62.21%的受访者反映手机预装软件数量多且占用内存,自己日常很少使用,会删除其中绝大部分。在预置软件数量方面,有些型号的手机在出厂时就已预置了多达56个应用程序。
业内人士认为,预置APP不仅让人眼花缭乱,大部分也缺乏实用价值。“删都删不掉”的预置APP背后实则是手机厂家和软件运营方的联合操作。
政策监管有新招
近日,为规范移动互联网应用程序信息服务管理,深入治理APP、小程序等应用程序乱象,进一步压实应用程序分发平台主体责任,促进行业健康有序发展,国家网信办部署开展“清朗·移动互联网应用程序领域乱象整治”专项行动。
此次专项行动加强移动互联网应用程序全链条管理,全面规范移动应用程序在搜索、下载、使用等环节的运营行为。其中,搜索查找环节将重点打击“山寨APP”、从严整治虚假排名、全面净化页面呈现、严格规范备案要求。在下载安装环节,将集中整治强制、捆绑下载安装;坚决惩处应用程序“挂羊头卖狗肉”规避监管;严厉打击以赚钱为诱饵诱导用户下载。针对运行使用环节,将集中治理弹窗问题、严格规范功能设置、严厉打击诱导充值。
据悉,此次专项行动将以加强分发平台规范管理为抓手,抓好重点平台,对问题突出的应用程序分发平台加大整治力度。
为进一步规范移动智能终端应用软件预置行为,保护用户权益,提升移动互联网应用服务供给水平,构建更加安全、更有活力的产业生态,促进移动互联网持续繁荣发展,工信部、国家网信办日前联合印发《关于进一步规范移动智能终端应用软件预置行为的通告》(简称《通告》),自2023年1月1日起执行。
《通告》明确,移动智能终端应用软件预置行为应遵循依法合规、用户至上、安全便捷、最小必要的原则,依据谁预置、谁负责的要求,落实企业主体责任,尊重并依法维护用户知情权、选择权,保障用户合法权益。生产企业应确保移动智能终端中除基本功能软件外的预置应用软件均可卸载,并提供安全便捷的卸载方式供用户选择。实现同一基本功能的预置应用软件,至多有一个可设置为不可卸载。
建立长效监管机制
针对APP领域的各类乱象,有关部门一直在持续升级监管。据统计,从2019年12月至2022年10月,工信部累计通报了26批关于侵害用户权益行为的APP,逐一列出详细问题,严格限期整改,并对未按要求完成整改的APP进行下架处理。
针对用户反映强烈的APP开屏弹窗信息“关不掉、乱跳转”问题,工信部在2021年全年累计开展12批次技术抽检,通报了1549款违规APP,下架了514款拒不整改的APP。
在涉诈风险提示方面,2022年11月以来,工信部反诈专班已在官方公众号上发布了20多期涉诈高风险APP名单,为广大网友提示了包括以山寨APP为代表的仿冒类诈骗以及彩票类诈骗、贷款类诈骗等多种APP涉诈类型。
经过多轮整治,APP行业乱象已有改观,但仍有部分软件运营方、分发平台通过“打擦边球”或是一些违规“新花招”逃避监管。
专家表示,APP行业的规范和监管需推动各方实现协同治理,建立长效机制。一方面,APP的运营、分发、使用涉及诸多环节,软件运营方需以用户为中心,依法依规安全经营;分发平台要加强审核把关,设立准入门槛;用户需加强自我保护意识,善用相关举报平台;监管部门则要严格监督,对相关乱象予以及时的指导和规范。另一方面,网络世界发展日新月异,APP领域的各类乱象也并非静止不变。因此,要在协同治理的基础上建立长效监管机制,既要抓落实防反弹,也要不断甄别和应对新乱象,促使APP领域真正实现健康规范的可持续发展。(徐嘉伟)
(文图:赵筱尘 巫邓炎)