人工智能之路需要数据安全保驾护航

近年来，科技企业在推广新一代信息技术产品时，数据安全、数据隐私等问题备受批评。数据作为推动人工智能快速发展的重要基础，其安全性也决定了人工智能的安全性。人工智能的加速发展给数据安全管理带来了新的机遇和挑战。

认证码登录，移动在线支付，人脸识别门禁…

伴随着一代信息技术的发展，互联网和人工智能技术的应用蓬勃发展，数据也被视为无形资产。然而，技术是一把双刃剑。在提高我们生产生活效率的同时，安全问题也不容忽视。

近年来，科技企业在推广新一代信息技术产品时，数据安全、数据隐私等问题备受批评。数据安全已经成为当今数字转型时代的一个关键问题。

在7月8日至10日举行的2021世界人工智能大会上，数据安全、数据管理、网络安全等问题备受关注。业界认为，在人工智能深入推进城市数字化变革的过程中，企业应积极接受监督，促进产业健康的可持续发展。

数据安全管理面临着新的机遇和挑战。

日前，桔视记录仪等25个App因存在严重违法收集和使用个人信息的问题，被国家互联网信息办根据《中华人民共和国网络安全法》的有关规定，通知应用商店下架。

此前，在上海车展特斯拉车主维权事件中，特斯拉公布了维权车主事件前半小时的行驶数据。这种行为引起了很多争议:汽车公司应该公开行驶数据吗？人们如何确定数据的可靠性？

没有大数据的收集和基础，人工智能是无根之木。数据作为推动人工智能快速发展的重要基础，其安全性也决定了人工智能的安全性。人工智能的加速发展给数据安全管理带来了新的机遇和挑战。

大数据驱动业务的发展，使得数据安全对城市运营变得前所未有的重要性。一旦数据受到攻击，就意味着业务将停止，造成严重的经济损失和社会后果。360公司创始人、董事长兼首席执行官周表示，近年来，360公司接到大量医院报警，称医院网站在被勒索软件攻击后不能进行手术，也不能挂号给患者看病。

近年来，城市也成为网络恐吓的重要目标，网络攻击的对象不仅是计算机、手机、设备、系统，还逐渐扩展到数据。人工智能数据的获取、处理和应用具有很强的隐私性和领域扩展性，关系到个人信息安全和国家信息安全。政府、城市公共事业单位的数据恐吓会导致城市运营和服务停止。今年5月，美国最大的燃料输送管线遭到网络攻击，美国东海岸45%的汽油、柴油等燃料供应受到影响。

业内人士认为，针对上述情况，人工智能技术的头顶应该悬挂一把达摩克里斯之剑。

数据输入、分析等过程存在相应的风险。

非法跨境流通数据可能危及国家主权和国家安全；过度收集和非法使用数字信息可能会侵犯公民的权利和隐私。算法偏好可能会加剧社会偏见或歧视，威胁公平正义。无人驾驶汽车紧急避险等智能决策可能威胁特定人群的生命...

全国政协社会和法制委员会副主任陈智敏在人工智能大会安全高级对话中指出，人工智能发展与安全发展风险并存，不仅是技术问题，也是安全问题，还涉及伦理、法律、国际规则等问题。

国家工业信息安全发展研究中心副主任何小龙在人工智能会议上表示，人工智能带来的数据安全一方面加速了传统数据安全。

人工智能的大规模应用进一步加剧了过度收集数据的安全问题。另一方面，也带来了新的数据安全问题。人工智能算法对数据有很强的依赖性，可能会带来数据中毒等新的数据安全挑战。

算法、模型和数据构成机器学习的三个基础。腾讯朱雀实验室首席AI安全专家朱季峰在人工智能大会主题论坛上表示，从算法构建过程中上下游产业链来看，数据输入、数据分析、模型训练、模型决策、模型在线部署应用和模型改造过程存在相应风险。

举例来说，在数据输入环节，如果攻击者控制数据源，或者攻击者能够对收集数据的设备本身进行安全攻击，最终会通过该链影响算法模型。比如超声影响陀螺仪，最终会使无人驾驶飞机坠落。或在模型决策阶段，可通过物理攻击，使自动驾驶车辆的最终视觉识别系统出现问题，从而影响车辆的自动驾驶或行人判断。

随着人工智能的应用，技术滥用带来了失控的风险。验证码验证机制首当其冲。朱季峰表示，早在2017年，地下黑产就已经开始通过机器学习进行二维码识别训练。数据显示，80%以上的验证准确性可以通过机器学习算法自动完成在线注册，导致一系列安全问题。

三大系统共建数据安全防火墙。

人脸识别技术依靠海量视图数据的分析，因此数据安全直接影响人脸识别技术的实际应用。人工智能技术在安全领域的应用是技术落地过程最快、应用最早的训练场。

达美创始人、董事长兼首席执行官黄晓庆表示，从数据采集到数据处理到数据传输，有许多解决数据网络安全问题的方法。从网络和数据的角度来看，有三个重要任务——物理隔离、网络隔离和应用终端保护。

除技术外，我国还利用法律武器对数据立法进行了探索。

六月份，我国颁布了《数据安全法》，将于九月一日正式实施。提出以数据分类为核心，构建数据安全监管体系，强化各级数据处理活动主体数据安全保护的义务和责任，为规范数据处理活动，确保数据安全提供法律依据。此外，《个人信息保护法(草案)》也即将进入三审阶段，两项法案相辅相成，推动我国个人信息保护和数据安全治理进入新阶段。

清华大学苏世民书院院长薛澜在人工智能大会大爱无疆·共生论坛上回顾了人工智能治理模式，经历了三个阶段：回应式治理、集中式治理和敏捷式治理。如今，我们进入了一种相对集中的治理模式。这种模式明确了国家加强行业监管、促进制度实施的决心，对暴露出来的各种问题采取了较为坚决的措施，同时也触及了需要进一步研究的问题。

当前，上海正在研究制定公共场所人脸识别等级分类应用规范的地方标准，这将成为全国第一个制定公共场所人脸识别的地方标准；开展全市人工智能数据立法调查，规范数据确权、数据共享等重要内容，促进可信人工智能研究。同时，上海市人大也在起草《上海市数据条例》。

此外，上海数字证书认证中心、复旦大学计算机学院、上海交通大学电子信息与电气工程学院、移动互联网系统与应用安全国家工程实验室、上海赛博网络安全产业创新研究院共同发起数字身份与数据流通信任技术实验室的建设，该实验室基于数字信任技术的生产研究生态合作，开展隐私计算、块链、尖端密码等数字信任技术的开关和产业应用

上海浦东新区将在数据资源共享、数据交易、数据开发利用等方面进行立法探索；临港新区将试行对企业法人数据跨境流通进行安全评估和服务监管，加强对个人数据生命周期的安全监控和保护。

成都融和实业排队叫号系统厂家(www.iritqq.com)是一家集研发、生产、营销、服务于一体的高新技术企业.主营智能排队叫号系统、医院分诊系统、排队机、叫号机、评价器(好差评系统)、呼叫器、多媒体查询及信息发布配套系统等,公司产品已广泛应用于不动产登记、智慧医疗、智慧税务、智慧政务、智慧金融、智慧通讯、智慧服务大厅、智慧机关单位等服务窗口行业.咨询电话：028-87438905。