IT时报 -V8 特别报道-
8特别报道
  • ·需要人工智能,

需要人工智能,

更需要可信人工智能

  人工智能是大势所趋,近些年发展非常快,但是在它衔枚疾走之中,安全问题一直如影随形。几天前,一款名为ZAO-逢脸造戏的App在朋友圈爆火。据了解,这个打着“仅需一张照片,出演天下好戏”标语的App,可以帮助用户在10秒内替换原本视频中主角的脸,让用户通过观看换脸视频就可以过足“戏瘾”。但同样,爆火之后随即便引来了不少用户对于隐私方面的争论。目前,有关个人隐私安全的报道层出不穷。无论是或大或小的新闻事件都可以触发用户对于隐私安全方面紧绷的神经。这更加发人深思:AI到底安全吗?
AI“安全事故”频发
  在2019世界人工智能大会上,人工智能安全成为高频词,屡屡被提及。在中国科学院院士何积丰看来,人工智能存在信任危机。
  根据公开报道,2016年9月,一名23岁特斯拉中国车主男子驾车在高速上行驶时,因前车躲避障碍物,该男子躲闪不及撞上道路清扫车,不幸丧生。这也是特斯拉自动驾驶在中国出现首例死亡事故。据事故后对行程记录仪的视频分析,事故发生时,特斯拉处于“定速”的状态,并未能识别躲闪而撞上前车。
  另外一件事是,2016年时微软聊天机器人Tay在国外社交平台上线,很快就被“教坏”,开始不断辱骂网友。根据报道,由于微软没有对对话“做任何设定”,使得Tay无法具备分辨是非的能力。
  在此之前,还有悲惨的事件发生,2015年英国实施了首例机器人心瓣修复手术,在这场尖端的医疗AI技术的展示中,机器人把病人的心脏“放错位置”,还戳穿大动脉,导致病人去世……
  因为这些事情的发生,很多人对人工智能缺乏信任感。如何构筑人工智能安全保障呢?何积丰认为,“人工智能安全分为三种类型,分别为数据安全、应用安全和法律/伦理安全。人工智能算法的关键问题在于,尽量避免人工智能副作用、避免奖励条件错误解读等等,同时要探索安全和可拓展的监管。”
  所以何积丰院士提出了可信人工智能的观点,“可信人工智能三要素是人、信息和物理。过去是人类社会和物理世界,我们觉得安全是可信安全的强人工智能系统,要实现复杂的信息、物理跟人的融合交互。”
挑战不容忽视
  在上海观安信息技术股份有限公司CTO胡绍勇看来,人工智能的风险分为三个方面:数据隐私、数据质量、数据保护。“首先是数据隐私。在人工智能系统采集和训练的过程中,会涉及大量数据,这些数据是否保管妥当、是否侵犯公民隐私,都是我们需要关注的问题。”胡绍勇说道。其次是数据质量,“数据质量不够高的话,对于人工智能系统自身的可靠性、安全性会有影响。”最后是数据保护,握有大量数据的企业,在数据流通各个环节是否采取了更好的安全措施,也是需要注意的风险。
  在翼盾(上海)智能科技有限公司CEO朱易翔看来,人工智能所面临的安全挑战主要在两方面,一类是人工智能技术本身,另一类则是滥用的问题。“人工智能技术本身的挑战体现在,人与机器、机器与机器之间的对抗,比如是不是有AI技术绕过检测机制,或者让恶意的行为变得不那么像机器而更像人等等。”朱易翔表示。其次则是自身安全,自身安全分为三个层面:第一个层面是偏通用,人工智能作为一个大范畴,很多功能是通用的,这其中不包括纯通用的技术,第二、三层则是人工智能偏通用一点的技术和一点偏业务应用层面的技术。“在我看来,至少目前阶段我们应该关注中间这层,即人工智能偏通用的技术,这一技术的安全问题值得我们关注。我鼓励在现阶段偏通用的人工智能基础设施方面做研究,为未来做好基石,未来的业务、应用层面可以再做个性化的事情。”朱易翔说道。
5G与AI相遇,风口与风险并存
  AI遇上5G,万物互联和万物智能一相逢,似乎“胜却人间无数”。
  5G+AI将会带来丰富的场景:黑灯的工厂,没有工人,机器却在飞速运转;自动驾驶的车辆,相互关联,安全抵达终点;拥堵的城市,流量被智慧大脑疏导……这些场景离我们并不遥远。但在科技突飞猛进背后,还有忧虑。5G时代,万物互联会产生海量数据,安全、隐私问题随之而来。当利益与伦理相悖,5G+AI还会是一把双刃剑。那么,5G+AI会带来怎样的技术变革?未来的场景该如何想象?如何安全地运用技术这把剑?在不久前闭幕的世界人工智能大会上,记者试图寻求答案。
AI:从配角到5G核心网元
  从不起眼的配角,到成为5G网络的主角,AI完成了逆袭。
  亚信科技CTO欧阳晔认为,在3G、4G时代,无论在通信基础设施,还是在CRM、BI等核心业务领域,尽管有analytics(分析)、machine learning(机器学习)、data mining(数据挖掘)等与AI相关的技术,但此时的AI还是配角。
  直至2017年,3GPP在5G首版标准R15中引入了NWDAF (NetWork Data Analytics Function,网络数据分析功能)网元,用于收集、分析网络数据以及向其他网络功能提供数据分析结果信息。
  5G是复杂的网络,AI能帮助理清网络的逻辑和秩序。
  事实上,5G网络运用NWDAF,可以实现切片的智能选择,达到QoS的实时管控与优化的效果。切片将5G网络分割成多个彼此逻辑独立的端对端虚拟网络,从而满足不同客户在不同场景下网络的差异性需求。
  AI的介入,也让5G网络性能不断自我提升。Massive MIMO(大规模天线)是5G典型技术,不同天线倾角水平和垂直层面发送的信号波数宽度、形状、功率大小直接影响了最终的网络性能和覆盖性能。要在大量的参数组合中选出最优组合,人力已无法胜任。因此在波束管理上,引入AI技术,在算法成熟、算力充裕条件下,AI可以起到动态调整网络参数配置,快速完成优化选择,以匹配各类场景。“大数据与AI技术对提升5G的无线与网络性能及功能发挥了重要作用,实现了5G网络的虚拟化和智能化。”中国互联网协会理事长邬贺铨总结道。
5G:AI落地背后的主推手
  5G赋能AI,在AI快速发展的过程中,5G起到非常重要的作用。“如果说AI是哪吒,5G就是烽火轮,AI是智脑,5G就是神经元。”中国电信上海公司总经理马益民用生动的比喻,形容5G、AI之间的关系。他表示,预计到2019年底,上海的5G基站数量将突破1.5万个,成为全球5G网络规模最大的城市之一,这将为人工智能可持续发展提供坚实的网络保障。“5G投入使用之后,一定会对人工智能进行相互赋能。随着5G的普及,人们对网络存在的感觉越来越弱,天地一体的固定和融合的云网合一的网络无处不在,就像空气一样弥漫在你的身边,随手可得,触手可及,即插即用,按需奉陪。消费者不再在乎网络在哪里,而只关注它能带来什么真切的应用,这应该是电信运营商在现代信息基础设施建设中,作为信息建设底盘的作用和价值。”马益民说道。寒武纪副总裁刘道福则从数据、算力、算法的角度,阐释了5G对AI的支撑作用。目前AI存在数据和算力上的短板,不过,这两个缺口可以让5G来填补。
  万物互联,背后是海量数据。在刘道福看来,AI可以将这些数据完成从非结构化到结构化的转变,并能进一步提炼出有价值的数据。
  5G不仅提升了AI的能力,可以说,5G还推动了AIoT(智联网)的新发展。5G网络采用IPv4的下一代协议IPv6,地址资源大为丰富,甚至可以令地球上的每一粒沙子都拥有一个IPv6地址。
  在邬贺铨看来,5G为IoT终端分配了真实的IPv6地址,在解除上述担忧的同时,还能获得终端的画像信息,为IoT终端的智能管理奠定了基础。
给技术带上“紧箍咒”
  在科技迅猛发展的同时,阿里巴巴集团副总裁刘松却感到一些困扰,技术和产业应用之间犹如自行车的前后轮,总是有着不小的距离。同时,5G+AI的运用场景多而分散,但最终一触即发的场景并不多。
  另一种困惑,来自于技术可能会带来的负面影响。无论是最近热议的换脸App ZAO,还是学校中的AI监视器,大众在谈论这些应用是否是伪需求的同时,隐私和安全的风险备受争议。“从伦理角度来说,这个问题已经非常现实。在人类历史发展中有很多的经验教育可以吸取,我们不仅要从理念上认同,还要及早从法律法规上研究,做一些必要的立法。”原国家网信办信息化发展局局长徐愈说。
  欧阳晔认为法律具有一定滞后性,技术人员和企业要主动制定AI标准、5G标准以及两者融合智能化的标准。
  两个月前,国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则》。在京东集团副总裁,京东人工智能研究院院长周伯文看来,原则为AI发展戴上了保险锁。不过,刘道福认为法律能够限制大部分人,最终要解决问题,需要的还是技术。“大家最大的担忧可能是隐私,其实现在技术上有了一些解决方案,最极端的解决方案是同态加密。”
  同态加密相当于在计算过程中,所有数据经过加密后再传到云端,当计算结果反传后在解密,可以保证在数据处理过程中不被泄露。联邦学习,便采用这种机制。
  机器的发明,延展了人类的四肢。5G+ AI技术的融合,还延伸了人类的大脑。在5G+AI技术融合发展的同时,我们看到了新应用的可能,新场景的到来,当然我们还需注意,技术背后可能存在的风险。