IT时报 -V7 特别报道-
7特别报道
  • ·人工智能:

人工智能:

越过关口才能走进风口!

  

IT时报记者李丹琦IT时报见习记者孙鹏飞李玉洋钱奕昀
  上周在上海举行的第二届世界人工智能大会,再度让人们见识到当前AI领域超高人气和美好前景。而且,和一年前相比,人们对AI的热情,更多转换为成熟理解和具体应用,AI的可用性也变得更好,AI赋能传统行业有了更好的注解。
  但是,AI发展仍面临着诸多挑战,从AI技术自身来说,仍需要越过难关才能取得更好发展,尤其是在AI芯片领域,如何打通通用化之路,成为必须要解决的问题。而在更广的范围,人们担忧的是越来越聪明的AI与人类如何相处,如何让AI造福人类而不是伤害人类,AI治理的课题不仅需要产业界,更需要全社会参与,一起去解决。还有信息泄露的问题,在AI时代因为海量数据的产生,泄露风险无疑在加大,如何更好保护个人隐私,也成为不得不解决的问题。
  任何新兴领域,机遇和挑战并存,AI也是如此,化解挑战,抓住机遇,AI将会取得更大发展。为了“科技向善”AI治理紧迫性越来越高
  最近发生的ZAO换脸风波、课堂视频监控风波,再一次引发人们对AI产业高速发展,带来的隐私泄露、挑战社会伦理等一系列问题的担忧。技术是把双刃剑,如何使AI造福人类而不是伤害人类,正引起各国政府、学界、企业的思考。在上周举行的世界人工智能大会上,这也成为各方人士讨论的焦点:AI如何健康发展?全球AI治理与法治的机遇和挑战在哪里?
面临多重挑战
  可以肯定的是,AI治理已迫在眉睫,需要关注的是治理哪些方面的问题。
  外交部原副部长、清华大学战略与安全研究中心主任傅莹指出AI治理面临的多重挑战。
  首先是立法的新思维。传统法律以社会基本共识为基础,往往滞后于社会实践。但是AI治理的需求与技术的应用几乎同步出现。还有,传统立法者关注的是人与人之间的关系。但在人机共存,甚至人机冲突的情况下,如何面对和处置人类与机器的矛盾?“机器代替人”做决策的情况已经不是想象中的事,波音737-MAX 8的空难就是一个重要的警示。
  其次是就业模式的快速冲击。清华大学《中国青年视角下的人工智能技术(AI)风险和治理》调查项目中,超过50%青年人表达的头等关切是失业风险。如何才能让人才结构的调整跑赢技术的更新迭代和产业结构的跃升?
  还有伦理规范的新问题。如国际上讨论较多的人群歧视和对个人隐私的尊重和保护等问题。值得注意的是,在8月全国人大常委会审议的民法典人格权编草案稿中,针对收集、处理自然人个人信息有了明确规定,要求必须“征得该自然人或者其监护人同意”等,而且把个人生物识别信息也纳入保护的范围。
  之所以AI治理面临如此多挑战,上海市科学学研究所所长石谦表示,最大的原因是“用”走在了“治”之前。在许多AI问题上,法律尚未完善,大部分情况依靠企业的道德约束。AI治理,一方面需要完善法律建设,一方面在“用”的时候,需要把“底线”守住。
  联合国世界新丝路论坛数字经济研究院院长王春晖表示,AI的治理应当体现三大原则:应当体现对人权的保护;优先考虑AI对法律、社会伦理、个人隐私冲击的部分;通过立法和强制性标准的制定和实施,削弱AI对人类风险和负面的影响。
  关于AI立法,王春晖表示应重点关注数据安全与算法安全。当前,AI算法具有典型的“黑箱”特点,应当引起法律人高度警惕和深入研究,应当以伦理学和法学融合的角度深入审视和研究AI算法。
关键是各方协同
  尽管面临诸多挑战,但AI治理已引起各方行动。傅莹说,一方面要加快对立规和立法的研究,另一方面也要依靠科学界和企业界采取负责任的态度和行为。“截至2019年8月,全球已至少发布了53个AI原则,中国发布了10个AI原则,包括《中国青年科学家2019人工智能创新治理上海宣言》。”国家新一代人工智能治理专业委员会、中国科学院自动化研究所研究员曾毅介绍,自2016年第一个AI原则发布以来,这些原则来自全球不同机构,覆盖不同主题,具有很强的互补性。
  今年5月,上海国家新一代人工智能创新发展试验区揭牌,明确了建立健全政策法规、伦理规范和治理体系的任务。同月,《人工智能北京共识》发布,发布了15条AI研发、使用和治理规范。6月,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则》,强调要“发展负责任的人工智能”,提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理8条原则。
  AI治理同样离不开企业的社会责任与自治探索。
  大会开幕式上,马化腾说,AI治理的紧迫性越来越高,应以“科技向善”引领AI全方位治理,确保AI“可知”“可控”“可用”“可靠”。深化企业对科技价值观的思考,探索人与AI的正确相处之道。
  明略科技创始人、董事长兼CEO吴明辉表示,AI的发展需要以人为本,需要依托一套框架来实现“负责任的AI”。明略科技用“HAO智能”理论框架,打造出一个能够被人类理解的智能系统。AI永远是人的伙伴,而不是独立的与人分离的解决方案,它需要跟人和组织更好地结合,让人和组织产生更大的价值。
打造全球AI治理“共同体”
  AI治理是国际社会的共同挑战,也是世界各国的共同责任,开放协作成为业界共识。
  在去年举行的人工智能造福人类(AI for Good)全球峰会上,OCED人工智能专家组成员、全球智库The Future Society创始人Nicolas Miailhe说,AI与每个人的生活息息相关,全世界要建立共识,展开合作,共同参与AI规则的制定和实施的监督。
  OCED人工智能专家组成员、Smart Dubai人工智能伦理咨询委员会成员Cyrus Hordes认为,AI的国际战略合作,可以从“硬规则”和“软规则”两方面进行。其中,硬规则包括AI原则,软规则包括技术标准、行为准则、道德标准等。
  傅莹则表示,中国对人工智能的国际合作和治理采取的是积极参与的开放态度,也主动搭建了不少平台,上海的世界人工智能大会、天津的世界智能大会、重庆的国际智能产业博览会等,都是向世界开放的交流平台。在傅莹看来,对人工智能国际治理应保持开放性、合作性、客观性。人工智能的技术发展与产业应用是全球高度协作的成果,其未来的发展也依赖世界各国优势互补,合作共享。人工智能被认为是一项综合性的“原力技术”,其治理也需要多学科、多领域和多部门乃至多国的共同参与,取长补短。人工智能作为革命性的新技术,难免引发很多误解和怀疑,没有人能准确预测技术的未来结果。国际治理应该秉承中立客观的立场,保护科学家和企业家的创新积极性,尊重人的权利与尊严。