IT时报 -V4 特别策划-
4特别策划
  • ·人性的

如果能赋予AI

人性的

  

光辉IT时报记者章蔚玮潘少颖
公元2035年,是人与机器人和谐相处的社会。社会是需要规则的,犹如在人类社会中,法律对人类行为的约束以及既定的道德规范对人类行为的指引,在机器人的世界里,也有着“机器人三定律”等“法规”,有了这些法则、定律,科幻小说家阿西莫夫笔下的机器人不再是“欺师灭祖”“犯上作乱”的反面角色,而是人类忠实的奴仆和朋友。那个时代,有不会造成拥堵的无人驾驶汽车、在家可享受的未来医疗、与人类实时互动的智能家居、沉浸式体验的历史事件甚至是与人工智能的爱情……
但是,自人工智能诞生以来,“人类会不会被毁灭”“如果人类放手不管,不考虑道德伦理问题,计算机系统的演化会不会让我们懊悔不已”等这样的问题总是让我们更加审慎地对待人工智能的发展。犹如电影《我,机器人》中的场景——机器人竟然具备了自我进化的能力,他们对“三大定律”有了自己的理解,他们随时会转化成整个人类的“机械公敌”。由此,一场制造者和被制造者之间的战争拉开序幕。
对于人工智能是否会毁灭人类,有人认为重要的不在技术,而是规则。在人工智能这股不可逆的潮流中,前有阿西莫夫著名的机器人学三大定律,后有国际人工智能界正在日益重视的伦理与法律问题,如IEEE全球人工智能与伦理倡议、阿西洛马人工智能23条伦理原则相继出现,显而易见,人类渴望着科技的进步,但又恐惧科技的进步。在我们想象并践行着人工智能如何改善生活的时候,也在考虑人工智能如何面对伦理道德问题。
AI的决策一定准确吗?它的数据或带偏见性
一辆正在行驶的无人驾驶汽车,因为某些原因导致无法刹车,行驶前方是五名无辜路人,假如行驶方向不变,五名路人将产生生命危险。同时,路边有一片空地,有一名路人正在散步,如果汽车改道,那么只有这一名路人会面临生命危险,这时,无人驾驶汽车的人工智能系统该做出如何选择?
还是这辆正在行驶的无人驾驶汽车,由于数据信息高度互通,它通过人工智能系统得知两个方向的六名路人身份(比如:罪犯、教师、医生、工程师等)或者他们之间被记录下的冲突。此时,这辆无人驾驶汽车该做出怎样的选择,是否会根据各类资料来对他们之间的联系做出“道德”评判?
……
在人工智能发展的现阶段,最受人关注的场景是无人驾驶。上述场景在现实生活中发生的概率可能不高,但因无人驾驶而生的几场交通事故却不得不提醒人类:AI并非那么靠谱。比如,今年3月18日,Uber发生了一起无人驾驶汽车致死事故,真相是这辆车的传感器已经探测到了一位正在横穿马路的行人,但自动驾驶软件没有在当下采取避让措施,最终酿成悲剧。
这起事故从表面看体现的是技术问题,Uber无人车检测到了行人,但选择不避让。实际上,当把判断权转移给计算机系统,就会牵涉到道德和伦理困境。
美国《Science》杂志此前做过一个无人驾驶汽车道德困境的社会调查,结果显示,受访者认为,无人驾驶汽车车主应该选择最小化对他人的伤害,即使会致使自己受伤。但当问及会选择购买“车主保护优先”还是“行人保护优先”的无人驾驶汽车,受访者更倾向于购买“车主保护优先”的无人驾驶汽车。
2017年8月,德国交通运输与数字基础建设部下属的道德委员会公布了一套被称为世界上首部的自动驾驶道德准则,或许可以作为这个问题的参考。这套由科学家和法律专家共同提出的15条自驾系统的驾驶决策道德准则的核心原则是:生命应该始终优先于财产或动物。其中明确,保护人类生命一定是首要任务,在事故无可避免的情况下,人的生命要比其他动物、建物都还重要。也就是说,无人驾驶汽车系统在必要时会对人类和动物的生命价值进行量化比较,以便于无人驾驶汽车在应对将要发生的事故时做出恰当的反应。
但是,规范中也提到,自驾系统不得以年龄、性别、种族、是否残疾等作为判断条件,对于自动驾驶系统来说,选择难度似乎更大了。
在一般人看来,无人驾驶汽车上的AI系统中的数据是公平的、可解释的、没有种族、性别以及意识形态上的偏见。但IBM研究中心研究员Francesca Rossi告诉《IT时报》记者,大多数人工智能系统都是有偏见的。
2015年,谷歌自动驾驶负责人曾表示,危机情况下,谷歌无法决定谁是更好的人,但会努力保护最脆弱的人。“IBM开发了一种可以减少存在于训练数据集中偏见的方法,以便于让之后使用该数据集进行训练的AI算法尽可能保持公平。在未来5年,这些偏见将被驯服和消除。”Francesca Rossi表示。
AI是“神一样的存在”吗?有可能成“神”,但会让人类尴尬
一位隐居在山里的疯狂科学家秘密地进行着一项人工智能的实验,他邀请了一位程序员共同完成这项图灵测试中“人”的角色——如果人不再意识到是在与一台计算机进行交互,意味着机器拥有了自我意识,人类历史也将由此被改写,“神”将由此诞生。
这是电影《机械姬》的开场情节,在这个故事中,究竟是创造出超级人工智能的天才科学家是神?还是超级人工智能是神?
在瑞士阿尔卑斯卢加诺的一个实验室里,德国计算机科学家尤尔根·施米德胡贝的公司Nnaisense在开发可像婴儿那样运作的系统,他们为那些“系统”设置小实验,让它们理解这个世界是如何运作的。他认为,这会是未来“真正的AI”。唯一的问题在于,它们进展过于缓慢——目前只有10亿神经连接,人类大脑皮层的神经连接数量约为100万亿。
在世界人工智能领域,施米德胡贝是目前世界上唯一可能被称为AI机器人之父的科学家,他的工作是让机器人变得更有自主意识。他在接受媒体采访时表示,现在的趋势是,计算机每5年加快十倍,按照这个速度,只需25年,就能开发出可媲美人类大脑的递归神经网络。“我们距离实现动物级别的智能并不遥远,比如乌鸦或者卷尾猴属。这样,机器智能超过人类智能似乎将会在2050年发生。”
下转第5版