■郝俊慧
　　“AI 20年内将会给我们的生活带来什么改变？”李开复在知乎上提问。一个高分回答是，“AI会是一种思想工具，辅助人们调优复杂的社会系统，你的记忆将会是机器拼凑出来的蒙太奇，你的未来已被AI模棱两可地预测出来。”
　　正如《西部世界》第三部中的超级AI——罗波安，那些“听话”的人类，命运早已被安排好。夸张吗？或许。但你被AI虐的故事才刚刚开始。
　　最近，看到几则奇葩新闻。
　　很多楼盘上马了“人脸识别”系统，用来分辨看房者到底是“自来水”还是中介引流而来，如果是前者，即使第二次看房有中介推荐，也无法享受渠道优惠，于是有人被迫戴上了“头盔”。为什么不戴口罩？嗯，技术太先进了，戴口罩也能被识别。
　　985名校的应届毕业生接到面试通知，面试官却是机器人LINA。这套人工智能招聘系统自2017年开始被很多跨国公司使用，号称会抓取应聘者最细微的表情，从眼神到动作到语速，由此来判断你们是不是最合适的candidate（应征者）。为什么被淘汰？嗯，招聘公司也不知道，因为LINA是个黑盒子。
　　某个展会上，展台人员正在介绍一种管理收银员的AI系统，老板可以定义哪些动作属于非工作行为，任何一个“非正常”动作被摄像头抓取到都会报警；另有一种智慧营销系统，每个进店的消费者被摄像头看到并分析其一举一动，从而被提供“量身定制”的贴心服务。
　　不要天真了，AI正在入侵每个人的生活，以智慧和科技的名义。
　　2020年的新冠疫情，加快了整个社会数字化转型升级的步伐，人工智能从发明期走向应用期。然而，却也有逐渐被滥用的趋势。
　　在许多描写人类未来的科幻小说中，赛博朋克（Cyberpunk）是常见的社会形态：大公司的垄断和底层的挣扎、科技的高度发达和控制与反抗的斗争、人工智能的被压制与觉醒，以及被异化为“工具”和“机器”的大多数人。
　　这种带有迷幻色彩、反乌托邦式的文化，之所以如此迷人，并逐渐从亚文化走入主流，是因为它具有太现实的可能性。
　　近几年，AI的跳跃式发展，始于深度学习图像识别能力的大幅提升以及由此衍生的其他能力，比如声音识别、语义识别，它所带来的巨大想象空间是，现实世界的数据化。可见的场景，可听到的声音，都能迅速被“翻译”成0和1，为计算机所认知，流行的说法是“数据孪生”。
　　人工智能自然是人类史上又一次革命，普华永道预估，人工智能将在2030年给全球带来15万亿美元的财富净增，而且主要来自于传统行业和AI的结合，AI场景化被看作是数字经济发展的重要抓手。但被公认的一点是，至少到目前为止，“孪生化”的只是现实世界表象，千百年来传统社会中形成的法律和伦理，在虚拟社会中，并没有被同步“移植”。那个正被源源不断数据填充的“孪生世界”，是个可恣意开垦的荒野大陆。
　　正如《西部世界》中，乐园的公司提洛用帽子偷偷记录所有游客头脑中的数据，而新反派塞拉克为了这些数据，千方百计地收购提洛。塞拉克和哥哥所创造的罗波安，通过深度学习与测算，打造了一个超级系统管理人类社会，为所有人策划了一条“和平”和“富足”的未来之路，并美其名曰“拯救”。
　　拯救，多少罪恶假汝之名。命运被“锁死”的人类，没有选择权。前面几则新闻之所以引发共鸣，自是其中隐约可见类似的“赛博朋克”未来。
　　我们总是被自己“驯服”的工具所驯服，最终成为新的“工具”。
　　农耕社会，从森林走出的人类被小麦驯服，农民被“锁”在土地上；工业社会，泰勒法让工人被机器驯服，《摩登时代》里的卓别林，被“锁”在扳手上。如今，狭隘的、还在幼年的人工智能，被资本用作新的“驯服”工具：挑选“合适”的应聘者，监视“偷懒”的员工和不好好“听课”的学生，推送所谓精准的内容给“有需要”的读者，让外卖小哥和网约车司机跑得更快……于是我们成为算法的工具，被“锁”在系统里。将来呢？当人工智能进入成熟期，是否会像《西部世界》中那样，即便是塞拉克，最终也只是罗波安的发声筒？
　　关于人工智能的伦理治理，无论是当年阿西莫夫的机器人三定律，还是今日科学家和社会学家不停呼吁，从来都没有被忽视，但从社会的实际管理者——政府层面来看，仍有较多缺位。监管部门对数据非法收集的惩罚、AI应用范围的限制、负面作用的消解等“墒减”动作，还是太少。
　　比如，关于人脸信息的收集，《网络安全法》和《民法典》都明确规定：收集、使用个人信息，应当遵循合法、正当、必要原则；《信息安全技术个人信息安全规范》中也规定，在收集个人生物识别信息前，应单独向个人信息主体告知收集、使用个人生物识别信息的目的、方式和范围以及存储时间等规则，并征得个人信息主体的明示同意。然而，上述新闻中的收集，显然既没有正当必要性，又没有经过被收集者同意，可也没谁因此受到惩罚。
　　“这些残暴的欢愉，终将以残暴结局”。
　　或许将来人工智能普及之后，会觉得今日所有顾虑都只是可笑，但也许，如果对数据收集和AI滥用不加以克制，我们只会一步步走向预定的“终点”。