保马编者按：随着科学技术的发展，近些年有关人工智能的讨论越来越热，人们既表达了对人工智能发展前景的关心，对其迅猛发展的趋势又有所担忧，人工智能是否会在将来取代人?它的发展是否带来得更多的是隐患，使人类走向毁灭和崩溃?对此，作者指出，这是两种对人工智能认识的误区，我们应该去思考的是现代社会人的机器化。崇尚理性与科学的现代社会不断规训人类，讲究规范，忽视甚至压抑人类非理性的情感因素，把人变成现代社会的奴隶，这样看来，机器人反而是比人类更先进的，更符合现代精神的最完美的现代人。但是，在既有的生产逻辑和社会关系没有发生改变的情况下，人工智能也只会是现代资本主义制度下永远生产、不会抱怨和反抗的机器奴隶。只有改变人类被现代理性奴役的状态，人工智能才能从机器奴隶的宿命里解放出来，这个时候即便人工智能也能产生“人性”的情感，也将不是噩梦，而是与人类和平共处的伙伴。

　　本文原载于《社会科学报》2017年12月21日总第1588期，感谢张慧瑜老师授权保马推送!

人工智能的认识误区

张慧瑜

　　近期，在第四届乌镇互联网大会上，人工智能依然是热议的话题。自从2016年谷歌设计的围棋机器人AlphaGo打败人类职业围棋选手以来，人工智能就从相对专业的领域进入到公共话题 ，随之而来的是各大互联网巨 头投资人工智能行业，很多国家也出台相应的产业政策，把人工智能作为第四次工业革命的标志。本文不想讨论人工智能的前景及其所带来的伦理困境，而是想指出两种对人工智能的认识误区，一种是人文主义批判，担心人工智能会更像人类、取代人类;第二种是浪漫主义批判，认为人工智能会把人类拖入技术进步的 “深渊”。这样两种批判是现代以来对工业文明和技术进步最典型的回应方式，也是以人工智能为情节的科幻文化最经常表现的主题。

　　柯洁与人工智能alphago对弈

　　机器人可以取代人吗？

　　在刚刚公映的科幻电影 《银翼杀手2049》中，未来世界的复制人也拥有了像人类一样的生育能力，这成为威胁人类最大的恶梦。人们似乎并不 担心人工智能从事做饭、扫地等家务劳动或者取代流水线上的产业工人，而对人工智能是否拥有情感、能不能有自主意志格外在意，仿佛这将剥夺和僭越人之为人的 “特权”。值得反思的不是人工智能是否超过人类，尽管在很多方面，人工智能远比人类更像现代人，而是在人工智能的参照下，我们重新定义了人类的属性，也就是说只有那些人工智能所不具备的才能成为人类仅剩的本质。相比人工智能的“机器”属性，如钢铁外壳 、没有感情，人类拥有的是脆弱的、可以衰老的身体，无法把控的情感和与过去、历史有关的记忆等  “人文”因素，前者是理性化、机械化和被规训的机器 “奴隶”，后者则是有缺陷却具有自主意志的人 。

　　《银翼杀手2049》

　　这种人工智能与人类的二元对立，依然延续现代以来理性与非理性 、科学与人文、机械与身体的对立，也正是在这种背景下，人工智能如果也拥有了那些人类所特有的 “人性”专利，比如也学会爱 、有记忆和情感等，这是对人类最大的威胁和噩梦。这种对人工智能的 “人性化 ”焦虑，是以人类为中心的想法，也是一种典型的人文主义对理性主义的批判。这种批判的限度在于正好遮蔽了现代社会以来不是机器，而是人处于理性化、机化的状态 。

　　在17、18世纪，对于现代社会有一个经典隐喻，就是把社会比喻为一座技艺精湛、严丝合缝的钟表 。作为一种精密仪器，钟表不只是代表着高超的工艺水准，更代表着一种理性化的秩序。在这种机械主义的社会想象中，现代人变成了高度纪律性、组织化和理性化的现代人，那些身体的局限、情感的不可掌控正是理性所要排除和克服掉的“弱点“。在这个意义上，不是人工智能 “人“化，而是人类不断地机器化才是理性主义、科学主义的产物，因此，机器人是最完美的现代人，是具有现代精神的人 。

　　这种人文主义批判和忧思，掩饰了现代化 、理性化 、合理化内在于现代社会的基本逻辑，我们与其要反思人工智能一旦取代人类怎么办，不如反思现代化的逻辑如何把人类一步步规训为现代奴隶。

　　人工智能都是恶托邦吗？

　　在包括人工智能在内的科幻电影中，大部分都是恶托邦的故事，也就是技术进步带来的不是人类光明的前景，而是走向毁灭和崩溃。具体来说 ，作为弱势的人类会最终战胜武装到牙齿的机器人，或者低级的机器人打败高级机器人，这几乎成为科幻电影的 “套路”，这种套路与科幻电影所表达的科学主义的精神有关。

　　被作为科幻文化源头的是1818年英国作家玛丽  ·雪莱创作的长篇小说《弗兰肯斯坦 ——现代普罗米修斯的故事》，讲述的是科学家制造了一个 人造怪物，这个人造物不被人类所接受，反过来开始报复人类。借“弗兰肯斯坦”的原型，此后的科幻文学、科幻电影中，代表科学、理性精神的科学家基本上都是毁灭世界的恶魔或野心家。这种对科学主义的反思来自于现代社会所产生的浪 漫主义思潮。

　　浪漫主义兴起的背景是对工业化、城市化所带来的人性异化 、社会弊端的批判，反工业  、反现代、反机器、反城市等是浪漫主义的底色，以至于浪漫主义、现代主义、后现代主义等西方文化的主流脉络是对现代性的自我批判，相比之下，未来主义等对技术的正面呈现在西方现代文化中并不常见。正如个人主义、创造性等概念都与浪漫主义有密切的渊源。浪漫主义的另一面是对前现代、非现代的社会空间和文化价值的肯定追忆。

　　这种浪漫主义并不能真正解决技术进步所来的问题，反而采取鸵鸟政策，把与城市相对立的自然世界、把前现代的农业文明建构为一种美好的、和谐的时代。这种文化上的反现代性，很容易走向一种政治浪漫主义，就是把与现代不一样的前现代文明想象为人与自然融合的“诗意地栖居”。

　　人工智能给浪漫主义提供了另外一种方案，就是用机器人取代那些被现代化生产所规训的人，这也是自动化车间的出现。暂且不讨论机器人取代工人之后的失业问题，这种人工智能对人类的基础工作的取代，并没有改变机器  “奴隶”的命运，或者说在这些高度发达的未来世界想象中，恰好隐含着奴隶制的身影。人工智能不仅没能改变人工智能的 “地位”，反而是现代资本主义制度 下永远生产、不会抱怨和反抗的机器工人 。

　　人工智能能获得 “解放”吗？

　　以人文主义和浪漫主义为基础的西方现代文化提供了一种反现代性的视角，这种视角确实回应了工业化、技术进步所带来的问题。只是这种批判无法走出现代性的泥沼，更多的是充当异化的人们生活在异化的现代制度中的自我抱怨和文化吐槽。这很大程度上是因为以人工智能为代表的信息产业并没有改变既有的生产逻辑和社会关系，因此，人工智能只能加深现代性的危机。

　　在这个意义上，除里人文主义和浪漫主义之外，还需要对人工智能进行社会和政治经济学分析。当下支撑人工智能的信息产业与大资本(投资者)、城市人(消费者)和产业工人(生产者  )相关，只有改变人类被现代理性奴役的状态，人工智能才能从机器奴隶的宿命里解放出来，这个时候即便人工智能也能产生“人性”的情感，也将不是噩梦，而是与人类和平共处的伙伴。