“机器人技术革命”这个术语激发了人们有关未来的幻想：这个未来也许距离现在不远，但确实是一个完全不同于今日的时代。事实上，这场革命已在有条不紊地进行中。如今，军用机器人出现在战场上，无人飞机布满天空，无人驾驶汽车开始上路行驶，“远程监控机器人”令人们能将他们自己的身影从其实际位置几乎呈现到世界的另一边。但是，这些技术进步当中令人兴奋甚至是具有魅惑力的诉求，遮蔽了深层次、有时是令人不快的问题：不断增加的人机互动对社会而言意味着什么？
机器人技术帮助政府、企业和普通人收集、理解并处理现实世界中的巨量数据，这无疑将改善人类生活。但它们也有可能造成反乌托邦的结果。智能机器试图奴役或者灭绝人类，我们几乎不大可能濒临《黑客帝国》、《终结者》这类好莱坞电影天马行空般描绘的那种噩梦般的未来。不过，那些黑暗的幻想中蕴含着真理的种子：机器人的未来将牵涉激烈的权衡，其中一些权衡意义相当重大，乃至于可能在“成为人类意味着什么”这样一个问题上引发集体性的身份危机。
涉及任何技术革新时都会出现这样的熟悉警告。但目前正在发生的事情与机器人技术的上一次重大进步之间存在关键性的区别。那是20世纪晚期，制造业中的自动装置开始出现在工厂车间。当时，工业机器人与人类之间存在清晰的边界：防护围栏隔开了机器人工作区域，确保人与机器之间的最少接触，而且在不进行互动的情形下，人类与机器人履行完全不同的职责。
这样一种屏障已经被打破，不仅在工作场所，而且在更广泛的社会领域：机器人现在与人共用之前只有人类才能出现的公共场所，人类在社交方面将越来越多地与一个机器人构成的多样化生态系统打交道。问题是，当涉及人与机器人的互动时，指导人际关系的丰厚道德思想传统一时间没有对等物。并且当然，机器人自身没有与生俱来的驱动力，以避免涉及诸如隐私权或保护人类生命之类伦理上的罪过。机器人如何与人类互动，在很大程度上依靠它们的制造者在多大程度上了解并且关心这类话题，而机器人的制造者往往是那些几乎没有接受过伦理、人权、隐私权以及安全方面训练的工程师、程序员和设计师。在美国，几乎没有任何可以授予机器人技术学位的学术型工程学研究项目要求在这些领域进行深入学习。
人们或许希望，政治与法律制度能指导和限制机器人的发展，以此填补那一空白，其目标是减少机器人造成伤害的可能性。理想情形是，随着机器人在社会中扮演的角色越来越重要，在监管和侵权责任法方面当有同样可观的进展与之相匹配，这样，整个社会才有可能应对在未来一些年中将不可避免地涌现的问责和担责的问题。但是机器人技术更替的速度远远超过监管者和立法者的追随能力，特别是当大型企业向几乎不为政府监管者知晓的秘密机器人技术项目投入巨资时。
有很多理由相信，机器人的能力与机器人监管之间的鸿沟每年都将不断扩大，这给法律与政府造成了各种各样的窘境。想像一只具备适应能力的机器人：它与它的人类主人生活在一起，并且从主人那里学习知识。假以时日，它的行为将呈现出原始编程与其所在环境和“教养”的影响混合而成的功能。假如这样一只机器造成了伤害，依现有的责任法来分配责任或将困难重重，因其活动将不仅由计算机编码决定，而且由一种深层神经状网络决定，该网络可能已从多种多样的源头学到了东西。谁可能遭到谴责？机器人，它的主人，还是制造者？
我们面对的是这样一个未来：机器人将愈发大胆地挑战伦理与法律框架的边界。应对这一挑战的方案将不简单，但我们可以采取一些步骤，以未雨绸缪。那些监管机器人的研究机构、大学以及当局必须帮助确保受训设计和制造智能机器的人士，也受到严格的伦理学教育。而那些已处在技术创新前沿的人士，必须专注于赋予机器人真正的力量。人类判定责任的努力几乎总是取决于我们发现和分析意图的能力。如果我们将生活在一个机器越来越表现得像人一样并且做出了越来越多“个人”选择的世界，那么我们就应当坚持认为，机器人也能与我们交流那些有关它们所知道的、它们怎么知道的，以及它们想要些什么之类的事情。
一把双刃剑
机器人可能将明确的社会福利与令人沮丧的伦理困境混杂在一起，从而将给社会造成多种困境，能说明这一点的一个很好的例子是轮椅。如今，有超过6500万人受困于轮椅；相较于可以正常行走的同龄人，他们在与更多障碍较劲，并且在一个为站立而设计的世界中得坐着生活。不过，由于机器人技术的进步，今后20年将可能见证轮椅的终结。卡内基梅隆大学、加州大学伯克利分校以及其他许多医疗机器人技术实验室，目前正在开发外骨骼机器人腿，这种腿可以感知对象并保持平衡。有了这些新的工具，那些虚弱到无法行走的老年人将找到新的立足点，知道滑倒的可能性将大大减少，而滑倒会造成危险的骨折。对视觉受损的轮椅使用者来讲，结合了计算机操作的摄像头和传感器的外骨骼机器人腿将组建一个人机小组：人将选择高级策略（比如要去咖啡店），而机器人腿处理按部就班的导航及做动作这种低级别操作。
对人类来讲，这样的结果或许意味着无限制的收益。但是，随着机器人假肢应用技术进入主流社会，身体健全的人士笃定也想利用它们。这些机器人假肢将安装传感器和云连接软件，这些传感器和软件在感知、存储以及处理信息的能力方面将超越人的身体。这样的组合是诸如汉斯·莫拉维克（Hans Moravec）以及雷·库兹韦尔（Ray Kurzweil）之类未来学家所命名的“超人类主义”（Transhumanism）实现的第一步；所谓“超人类主义”，是一种后期进化方面的改造，将以人与机器的混合体代替普通人类。到目前为止，混合体的表现大多落后于普通人类的能力，但人机混合体的性能大大超过纯粹的生物系统，仅仅是时间问题。（汉斯·莫拉维克是美国卡内基梅隆大学机器人技术研究所兼职教授；雷·库兹韦尔是谷歌公司技术总监。——编注）
这些超人所具备的能力将不局限于身体活动：计算机接收和解释脑部信号的能力不断增强，甚至已展示出基于大脑的机械控制的雏形。那些信号由植入脑部（或装配在头部周围）的电极传送。如今，研究人员主要的兴趣在于设计出一种单向系统，它可以读取脑部信号，随后将那些信号传输到诸如假肢和汽车这样的装置中。但并没有真正的障碍来阻止计算机界面恰好将这样的信号传回，这等于是用硅质的涡轮增压器来武装人类的大脑。完成复杂的数学运算、从事最高质量的语言翻译、甚至是展示大师级别的音乐表演——某一天，这样一些能力或许就不只是有赖于天生的技巧与训练，还有赖于能够装配最高效的大脑与计算机的混合装置。
然而，这样一些优势或将迎头撞上一系列伦理难题：正如同区别基因工程和优生学的界限含糊细微一般，或许会将人的能力提升到有机体极限的机器人技术与那些或许会帮助一个人超越所有已知边界的技术之间，也没有明确的区别。这样的技术有可能大幅度放大那种存在于不同经济手段的人群之中，在机会和成就方面已经较为显著的差距。在未来的机器人时代，今日社会中有关社会和经济不平等的激烈争论将显得几乎不可思议。
你的一举一动
民主和资本主义有赖于一个共同的基本假设：假如依据理性行事并且信息充分的个体可以表达他们的自由意志，那么，他们的个人选择将结合起来，形成对社会整体而言最优的结果。这样说来，这两种体制都有赖于两个条件：人们必须能够获取信息，并且必须有能力做出选择。“大数据”时代保证有更加便捷的渠道获取各种信息。但机器人技术会收集和解释数量前所未有的有关人类行为的数据，事实上对获取信息的渠道和选择的自由两者都构成了威胁。
在自动化技术与人类行为的关系方面，一个根本性的转变已开始发生。消费者与企业之间的传统互动立足于直接的经济交易：消费者为商品和服务付费，企业为他们提供商品和服务。然而，在数字经济时代，消费者越来越多地受益于看似免费的服务，而企业的获利不是通过直接向消费者收费，而是通过收集有关消费者行为的信息，然后在消费者并不知情也未默许的情形下变现。对基础数据的这种挖掘已经司空见惯：比如，想想谷歌为确定用户可能有兴趣购买什么产品，是如何分析用户的搜索历史记录和电子邮件，而后又运用那一信息将目标明确的广告位置卖给其他公司的。
随着越来越多的自动化技术开始出现在物质世界中，这样的过程将变得更加具有侵略性。在未来的几年里，数字化广告将整合瞳孔跟踪技术，该技术目前正在卡内基梅隆大学和其他一些地方开发，它可以从几米外追踪路人的目光。交互式广告牌配备有复杂的摄像头和软件，这些摄像头和软件可以估算路人的年龄和性别，并观察其面部线索以便识别其心境和情绪。这种广告牌不仅将显示静态广告，还可持续观测人类对特定信息和刺激的反应，记录每一个子类别消费者的情绪反应的购买行为，并对有关每一则广告的影响的大量集成历史数据进行汇总。
2002年上映的科幻电影《少数派报告》中的一幕描述了这一特有概念：主人公（由汤姆·克鲁斯扮演）步行穿过一个购物中心，在那里，全息符号和影像不断向他发送营销信息，呼唤他的名字并提供为他量身定做的产品和服务。这一幕看起来远远不像是购物天堂，而令人强烈不安，因为它是如此恰如其分地捕捉到了智能机器有朝一日可能激怒人类的方式：我们将变成自动机，处在见多识广、高度社会化的机器人的影响（甚至是控制）下，而这些机器人早已学会如何支配我们的行为。
有关机器人技术和机器的学习能力对人类能力和福祉带来的影响，相对不那么异想天开并且是短时期内的担忧主要与劳动有关。在《第二次机器革命》（The Second Machine Age）一书中，经济学家埃里克·布莱恩约弗森（Erik Brynjolfsson）和安德鲁·麦卡菲（Andrew McAfee）认为，相较于人的劳动，机器人技术越来越高效，在完成常规手工工作和简单脑力任务方面都提供了显著的投资回报。人类工人的整体表现并不会随着时间的推移而改变很多，但不像人类工人的是，机器人雇工会不断变得更有效率。伴随机器人能力的每一次进步，雇佣人类越来欠缺正当理由，甚至在需要专门技能或知识的工作岗位上也是如此。阻止机器人长驱直入劳动力市场的根本性障碍并不存在：在计算技术和机器人技术呈现指数级进步的时代，几乎所有工作岗位，不论是蓝领岗位还是白领岗位，都将面临风险。结果可能是更高的失业率，这反过来可能会助推经济不平等上升，因为从新技术创造的财富中获益的人群会越来越少。（埃里克·布莱恩约弗森是美国麻省理工学院斯隆商学院教授，安德鲁·麦卡菲是麻省理工学院斯隆商学院数字商业中心副主管；《第二次机器革命》英文初版于2014年1月。——编注）
感受一下奇点
在技术专家、经济学家和哲学家的探讨和论争之中，这样的未来图景与很多不那么冷酷的预言一道出现。这些预言关乎一旦人工智能和机器的学习能力生成了“技术奇点”，整个世界将呈现何种面貌。所谓“技术奇点”是指这样的计算机系统：它们自己可以发明新技术，而这些新技术超越了这些系统最初的人类创造者发明的那些技术。这些预言在细节上有所不同，这取决于预言家。有些预言家如莫拉维克认为，智人在后进化时代的继承者将开创一个新的以舒适和繁荣为内涵的休闲时代。另一些人设想出一种能“上传”人类意识的机器人容器。库兹韦尔已暗示，技术奇点将给人类提供一种基于软件的长生不老。
然而，这些长期观点可能转移我们对机器人技术革命更加乏味的短期成果的关注。所谓更加乏味的短期成果是说，并没有一种超人的机器意识造成了巨大的混乱，恰恰相反，只发生过平庸的机器人智能技术扩散所造成的小规模的列车损毁事故。今天，我们几乎所有的社会交往都是与其他人进行，但我们正步入这样一个时代：机器将成为我们日常生活的寻常参与者。无人驾驶汽车将加入到我们与他人获取停车位的争斗当中：当争吵导致摩擦发生时，我们将坚持向我们的机器人技工声明，他们没有正确修理我们的机器人汽车。我们将在餐厅与机器人女服务员商议，以便能在位于角落的餐桌享用由机器人大厨烹饪的菜肴。每天，我们都将面对从悬停的无人机到送货的机器再到出租车这样的机器人，不论是否有人类进行远程控制，它们都将进行无缝操作；日常生活中我们将时常与机器互动，而并不知道另有人可能多么深地介入到了该机器的反应当中。人与机器人之间形成的这种系统，其可调整性是无限的，这样的系统将不允许我们对机器人和人区别对待；因为每一种交流风格都将感染到其他交流风格，结果将是我们的认同感遭到侵蚀。
但结果不必然是一个机器人的反乌托邦。有关机器人设计和监管的明确决定，横亘在今日的人类能力世界和明日的机器人自治世界之间。发明家必须开始将技术上的匠心独具与对社会问题的认知相结合，政府必须设计出将帮助新型的人工介质与社会融为一体的制度和程序。今天的所有土木工程师都被要求修读伦理学，因为一座设计不正确的大桥会造成巨大的公共伤害。机器人专家在今天面对着同样的责任，因为他们创造活动不再是仅仅学术层面的工作。襄助机器人技术研究的典型机构是计算科学系，它们必须追随土木工程系的表率作用，要求每一位学位候选人接受足够的伦理学训练，并接触一些社会学知识。
但是，为不久的将来预备机器人的制造者，效用仅止于此；时间不断流逝，今天的机器人专家必须开始更清晰地设想如何制造能将它们自己融入到社会中的智能机器。最重要的第一步或将是，在机器人装置和机器人介质之间做出明确区别。那些遵循固定指令行事、无法做出自主决定的机器人，不应当再追求高级认知能力。这意味着，它们不应具备人那样的面孔，不应该像人那样说话或彼此交流，或表露人类的情感：一只机器人真空吸尘器不应该告诉它的主人说，它在他去工作的时候想念他了。至于那些被设计用来规划目标、做出决定以及说服人们相信它们的力量的机器人，它们需要成熟起来。假如机器人专家希望这种机器具备拟人的特质，那么他们的机器人还必须接受直接问责：就它们的知识、它们的目标、它们的欲望和它们的意图，人们必须能对这些机器进行提问。
上世纪信息时代到来之际，人们预言，知识和透明度是最有价值的商品。它们将在自动化时代呈现更加重要的意义。教育家和监管者必须帮助机器人发明家获取知识，而发明家转而必须保证创造出更加透明的人造生命。
注：
本文原刊于美国《外交》杂志2015年7/8月号，原题：“The Coming Robot Dystopia”。
