在一个由机器、AI和机器学习主导的未来,乃至人机相融的未来,生理上性别的区隔和枷锁需要被打破。
不久前的锤子发布会上,罗永浩发布了自家研制的智能音箱产品,同时提及了国内智能音箱厂商对智能音箱的定位限于女性,甚至“把音箱的人设搞成女仆甚至女奴”的现状。
纵观市面上的大多数智能音箱和我们生活中使用频率日益增高的智能语音助手,使用女性设定(或女声设定)的智能服务类产品属于绝大部分。
与此形成对比的是,世界顶级的超级计算机IBM沃森却有着一个男性的名字和声音。伦敦大学社会学院人类学家凯瑟琳·理查森(Kathleen Richardson)也曾表示,多数完整的类人机器人同样是男性。
不少消费者和用户认为,这种对不同智能产品的差别化人设,会让人们理所应当的认为女性在社会中只能承担服务他人的角色,是在向人们传递一种“男尊女卑”的性别歧视观。在此,我们首先探讨应该如何定义性别歧视。
抛开性别因素,所有性格特质都是平等的,但如果我们认为只有男性或女性才能拥有某些性格特质,那么这才是性别歧视。性格特质应当和性别剥离开来,亲和友好的性格特质也许会更多的出现在女性身上,但是我们不能因此就认为男性具有这种性格特质是一种错误。
而在当前的智能服务产品领域,我们不难发现,这种性别歧视仍然大量存在,人们对于性别差异所导致的工作胜任能力差异仍有着强烈的刻板印象。同时,有研究表明,不管是设计开发人员还是一般人,都倾向于将性别刻板印象投射到机器人或AI身上,特别是与人类有交互的那一类AI。
德国比勒菲尔德大学的一项研究表明,机器人显现出的性别特征,会影响被试者对这个机器人能力和用途的判断。
实验者给出了两种机器人,让参与者试着描述这些机器人可能的性格(比如是否友好、是否有判断力,等等),以及会把这些机器人用于哪些场景(运输、家务、教育,等等)。
结果显示:女性形象的机器人被视作更擅长沟通,人们更愿意让“她们”去做家务、护理等工作;而人们更愿意男性形象的机器人来参与计算、机械类的工作。[1]
同时,这种性别刻板印象不仅是第一眼印象,它还会影响人们对于“工作”满意程度的判断。
在新加坡南洋理工大学的研究中,研究者观察了不同性别的机器人完成不同工作的情况,并对人们的反应进行了测量,研究发现:人们会偏好完成家政工作的女性机器人和完成安保工作的男性机器人,而不是相反。[2]一台电脑若是发出女性的语音,人们对它的性能预估就不如一台男性语音主导的电脑。[3]
研究人员甚至发现,这种依照声音对机器产生的刻板印象甚至不止局限于传统的性别歧视领域:
一个小孩子声音设定的机器人会被认为更为亲和,但它给出的意见人们却不愿采纳,因为认为它“不够格”[4]。
相对极端的一个例子是,上世纪90年代,宝马5系轿车推向市场时,预装的GPS系统是女声,一些德国男性驾驶者因为不愿意听从女人的指令,打电话向宝马抱怨,最终,宝马只好召回了这个系统。
对于消费者来说,愿意拥有一个“更耐心”或“更严谨”的人工智能助理本身并不是一种歧视。但将“耐心”或“严谨”的性格特质与特定的性别相关联,则构成了隐形的歧视。
由此可见,在当前的消费市场上,这种隐藏在性别刻板印象背后的性别歧视,仍在潜移默化的影响着我们。智能产品采用女性声音或女性设定也许会为商家带来更大的销量,因为更符合用户的刻板印象从而让用户认为这带来了更好的体验,但这并不意味着它是正确的。
在现实中,由历史造成的刻板印象往往有其自限性,社会生产力的不断发展推动着我们的思维方式不断更新。当客观条件不再能束缚女性或男性的工作范围和工作能力时,人们对不同个体从事不同社会角色所给出的评价会逐渐趋于客观,并告别通过性别来衡量个体的工作水平。
而在虚拟世界中,人工智能助手的平权则走上了一条完全不同的路——让人工智能助理回归本来的面貌,即没有明确的、固定的性别。
现在已经有很多科技公司意识到了这一点,大多数的智能助手开始向无性别的趋势发展。用户可以自由选择男性或者女性的声音,而当用户提问的时候,AI并不明示自己的性别。
不过,调整智能助手的性别,也不仅仅是更换一下声音和性别这么简单。男性和女性在用词上有不同的倾向,比如女性会更倾向使用人称代词(你、我、她等),而男性会更倾向使用数量词(一、二、一些等)。如果用户听到女性设定的智能助手说着男性模式的话,也会带来困扰和不良体验。因此,公司在给智能助手准备“稿件”时,要考虑的因素其实还很多。
随着科技的不断进步,语音的多样性会慢慢得到改善,不同用户的不同偏好也会得到满足。不远的未来,也许我们每个人都可以拥有为自己量身定制的智能助手,得到最好的语音体验。
IDEO设计执行官Danny Stillion认为这种趋势很有发展潜力:
“即使在同一部设备上,你也可能会想用不同的声音来控制不同的服务。”
现在,一些地图导航软件已经推出了不同声音版本的语音导航,在行车过程中,无论你想要林志玲还是郭德纲为你指路,都能变成现实。
除了带给我们更好的语音体验以外,智能助手或许还能够推进现实社会往更好的方向发展。
早在1991年,著名的女性科技学者唐娜·哈拉维(Donna Haraway)就曾提出过一个“赛博宣言”[5],号召人们利用科技铸就新的性别身份,在一个由机器、AI和机器学习主导的未来,乃至人机相融的未来,打破生理上性别的区隔和枷锁。因此,智能助手也许会成为我们推进性别平等的强大助力。我们希望新科技能够带领全社会向着更加平等和多元的方向发展,而不是通过更多的偏好算法来固化我们现有的偏见。
我们既然赋予了技术走进我们生活的权利,那么也就应当在层出不穷的新技术带给我们便利的同时,确认它们是在朝着推动社会认知不断前进的方向上发展。新科技的推广所带来的蝴蝶效应,需要我们在迈出每一步时都务必再三思量,希望在不远的未来,人工智能的良性发展能够带给我们一个更加平等、更加美好的社会。
参考文献
[1]Eyssel, Friederike, Hegel, Frank, (S)he’s Got the Look: Gender Stereotyping of Robots 1. Journal of Applied Social Psychology. 42. . 10.1111/j.1559-1816.2012.00937.x.
[2]Benedict Tay, Younbo Jung, Taezoon Park, When stereotypes meet robots: The double-edge sword of robot gender and personality in human–robot interaction, Computers in Human Behavior, Volume 38, 2014, Pages 75-84.
[3]Nass, C., Moon, Y., & Green, N. (1997). Are machines gender neutral? Gender-stereotypic responses to computers with voices. Journal of Applied Social Psychology, 27, 864–876.
[4]Powers, A., &Kiesler, S. (2006, March 1–3). The advisor robot: Tracing people’s mental model from a robot’s physical attributes. Proceedings of the Conference on Human-Robot Interaction (HRI 2006), Salt Lake City,UT, pp. 218–225.
[5]Haraway, Donna Jeanne (1991): A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century”. Simians, Cyborgs and Women: The Reinvention of Nature. Routledge. ISBN 0415903866.