你的假期已余额不足
这些天你都干嘛了?
宅在家里吃吃喝喝?
去旅游景点看人?
走亲访友接受灵魂拷问?
其实,你的假期可以不那么无聊
这是一个静下心来开启深度阅读的好机会
在猪年的最开头
来一波高能充电!
今天是我们一起充电的第5天
导读:本文带你回顾人工智能从诞生起至深度学习的时代来临时的历次繁荣与寒冬。历史轮回也不见得是一件多么可怕的事,每一次热潮里,也都有真正的技术进步。
作者:周志明
如需转载请联系大数据(ID:hzdashuju)
从1956年诞生起至70年代初这段时间,人工智能这门新兴学科一直与政府、学术界、工业界还有风投资本家都处于蜜月期之中。
这20年里面,人工智能确实取得了一些成果和发展,不过迫于政府、媒体、科学界等各方的推波助澜,人工智能也过早地向社会,尤其是这个学科的资助者们许下了太过浮夸的诺言。
哪怕是学科里那些真正了解人工智能,真正潜心从事学术研究的学者,也过于乐观的估计了这门科学的发展进程,典型的诺言如早在1957年,司马贺曾这样公开宣告到:
我的目标不是使你们惊讶或者震惊——我能概括的最简单的表述方式就是现在世界上就已有机器能够思考、学习和创造。而且它们做这些事情的能力还将快速增长,直到可预见的未来,它们能够处理的问题范围将会扩展至人类思想所能企及全部范围。
在这种充斥着激进、盲目和乐观思潮的气氛下,类似的预言和承诺是数不胜数,历史上有名的、出自这个领域几位大师之口的还有以下这样预言:
1958年,纽厄尔和司马贺:“十年之内,数字计算机将成为国际象棋世界冠军。” “十年之内,数字计算机将发现并证明一个重要的数学定理。”
1965年,司马贺:“二十年内,机器将能完成人能做到的一切工作。”
1967年,明斯基:“一代之内……创造‘人工智能’的问题将获得实质上的解决。”
1970年,明斯基:“在三到八年的时间里我们将得到一台具有人类平均智能的机器,这样的机器能够读懂莎士比亚的著作,会给汽车上润滑油,会玩弄政治权术,能讲笑话,会争吵,总之,它的智力将会无与伦比。”
这些预言在今天看来非常可笑,大师们“立下的Flag”全被现实啪啪打脸收场。可是立下这些预言的那个时间段里,这些预言和承诺确实促使许多社会资源集中到了人工智能研究之上来。
1963年6月,麻省理工学院从美国刚刚建立的高等研究计划局(ARPA,即后来的DARPA,国防高等研究计划局)获得了220万美元的研究经费,用于资助开展历史上有名的“MAC工程”(Project on Mathematics And Computation)。
这个工程的的主要研究方向之一便是人工智能,具体工作由明斯基和麦卡锡五年前建立的人工智能研究小组所承担。
从此以后,ARPA每年都为麻省理工提供三百万美元针对人工智能的几乎无条件无约束的专项经费,既不定具体方向,也不求具体产出,用时任ARPA主任的罗宾特·利克里德(Robnett Licklider,1915-1990)自己的话来说就是:“应该资助人,而不是具体的项目”。
所以这些经费才能“佛系”如此程度,允许研究者去做任何感兴趣的方向上的研究,这样的资助形式在政府对学术界的各种资助中是极不常见的。
ARPA的无条件资助一直持续至七十年代才终止,这些经费促使麻省理工形成了无拘无束的研究氛围及其特有的“Hacker文化”。
除了麻省理工学院以外,ARPA还对纽厄尔和司马贺在卡内基梅隆大学的人工智能工作小组以及斯坦福大学人工智能项目(由麦卡锡于1963年从麻省理工跳槽到斯坦福大学后创建)提供了类似的资助,当时世界上还有最后一个重要的研究机构是由唐纳德·米契(Donald Michie,1923-2007)于1965年在英国爱丁堡大学建立的人工智能实验室。
在接下来的许多年,乃至今日,上述四所研究机构一直是全球人工智能领域领先的研究中心,也是经费汇集的中心。
不过好景不长,可能只是因为人工智能研究者们对其课题难度没有能够做出正确的判断,也有可能是上帝为了让历史再一次证明盛极而衰是自然届的铁律。总之,过于乐观的估计,即令全社会的资源蜂拥而至,也使得人们期望变得过高。
时光荏苒,当大家发现人工智能承诺无法兑现时,虚幻的泡沫便注定要破灭。研究经费的走向是其最直接的体现,对人工智能提供资助的各种机构,如英国、美国政府,国防高等研究计划署和美国国家科学委员会等等,都不约而同地对没有明确方向和实用价值的人工智能研究终止了资助。
随后,类似“人工智能即使不是骗局也是庸人自扰的想法”的情绪和言论迅速从政府、研究机构蔓延到全社会,整个社会公众对人工智能的前景从盲目乐观又转变为一种极度悲观和过分不信任的态度,这个阶段,人工智能历史上被称为第一次“人工智能的寒冬(AI Winter)”。
在寒冬之前,其实就已经出现过一些线索,预示了这一局面即将降临。
最早在1966年,自动语言处理顾问委员会(Automatic Language Processing Advisory Committee,ALPAC)提交给美国政府的一份报告中,对机器翻译的进展开始提出了有充满批评和警告意味的评价 。这个其实真怪不得别人批评,当时人工智能的自然语言处理能力确实是难登大雅之堂。
罗斯·奎利恩(Ross Quillian)在给汇报的听众演示他在自然语言方面的研究成果时,只能采用一个仅含20个单词的词汇表进行演示,因为当时的计算机内存就只能容纳这么点词汇!
还有不少关于人工智能的历史材料上还记录有这样一项当时机器翻译的测试场景,翻译过程中,机器把“心有余而力不足”(“The spirit is willing but the flesh is weak”)的英文句子译成俄语再译回来之后竟然变成了“酒是好的,肉变质了”。
美国自动语言处理顾问委员会的这份报告,后来导致美国国家科学委员会(National Research Council,NRC)在为机器自然语言处理方面研究累计拨款二千万美元后,最终不得不在没有获得任何有价值的成果情况下停止了资助。
在大西洋的彼岸,1973年英国数学家詹姆士·莱特希尔(James Lighthill,1924-1998)针对英国人工智能研究状况,发表了赫赫有名的《莱特希尔报告》,这篇公开的报告是一份具有广泛影响力的、直接刺破人工智能乐观思潮泡沫的调查文件,被视作人工智能寒冬的开启。
它严厉地批判了人工智能领域里的许多基础性研究,尤其是机器人和自然语言处理等几个最热门子领域,并给出了明确的结论:“人工智能领域的任何一部分都没有能产出符合当初向人们承诺的、具有主要影响力的成果”。
此外,报告特别指出人工智能的研究者并没有能够解决如何将人工智能应用于真实世界里必然会遇到的“组合爆炸”问题。整份报告的基调充满了对人工智能研究在早期兴奋期过后的全面悲观。
《莱特希尔报告》不仅导致了英国人工智能研究的全面低潮,并且其影响很快扩散到了美国及其他人工智能的研究之中,到了1974年,各国政府的资助预算清单上都已经很难再找到对人工智能项目的资助了。
接下来长达十年的时间里,人工智能经历了它历史上的第一次寒冬,一些几年前还在愈演愈烈的自吹自擂的狂欢中作茧自缚的人工智能从业者们,许多都不得不纷纷锯短他们的鼻子,转向其他领域去谋生。
站在今天回望历史,人工智能的低潮发生过不止一次,而在进入寒冬之前几年,都有一些相似的征兆,譬如:
学术界奋力地发表论文,学术明星获得万众追捧;
所有擦边专业的学生纷纷转行搞起人工智能,市场还给这类“人才”开出令人咋舌的高薪;
企业、研究机构和学者们做出一个又一个预测和承诺,媒体连篇累牍报道人工智能的进展。
而大众则睁着一双双无辜的大眼睛,好奇而惊恐地注视着他们不理解又不敢不关注的一切。
已经过去的寒冬,让处于温暖如春环境之中阅读此书的你我,都不得不去思考,这一次人工智能热潮,是真的引爆了奇点,抑或只是历史的另一个轮回?
其实,即使这次的人工智能热潮,仍然是一个历史轮回也不见得是一件多么可怕的事,每一个时代的技术浪潮,都有这个时代的条件,有这个时代的使命。50至70年代经历的第一次人工智能的热潮里,不仅有浮夸,也隐藏着不少真正的技术进步。
例如卡耐基梅隆大学的“语音理解研究(Speech Understanding Research)”计划,当时甚至被 DARPA 评价为是“一场骗局”,但是这个研究所开发出来的“隐马尔科夫模型”这样的“黑科技”,在数十年后成为了计算机语音识别技术领域的重要一块基石,参与其中的研究者大多都成为这个领域的一代宗师。寒冬过去之后,这些成果终会发出闪亮的光芒。
沉寂十年后,人工智能在80年代开始再度爆发,这波浪潮引领的力量是符号主义,主要是知识工程和专家系统。而连接主义和神经网络,虽然也在1982年代开始出现缓慢复苏的迹象,如:
1982年物理学家约翰·霍普菲尔德(John Hopfield,1933-)提出的“Hopfield网络”
1985年特里·谢泽诺斯基(Terry Sejnowski)和杰弗里·辛顿(Geoffrey Hinton,1947-)共同发明的“玻尔兹曼机”(Boltzmann Machine)
1986年辛顿提出的可以训练多层神经网络的“误差反向传播学习算法”(Back-Propagation)
都是连接主义中的不可忽视的进步。
不过,直到2006年前后,虽然多层神经网络的训练问题已被初步解决,但神经网络本身建模的天生限制,也由于数据量和运算能力的限制,神经网络效果一直不能算好,利用当时的计算机也难以实现大规模的神经网络。
因此,当人工智能的第二次热潮在90年代逐渐退却时,神经网络又被冷落起来,此时,以“支持向量机”(Support Vector Machine,SVM)、“隐马尔可夫模型”(Hidden Markov Model,HMM)等为代表的统计学习方法唱了十多年年的主角,直到2006年辛顿提出深度信念网络(Deep Belief Network,DBN)以后,神经网络真正具有统治力的时代——深度学习的时代才真正来临。
关于作者:周志明,Java技术、机器学习和企业级开发技术专家,现任远光软件研究院院长,人工智能博士在读。开源技术的积极倡导者和推动者,对计算机科学和相关的多个领域都有深刻的见解,尤其是人工智能、Java技术和敏捷开发等领域。著有《深入理解Java虚拟机》《深入理解OSGi》,翻译了《Java虚拟机规范》等著作。