您现在的位置:主页 > 新闻中心 > 新闻中心

听听「天才」哈撒比斯怎么说!
发布时间:2016-02-24 08:41浏览: 字体大小[ ]

创见干货: 德米斯. 哈撒比斯何许人也?他绝对是一位无与伦比的天才:在 8岁的时候设计了人生第一款电脑游戏;在 13 岁即成为国际象棋大师;在 17 岁创作出整合了人工智能技术的电子游戏先驱《主题公园》;20岁即以优异的成绩从剑桥大学计算机科学专业毕业,毕业后创立了具有开创意义的电子游戏公司 Elixir;在 2011 年,他创立了DeepMind 公司。今天,这位天才的专访将带领你从更深的层面认识人工智能技术。

德米斯. 哈撒比斯(DemisHassabis)举止谦逊,为人谦和,绝不像是一个爱出风头的人。尽管如此,哈撒比斯却作出了一个严肃的决定:他希望能解决一直在困扰人工智能领域的问题,并在这个基础上解决所有其他问题。不论是谁只要向外宣扬这个野心无疑都会引起旁人的讪笑,但哈撒比斯却是一个绝对的例外。

现年 39岁的哈撒比斯除了是一位国际象棋大师以外,还是一名电子游戏设计师。由他一手创立的人工智能企业「DeepMind」在 2014 年被Google 以 6.25亿美元的价格收购。哈撒比斯的父母都是新移民,他曾就读于芬奇利市(Finchley)的综合学校,后来分别在剑桥大学(CambridgeUniversity)和伦敦大学学院(University CollegeLondon)取得了计算机科学和认知神经学专业学位。同事纷纷表示哈撒比斯是一位很有远见的管理者,他认为自己成功找到了一种能让科学研究更具效率的方式,而且坚信自己是「21世纪阿波罗计划」(Apollo)的领导者。哈撒比斯的长相非常平凡,倘若在大街碰到你绝对不会再多看他一眼。但「互联网之父」蒂姆 ·伯纳斯 · 李(Tim Berners-Lee)却坚信哈撒比斯是这颗星球上最聪明的人之一。

人工智能有多恐怖?听听「天才」哈撒比斯怎么说!

人工智能技术已经来了?

人工智能技术已经来到了我们身边,我们时常接触的 Siri 和Android 设备上的语音助手就是最好的两个例子。在短期内,Google公司的产品将会成为哈撒比斯研究成果的最早受益者,尽管个性化产品,智能化搜索,YouTube、智能语音和脸部识别等领域在严格意义上并不属于人工智能的范畴。「仅仅是软件,对吗?」哈撒比斯笑着说道,「反正就是一些能运作的东西。」

从更长远的维度看来,哈撒比斯正在开发的技术所覆盖的范围绝不仅仅是情感机器人和智能手机,也绝不仅仅是Google。不甘落后的 Facebook、Microsoft、Apple等科技巨头也在大肆吸纳人工智能领域的人才,这些公司已经在该领域投入了数十亿美元。人工智能技术所带来的颠覆性势必会超乎所有人的想象。

确实,这一切听起来难免有种野心勃勃的感觉。绝大部分人工智能系统都相对比较狭隘,预先编程完毕的媒介只能处理特定领域的任务,对其他领域则并不擅长。由此可知,尽管IBM 公司的「深蓝」(Deep Blue)能够在围棋上胜过世界冠军加里 · 卡斯帕罗夫(GaryKasparov),但它在「三子棋」游戏中甚至不能打败一个三岁的小孩。而这一次,哈撒比斯却计划从人类的大脑中获取灵感,期望打造出第一款面向多种用途而且可以自主学习的人工智能机器。这款机器所使用的算法非常灵活,足以适应周边的环境,这意味着它完全可以像生物系统一样进行学习。只需接触到原声数据,它就可以从零开始学习技能。

这项技术被称为「人工通用智能技术」,重点在于「通用」二字。哈撒比斯认为,在将来具备超高智能的机器人将会和人类的专家联手解决所有的难题。「不论是癌症、气候变化、能源、染色体、宏观经济、财务系统还是物理范畴,我们需要掌握的系统正变得越来越复杂。」他表示,「面对无穷无尽的信息,即便是最聪明的天才穷尽一生也很难处理完毕。在这种情况下,我们应该如何在信息的汪洋中筛选出有用的信息,以帮助我们解决问题呢?所谓的人工通用智能技术,其中一个用途就是将没被结构化的数据转化为可用信息。我们所研究的是面向所有问题的元解决方案。」

万能的元解决方案距离我们或许还有数十年之久,但我们无疑正在朝着这个目标迈进。在 2015 年 2月,权威科学杂志《自然》(Nature)在封面刊登了一篇关于「具备自主学习功能的人工智能软件在电子游戏上取得了和人类相近的表现」的报道,并为该篇报道配了《太空入侵者》游戏的图片。据报道,DeepMind公司所发表的论文表明其人工智能产品配备有第一款真正意义上的「端对端」学习系统,这款产品的人工智能媒介(一款被称为「Deep-Q网络」的图像处理元件)已经学会了如何处理屏幕上的数据输入。在完全弄懂数据输入之后,这款产品会自行采取行动以便实现期望的结果。在报道中,这款人工智能产品在2,600 款经典游戏中都取得了骄人的成绩,这项突破震惊了整个技术界。

随后在上一个月,DeepMind公司再度登上了《自然》杂志的封面。在短短几个月内,这家公司再度实现了一项伟大的成就。这一次,他们的测试机床不再是 70 或者 80年代的经典游戏,而是把目光放到了拥有超过 2,500年历史,甚至曾被孔子提及的围棋上面。围棋分支系数的体量非常庞大:它所蕴含的可能性的数量甚至比整个宇宙的原子数量还多。而且和国际象棋不同,围棋所依靠的并不是单纯的计算。让人感到雪上加霜的是,开发人员不可能为围棋设计出评价函数,他们不能通过算法集合表述哪一方正处于领先位置,比劣势方领先多少等情况。围棋所依赖的更像是人类的「直觉」:每当被询问为何采取特定的行动时,专业棋手总是会给出让人感到模棱两可的答案,例如「感觉就该这么下」。

众所周知,计算机一直以来在直觉方面的表现并不是那么优秀。正因为如此,围棋一直被视为人工智能技术难以攀登的一座高峰。研究人员甚至曾悲观地预测,计算机想要攻克围棋至少需要再过十年的时间。

人工智能有多恐怖?听听「天才」哈撒比斯怎么说!

但在上年秋季的一次秘密比试中,DeepMind公司的全新人工智能算法「AlphaGo」却以 5 比 0 的绝对优势击败了 3 度蝉联欧洲围棋冠军的樊麾。在今年 3月,AlphaGo 还将迎战世界冠军李世石(Lee Sedol)。帝国理工学院(ImperialCollege)认知机械人学专业的默里 · 沙纳汉(Murray Shanahan)教授认为这是一项惊人的成就。超人类主义哲学家尼克• 波斯特洛姆(Nick Bostrom)也认为 AlphaGo所取得的成果具有里程碑意义,他在《超级智能:路线图、危险性与应对策略》一书中写道,倘若人类真的成功研发出人工通用智能技术,我们的世界将会迎来前所未有的改变。或许我们应该借用Google 公司技术总监雷蒙德 · 库茨魏尔(RayKurzweil)的观点,他认为人工通用智能技术甚至有可能会改变我们的历史进程。「AlphaGo所取得的成就完全是戏剧性的,它是过去数十年来机器学习领域的集大成者。」波斯特洛姆在牛津大学(University ofOxford)的人类未来研究所中说道。

「不错,这确实很酷。」哈撒比斯对波斯特洛姆的观点表示同意。和往常一样,哈撒比斯的穿着毫无特色可言,还是黑色的上衣、长裤和鞋子。据称Google 公司向哈撒比斯个人支付了 8,000万美元的资金,但不得不说,他给人的感觉更像是一位实习生。「围棋是棋类的至尊,它代表着棋类的高峰。就玩家所需的智力深度而言,围棋更加是纬度丰富的代表,这个游戏非常容易让人着迷。但更让我们感到激动的是,我们不仅仅是本人掌握了这个游戏,我们还能通过有趣的算法来对这个有趣的游戏进行操作。围棋所蕴含的艺术色彩要浓于科学色彩。」哈撒比斯说道,「围棋的玩法非常贴近人类的风格,人们可以通过贴近人性的方式对其进行学习,并在实践中进步。这就是我们人类学习围棋的方式。」

也许哈撒比斯看起来就像是一个学生,但在说这些话时他的脸上却洋溢着骄傲父母的神情。在他的职业生涯中,围棋是最让他感到兴奋的事物。「围棋的顺序和量级都远超人们的想象。」他热忱地说道,「更让我们感到兴奋的是,我们的系统和那些需要人工设置规则的专家系统不同,它可以运用通用的机器学习技巧自学围棋。在以后,我们希望可以将这些技术应用到气候建模和病毒分析等复杂的现实问题上。每次只要想要这点,我们都会感到格外激动。」

人工智能有多恐怖?听听「天才」哈撒比斯怎么说!

德米斯. 哈撒比斯何许人也?

第一次和哈撒比斯见面是 2014 年的夏季,当时 DeepMind的收购事件已经过去了好几个月的时间。自那时以来,我一直对他保持关注。为了完成这篇文章,我在过去 8 个月中分别在 3个不同的场合对哈撒比斯进行了采访。我见证着他从 Google公司的人工智能天才蜕变成一位令人叹服的高效沟通者,他显然已经找到了向非科学领域的群体描述这项复杂工作的有效方式,他对自己的工作抱有十足的热忱。谦逊有礼且风度翩翩的哈撒比斯非常擅长对DeepMind 所使用的新旧技术进行分解,他还会将不同领域的人工智能搜索技术巧妙地运用到产品上。AlphaGo就是一个绝佳的案例,这个系统很好地将传统的「树状搜索」技术和新兴的「深度神经网络」技术结合到了一起,其结构和人体大脑的神经元结构非常相似。

而 DeepQ则结合了深度神经网络技术和强化学习技术,因此这款产品的学习方式和动物所具有的学习方式非常相近,动物在学习的时候主要依赖大脑中由多巴胺驱动的激励系统。而在AlphaGo 中,他们甚至对技术再度进行了深化:他们为 AlphaGo添加了一种层次更深的强化学习技术,在这种情况下,AlphaGo将会具备进行长期计划的能力。下一步,相信他们将会为系统整合如记忆等每一项具有里程碑意义的功能。「我们有一张线路图,上面列举了所有这方面的功能。」哈撒比斯说道,「如何将不同的领域结合起来才是关键,因为在我们眼里,只有能将学习能力应用到全新领域的算法才能缔造出优秀的人工智能产品。」

这一切听起来和哈撒比斯的风格非常一致。第一眼看到他的简历的时候,你很容易误认为他是一个并不那么「专注」的人:不论是棋类游戏、电子游戏、电脑编程、认知神经科学还是人工智能技术,这些统统都在他的涉猎范围之内。但实际上,哈撒比斯之所以能取得今天的成就,完全有赖于其出众的专注力:他将自己出类拔萃的智力和终身奋斗的学科结合到了一起。(哈撒比斯的主要成就包括:在8 岁的时候设计了人生第一款电脑游戏;在 13 岁即成为国际象棋大师;在 17岁创作出整合了人工智能技术的电子游戏先驱《主题公园》;20岁即以优异的成绩从剑桥大学计算机科学专业毕业,毕业后创立了具有开创意义的电子游戏公司「Elixir」;在 2011 年,他创立了DeepMind公司。此外,他还是海马体和情景记忆领域的学术研究先驱,他的研究成果被誉为「领域内最后一块拼图」。)

「我很容易会对事情感到厌倦,世界却又那么缤纷多彩,酷炫的事物实在是太多了。」他表示,「如果我是一名运动员的话,我希望自己可以成为一名十项全能选手。」在有着智力界奥林匹克之称的「Pentamind」项目中,哈撒比斯曾5 次夺得冠军称号。

哈撒比斯是利物浦足球俱乐部的一位狂热粉丝,他也喜欢观看各式各样的运动项目,但剧烈运动的光环却未能照耀到他身上。哈撒比斯从4岁开始学习国际象棋,一年内即在英国开始比赛,随后更是进军国际棋坛。幼年阶段的哈撒比斯已经充分显露出了其心智天赋。

哈撒比斯于 1976年出生于伦敦,他的父亲是塞浦路斯希腊裔(Greek-Cypriot),母亲是新加坡华人,他是 3兄弟姐妹中最年长的一个。哈撒比斯的父母都是教师,他们曾经经营过一家玩具店。哈撒比斯的妹妹是一位作曲家和钢琴师,弟弟则在学习创意写作。在哈撒比斯的整个家庭环境中,科技似乎并没有占据多大的比重。「我完全是一匹黑马。」他打趣地说道。据哈撒比斯回忆,他会用从象棋比赛中所赢取的奖金购买「ZXSpectrum 48K」和「CommodoreAmiga」等设备。他会马上将这些设备拆开,并从中学习编程知识。「我的父母亲是技术恐惧者,他们并不喜欢电脑,而且很有波希米亚人的风范,而妹妹和弟弟则进入了艺术行业。除了我之外,我们全家没有人选择进入数学或者科学领域。」哈撒比斯无奈地表示,「这看起来确实有点奇怪,甚至连我自己也不知道我的天赋究竟来自于哪里。」

人工智能有多恐怖?听听「天才」哈撒比斯怎么说!

DeepMind:一家可以让天才齐聚一堂的公司

被 Google 收购的时候哈撒比斯的公司只有 50 名雇员,现在DeepMind 已经拥有接近 200 位雇员。DeepMind 的雇员来自 45个国家,他们的工作场所是位于国王十字火车站附近的一栋 6层建筑。尽管一直有人建议哈撒比斯将公司转移到其他地方(例如位于硅谷的山景城),但他坚信自己应该将公司置身于自己的根源地附近。

「我在伦敦北部出生,并在那里长大。」哈撒比斯表示,「我非常喜欢这个城市,这也是我坚持留下来的原因。我并不认为伦敦不配拥有一家世界级的人工智能研究机构,我对这个地方感到非常自豪。」在DeepMind 的办公大楼内,所有的房间都以心智巨匠的名字命名,包括特斯拉、拉马努金、柏拉图、费曼、亚里士多德和玛丽 ·雪莱(Mary Shelley)等等。哈撒比斯是玛丽 ·雪莱的粉丝,他曾经多次阅读《佛兰肯斯坦》一书,并认为自己从中收获了许多感悟。

办公楼一层有一家餐厅。在一楼的接待区域有几台塞满饮料的冰箱和桌上足球游戏机,还有一些懒人沙发,可谓延续了典型的科技公司做派。而加建的顶楼所采用的则是开放式结构,你可以从中欣赏伦敦的大好风光。

每逢周五晚上,DeepMind的员工都会齐聚楼顶开怀畅饮。其中一位雇员曾经兴高采烈地描述道:「这是公司的一大惯例,我们会在高处作兴,以欢送一周的流逝。」DeepMind会组织跑步俱乐部、足球队、棋类俱乐部等活动,其中最受欢迎的要数棋类俱乐部。DeepMind的员工认为社交活动是生活不可或缺的其中一块。最引人注目的是挂在办公室墙上的一幅挂图,挂图上面挂着一些可移动的图片,这些图片表明了每一位员工的办公位置。由于DeepMind的办公形式非常开放,因此员工每天都可以选择不同的办公位置。我在走廊上看到了一些工程人员(绝大部分是男性),他们完全打破了过去工程师给我的呆板印象:他们看起来体态良好,而且你能从他们脸上捕捉到愉悦的表情。不得不说,这家公司甚至连空气似乎都弥漫着一种智能的气息,难怪世界上最聪明的人都纷纷想要进入这家公司。截至目前,DeepMind的员工保存率还是100%。考虑到其他科技巨头以及全球各大院校也在大力增加面向人工智能技术的投入,这样的保存率更是显得惊人。

就目标等级和人才储备的质量和速度而言,哈撒比斯认为 DeepMind和阿波罗计划(Apollo Programme)以及曼哈顿计划(ManhattanProject)完全具备可比性。「我们非常幸运,每一年我们都能各国的优秀科学家。在我们的雇员当中,有的曾经在国际奥林匹克物理竞赛中脱颖而出,有的则是所在国水准一流的数学硕士。目前我们的人手还远远不足以支撑我们的想法,而与此同时,每一年我们都会收到远超录取数的求职申请,因此我们感觉自己非常幸运。唯一的局限在于我们在不损害企业文化的前提下所能吸收的人才数量。」哈撒比斯说道。

DeepMind公司企业文化的深度要远远超过懒人沙发、免费零食和屋顶啤酒宴会等表象。哈撒比斯坚称 Google的收购丝毫没有让他偏离预定的研究路径,他还表示自己在 DeepMind的效率问题上所花费的时间和在算法上所花费的时间大致相当。在他眼中,DeepMind除了是一家优秀的创业公司以外,还是一家优秀的学院。哈撒比斯认为凭借无穷无尽的能量和创造力,DeepMind必将推动宏达的进程。哈撒比斯时常将「创造力」挂在嘴边,他认为尽管自己所接受的是正统科学教育,但他的本质却更贴合于「创意和直觉」的范畴。「我并不是一个标准意义上的科学家。」他不带讽刺意味地直言。他认为对于DeepMind而言最关键的是各种思想的融汇:一群擅长多个科学领域的博学多才者,他们可以快速找出不同领域的交汇点,并以客观的方式识别出各学科之间的连接方式。在基准线得当的情况下,这些博学多才者每隔数周会对工作小组的成果进行一次检视,并且快速、灵活地按照需求调配资源和工程人手。「你所依赖的是一个才华洋溢的天才研究员,而且和传统学院那一套不同,来自其他领域的成员也可以马上接过指挥棒,以便将他们的专长加入到产品之中。」他描述道,「在这种模式的驱动下,不可思议的结果往往会应运而生。」确实,诞生于18 个月前的 AlphaGo 就是一个最佳例证。

人工智能有多恐怖?听听「天才」哈撒比斯怎么说!

「超人」哈撒比斯的日常

每天晚上,哈撒比斯都会坐地铁回到位于伦敦北区的家里和家人共进晚餐。他们在海格特区生活,这里距离哈撒比斯长大的地方并不远。哈撒比斯的妻子是一位意大利裔的分子生物学家,她的研究方向是阿尔茨海默症(Alzheimers,即老人痴呆症)。他有两个孩子,分别为7 岁和 9岁。哈撒比斯会和他们一起玩游戏和读书,还会在功课上为他们提供帮助。「两个孩子在才能上各有千秋。其中一个在科学方面的才能更加显著,而另一个则更具创造力,可以说他们分别继承了我的其中一样特质。」哈撒比斯表示。

和平常的父亲一样,他也会哄孩子们入睡。然后大概到晚上 11点左右,在大部分人正准备入眠的时候,哈撒比斯「全新的一天」就开始了。他会和美国的同事召开 Skype 会议,时间大概会持续到凌晨 1点。随后就是他的思考时间,他会思考和研究以及即将面临的挑战相关的问题,同时编写算法设计文档,这个环节会持续至凌晨 3、4点。

哈撒比斯表示他的工作不会涉及太多和实际编程相关的工作。「我的数学已经退化了不少。」他直言不讳,「我所做的更多是直觉思维方面的工作以及和公司相关的策略思考,例如公司的成长和管理问题。有时在某篇文章或某条新闻中读到一些东西,我也会思考自己的研究应该如何应用到该领域。」

这难免让人想起 AlphaGo,这个系统正不断地在 Google公司强大的云计算系统中进行博弈。它会一刻不停地进行博弈,并从中吸取经验。

「它难道从不休息吗?」我不禁发问。

「不,它无时无刻都在博弈,即使是圣诞节也是一样。」

听到这个答案,我不免有些迟凝:「它难道就不需要休息吗?」

「也许它就喜欢无时无刻地进行博弈呢。」哈撒比斯回答道,他的眼里闪耀出一丝光芒。

我接受了这个说法。那么,哈撒比斯本人又是什么情况呢?

在一次休闲场合,哈撒比斯的一位同事直接将他称为」超人」。

「你有停止的时候吗?」我不禁问道。

「实在是太难了。」他承认,「在我眼中,工作和生活并不存在丝毫的冲突,因为两者都是非常重要的组成因素。我喜欢阅读、看电影和听音乐,这些爱好对于我的工作有很大帮助。我的大脑完全被自己的工作占据了。」哈撒比斯表示自己是电影的狂热爱好者,他还提及自己曾经和美国电影制作人布莱恩· 格雷泽(Brian Grazer)会面,他们还谈论了一些和人工智能领域相关的问题。

那么,他的孩子、朋友以及日常生活又该如何平衡呢?「当然,我会尽量为这些范畴留出一定的时间,否则我也太疯狂了。孩子最好的一点是,他们总是能够自然而然地占据你的脑海,这一点和爱好非常相似。」哈撒比斯说道。

哈撒比斯会和朋友保持紧密联系,他和 DeepMind其中一位联合创始人谢恩 · 莱格(Shane Legg)是在伦敦大学学院就读硕士期间认识的。而另一位联合创始人穆斯塔法 ·苏蕾曼(Mustafa Suleyman)更是他从小的密友。哈撒比斯很喜欢谈论在剑桥大学期间教本科同学戴夫 · 西尔韦(DaveSilver)下棋的趣事,他甚至还把一种历史悠久的中国棋类的玩法教给了这位同学。而在 20 年后,西尔韦则成为了 DeepMind公司 AlphaGo团队的主力编程人员,他还是最近发表在《自然》杂志上那篇论文的主要作者。「没错,我和戴夫的渊源很深。」哈撒比斯笑道,「在过去,我们时常会梦想从事和当下一样的工作。今天我们终于实现了当年的梦想,19岁的我们应该也会感到宽慰吧。」

哈撒比斯还补充称:「确实,我的生活完全说不上正常。我无时无刻不在思考和工作相关的事情,甚至连在走路和睡梦中也停不下来。我认为自己的工作实在是太有趣了,其重要性显而易见,我对它抱以非常饱满的激情。」

他的眼睛经常会给人一种光芒四射的感觉,看起来满含着孩子的童真。「我认为自己非常幸运,世界上很少有这么有趣的问题在等着我解决,我无时无刻都在思考着这些问题。我对自己的工作抱有全身心投入的决心,否则我为什么要做这些工作呢?毕竟韶华易逝。」哈撒比斯说道。

人工智能有多恐怖?听听「天才」哈撒比斯怎么说!

人工智能技术到底有多恐怖?

史蒂芬 · 霍金(Stephen Hawking)、比尔 ·盖茨(Bill Gates)、埃隆 · 马斯克(Elon Musk)、扬 · 塔里安(Jaan Tallinn)以及尼克 ·博斯特伦(NickBostrom)等人一直对于人工智能技术的发展表示担忧。一旦他们所忧虑的事情不幸成为现实,人类恐将迎来灭顶之灾。他们担心人工通用智能技术的滥用有可能迎来「智能爆炸」的局面,届时机器将通过不断的迭代自我提升,进而取得超越人类智力水平的智能。换而言之,最终机器有可能会失控。至于这样的可怕景象是否会出现,历史显然不能给出可靠的参考答案。在一切变得太晚之前,我们是否有足够的远见和魄力及时停止这场人工智能领域的「军备竞赛」呢?「每当你发现某种先进技术的时候,你会不顾一切地对其进行探索。只有在取得了技术上的成功之后,你才会思考接下来的应对方案。」这是罗伯特· 奥本海默(Robert Oppenheimer)的名言。

「如果说存在能确保人工智能技术不会对人类造成伤害的方法,那么人工智能技术终将问世。但即便我们对于确保安全方法的有无并不确定,人工智能技术还是会被创造出来。」波斯特洛姆说道。最近霍金发表了一段高度概括的文字:「成熟人工智能技术的出现必将成为人类历史上最具意义的事件,但很不幸,它也可能成为人类历史上的最后一起重大事件。」

「我当然不希望人工智能技术最终演变成为噩梦。」哈撒比斯面无表情地说道,他认为公众对于人工通用智能技术的担忧模糊了这项技术所能带来的即期利益。他认为这种担忧并不恰当,至少在当下看来言之过早。「我们距离开发出和人类智力水平相当的技术至少还有数十年的事件。」哈撒比斯提醒道,「我们才刚刚迈上了这个阶梯的第一步,目前还处于游戏阶段。」他承认我们确实应该考虑人工智能技术所蕴涵的风险,但这种风险不会是超级智能机器人残酷屠杀人类的科幻小说情景。

此外,哈撒比斯坚称 DeepMind在消除人工通用智能技术的潜在威胁方面也占据了领先地位。尽管 DeepMind并不像阿波罗或者曼哈顿计划一样需要接受官方审查,但这家公司的运作方式却非常透明。他们倾向于公布自己所使用的代码,他们和 Google公司的合同条款也规定了相关技术禁止用于军事和情报领域。在 2015 年,哈撒比斯和其他 DeepMind雇员甚至还协助召开了于波多黎各举行的人工智能技术研讨会,并签署了承诺将人工智能技术应用于善意领域的公开信。在公开信中,他们还承诺会竭力避免人工智能技术的潜在威胁。最近,在哈撒比斯和他的同事的协助下,纽约也组织了一场相似的会议。哈撒比斯表示DeepMind 公司的内部道德及咨询委员会会议已经开始召开(尽管以非公开形式)。「哈撒比斯对于人工智能技术的安全问题非常熟悉。」默里· 沙纳汉教授指出,「他显然没有那么天真,也不会像鸵鸟一样把头埋在沙子里面。」

「DeepMind一直是人工智能领域的领导者,它一直在推动该领域的参与者对安全问题进行讨论。」波斯特洛姆表示,「除此以外,这家公司还参与到了防范长期风险的研究中来。」

我曾经请哈撒比斯列出他认为最首要的长期风险。「随着这些系统变得越来越老练,我们需要思考它们所使用的优化方式以及这种方式将会导致的优化结果。」他回覆道,「技术本身是中立的,但我们所接触的是一个会不断学习的系统,它们将会不可避免的接触到一些和价值体系以及设计者偏好相关的信息。因此,我们需要严肃思考它们所接触的价值体系。」

在被问到关于超级智能机器人的问题时,他的回答是这样的:「我们需要确保目标被以正确的方式表述详尽,中途不应该存在任何模糊不清的表述。与此同时,我们还需要确保目标的长期稳定性。在我们的所有系统中,最高层级的目标通常会由系统的设计者进行表述。尽管每一位设计者实现目标的方式或许各有千秋,但这些系统并不会自行创造目标。」

他的口吻非常坚定,显得信心十足。「看吧,有趣而又困难重重的挑战就是这些。在全新的强大技术出现的时候,我们需要确保它们的用途合乎道德和信任标准。正因为如此,我们才会积极推进关于人工智能技术安全问题的讨论和研究。我们希望但成熟技术来临的时候,一切已然就绪。」

成熟技术来临的时候世界将会变成什么样子?届时机器是否会变得过于智能化,以至于完全超越人类?哈撒比斯对这些问题付诸一笑。「不不不,我所说的阶段距离你们所恐惧阶段还有一段非常遥远的距离。」

尽管哈撒比斯的表现会让人感到轻松,但在 2011 年,他的创业伙伴谢恩 ·莱格却明确说过:「在我看来,人类的灭绝或许真会来临,而技术将会在人类的灭绝中占据一个重要席位。」但哈撒比斯很快就进行了澄清:「我所指的是可以将这些系统应用到一些游戏以外的领域,一些和现实世界的联系更加紧密的领域,一些更加重要的领域,例如医疗保健领域。我们需要确认这些系统的能力到底有多强,只有这样我们才能阻止机器全面接管世界的局面。」说到这里,他笑了起来。

哈撒比斯是一位笑口常开的人,他待人友善,说话的时候也很有说服力。他所说的一切听起来都那么有依有据,却又不会给人一种傲慢的感觉。关于未来的事情,谁也不能给出一个确切的说法,或许人工通用智能技术确实会维持在我们的掌控之中呢?「显然,如果某种全面超越人类智能的数字化技术确实存在,那么我们当然不能指望它会心甘情愿地给我们带来协助。」埃隆· 马斯克说道,他在最近曾明确表明人工智能技术的发展是一种「召唤恶魔」的行为。这位杰出的企业家是 DeepMind公司的初始投资人之一,而他投资的动机并不是为了赚钱。「我并不是为了投资而投资。」他在位于加州的办公室说道,「我投资DeepMind,完全是为了更好地认识人工智能技术发展的过程及其潜在风险。如果我们因为不够谨慎而导致毁灭性恶果的发生,银行账户又还有什么意义呢?」

「埃隆是世界上最聪明的人之一,我很享受和他聊天。」哈撒比斯说道,「这么一个杰出的人能够投身人工智能领域,我认为这是一件好事,因为这也从侧面印证了人工智能技术确实意义非凡。」哈撒比斯在回覆这类问题时会表现地非常老练,但一些来自其他领域的科学家却总是喜欢针对人工智能技术发表高谈阔论,这种行为会让哈撒比斯感到非常懊恼。他表示自己绝不会对粒子物理学指手画脚。

「一般而言,我认为非人工智能技术从业者对于这项技术并不了解。由于他们通常没有和大量领域专家接触的经验,因此他们所进行的思维实验往往会出现偏差。在我眼里,他们所作出的绝大部分假设都经不起推敲。」说到这里,他再次提及了自己所成立的内部道德及咨询委员会,这个委员会的成员分别是来自科学和哲学领域的顶尖人物,他们会对人工通用智能技术进行监管。此外,哈撒比斯还强烈寻求保持现阶段的隐私性。「此前从未有人作过这方面的尝试,因此在被强加上公共监督的枷锁之前,我们还有许多的探索性工作需要进行。我不想因为人们在Twitter等社交媒体上的意见而选择妥协。现阶段最重要的任务是让项目进一步加快,只有这样,我们才能够在下一个阶段就算法和应用等问题进行讨论。对于被牵涉在内的许多人而言,人工智能技术并非他们的核心领域。我们需要他们的专业技能,但他们需要首先明白当下所发生的到底是什么。」

史蒂芬 ·霍金教授正是所谓「项目加速」的最佳见证。最近哈撒比斯在剑桥大学和霍金进行了会面。「能和他见面对我而言是一项极高的荣誉。」他激动地说道,并拿出了自己的iPhone 向我展示他和霍金的合照。「我们的会面原本计划为 1 个小时,但他想问的问题实在是太多了,我们最终谈论了整整 4个小时。他甚至因此而错过了午餐,他的照料人对此很不高兴。」哈撒比斯表示。

哈撒比斯指出在会面期间,霍金丝毫没有提及关于人工智能技术的煽动性言论。更让人惊讶的是,在上周的BBC栏目上,霍金并未将人工智能技术列为人类所面临的潜在威胁。「多和践行者接触无疑是一件大有裨益的事情,通过这种方式,聆听者能够了解我们即将打造的会是怎样的一个系统。此外,他们还可以从中了解到我们即将采取的检验和控制措施。你只需了解其中所涉及的工程原理,关于人工智能技术的一切进展都会变得更加容易理解,也加合理。」哈撒比斯说道。在他的办公室内有一块白色的书写板,上面写满了不知所云的字符。