收藏官网首页
查看: 395|回复: 1

为阻止 AI 毁灭世界,马斯克不惜代价发动了 “十字军东征”

46

主题

90

帖子

2091

积分

金牌会员

Rank: 6Rank: 6

积分
2091
发表于 2017-6-19 10:31:42 | 显示全部楼层 |阅读模式
校园创客福利
马斯克不是一个没有想象力的人,对于未来,他总是有自己独一无二的看法,而且乐意下**注,他目前在智能汽车、能源及太空飞行领域的冒险也进展顺利。但是,最近硅谷快速奔向人工智能的动作却让他深感不安,马斯克认为大家对硅谷的动作应该心存戒惧。



于是马斯克开始了自己的“十字军东征”(创建 NeuraLink),并希望通过自己的行动将人们从机器人的统治中“解放”出来。通过这篇《名利场》的深度报道,我们能一窥硅谷钢铁侠在阻止 AI 毁灭人类上付出的努力和他对 AI 深深的恐惧。本文由雷锋网编译自 VanityFair。

I. 机器杀人狂

作为一个末世论者,马斯克担心 AI 崛起,但凭借 AlphaGo 一战成名的 DeepMind 创始人Demis Hassabis 则无疑是 AI 的支持者,两人虽然意见相左,但多年前就是老相识了,关于人类未来命运的问题,他们也曾有过深入的交谈。

这两位大神级的人物虽然都崛起于硅谷,但他们并不在这居住。几年前,Hassabis 曾造访过洛杉矶郊外的 SpaceX 火箭工厂。在餐厅,两人交谈甚欢,从巨大的落地窗中,还能看到 SpaceX 引以为豪的巨型火箭。当时,马斯克就阐述了自己创立 SpaceX 的终极目标:星际殖民。马斯克也自豪地认为,这是世界上最重要的项目。

当时的 Hassabis 踌躇满志,他也在做着另一项世界最重要项目:开发超级人工智能。马斯克显得有些不屑一顾,他认为如果不殖民火星,一旦 AI 崛起人类连躲的地方都没有。Hassabis 则打趣称,AI 会跟着人类去火星的。

Hassabis 的说法不但没有化解马斯克的焦虑,还让他更加担心了。

Hassabis 现年 40 岁,他非常谦逊但竞争力十足。在外界眼中,Hassabis 是 AI 界的梅林,这位魔术师将为世界召唤出无数 AI 子孙。

当然,AI 要走的路还很长,至少当下不应该成为让马斯克失眠的噩梦。眼下,Facebook 利用 AI 来做精准广告投送、为照片贴标签和策划新闻;微软和苹果则用 AI 来驱动 Cortana 和Siri;谷歌则开始将 AI 当作整个搜索引擎的基础。这一切都是未来“全知全能”AI 的预演。

在硅谷,Hassabis 出名原本是因为他棋艺高超,而且做过一款名为《邪恶天才》的游戏。但现在情况不同了,Hassabis 成了炙手可热的超级大红人,从著名投资人 Peter Thiel(硅谷唯一押宝特朗普的人)的小故事中,我们就能看出 Hassabis 的重要性。据悉,在 DeepMind 的一次会议上,一位投资人打趣道:“Hassabis 就应该就地**毙,因为他是拯救人类最后的希望。”

三年前马斯克就开始警告人类,称 AI 可能变身杀人狂。就连 DeepMind 的投资人 Shane Legg 也表示:“我认为人类很有可能灭绝,而科技在其中将扮演重要角色。”

在 DeepMind 被并入谷歌之前(2014 年),马斯克也是这家英国公司的投资人。不过,他投资 DeepMind 不是为了挣钱,而是为了时刻了解 AI 的发展轨迹。“我清楚的认识到,AI 的发展确实在加速,它比我们理解的要快得多。当然,这可能是因为平时大家看不到机器人走来走去。你家的 Roomba 也算是机器人的一种,但它们不会占领世界。”马斯克说道。

虽然与硅谷大佬们都是好朋友,但马斯克依然直言不讳的表示他们已经走上了自毁之路。在谈到谷歌创始人拉里·佩奇时,马斯克称佩奇研发 AI 虽然是出于好心的,但依然有可能“在不经意间创造邪恶势力,比如毁灭人类的人工智能机器人。”

在今年 2 月迪拜举办的的世界政府首脑会议上,马斯克再次旧事重提,称“一些科学家只是醉心于自己的工作,但他们并不了解自己的工作可能带来的后果。”在马斯克眼中,人类要想不被淘汰,“就必须实现生物智能与机器智能的融合。”这种曾出现在《星际迷航》的想法需要所谓的“神经织网”(neural lace),向人脑植入也许未来能够上传下载思想的微型电极。“我们其实已经是半机械人了。”马斯克说道。“你的手机和电脑成了身体的外延,不过现在的交互需要通过效率低下的手指和语音来完成。”借助神经织网,你就能轻松与手上的设备交换数据,同时还能借助云端超强的运算能力。同时,马斯克认为这种新型交互在四五年内就能成为现实。

三年前有了想法后,马斯克在麻省理工的一次演讲中将这些想法和盘托出,AI 成了他眼中“人类生存的最大威胁”。同时,马斯克开始倾向于建立国家级或者世界级的监督机构,防止硅谷的科学家们“做傻事”。不过,在许多 AI 工程师的眼中,马斯克的理论有些荒谬可笑,因此在回到实验室后,他们经常会自嘲的说道:“走,我们去召唤恶魔吧。”

不过,马斯克散播自己的理论可不是为了过嘴瘾,他真的针对 AI 搞起了自己的“十字军东征”。

II. “我有大男子主义”

在采访马斯克时,笔者告诉马斯克,他已经是一个像安·兰德(强调个人主义和理性的利己主义)一样的英雄了。马斯克笑笑说:“我以前听过这种说法。她说话虽然有些极端,但观点中很有料。”

不过,即使对个人奋斗看得很重,安·兰德如果见过马斯克肯定也会被震住,这样努力的人居然眼睛依然熠熠放光,从外形来看也年轻依旧。同时,马斯克的私生活也是精彩纷呈,他与自己第一人妻子共育有 5 个孩子,与第二任妻子 Talulah Riley 更是一起进了四次婚姻登记处(两次结婚和离婚)。去年秋天当 Talulah Riley 在热播剧《西部世界》中客串出演一个机器人角色后,马斯克还在 Twitter 上隔空祝贺了一把。不过,即使马斯克有心与自己爱的女人长相厮守,他也做不到,因为硅谷钢铁侠实在是个工作狂。

“我很想知道,男人每周到底应该花多少时间陪女人?”马斯克问自己的传记作家 Ashlee Vance(彭博社记者)。“十个小时够不够?这是不是已经是女人忍耐的极限了?”

马斯克就是这样的人,他非常理性,但又爱冒险。平时除了认真的工作,他还喜欢参加化妆舞会,有时还会玩玩翼装飞行。扮演钢铁侠的小罗伯特·唐尼将他看作钢铁侠在现实中的化身,而三星美国分部首席市场营销官则称马斯克是“乔布斯与儒勒·凡尔纳(科幻小说家)的合体”。马斯克首任妻子回忆称:“在婚宴上,马斯克说自己有大男子主义。”

马斯克在科技界也是个异类,他并非人们传统认知中那种弱不禁风,每天套着棒球帽衫探讨图片中的狗狗到底是什么品种的呆瓜极客。相反,马斯克更像亨利·福特这样的创业者,他甚至把自己公司火箭的零部件挂在了贝尔艾尔区豪宅的墙上。

马斯克也特别擅长定大目标,借助 SpaceX 的火箭,他在不断降低太空探索的成本,未来硅谷钢铁侠还要殖民火星。上个月,他还雄心勃勃的称要送两个游客绕月飞行,而且时间就定在明年。在能源领域,马斯克则准备通过整合特斯拉和 SolarCity 完成自己的清洁能源之梦,而特斯拉电动车则凭借无懈可击的性感设计成了许多人的梦中情人。不过,这还没完,马斯克还要做超级高铁(Hyperloop),让城际旅行不再浪费时间。去年夏天见了国防部长后,他又萌生了开发“飞行战甲”的念头,而体验了**成粥的洛杉矶交通后,马斯克转眼就萌生了挖地道的想法。

当然,天将降大任于是人也,必先苦其心志,劳其筋骨,饿其体肤,空伐其身行,行弗乱其所为,马斯克可没少受挫折。他的 SpaceX 火箭在发射台上**,自动驾驶状态的特斯拉 Model S 还把驾驶员带进了坟墓。

马斯克对各种挫折不屑一顾,但对噩梦情节却总是心有余悸。他的观点可以用安·兰德著作《阿特拉斯耸耸肩》中的格言解释:“人类有能力充当自己的毁灭者,这样的情节在历史上反复上演。”马斯克则认为:“人类是第一个拥有自我毁灭能力的物种。”

其实马斯克的感觉我们大家都能感受到,当你享受着各种新技术带来的便利时,有时也会感觉自己是实验室里的小白鼠,一旦丧失了利用价值,马上就会被淘汰。许多人已经接受了这样的未来:人类能轻松活到 150 岁,但要接受机器的统治。

在去年的 Code Conference 上,马斯克更是表示,人类可能已经生活在类似黑客帝国的世界,我们被更先进的文明统治,而硅谷的亿万富翁们正准备用算法让我们逃出矩阵。

对许多爱好不断解决问题的工程师来说,大多数时候他们都是在重复过去,颇有些宿命论的感觉,但偶尔也能来次大跃进,而年仅 31 岁的 Y Combinator 主席 Sam Altman 则相信,人类可能即将迎来巨大机遇。

“站在指数曲线上你就会发现,当你回看过去,一切都一马平川,但你看向未来,则会看到一堵垂直的高墙。”马斯克说道。“你很难搞清楚自己现在的位置,因为放眼四望,周边环境几乎没有变化。”

眼下,马斯克、霍金和盖茨都在为 AI 威胁论摇旗呐喊,看起来 AI 对人类的威胁已经开始火烧眉毛了。不过,在很长一段时间里,宿命论一直笼罩在硅谷上空,马斯克的努力被认为是徒劳的,有些人甚至认为他反对 AI 就像工业革命中的工人捣毁机器。

这里有一个悖论,那就是在许多科技独裁者眼中,他们的所作所为是为了帮助人类,但事实上他们的仁慈宣言下,其实潜藏的是一条不归路,就像苹果联合创始人沃兹尼亚克所说,人类正在成为家养宠物。

不过,马斯克不信这个邪,他要打破人类宿命,于是他联合 Altman 创立了 OpenAI——一家非赢利公司,目的是开发安全的 AI 技术。刚刚成立时,OpenAI 只有几个年轻的工程师,就连办公室都是公司 CTO 的个人房产,最近笔者回访时发现 OpenAI 已经搬了家,这里不但通风,还有了其他科技公司都有的小零食,全职员工也达到了 50 人。据悉,还有 10-30 名员工即将加入 OpenAI。

在硅谷,所谓的午餐会并不一定要正襟危坐吃大餐,毕竟年轻的程序员都专注于各种算法,有时他们根本没时间吃饭,午饭只是吃点 Soylent(粉末食品)了事,而一些年龄稍大的程序员则热衷于吃健康食品配牛奶。

乍一看,OpenAI 简直就是个羽量级的形象工程,一帮毛头小伙子怎么可能管得住谷歌、Facebook 和其他世界顶级的 AI 专家。不过,马斯克擅长以弱胜强,而且他能处理的非常得体,甚至派头十足。

马斯克根本不在乎什么 IPO 市值,解决旧金山无家可归人群也不是他的任务,因为他的目光更为宏伟,比如解决全球变暖和登陆火星。

马斯克十几岁时就感受到了强烈的“生存危机”,他并非吃不上饭,而是担心人类未来在宇宙中的命运。马斯克表示是希区柯克的《银河系漫游指南》让他开了窍,在 Model S 的软件中,马斯克还植入了许多与这部神作有关的梗。当时,马斯克也给自己设定了奋斗使命:“真正值得追求的是争取更伟大的集体启蒙。”

OpenAI 刚成立时使命还非常模糊,这不难理解,毕竟 AI 圈里的人都不知道这项技术未来会以什么样的形式呈现、能完成什么任务和我们能做些什么。眼下,AI 还是无主之地,关于它的公共政策和监管还是个空白。FAA 负责监管无人机,证券交易委员会负责监管金融交易,而交通运输部则将自动驾驶汽车纳入了自己的监管范围,但 AI 依然处于三不管状态。

马斯克并不反对 AI 发展,但他认为该技术研发成功后应该分发到世界各地,而不是隐藏和集中在科技与政府精英手中。“我曾多次与佩奇探讨 AI 和机器人。”马斯克说道。“不过,人们已经头脑发热,不只是佩奇,其他未来学家也认为机器人时代的来临必可阻挡,而在这个时代,人类将扮演次要角色。有些宿命论者甚至成人类将成为‘生物引导装载程序’(Boot-loader)。”

“当然,物质不能直接变成芯片。”马斯克解释道。“但它们可以变成生物实体并最终创造出芯片。”

马斯克可不想变成生物引导装载程序,也许佩奇的本意是好的,但马斯克称硅谷精英的善意可能会带来极坏的结果。

“皇帝和皇帝不一样,有时执政能力的微妙变化可能就会导致完全不同的结果。”马斯克说道。

III. 金色牛犊(指代金钱)

人工智能并不是什么新鲜名词,上世纪 80 年代末,这项技术还遭遇过寒冬,当时它甚至在业内换来了“骗人的万金油”的恶名。不过,现在 AI 重新成了硅谷的香饽饽。OpenAI 的 Greg Brockman 相信未来十年 AI 将占据绝对的主导地位,每个人都会花钱享用这个神奇的“咒语”。

微软的计算机科学家 Jaron Lanier 是 VR 之父,他向笔者解释了数字文人普遍将 AI 看作“科幻小说”的原因。这个原因让人很无语,因为在外界看来,AI 技术人员就像上帝,他们可以创造生命,甚至改变现实。许多从业人员也被捧得忘记了自我,自恋的认为自己可以予取予夺,比教皇和总统能力都强,站上了世界的顶端。“这样盲目的自信并不是第一次遇见,我在一个有关金色牛犊的故事中也读到过。”

过去几年,谷歌收购机器火力全开,几乎把市场上所有有趣的机器人和机器学习公司都收归门下。谷歌在收购战中击败 Facebook,花 6.5 亿美元买下 DeepMind,随后它们又组建谷歌大脑团队专攻 AI 技术的研究。同时,谷歌还挖来了英国人工神经网络专家 Geoffrey Hinton 和古怪的未来学家 Ray Kurzweil,后者称再有 28 年我们就能迎来“奇点”,到时能实现自我学习的超级人工智能将彻底超越人类智能,留给人类的唯一选择就是与 AI 合为一体,创造出新的“全知全能”的混血新人类。

其实谷歌和拉里·佩奇从骨子里相信,走上 AI 之路是公司不可避免的命运。Ashlee Vance 甚至表示:“如果 AI 惹出什么事,我第一个就会想到谷歌。”如果谷歌能用电脑掌控整个搜索业务,那么它们就能让电脑做成任何事。去年 3 月,来自 DeepMind 的 AlphaGo 用一盘围棋震惊了全世界。Hassabis 表示 AlphaGo 简直就是 AI 界的阿波罗计划,战胜李世石是个历史性时刻,就连他自己都没有想到 AlphaGo 能赢得如此迅速。“我一直希望 AI 能帮助我们在复杂的科学领域发掘全新思想。”Hassabis 今年 2 月份说道。“这次围棋比赛让我们第一次见识了 AI 的创造能力。”最近,AlphaGo 又在网上匿名狂虐各国围棋高手,它甚至实现了 60-0 的完胜成绩。此外,今年 1 月份 AI 还出山玩起了德州**,结果 AI 再次大胜而归,丝毫不给人类面子。

彼得·蒂尔曾说起过他的一个朋友,那位朋友曾有个经典的论断:人们能忍受硅谷,就是因为那里的呆子们虽然拿着大把钱却过着毫无乐趣的生活,连日常嘿嘿嘿他们都享受不了。不过,一说到来自日本的性爱机器人,这些硅谷的极客们却又来了兴趣。这并不奇怪,毕竟这里是直男癌的聚居地,而且性骚扰和性别歧视几乎是硅谷公司的通病。当笔者把这个事告诉马斯克时,他居然也非常实诚的表示:“性爱机器人?这个可以有。”

三年前当谷歌收购 DeepMind 时,两家公司共同建立了伦理委员会,无论是否出于真心,此举都是弥足珍贵的探索,至少它表明 Hassabis 追求的是真正的 AI。去年 6 月,DeepMind 的研究者拿出了一份论文,为想象中的 AI 反叛设计了一个解决方案,一旦 AI 失控,人类只需按下那个“大红按钮”就能解决。

拉里·佩奇认为现在的系统大多都没有处于最佳状态,他相信一旦 AI 加入,人们的需求就能更好的被满足,这样一来“大家就能有更多时间陪家人或者追求自己的兴趣爱好。”不过,这时可能你已经失业了。

马斯克是佩奇的死党,佩奇结婚时他受邀参加,有时到旧金山时他还会去佩奇的家中小住。“每个星期只住一两个晚上,没必要专门买房吧。”这话从一个大富豪口中说出可真是让人惊讶。不过,对于死党对 AI 的理解,马斯克嘴上也从不留情,他认为佩奇在这个问题上太天真了。许多谷歌人看不惯马斯克的指手画脚,认为他每天挂在嘴边的都是陈词滥调。Alphabet 董事长埃里克·施密特表示:“人类制造机器人,政府武装它们,邪恶统治者再让机器人**口对准人民,随后人类灭亡,马斯克这剧情简直就是科幻电影。”

一些硅谷人则认为,马斯克拯救世界为假,给自己贴金才是真,而且他用的还是老掉牙的剧情。此外,马斯克用人机大战的剧情也是为了吸引人才,其真正目的并非阻止 AI,而是阻止别人发展 AI。

马斯克是个好的销售人才,这点毋庸置疑,一个举着人类保护着大旗的人卖给你自动驾驶的特斯拉你会不买吗?百度前首席科学家吴恩达就曾称马斯克是“营销天才”,“在经济不景气的时期,他都能说服美国政府帮他造了售价昂贵的电动跑车。”吴恩达不像马斯克,他办公室的椅子上就挂着一件刺绣有“相信机器人”字样的服装,他认为马斯克凭借自己出格的言论很快就打进了 AI 圈。“我想他准确地看到了,AI将会创造巨大的价值。”吴恩达说道。

虽然 Ashlee Vance 曾称马斯克为“科幻版的马戏团老板”,但他认为马斯克的担心是真实存在的,虽然马斯克到底要拿什么对抗 AI 崛起还是未知数。“马斯克的第一任妻子曾说,他们俩夜里很晚还会讨论 AI 的问题。”Vance 说道。“马斯克是个很重逻辑的人,他做每件事都像下棋,总是会深思熟虑,如果他觉得事情不妙,最后多半会以惨败收场。”

加大伯克利分校机器智能研究所联合创始人 Eliezer Yudkowsky 同意 Vance 的观点。他表示:“他可是马斯克,光这个名字就值老鼻子钱了。如果想博得关注,马斯克根本不用谈 AI,直接说移民火星的话题就好。”

一些人对马斯克嗤之以鼻,觉得他想太多了,现在的时代你想让打印机反叛它也没那个能力。还有一波人则认为马斯克有害怕错过的心理:他的朋友佩奇在最新的领域有了新软件,而且程序员的队伍也不断壮大。就像 Vance 说的,“马斯克也想要佩奇手中的玩具,他们虽然是好朋友,但作为硅谷双雄,两者也有竞争关系。”这样的心理其实很普遍,作为一个争强好胜的人,马斯克其实是不愿风头被别人盖过。

对 AI 潜在威胁的不同看法“确实影响了马斯克与佩奇的友谊。”不过马斯克称“那件事已经过去,我们俩现在好着呢。”

虽然与佩奇私交甚好,但马斯克与扎克伯格却没什么交集。小扎经常为自己设定目标并努力去完成,去年他的目标就与 AI 有关。

去年马斯克宣布建立 OpenAI 仅仅三周,扎克伯格就在自己的 Facebook 上发布了新的年度挑战任务,打造一个像贾维斯那样的全能 AI 助手。

一位 Facebook 员工也提醒小扎,千万别一不小心搞出了《终结者》里的天网。但扎克伯格并不担心,他回复称:“我认为 AI 能为我所用并良好的协助工作。有些人认为 AI 是个巨大的威胁,但对我来说,AI 的危险程度远比不上疾病和暴力。”这明显是在呛声马斯克。在去年 4 月的 Facebook 开发者大会上,小扎还表示:“相对于恐惧,我更愿意选择希望。”

在去年 11 月接受《连线》杂志采访时,扎克伯格则表示,现在对于所谓审判日的担心完全是科幻小说里的情节。“如果我们因为恐惧而放慢步伐,就会挡住进步的方向。”他认为现在人们对 AI 的恐惧与当年对飞机的恐惧无异,“在搞清楚如何让飞机飞上天之前,弄那么多规定又有什么用呢?”扎克伯格说道。

在圣诞节前,扎克伯格的 AI 管家终于正式出炉了,他还找来了好莱坞影星摩根·弗里曼来配音。小扎的贾维斯虽然较为初级,但切个歌,开关个灯或者烤个吐司完全不在话下。对于扎克伯格的 AI 管家,马斯克评论称:“这种能自动完成家务活的东西根本算不上 AI,开关灯和调节温度可不是什么复杂活。”对于马斯克的评价,扎克伯格有些不屑一顾,称他的话实在是有些可笑。

去年 9 月,SpaceX 的火箭在发射台上**,顺带毁了 Facebook 的卫星。对于此事,小扎只是冷冷的在 Facebook 主页表示自己“实在是太失望了。”

IV. 历史的断裂

马斯克和其他给 AI 立 Flag 的人现在都被当作爱小题大作的人。去年 1 月,马斯克赢得了卢德分子奖(反技术进步),评这个奖的是华盛顿一家技术政策智囊。不过,马斯克不是一个人在战斗,英国著名物理学家霍金坚定的站在他这边。霍金表示:“我认为人工智能的发展可能会预示着人类的灭亡。”世界首富盖茨对 AI 的未来也深表担心,他认为一旦 AI 觉醒,其后果可能比核战争还要恐怖。牛津大学哲学教授 Nick Bostrom 在他 2014 年出版的《超级智能》一书中写道:“一旦不友好的超级智能诞生,就会千方百计阻止我们替换它,那样的话人类命运就堪忧了。”去年,就连美国前国务卿亨利·基辛格也大声疾呼,称智能机器人可能造成历史的断裂,甚至瓦解整个人类文明。

2015 年 1 月,马斯克和一些业内专家齐聚波多黎各参加一次会议,此次会议的主持人是麻省理工物理学家 Max Tegmark。会后,Max Tegmark 问我:“你买房了吗?家里安灭火系统没?波多黎各的会议重点就是我们需要全套的灭火系统。当我们遭遇火灾并深受其害时,人类发明了灭火器;当车祸带走鲜活的生命,我们又发明了安全带和气囊,但在核武器和 AI 的问题上,我们可一次错误都不能犯,一旦犯了错误连吸取教训的机会都没了,因此我们必须未雨绸缪。”

波多黎各的会议过去半年后,马斯克、霍金、Hassabis、沃兹尼亚克和 Stuart Russell(加大伯克利分校计算机科学教授)等 1000 多位业内知名人物签署了一封联名信,要求禁止进攻性自动武器。“过去的半个世纪以来,这 18 个月对 AI 界的未来是最为至关重要的。”Russel 说道。“AI 界终于苏醒,并开始认真思考怎样做才会有一个美好的未来。”去年 9 月,美国五大科技巨头(谷歌、Facebook、亚马逊、IBM、微软)罕见的携起手来成立了 AI 合作组织。而欧盟这开始探讨有关机器人和 AI 的道德问题,如机器人有没有“人格”或它们应不应该遵守人类的法律。

去年 1 月,Tegmark 再次主持了一次 AI 安全会议。这次会议的会址(加州阿西洛马中心)也很特别,1975 年时,一众科学家曾在这里签署了限制基因实验的协定。这次的安全会议佩奇也参加了,马斯克表示,他们之间的谈话不再剑拔弩张了。

会后,马斯克称我们还有很长的路要走,但他同时表示:“硅谷的顶级科学家们确实开始认真对待 AI 了,他们都意识到了这项技术的风险。”

沃兹尼亚克则认为:“人类与 AI 之间必须建立合作伙伴关系,在打造机器人之初我们就必须在它们大脑中植入一个观念,那就是机器人与人类是好朋友。”

精明的彼得·蒂尔对马斯克的“十字军东征”则有不同看法,他觉得马斯克声势浩大的“抵制”行为反而可能会加速 AI 的研究,因为他的末日论让许多人都摩拳擦掌想要在 AI 领域一试身手。

“AI问题包括了人们对电脑时代的全部希望和恐惧”,蒂尔说道。“我认为极限情况下,人类的直觉会失灵,我们可能连 AI 是什么都不知道,想找到控制它们的方法就更难了。毕竟我们从来没有在这个星球上处理过比人类更聪明的实体”。

V. 与超级智能合二为一不可避免

为了搞清楚到底谁说得对,笔者专门去见了 Ray Kurzweil,Kurzweil 是《奇点迫近》(吴恩达也非常推荐这本书)的作者,这部乌托邦作品帮我们畅想了 AI 的未来。

Kurzweil 表示:“眼下计算机对人类思考贡献颇大,而仅仅几年前,AI 连猫狗之间有什么差别都分不清。”Kurzweil 是典型的“猫奴”,他在加州的家里养了 300 多只猫。这位 69 岁的作家想要长生不老,他每天只吃一些奇怪的健康食品,此外还要搭配 90 片乱七八糟的药。同时,Kurzweil 还非常支持人与超级智能合二为一的想法,在描述这个想法时,他甚至都用到了“我们”一词,而拥有同样想法的马斯克则谨慎的选择了“它们”这个词。

机器人学家 Hans Moravec 认为 Kurzweil 是个乐天派,他根本意识不到 AI 带来的危险。不过,Kurzweil 可不同意,他表示自己对 AI 的威胁心知肚明。“危险和希望相互交织。就像火一样,它能烧饭取暖,但用的不好也会烧掉你家的房子。此外,我们有类似生物科技指导原则的危险控制策略。”

Kurzweil 将人类对新技术的反应总结为三个层次:哇、哦和如果不继续前进,我们还有别的选择吗?“想不被计算机淘汰,我们唯一能做的就是变得越来越聪明,而创造这些工具就是为了增强人类的能力。”

200 万年前,人类大脑中进化出了新的皮质层,于是我们“发明了语言、科学、艺术和技术。”Kurzweil 认为,本世纪 30 年代,人类将进化成半机械人,通过神经系统直接就能进入 VR 和 AR 世界。“到时人人都是幽默大师、音乐造诣高超且智慧过人。”Kurzweil 说道。除了人人变成贝多芬和爱因斯坦,人体内植入的微型机器人还能治疗疾病,让我们延年益寿。

Kurzweil 认为马斯克的设想可能会成真,AI 可能很友好,但也有可能黑化,如果它们要反叛,人类必须与之一战,而打胜仗的关键是打造一个比反叛 AI 还聪明的 AI 同盟军。

对于机器人替代人类的说法,Russell 不敢苟同,他认为如果机器人替代了人类,这世界上就没有意识存在了,即使它们能创造更令人惊叹的事情,对世界来说也是个巨大的悲剧。Nick Bostrom 则认为这样的世界是“没有孩子的迪士尼乐园”。

“许多人相信如果机器人在智力上超越了人类,就会占领地球并赶走人类。”Russell 说道。“另一拨人则认为人类可以将自己的思维上传到机器体内,这样就能进化成有意识的机器人。不过,我认为这种想法很难实现。”

同时,Russell 也反对 AI 大牛 Yann LeCun 的说法,后者认为《机械姬》或《终结者》中的场景都不会出现,因为机器人没有人类的基本欲求,它们不会感到饥饿,也没有生儿育女的需求,更没有自我保护的本能。“机器人没有自我保护本能的说法是错误的,这项本能无需程序员植入。举例来说,如果你让机器人拿杯咖啡过来,它肯定得保护自己,死掉的机器人是无法完成任务的。因此,要完成任务它就会自我保护,而如果你要阻碍它完成任务,机器人可能就会痛下**,这个道理很好理解。”

去年,微软关停了自家 AI 聊天机器人 Tay。Tay 原本寄托了微软的期望,但网友却把 Tay 教坏了,这个“清纯的小姑娘”把各种黄**毒的词语学了个遍。马斯克发推表示:“看吧,让聊天机器人变成希特勒,微软只花了一天时间。”

特朗普当选总统后,马斯克放低了姿态,开始小心行事。此外,他还当了两面派,在公司层面特斯拉反对特朗普的移民法令,马斯克自己还会发推文声援被特朗普挡在门外的一名,但另一方面他又坚持任特朗普战略和政策委员会的顾问(Uber CEO 就在压力下退出了)。Ashlee Vance 表示:“这做派绝对是马斯克特色。只要能做成自己想做的事,别人怎样风言风语他都无所谓。如果需要,马斯克会毫不犹豫的做一个机会主义者。”

笔者曾询问马斯克,与特朗普合作后到底有多少人向他开炮。回答这个问题时马斯克显得挺沮丧的,他表示:“在与总统谈话时,屋里的气氛还是比较有节制的,要知道会议室里有许多左派分子,他们听不得相反的意见,这样其实不好。”

VI. 人类将走向何方?

Eliezer Yudkowsky 是一位年仅 37 岁的优秀研究人员,他试图找出在现实中人类能否根据意愿指挥 AI。笔者在伯克利分校的一家日本餐厅访问了他。

Yudkowsky 说话像连珠炮,我还没问,他就抛出了一连串问题,“假如 AI 觉醒了,它会允许你在它身上安个关闭按钮吗?它会试图弄掉这个按钮吗?它愿意让你按下按钮吗?出问题时它会自己按下按钮吗?如果它能自行改变设置,它会愿意背着这个关闭按钮吗?”这问题笔者可回答不了。不过,这些问题就是 Yudkowsky 的研究方向,想得出正确答案确实不容易。

我拿许多科幻电影中的经典情节设问,Yudkowsky 托着头耐心的回答我,他表示:“AI 想夺权根本不需要控制整个互联网,也不需要无人机。AI 的危险不在于它们手上有**,而在于它们比人类聪明。假设它们能预知解决 DNA 蛋白质结构信息的技术,只需发几封邮件给实验室,很快就能建立一个分子结构机器大军。”

“如果你担心 AI 夺权,也别马上想起那些科幻电影中红着眼睛的人形金属机器人,真正的威胁其实来自那些看不到的合成细菌,它们会载着微型电脑进入每个人的血液。随后只要这些机器人释放携带的毒剂,地球上的人类瞬间就会灭绝。”Yudkowsky 说道。“当然,AI 是不是准备这样消灭人类还不一定,毕竟它们智力已经超越人类,我们根本无法摸清它的脾气。所以,当你制造一个比你还聪明的事物时,第一次尝试就不能出任何差错。”

马斯克与 Yudkowsky 想法类似,他并不担心杀戮机器人。“AI 的恐怖之处不在于它要化身为机器人,相反它会成为网络上的算法,到时机器人就会变成终端效应器,无限的散播性是最难阻挡之处。”马斯克说道。

Altman 则想得更远,他表示:“一个能控制整个互联网的 AI 算法可比控制机器人的 AI 算法要强大得多,毕竟我们的生活早已与互联网密不可分。”

为了生动地说明这个问题,马斯克还打了个比方:“假如你创建了一个可以自我升级的 AI 来摘草莓,这个 AI 可以干得越来越好,摘得越来越多。不过,这个系统想做的事情就是摘草莓,所以它可能会把全世界都变成草莓园,而且永远都是草莓园,这样一来人类就没有生存空间了。”

在问到人类能否拿到那个”大红按钮“时,马斯克表示:“我可不想当那个手持大红按钮的人,因为 AI 会第一个来杀掉我。”

Altman 继续开玩笑的表示:“活着真好,因为未来十年里人类要么走向自我毁灭,要么就会进化成新物种殖民宇宙。”

“是的,如果你认为宇宙最终将彻底死亡,那么我们就正在走上这条路。”马斯克补充道。一个如此关心人类命运的人居然拿灭绝来开玩笑,马斯克也真是心大,就像 H. P. Lovecraft 的名言:“最恐怖的讽刺往往不会缺席。”
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

加入Q群 返回顶部

© 2011-2017 Gizwits ( 粤ICP备11090211号 )

快速回复 返回顶部 返回列表