小编们是否业已步向一个新世代,四个考虑实验

作者:娱乐明星

对于Ave而言,搜索引擎不是一种收集信息的方式,而它本身就是她的思考方式,Ave通过这种方式来学习。所以这便是人工智能的可怕之处,它可以以比人类快得多得速度去学习,而且只要它接入网络,它能学习的东西几乎是无限的,同时它本身也是无限的!

强人工智能之门

失控。

我们不过也是另一种程度的“人工智能”的产品罢了。机器人是程序算法的机器,而我们是基因的机器。

人工智能的种种,都为了让计算机更加相似于人类,具备人类的能力,或者在具体领域更加优秀于人类。从这个角度看,人工智能就是重新造就人类,或者造就上帝。

哲学家塞尔构造的中文屋子思想实验其实是图灵测试的一个变形,其精妙之处在于,他自己充当了图灵测试中被测试的机器人角色。

因而Ave在面对图灵测试时另辟跷径——我不是要用你的游戏方式来通过测试,我要用我的方式来通过测试。

这五十年里,无数有关人工智能具备思考能力最终奴隶人类的科幻作品层出不穷。然而,直到 2011 年苹果公司才对外发布了语音助手 Siri。哪怕是今天,消费者能看到的人工智能助手其智慧程度都差强人意。

2、中文屋子

片中的Ave应该是一种非常高级的人工智能了。而对它进行图灵测试,一个最简单直接又有效的方式,那就是和它生活在一起,一起谈话一起交流,如果你觉得是“她”而不是“它”,那么便是通过了图灵测试。

如果交通系统能够自我管理呢?强人工智能便是要打造具备自我思维的人工生命。

1、图灵测试

在人工智能这个领域里,图灵测试是一个门槛。只有在电脑能够通过图灵测试的前提下,我们才说它具备了足够的人工智能。比如说Apple的Siri,虽然形式上,用户仿佛是在和一个人对话,但在过程里,用户是可以非常明显地感受到Siri对话的生硬,换句话说,我们知道我们只不过是在和一个机器(或者说算法)在对话,它根据我们说的话,进行语音识别,然后去搜索匹配我们的回答——充其量,这只能算是一种更加高级的搜索,还远远谈不上人工智能。

没有人知道,我们是否已经步入一个新世代

回答完美无缺,屋外的人无法分别屋里的是人还是机器,于是图灵测试通过,尽管这个过程很完美,但这中间根本不存在“理解”这回事,因为塞尔本人完全不懂中文。

对于要被图灵测试的Ave,你知道它是机器人,它怎么来通过你的图灵测试?这里的关键可能是,Ave也知道你知道她是机器人!Ave也知道图灵测试!Ave也知道你将怎么样来对她进行图灵测试!

而科幻作品中,作家早就思考过这个两难问题。一方面,科技必须发展,人工智能势必有一天能进化为智慧生命;另一方面,当某天人类不再能控制其发展时,无人知晓人工智能对待其造物者将是善意还是恶意。

这个思想实验可以做另一个理解,我们人类本身就是基因的机器人,基因为了自己的永生而让人不断地进化,赋予人类学习的能力,直至其拥有了自主决策的能力,然后就演化出了人类的自由意志。基因失控,人类自立,就成为注定的结果。既然这样,人类会不会重蹈基因的覆辙呢,看来霍金对人工智能的担忧不是没有道理的,当奇点来临、细思极恐。

所以说,当电脑能够通过图灵测试,或许还算不上什么。但当它知道如果去对抗你的图灵测试,那才是高级的人工智能。Ave做到了,那个侍女机器人也是。她们的心机,跟人类相比有过而无不及。这不是一个简单地通过图灵测试的问题,而是具备了如此高的智能的机器人,设计巧妙地隐藏自己,并利用测试者的心理,企图最后获得自由。

从 80 年代开始,一个重要的子领域开始探索:机器学习。

机器能够达到多高的智慧呢?这就要用到“图灵测试”了。

这可能就是造物的最高层次。我们建造了机器人,然后算法赋予它们智慧。

没有人知道,我们是否已经步入一个新世代

试想:人与另一方在彼此隔离的情况下交流,仅通过键盘和屏幕进行,人类输入信息,对方在屏幕上回应信息,如果人类无法从交流中判断对方是人类还是机器,那么机器就通过了测试,说明机器拥有了与人等价的智能。当然,拥有智能并不代表机器人拥有意向、意识和意志,如果一旦机器人拥有这些,人类的日子估计也走到了尽头。到目前为止,还没有一部机器能够通过图灵测试,就连聪明如阿尔法狗,也一样属于弱人工智能。

知己知彼。

没有人知道,我们是否已经步入一个新世代

然而,这一亿年中要发生很多不可预测的危机事件,为了保证你一亿年后安全醒来,你需要一个能感知环境变化、回避风险、寻找资源的机器容器(智能机器人),把你自己托付给它,给它下指令“保证我活着”,你要求它要自己根据环境变化去趋吉避凶、维持生命。

所以我们可以想象一下,当这样一个具备高等智慧,会自主学习的东西被创造出来之后,慢慢地它还会那么温顺地做一个“奴隶”吗?

没有人知道,我们是否已经步入一个新世代

这三个思想实验都是关于计算机与人工智能的。之所以叫思想试验是因为在现实中无法实现的实验,只能用想像去推理和构造实验结果的实验。

所有我们又可以想到,在这之前的机器人三定律,它和人工智能就是想违背的。如果一个机器人具备了足够的人工智能,它就会跟常人无异,它就会具有自主意志,它就不再是你的——它会觉得它是你的奴隶。你怎能指望这样的一个机器人会想你遵守三定律。

没有人知道,我们是否已经步入一个新世代

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

图灵测试是阿兰·图灵在1950年设计出来的,如果电脑能在5分钟内回答由人类测试者提出的一系列问题,且超过30%的回答让测试者误认为是人类所答,那么电脑就算是通过了图灵测试。

人工智能的“奇点”

电影《机械公敌》就表现了机器人拥有自主意识之后可能造成的灾难,所以有人就设想在机器人的底层基因里写入“三定律”:

就像我们自己本身一样,基因赋予了我们思想和智慧——这何尝又不是一种算法呢,我们不外也是在基因的算法之下去进行各种行为。我们对我们自己是通过了图灵测试,但这一切也不都是基因赋予的“算法”让我们得以具备这样的智能。

没有人知道,我们是否已经步入一个新世代

第零定律:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。

但问题是,当一个机器具备了高级智能之后,它便算是能够进行自主思考了——它怎么还会随你摆布?

而强人工智能的自我学习,则极大推进了这一天的到来。

实验是这样设想的:你想亲身看到一亿年以后的地球,但你活不到那个时候,但是现有技术可以让你休眠,然后你在一亿年以后醒来。

没有人知道,我们是否已经步入一个新世代

图灵(Alan Turing)是现代计算机之父,而图灵机刚是他构造的一个想象中的抽像计算机模型,这个模型也是他用理论表述的。

三、机器人应保护自身的安全,但不得违反第一、第二定律。

试想一间屋子,里面坐着塞尔一个人,然后有纸有笔,还有一个中英文对照表。外边的人把写有中文问题的纸条塞进门里,塞尔用对照表查出对应的英文问题,给出英文答案,然后再用对照表查出对应的中文,然后抄写在纸条上递出去。

尽管 1997 年 IBM “深蓝”计算机已经战胜了国际象棋世界冠军卡斯帕罗夫,但当时媒体宣称的“划时代意义”如今看来不过是相当原始的起步。语音识别、专家系统、深度学习等技术被大面积应用到商用场合,看似已经步入智能时代,但目前仅仅是停留在对人类智能的模拟。

后来又有人加入了1条:

从汽车的防抱死电脑系统到 Google 测试的无人驾驶机,还有金融上的高频算法交易都属于人工智能,目前已被广泛应用。

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;

马斯克:人工智能是人类生存最大威胁

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;

没有人知道,我们是否已经步入一个新世代

3、亿年机器人

没有人知道,我们是否已经步入一个新世代

这些定律是否能够确保人类不受机器人的奴役,能否保证人类的生存与发展,这得看是由谁来解释了。

“中文屋”是对弱人工智能的否定,即哪怕机器能够骗过人类通过图灵测试,都是因为程序提前预计过此类可能所有结果,由机器判断符合条件与否来执行。

塞尔认为,他替代的那个计算机并没有理解力,只有单纯的计算。没有理解力也就不会有意识和思维,更不会有高级的人类智慧。他宣布,即使通过图灵测试,机器也还是机器,不会拥有与人等价的智慧。最多只是貌似而已。

测试者与被测试者隔离的情况下,通过装置向被测试者随意提问。多次测试后,如果超过 30% 的测试者不能确定被测试者是人还是机器,那么这台机器就通过了测试,并被认为具有人类智能。

这个结果与前边两个思想实验的结果是不同的,你更相信哪一个呢?

自然语义处理,指无需代码,让机器理解人类语言,实现日常用语便能人机交流。Google 的 Google Assistant ,亚马逊的 Alexa ,微软小冰还是苹果的 Siri ,目前都在努力提升自然语义处理能力,让信息处理的第一步更加自然。

机器人如果能够在一亿年以后完美地完成了任务,那么它是不是已经发展出了自我运行的能力呢?你在休眠中,不能实时控制它,而它在保存你生命的最终目标下,根据环境变迁,会自己衍生出许多次生目标,也就是说机器拥有了相机决策的自主权,那么自主决策的进程一定会超越你的预想范围,然后呢?

没有人知道,我们是否已经步入一个新世代

二、机器人应服从人的一切命令,但不得违反第一定律。

强人工智能能够脱离程序指令自发决策并且行动,理解抽象思维,能够自我学习,复制技能并且快速提高。

霍金:人工智能会导致人类灭亡

没有人知道,我们是否已经步入一个新世代

未来知道,但未来不语。

图灵对于人工智能的判断似乎过于乐观了。

人工智能不是车间流水线上那种释放简单劳动力的技术。人工智能致力于开发用于模拟,延伸和拓展人的智能,目前研究领域包括机器人、语言识别、图像识别、自然语义处理和专家系统等。

那么,如何赋予计算机心智能力,让其自我发展?

没有人知道,我们是否已经步入一个新世代

弱人工智能的艰难进程

更何况,人工智能存在科学家普遍认同的技术“奇点”:存在某一个时间点,技术发展将在极短时间内发生巨大得接近于无限的进步。一旦越过奇点,科技将超越科幻,我们无法预测技术的下一步,甚至预警其发生。

没有人知道,我们是否已经步入一个新世代

而这段辉煌与彷徨,将与宇宙长青,或随史诗终章而亡,无人知道。

人工智能在 60 至 80 年代的发展一度萎靡,主要因为其演进完全依赖于科学家将知识灌输给机器学习,其学习广度是很有限的。

要知道,农耕文明进入工业文明历经了千年,蒸汽时代、电气时代各走了一百年,而从电脑过渡到手机不过短短 20 载。 VR 的热潮刚从硅谷涌现,风向已经刮到别处了。在信息时代,每一轮社会革新所需时间被极大缩减了。

在信息世界里,生命指代会自我思考,对外反馈和内部调整的一套系统。一个人按规则开车行驶,出现事故紧急刹车;一个城市的交通系统有条不絮运行,路况堵塞就会调整路线车流。从信息角度看来,城市的交通系统就是一个生命。

没有人知道,我们是否已经步入一个新世代

1950 年,在那篇名垂青史的论文《计算机械与智力》上,阿兰·图灵迫不及待表达了对人工智能未来的信心。接而,为了有效定义机器的智能程度,图灵提出了有名的“图灵测试”:

人类对高级智慧生命向来感兴趣。无论是对外寻找外星文明,还是在实验室研究人工生命。

人类希望看到能制造惊喜的生命,能够制造惊喜才算真正的智能设备。重新造就人类,就要发展强人工智能。

科幻大师阿西莫夫甚至在 1950 年就提出了著名的“机器人学三定律”,以解决小说中人工智能潜在的危险。

没有人知道,我们是否已经步入一个新世代

谁也没想到,不到 10 年时间,两朵乌云相继被普朗克与爱因斯坦解决,科技深入原子水平,而物理学进入全新的量子时代。

没有人知道,我们是否已经步入一个新世代

图像识别技术,将人类一部分的视力要求工作交给机器。 Facebook 研发了人脸匹配的 DeepFace ,Google 借助DistBelief,对街景图库的上千万门牌号进行识别,其识别率超过 90%。

10 年,20 年,对于生命而言或许漫长,但放眼整个发展史,时间微不足道。就在当下,就在目前,没人知道人工智能下一个突破会发生在世界的哪个角落。

另一关键在于,同样在 80 年代,神经网络算法开始兴起。

正因大脑的丰富性,科学家尝试通过逆向工程,从大脑的思考方式推动机器智能的发展。电脑大脑神经网络的结构,一层层输入数据,从简单到复杂,再输出结果。经过这些年算法的不断优化,以 AlphaGo 为代表的神经网络算法开始在公众视野中得到大面积的成功。

为什么“图灵测试”一开始以人为测试标准?人类建筑大楼、创造艺术,甚至试图了解自身脑部的思考回路。人类大脑是目前为止所知宇宙中最发杂的东西,对光年外星体的了解都要远远多于对人类大脑皮层细胞的了解程度。

但现实不是科幻,非小说寥寥几笔就能建立一个颠簸不破的社会规则。现实中的人工智能有太多的科技与伦理因素需要考虑了。机器人是否要纳税?人类大规模失业问题如何解决?机器人安全性谁来保证……在一个智慧到令人生畏的科技生命面前,人类再多的欢呼与焦虑都不为过。

没有人知道,我们是否已经步入一个新世代

一、机器人不得伤害人,也不得见人受到伤害而袖手旁观。

这正是目前大热的人工智能正在做的事情。

我们突然很难预料十年后科技的模样。

这正是所有科幻作品热衷于提及到的:如果全面优先的人工智能一旦诞生,人类将面对何种命运。

欺骗 30% 的人,图灵预计在 2000 年人工智能可以发展到这个程度。

正因如此,越来越多的行业巨人开始公开在媒体发声:

一位只会英文的人身处封闭房间中,随身带着稿纸、铅笔以及中英翻译词典。而写着中文的纸片通过唯一窗口送入房间。哪怕房间内的人完全不会中文,通过翻译过程,房间外的人也会以为他会流利的中文。

没有人能够给出答案。

上世界 80 年代,美国哲学家赛尔提出“中文屋”的假设以此质疑“图灵测试”:

语音助手哪怕多么接近人类交流,都只是“程序员努力让程序假装听得懂人类语言”而已,用户可能在屏幕外惊叹其智慧,但屏幕内的程序毫无感觉,按流程悄无声息走了一遍又一遍。

19 世纪的最后一天,欧洲科学家欢聚一堂。著名物理学家汤姆生提出了笼罩在 20 世纪物理学头顶的“两朵乌云”:迈克尔逊·莫雷实验和黑体辐射实验。

我建议大家考虑这个问题:机器能思考吗?

没有人知道,我们是否已经步入一个新世代

按照可预见的发展速度,实现强人工智能的突破需要多长时间?

我们已经见过太多关于机器人翻身、奴隶人类的未来故事,而事态一旦失控,或许正如霍金所言,“人类最终会灭亡”。

比尔・盖茨:人类需要敬畏人工智能的崛起

没有人知道,我们是否已经步入一个新世代

没有人知道,我们是否已经步入一个新世代

这些不完美的效果,如同人类制造了一个玩偶,一起玩耍。玩偶一举一动人类了然于胸,尽管制作过程耗费数十年科技的心血劳累,但人类毕竟是不会看得起一件玩具的。

智能是什么

机器学习省去了科学家自身认知这一步骤,直接把数据放进计算机学习程序内,让程序直接接触数据。在今天,大量的数据能够满足机器快速成长的需要。知名的 AI 程序 AlphaGo 每天能够尝试百万量级棋谱的走法。抛弃明显的差棋,将计算量控制在可完成的范围内。

西方圣经里讲述,上帝创造万物,在第六天按照自己的模样捏造了亚当与夏娃。这是人类的起源。但故事里没有记载,千年过后,代表造物者的十字架被众人虔拜过,也被众人推倒过。在下一个造物的故事里,人类将与智能生命同行。

本文由www.887700.com发布,转载请注明来源

关键词: www.887700.c