展会信息港展会大全

机器人三大定律的乌托邦
来源:互联网   发布日期:2020-10-14 08:40:13   浏览:8900次  

导读:人类是孤独的,在这目之所及的宇宙里,我们的是唯一的智慧物种。但脱离孤独潮水的轮渡已经近在眼前,机器人技术的发展,带给了我们希望。然而,伴随着希望而来的,是忧虑,我们从未像忧虑人工智能这样,忧虑过任何一个技术。 因此,我们未雨绸缪的开始设想,...

人类是孤独的,在这目之所及的宇宙里,我们的是唯一的智慧物种。但脱离孤独潮水的轮渡已经近在眼前,机器人技术的发展,带给了我们希望。然而,伴随着希望而来的,是忧虑,我们从未像忧虑人工智能这样,忧虑过任何一个技术。

因此,我们未雨绸缪的开始设想,要如何约束这个,由我们创造,又远胜于我们的机器,或者说,生命。

而其中,最出名的关于机器人的安全约束办法,就是机器人三大定律。

机器人三大定律是由科幻作家阿西莫夫(Isaac Asimov)提出的,并且他的所有科幻作品,都使用了这一概念。其影响之深,以至后世套用这个概念的科幻作品不计其数。

乍看之下,这个三大定律似乎非常完善。人类的生命安全被放在了第一位,人类的要求被放在了第二位。这样我们既能肆意的操控机器人去完成我们想要做的一切,又不能用它来伤害他人。

但是,在阿西莫夫的小说里,故事的核心冲突,恰好都是来源于这三大定律。

例如《机器人与帝国》中,人类主动修改了机器人数据库,定义敌人为非人类。于是机器人能肆意的杀敌。

(阿西莫夫小说翻拍成的电影《我,机器人》)

例如《我,机器人》里机器人认为人类破坏自然,互相伤害。所以决定用圈养人类的方式保护人类。

(《未来的夏娃》里机器人可以对人类说谎)

可见,机器人三大定律并不是无懈可击的,相反,其漏洞百出,如果将我们的未来交到这样的法则手上。恐怕没有人会放心。

那么我们能否添加补丁,来完善这个法则呢?

阿西莫夫在《机器人与帝国》里提出了机器人第零定律:机器人必须保护人类的整体利益不受伤害。这条定律高于三大定律。这样一来,我们就解决了很多原先要面临的困境。比如对罪大恶极的罪犯执行死刑的时候,机器人不会跳出来捣乱。

然而,怎样的行为应该被判定为伤害人类整体利益呢?能否为了所谓的整体利益而牺牲少部分无辜者呢?我们当然没有这类电车难题的答案。于是,第零定律又成了阿西莫夫笔下精彩情节的冲突立足点。

显然,阿西莫夫在他的科幻小说里添加的一个个补丁,都只是为了使作品更有戏剧性罢了。可以说,阿西莫夫创造这些定律,就是用来打破的。

那么,在科幻作品里都是漏洞百出的机器人三大定律,放在现实里,就显得更加不可靠了。

我们碰壁了,我们不知道该用何种手段来约束我们创造的机器人。但此时,不妨回想一下,我们一开始是出于什么原因要约束机器人呢?

答案其实我们心知肚明,却难以启齿。我们创造机器人,其实是为了创造一个可以随意压迫的阶级。

是的,我们深知我们会对我们的造物做些什么:把又脏又累的粗活丢给他们,懒洋洋的躺在沙发里坐享其成,肆意的发泄我们的不满和任性,坏了就丢,厌了就弃。

(《机器人总动员》人类移民飞船,留下清洁机器人打扫地球)

对,不用怀疑,这是压迫。

这也是我们创造机器人的初衷。但是,纵观人类历史,正是一个压迫与反抗的斗争史。因而我们人类深知,压迫必有反抗,于是才本能般的,不经思索的认为,机器人应该被加以约束。

“不,不是的,”有人说,“机器人会成为我们人类的好帮手,孩子的好老师,患者的好医生,家庭的好保姆。”但在我们对机器人的功劳充满自信时,我们是否又有自信,对机器人不加任何约束呢?

可能你会说:“我们创造了机器人,我们有权力操纵它们。创造机器人能解放全人类的生产力,能推动我们社会的进步。”

这话没有错,站在人类的角度来说,我们的压迫初衷有正当性,但是谁也无法否认,我们以奴役机器人为目的来创造机器人。所以我们不妨坦率一点,直接开门见山的说:如何用更好的办法,确保机器人面对我们的奴役不会反抗。

这就是人类需要机器人三大定律的原因,对于机器人反抗的恐惧

机器人三大定律自然是行不通的,那在现实世界里,有没有类似机器人三大定律的办法能够帮人类约束机器人呢?或者机器人三大定律对现在的机器人学有什么启示呢?

其实,机器人三大定律之所以无法自洽的原因,是因为人类的语言本身就是逻辑有限,模糊不清,充满歧义的。毕竟人类的思考都充满局限性,更何况人类的语言。所以在未来,若诞生了能够理解人类语言的强人工智能,那么我们都能想到的漏洞,机器人自然能想到。而现在的根本不能理解机器人三大定律的弱人工智能,给其加载约束定律是完全没有意义的。

因此,现在的机器人行业里,对于机器人三大定律是基本持否定态度的。业界认为,未来对机器人的安全约束,应该是更清晰,更根源,更有逻辑性的方法。

而就算未来我们找到了完美的机器人约束办法,我们也不能掉以轻心。人类被大自然创造,不加约束,带给自然的是无尽的伤痛。而由人类创造的机器人,加以约束,又会发展成什么样子呢?没有人知道。

但我们应该对这个,一经失控就能随时取代我们的造物,怀以永远的警觉。

(《终结者》世界里,机器人毁灭了人类文明)

关于机器人三大定律,有什么想法可以评论私信本愿数码,别忘了关注哦。

“科技宛如藏宝无限的深渊,我们既战栗的恐惧着,也憧憬的渴求着。”

赞助本站

人工智能实验室
AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港