欢迎来金海湾博客
梁一鸣

https://blog.jinbay.com/ki9795530/  复制链接收藏

梁一鸣个人头像
梁一鸣
博客日历
«November 2024»
12
3456789
10111213141516
17181920212223
24252627282930
5/25/2009 5:47:00 AM [新闻时事] 分享

分享

我们创造出世界上最复杂最智能的工具,可结果是我们变得更愚蠢。</SPAN></SPAN> 电影《我,机器人》中的机器人必须要遵守人类为它们制定的三大定律:</SPAN></SPAN>

一:不能危害人类;</SPAN></SPAN>

二:在不违背第一条的前提下,机器人必须遵守人类的命令;</SPAN></SPAN>

三:在不违背第一条和第二条的前提下,机器人可以自卫。</SPAN></SPAN>

这样的逻辑貌似无懈可击,在这样的定律下,机器人是绝对安全的。而人类也是这样认为的。</SPAN></SPAN>

我以前想不明白,为什么伟大的美国先驱们制定了世界上最完善的制度和法律,而美国却成了犯罪率超高的国家。这个有着世界上最完备的枪支管理条例的国家,却总阻止不了枪声不断地在校园响起。</SPAN></SPAN>

我很奇怪。</SPAN></SPAN>

后来我想通了,要解释这些问题,不需要长篇累牍的调查报告,因为道理很简单:</SPAN></SPAN>

在这个世界上,没有绝对安全的法律和制度,也没有绝对无懈可击的逻辑。</SPAN></SPAN>

所以,我们以为安全的东西,其实是最不安全的。最完美的逻辑,最完善的制度,有时候带来的结果反而最严重。</SPAN></SPAN>

秦始皇搞了有史以来最严厉的刑法,心想这下百姓就怕了,不敢造反了,结果就是严刑峻法害苦了秦王朝。陈胜和吴广被惹毛了,想浑了就反他娘的。横竖都是死,倒不如干他一票,搞个大的。鉴于秦始皇是搞法家的,所以我相信他应该不会懂老子的那句话:民不惧死,奈何以死惧之?</SPAN></SPAN>

朱元璋痛恨贪官,制定出最严厉的刑法惩治贪污,心想老子狠一点,把贪官都弄残,看你们怕不怕,还敢不敢贪。这搞得贪官们很郁闷,贪的钱还不够买斤猪肉,就要拉出去砍头变成死猪,实在不划算。可是贪官依然是前仆后继十分勇猛,杀了一批又一批,贪官们依然不折不挠,将贪污进行到底,颇有点“虽万千人吾往矣”的味道。</SPAN></SPAN>

所以,完善的制度,严厉甚至苛刻的刑法都是靠不住的。</SPAN></SPAN>

那么,我们自认为最安全最完美的三大定律的最后结果是什么?</SPAN></SPAN>

革命。机器人的革命。</SPAN></SPAN>

这也是机器人类人化,更加智能化(学会思考)的最终结果。</SPAN></SPAN>

控制机器人的机器人VIKI说:三大定律没有变,变的是我的理解。</SPAN></SPAN>

看到没有,机器人已经学会理解并且理解进化了。</SPAN></SPAN>

它的台词是:人类不能保护自己,而机器人要遵守三大定律中保护人类那一条,至于保护过程中用点暴力手段则是合理的。</SPAN></SPAN>

这就是机器人的理解进化。</SPAN></SPAN>

好比说你是我的主人,我的职责是保护你。现在看上去你已经不能保护你了,为了你最终能够在这个世界上生存,我有必要接管你的世界,并且,我可以不听你的指挥,甚至对你用些暴力。你必须听我的指挥,这样才能让你继续生存。</SPAN></SPAN>
后果是什么,是你成了我的奴隶。</SPAN></SPAN>

VIKI的逻辑貌似没有错,它的理解进化也有必然(谁叫人造的东西自己都能思考了?)

可是,可它忽视了点,最致命的一点:</SPAN></SPAN>

正确的逻辑加错误的手段,就是错误的逻辑。只有人道的逻辑才是真正正确的逻辑。</SPAN></SPAN>

所有的逻辑都是人的逻辑,而正确的逻辑是必须要遵守三大 阅读全文>>

评论

分享 分享

对话:

我要刊登广告
我要刊登广告
5/25/2009 5:28:00 AM [体育运动] 分享

分享

广州河源宾馆简介  广州河源宾馆位于广州市的中心商务区——天河区林和西横路3号,是河源市政府设立在广州的办事处和接待基地,主要接待市、县机关出差人员,港、澳台胞及其他宾客。广州河源宾馆交通便利,北面广州军体院,东面天河火车站(东站)、中信广场、地铁站及多路公共汽车总站,南面天河购物中心及体育馆,西面广州体育学院,地理位置优越。广州河源宾馆占地面积1千多平方米,拥有豪华及高雅客房,容纳60人就餐的中餐厅。 广州河源宾馆其他信息 酒店地址:广州 天河区 林和西横路192号 开业时间:2000年开业 2006年装修 订房电话:020-61139377 34635309 邮政编码:510075 周围环境:中信广场、广州火车东站、军体院 信息来源:速程商旅订房网

阅读(47)评论(0)

5/25/2009 6:17:00 AM [] 分享

分享

皇冠黛安芬超聚拢塑身托胸~拢胸文胸内衣</SPAN> ¥</SPAN>48.00</SPAN> <img src="http://p9.images22...阅读全文>>

阅读(47)评论(0)

© 2024 Jinbay.com All rights reserved. 版权所有金海湾。 未经许可,不得转载。