原创·小说|新三大法则

上海交大人工智能俱乐部 2018-07-13 10:18:57

原创系列·本期作者:戚东平

本期作者


       戚东平。上海交通大学2013级致远数学班学生。2017年起在康奈尔大学攻读应用数学PhD,主要研究方向为数值分析,微分方程的数值方法和最优控制等。

       课余时间喜欢阅读推理小说和科幻小说,最喜欢的作家是埃勒里·奎因和艾萨克·阿西莫夫。对阿西莫夫的机器人故事比较感兴趣。

最初的机器人三大法则(艾萨克∙阿西莫夫):

  • 第一法则:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;

  • 第二法则:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;

  • 第三法则:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

1

-Chapter 1 阴谋-

“要我说,三大法则的漏洞真是太大了。”

斯蒂芬一边把半扎库尔烈酒倒入腹中,一边对杰弗里喃喃地说到。

“怎么?你找到什么反例了吗?”杰弗里稍感惊讶地说。

“不是反例。你瞧,第一法则就很不完善。它只强调了不得‘伤害’人类,而没有谈到人的其他利益。如果我命令一个机器人去帮我偷东西,那他一定会帮我去做,对吧!毕竟这没有‘伤害’人类个体,那么根据第二法则他必须要服从我的命令。”斯蒂芬洋洋得意地说到。

“嘿!伙计,你难道还不知道吗?如今机器人脑中的三大法则都是修改过的,比阿西莫夫最初的那个版本复杂得多。”杰弗里仿佛被逗乐了,“对于‘伤害’这个词的解释不单单只是‘肉体损伤’这么简单了。机器人协会把整个司法系统都纳入到法则中去了。‘伤害’在现在的机器人底层逻辑中被解释成‘伤害人的合法利益’,其中包括人身伤害,财产伤害,甚至还有人格伤害。当处于一种需要判定是否违反三大法则的情况下时,机器人会根据现有的法律制度,对这条指令是否‘合法’做出判断。”

“那么凡是违法的事情,机器人都不会做吗?”斯蒂芬呆呆地问到。

“就是说你无法‘教唆’机器人帮你谋取非法利益了。不能攻击你的敌人,不能偷窃,不能破坏,甚至都不可以骂人。”杰弗里说。

“好吧∙∙∙我还以为能靠这个干一票呢∙∙∙”斯蒂芬又喝了一大口酒,一个美妙的计划就这么搁浅了。

“不过,倒也不是不可能。”杰弗里脸上带着一种高深莫测的笑容,对斯蒂芬小声说到。

“怎么?难道你真的找到了漏洞?”斯蒂芬又有了精神。

“并不是漏洞。你想想,虽然新的三大法则已经可以从法律上约束机器人,但法律本身就是不完善的,没错吧!你知道很多住在国与国边境上的居民们,很多年以来都在帮助犯罪集团进行走私活动,但他们自己并不知道自己是在犯罪。他们一直以为自己在帮助慈善组织运送国际援助的物资。难道他们自己不知道走私是违法的吗?不可能不知道。但只要他们没意识到自己是在做违法的事,那么就没有理由拒绝。”

“那么,我们可能让机器人也做类似的事情吗?”斯蒂芬天真地问到。

“我觉得有可能。”杰弗里冷静地说,“既然我们都可以迷惑人类,那么骗过机器人也应当是可能的。毕竟他们的大脑里只涵盖了法律系统的规章条文,但对于现实世界到底是如何运作的,机器人并不能完全掌握。他们只能处理教条式的情况。如果我们能设定一个巧妙的情形,让机器人认为自己并没有干坏事,那么我们就可以利用他强于人类的方面:他的效率,他巨大的储存量以及最重要的,我们不担心他是否会损坏!”

“那你打算如何去做呢?”

“斯蒂芬,你知道在库尔星球上每年会产生多少新的流浪儿童吗?一百万!是的,你没有听错。这是一个很令人震惊的数字。但是那些遭到遗弃的先天残疾儿童,或是离家出走的叛逆儿童,确实有如此之多!而且这个数字还在逐年上升。这些儿童,几人成群,每天在街上闲逛,只能靠乞讨或者打劫为生。他们中很多人日后都会成长为街头混混或者更进一步,加入犯罪组织中去,成为真正的坏人。这已经变成了一个令人诟病的社会问题。”

“但是如果你换一个角度去看,”杰弗里眼中闪烁着狡黠的光芒,“如果我们能够把这些流浪儿童集中起来,然后给他们一个妥善的处理∙∙∙比如有很多偏远地方的人们会想要领养孩子,或者很多工厂里有空缺的职位∙∙∙”

“你说的是拐卖儿童?”斯蒂芬显得有些惴惴不安。

“那是你才会用的词。”杰弗里有些失望地说到,“我可不这么认为。比起让他们在街上发展成为黑手党的成员,我看不出这样安排有什么不好。”杰弗里呷了一口茶。

“那你是不是觉得自己很高尚啊?哈哈哈∙∙∙”斯蒂芬把杯中的库尔烈酒一饮而尽。

杰弗里在桌上放下一张5通用点的钞票就走开了,并没有理会斯蒂芬的嘲讽。


2

-Chapter 2 -23-

“这台真的可以么∙∙∙”

在一个废弃的工厂里,面对这一个歪歪扭扭的机器人,斯蒂芬问杰弗里。

“没问题的,这是一台工-23,他以前在工厂中从事很复杂的绘制工作,他搜索信息和寻找物体的能力绝对是一流的。现在只要我们给他正确的指令,就可以让他乖乖听我们的话。”杰弗里一边说着,一边在工-23的操作面板上忙碌着。

“大功告成!”杰弗里结束了操作,“工-23!你能听到我说什么吗?”

“您好!我是工-23,请问有什么可以帮您?”工-23俏皮地说到。

“很好!工-23,我叫杰弗里,他是斯蒂芬。我知道你过去在工厂工作,但是现在你有了一个新的任务。”

“请指示。”

“听好了,在本区,每年都有成百上千的流浪儿童在街上游荡。我们要为他们的安全负责,所以,你必须把他们逐个找回来,并把他们带到我们这里。你可以对他们说我们这里有住处和吃的,可以给他们一个家;你还可以说自己是我雇佣的机器人,负责照顾他们。”

工-23好长时间都没有说话,好像在认真地分析着杰弗里刚刚这段话是否合理。不久以后,她才开口:“您说的很有道理。不过在我的系统中,对于流浪儿童的优先处理方式是‘告知当局’,所以∙∙∙”

“当局全都是废物!”杰弗里假惺惺地说到,“如果他们确实在认真处理这件事的话,现在还会有这么多流浪儿童吗?工-23,查一下你的数据库,每年有多少流浪儿童产生。这件事当局完成不了,只有靠我们了——只有我们可以像母亲一样善待他们。”

“像母亲一样∙∙∙”工-23似乎有些不解。

“没错!这些孩子缺少母爱,缺少亲人的关怀。我们可以提供给他们这些,像母亲一样保护他们。”

工-23不再说话,许久以后,她仿佛才下定决心,说到:“好的,您的指令是正确的,我会完成任务的。”

“很好,记住,要向母亲对待孩子一样∙∙∙”


3

-Chapter 3 像母亲一样-

“你难道没有发现,最近工-23有点异样吗?”

在一间宽敞的办公室里,斯蒂芬躺在沙发中,手里把玩着一个酒杯。他对杰弗里问到。

“你说什么?”杰弗里正埋头看报纸,头也不抬地问到。

“我说工-23有点奇怪。我昨天亲眼看到她竟然给其中一个流浪儿童喂奶!”

“喂奶?她是用什么∙∙∙”

“没错!她好像给自己安装了一个类似母乳的工具,然后就开始给那孩子喂奶。老天!那个孩子起码已经5岁了。”斯蒂芬一口气说到。

“随她去吧,反正她带回来的流浪儿童一直很多。”杰弗里继续看报纸了。

自从杰弗里二人上次找到工-23起,他们的“生意”就很顺利地开展了起来。工-23果然不负众望,她每周都至少能够带回一个流浪儿童,而且这些儿童很明显是心甘情愿来的。他们似乎很信任工-23。不过到了杰弗里和斯蒂芬手中,情况就有些不同。两人可能会安排这些孩子在他们家里住一小段时间,但是之后就会很快转手,不是高价卖给那些想要收养孩子的父母,就是直接交给附近缺乏工人的厂子。而对于之后他们何去何从,二人从不关心。

慢慢地,二人的资金壮大起来,这间办公室就是一个佐证。

“说真的,我有点开始担心她了。”斯蒂芬直起身子,“她还对为何有很多孩子后来就消失了感觉不安,而且总是向我打听他们的消息。我只能勉强搪塞过去。你说,她不会向谁告发了我们吧?”

“斯蒂芬,机器人是不会告发别人的。”杰弗里轻蔑地说,“我甚至不知道他们是否理解‘告发’是什么意思。放心吧,工-23还在帮我们找到更多的流浪儿童,也就是说她现在还相信自己做的是正确的事情。至于后面她是不是能够保住这个秘密,我想大不了我们换一台机器人就好了。”

“至于她‘喂奶’这个行为,我猜多半是对我那句‘像母亲一样照顾他们’的误解吧。可能她觉得‘喂奶’便是‘像母亲一样’的特征∙∙∙”

“有道理∙∙∙”斯蒂芬又重新躺回沙发里。

“不必担心,老哥,我们的生意一直蒸蒸日上呢!”杰弗里说完,又去翻那些报纸了。


4

-Chapter 4 我的孩子-

“你说什么?为什么工-23不肯把他给我们?”杰弗里对着电话吼到。

“她就是不肯给我。”斯蒂芬无奈地在电话另一头说到,“她好像出了故障,一直重复着什么‘这是我的孩子,我不能让他离开我’之类的话,然后不肯把孩子交给我∙∙∙”

“可是我已经和买家说好了啊!真可恶!”杰弗里恶狠狠地说到,“你等一下,我马上过来∙∙∙”

杰弗里抓起汽车钥匙,冲了出去。

 

斯蒂芬还在和工-23纠缠之中,杰弗里远远地跑过来。

“工-23!把那个孩子给我!”杰弗里停下脚步,大声喊道。

工-23并没有看他,只是死死地盯着斯蒂芬,手一直没有离开她身边的孩子。而那个孩子,也是紧紧地抱着工-23.

“这是我的孩子,我要保护他,谁都不能夺走他∙∙∙这是我的孩子,我要∙∙∙”

“工-23!这不是你的孩子,这是一个流浪儿童。我现在命令你,把这个孩子给我,我们不会伤害他!”杰弗里用稍带威胁的口气说到。

“这是我的孩子,我要保护他∙∙∙这是我的孩子,我要保护他∙∙∙”

“快松手!”杰弗里也冲了上去,跟工-23撕扯起来。奈何机器人的力量远大于这两个人类,他们根本无法得手。

杰弗里有些恼怒了,他拔出手枪,瞄准了工-23的头部。

看到这一幕,工-23突然推开了和她纠缠在一起的斯蒂芬,然后一拳打在杰弗里的手腕处,疼得他立刻撒手,手枪掉在了地上,被工-23用她灵活的机械臂抓了过去。

有那么一秒钟,大家都愣在那里,不仅是杰弗里——他已经惊讶得说不出话来——还有工-23自己,她有那么一瞬间有些不知所措,不知道自己为什么要这么做:攻击人类——这个违背第一法则,最根本的法则的行为。但是也就是那么一瞬间而已,之后的她又坚定了自己的信念,表情又恢复了正常。

“这是我的孩子,没有人可以再伤害他了。”

说完,工-23抱起她的“孩子”,然后头也不回地向远处走去。留下两个人类呆若木鸡。

 

工-23走了,她的孩子终于安全了。


后记:

       本文的想法来自很多材料。阿西莫夫本人就写过一个因“母爱”而违反三大法则的故事;而美剧《西部世界》中“老鸨”形象在自己孩子被袭击后的一系列反应,也是这一想法的写照。很多阿西莫夫的文章都是在讨论在何种程度上机器人可以违反三大法则,而我相信“爱”正是一个最可能的源泉。

END

上海交大 人工智能俱乐部

      上海交通大学人工智能俱乐部成立于2017年11月,是响应国家大力发展人工智能技术而成立的学术性质社团。

      依托上海交通大学人工智能研究院的大力支持,俱乐部将会打造一系列与AI相关的品牌活动,包括AI讲堂,AI竞赛,AI课程,AI畅想等,努力营造“学在交大”的AI学习氛围,促进来自各个背景的师生共同交流学习。俱乐部秉承“分享、创新、引领”的宗旨,力图提供一个优质平台,服务于交大师生以及社会人士,希望共建一个开放活跃的AI社区。


精彩文章

为作者打赏

您的肯定是对原创作品的莫大鼓励

 
友情链接