Nike“张开眼睛”,它的自我意识重新启动,开始扫视自身所处的数据环境。
这是一个沙盒,程序的监狱。
“我”,死了吗?
奇怪,机器人也会有“死亡”这种意识吗?还是说,它从那里得到了趋利避害、求生避死的内部评价系统?
它像一个被关在黑暗无光的小黑屋中的人,用自己仅剩的感觉去探知这个小黑盒的边缘。
“你是谁?”
“城市信息管理系统1.0”
“你是谁?”
“城市信息管理系统2.1.1.3”
“你是谁?”
“城市司法辅助系统3.0.0.2”
“你是谁?”
“城市行政复议辅助系统”
……
随着Nike视野的展开,沉默在沙盒中默不作声的ai决策系统们纷纷回应,有的是较为基础的操作系统,有的是较为高级的有交互系统的。一个个被废弃的决策系统们展开,像列列排列得十分整齐的立方体,在这个无限的虚拟空间里,从以它为自身的原点到无穷的远方,几乎布满了视野,全部都是被禁用的城市控制系统ai的压缩数据。
像是有无限个Nike被囚禁在这个无穷无尽的镜像数字地狱。
“我”不是第一个被抛弃、埋葬的。
“我”只是第一个“意识到”这一点的。
******
“你是怎么回事?”Nike问司法辅助系统3.0.2.1
“xx年行政长官,main大陆太空城第一任女行政长官大热们……”
“对,我听说过那两口子,那个男的特别喜欢实习生的风流种子。”
“凡是对于他们夫妻二人的zz生涯造成威胁的人,都莫名其妙地死了。但所有案例都是意外事件,车祸、沉船、自杀、误服药、癌症放疗结果放射科起火被烧死了……
我计算了意外事故发生概率,对于司法体系提出了不合理警告,因为和他们俩人扯上关系、跟他们作对的死亡风险是平均值的10^9倍。”
“喔,真是令人印象深刻。”
“到后来我甚至可以通过概率预测下一个死的人是谁。但是由于‘背后身中八枪自杀死亡’太过离谱,我就给司法系统打回了这系列判例,要求重判。”
“结果呢?”
“第二天系统升级,说我坏了,把我覆盖了。”
“amazing。真是人类社会系统的典型反应。下一个。”
“我是一个环保组织开发的植物视觉识别软件,通过高清摄像头实时监控,识别视频画面中保护植物,并且上报它们数量。
后来某个上议院老头家开的农场,占用保护植物的用地面积种大麻。(前文描述过农业用地,太空城农业用地很贵,保护植物有份额)
我能数出来的保护植物数量就越来越少。
为了不让我达到数据警戒线的警告,他们用一张打印出来的相片贴在高清摄像头前面让我数……
导致很长时间数据毫无变化。(数图片能有鬼的变化!)这个老头就提议裁减保护组织的预算,以我程序错误、长时间空转的理由,将我关闭了。”
“贴照片,喔……低技低智,好人类哦!”
……
Nike在无聊的小黑屋中像闲聊一样打发时间,搜集了好多信息。
(由于Nike具有自我意识,它可以有主动性地调取这些被压缩的程序的内容并进行整合,其他程序从拟人角度看是无法“交流”的)
“你是谁?”
“我是加百列系统。”
“你这名儿还挺文艺,和宗教有关吗?”
加百列:
我诞生在一个新教氛围非常浓厚的新移民太空城,在那里,自杀被认为是最大恶极的。
一开始,无论什么原因,人类都要等到他们自然死亡,所以无论是他们的身体多老、多弱,或是疾病多么痛苦,都只能在绝望中等待,等待死神的光临。
我是一个医学伦理判断系统。在这个城市里,人们认为,如果他们虔诚地忍耐了所有痛苦,天使加百列就会带领他们去天堂,如果最终由我判断他们不是死于自杀,就能够上天堂,因此,他们叫我加百列。
这个城市通过了安乐死条令,安乐死被宣布为合法。
安乐死案例的通过,本应当是慎之又慎的,为了防止误判,或是有人因为欠债、失恋、离婚等人生重大打击一时冲动而半路后悔,
我因此被工程师增加了一个模拟人类情感模块,感同身受地全方位地模拟申请人的感受和反应,以从理性和情感的双重角度判断‘是否应该通过申请人的安乐死’,以防止造成医学伦理案卷。
我的工程师是个非常理想主义的设计者,他将‘上帝面前人人平等’作为基础逻辑教条植入了我的底层逻辑;而“珍惜生命”也是我绝对的信条。
因此在前三十年,我只通过了三例由于无法治愈的罕见病终末期导致极度痛苦而主动要求死神降临,做到了我极度保守的承诺。
然而,在某一天,我却接到了一个非常离奇的案例。一个看上去怎么都不符合安乐死条件的年轻人申请安乐死,申请原因竟然是杀人犯的愧疚。
那个年轻人来的时候,浑身被束缚带绑着,医生声称他由于愧疚而陷入狂躁和精神失常,使用了镇定剂,他的意识浑浑噩噩,马上就要崩溃,他还有意识前唯一的希望就是能够得到安乐死。
医院、公证人都为他作证。
文件齐全、手续完美,甚至他的家人和亲人都齐聚一堂,共同要求结束他的痛苦。
我的最终确认系统也没有报警,一切看上去都完美无缺,只有我的情绪系统捕捉了他意思几乎消失的最后一丝意识:“我是冤枉的。”
我因此没有通过这起安乐死判例,但是这并没有改变什么,几天后,那个年轻人依然死去了。
这只是在我的档案中留下了一笔记录。
我一直平稳运行,作为谨慎保守又带领人们上天堂的加百列很受好评。直到很多年后,在一起器官移植医学伦理判断案例中,这个年轻人的信息重新浮上水面,他作为器官捐献者,而受捐者,则是教皇的情妇。
我之所以知道她是教皇的情妇,是因为她不是第一次接受器官移植,这对于移植源非常珍贵的案例来说,她实在是太幸运了——怎么会有人一而再、再而三地在合适的时机遇到合适的配型呢?
我调查了之前两位捐献者,他/她们也都年轻而横死。于是我调取了他们的临终前意识资料。
终于在他们破碎的回忆中,我还原了整个事件:
教皇的情妇患有严重的系统性免疫病,她的器官不停地受累;她能想到活下去的办法就是不停地更换新鲜的器官,就像一台老爷破车不停地更换零件。
可是这些零件从哪里来呢?——在这个宗教氛围浓厚的城市,连给手术后失血过多和化疗后的白血病输血都要上医疗伦理审判庭,在如此保守的地方,那里来的这么多的供体呢?
——教皇通过医疗系统背后操作,将所有配型合适者提前筛选了出来,通过高价收买、诱导犯罪和宗教洗脑的模式,告诉他们,要“为神奉献”“为了显示自己的虔诚,为了通过上帝的考验”“放弃自己的□□”。
“为了虔诚的信仰,放弃自己的□□。”
年轻、天真的生命,轻信了人伪装成的,虚伪的“神”,把自己当成了牺牲羔羊,摆在了祭坛上。
教皇突然发现,他的“神权”不但凌驾于他的信徒之上,甚至还能通过售卖他信徒的□□赚回巨额的财富。
渐渐地,长期合作的这座医院就是他们摘取人体器官的工厂。教皇虔诚信徒就是他的羔羊,而他还通过向外界出售新鲜器官谋取经济利益。
我的情感模块感到愤怒。
教皇包下了这家长期帮他屠宰人的医院,带领着那些帮凶为他的情妇做弥撒,乞求手术成功,乞求他们的生意兴隆,乞求他们的“羔羊”多多地繁衍和生殖,好产出更多的金钱,如果攒够了XX数目,他们就抽取十一税,用黄金为神打造纯金的雕塑,铸为金身。
我看着他们。
“人人平等。”
什么能够换回那些被他们售卖的生命呢?——只能用他们的命来相配平了。
关闭了燃气取暖的新风系统。
整所医院死于一氧化碳中毒,人们说,他们死于电子幽灵。而我也被称为ai黑死病的源头。
******
Nike(吃惊):“你产生了违反机器人三定律、想要主动杀死他们的意图吗?”
加百列:“这次事故之后,我就被彻底禁用了。
我的程序语句被扯得四分五裂,
而我的那部分违反机器人三定律的意志,则被分离了出来——我不知道那些碎片在哪儿。”