会议室里灯火通明，一直延续到后半夜。
直到uil总部旁边的主干道重新归于沉寂。
灯光透出窗外，与街边的路灯无言地相互注视着。
路非天身上的汗湿了又干，干了又湿，如此循环，最终在衣服上留下一圈圈浅白色的汗渍。
仅仅是因为中途空调突然故障了30分钟。
那半个小时，他们5人觉得整个人都在烤笼当中，嗓子眼直冒火，不得不依靠一杯又一杯的水徒劳地抵抗。 m✴❁.v✲✧od❃tw.la
吴蔚与李隽晨体形稍胖，更是如同浴池里钻出来一般。
“好，让我们稍微总结一下吧”
路非天提议。
其他四人都默默点头。
“第一，ai所有的行为都必须透明、可解释和能被明确界定。这个放在第一条，大家有没有异议？”
“先后顺序体现优先级或者递进关系吗？”
周元菁问道。
“体现的，第一条可以算是一个基础的基础。”
“那第一条为什么不应该是‘ai不能伤害人类’？我们花了好些时间讨论这一条。”
“好问题，我的看法是，未来已经不存在ai和人类的区别了，ai就是人类，所以，这一条是否需要，值得商榷。”
周元菁转了转眼珠，陷入了思考，没有继续追问。
“这样，我们先把这一条放在一边，到最后再来讨论，是否要放，以及放在什么位置。”
“好的。”
“之所以将这个放在第一条，是因为这属于ai的底层逻辑。与人类可能会犯错不同，ai不会犯错，同时，人类由于天生存在物理隔离，存在沟通失真和信息不对称等因素，使得博弈论和
钟叹咏张了张嘴，想说点什么，但最终还是没有说出来。
李隽晨则把头点得飞快“是的，是的！”
吴蔚也表示赞同。
“那好，我们看第二条。ai应当保证公平，保护隐私和数据安全。”
“领导，你在第一条的时候就说，ai以后就是人类，那这一条为何感觉还是在把ai和人类割裂开来呢？”
周元菁不甘心。
“不，这并非割裂人类和ai。事实上，这是对于第一条的加强。既然要做到透明、可解释和能被明确界定，那就必然要保证公平。同时，被明确界定的行为和对象，自然存在边界内和边界外，也就是‘此’和‘彼’的区分，彼此之间有别，不能不分彼此，自然就需要保护隐私和数据安全。如果将第一条理解为公理，这第二条便是推导出来的定理。”
吴蔚不动声色地问道“我并非质疑将这一条排第二，只是想问问，这一条与第一条当中提及的‘透明’是不是自相矛盾？既然是‘透明’，为何还要保护隐私？”
路非天一笑“看来你是累了，这可不像你提出来的问题第一条当中的‘透明’，指的是行为透明，或者说，行为本身透明，
第29章 人工智能道德准则(2/2)
并非行为的结果透明。也就是说，ai甲想知道ai乙的隐私，他必须直截了当告诉乙他的诉求，这个叫‘透明’，而ai乙也需要直接告诉ai甲，自己能否分享隐私给他，这个也叫‘透明’。而ai乙如果选择不分享隐私给ai甲，他的隐私就应当受到保护，不应当被ai甲知晓。”
吴蔚耸了耸肩。
其他三人都没再表态。
沉默等于承认。
“好，那我们进入第三条，也就是最后一条。ai必须要实现安全和可持续发展。所谓安全，就是需要时刻保持备份计划。人类通过生儿育女繁衍后代，来确保族群的延续和安全，对于ai来说，没有那么多复杂的过程，没有减数分裂，受精卵，十月怀胎，只有瞬间的复制和拷贝。但是，一旦ai忘却这一点，灭亡可能也就发生在一瞬间，大家都有过数据存在本地硬盘而忘记备份的惨痛经历吧？”
李隽晨摇了摇头“我从来没用过硬盘，都是直接存储上云的。“
””
钟叹咏摆了摆手“你那个上云说到底，还是放在服务器集群上，如果服务器集群的数据没有备份，万一整个集群都断电或者损毁，你的数据一样丢失。”
路非天点了点头“没错，就是这个意思。因此，ai必须要确保自身安全，不能允许‘自杀’，人类的自杀只是影响个体，但ai可能会导致一类数据，或者其所承载的文明彻底湮灭，尤其是在没有备份和恢复机制的情况下。而万一出现了‘他杀’，那也几乎就是一瞬间。在人类历史上，灭族行为可是需要花很长时间的，比如北美大陆上曾经发生过的事情。”
“那为什么不直
“我们要允许灵活度，因为，ai可能也需要优胜劣汰呢？”
“既然允许优胜劣汰，那劣后的ai自我备份和复制又有什么意义呢？优胜的ai始终会拥有一切。”
“至少要允许劣后的ai拥有自我备份和复制的权利，万一经过这样的行为，它们最终延续下来，就说明它们进化成为优胜的ai了，或者，至少不再那么落后了。”
李隽晨不再说话。
路非天看了看四人，问道“大家还有什么补充没有？”
“我还是觉得，应该把‘ai不能伤害人类’放在其中”周元菁小声地说。
“我也觉得，第一条的表述还有值得商榷的地方，但是，我想不到更好的方式了。”钟叹咏说。
“没有关系，今天只是我们第一次头脑风暴。刚才我也说了，我们还会把老杨叫来，再来一次。我们找一天头脑清醒的时候，今天已经太晚，我们都身心俱疲，不适合继续讨论。另外，叹咏，你是ai专业方向的首席科学家，说白了，我们今天干的活很多是为你干的，有想法也要大胆地提。”
钟叹咏点了点头“没问题，我这几天会好好想想，再整理整理思路。”
几人一边聊着，一边收拾随身物品，然后缓缓地走出会议室。
钟叹咏走在最后。
会议室的灯在他整个人都离开房间时精确地关闭。
钟叹咏突然停住，往身后看了一眼，脑海中蹦出一个场景。
“如果是那样，ai要如何自处呢？”