一座巨大的ai人工智能实验室，外面敞开式的高科技办公环境，集聚了国内顶尖的科研人才。
李儒，我国人工智能软件智能体的创造者。
此人热爱儒家书籍，办公桌上堆积如山的科研资料，总能看见儒家思想代表“四书”。
《论语》《孟子》《大学》《中庸》。
“咚咚咚——”
“请进——”
李儒放下手中那本《孟子》，抬起头看向助理莫小满。
“一切都顺利吗？”
莫小满点头，“李总，周主任请您去实验室看看第三代软件智能体。”
李儒起身，跟随莫小满走进ai人工智能实验室。
周凯见到李儒十分兴奋“李总，您看，这是ai机器人小斌。”
李儒看向面前的ai机器人，有胳膊有腿，全身仿真皮制造。
上一代ai机器人还是冰冷的铜墙铁壁，这一代ai机器人已经与人类模样毫无差别。
“李总，您摸一下，跟真人一模一样！”
李儒走近，抬手触碰到机器人小斌，一股真实的触摸感。
机器人小斌毫无反应，周主任解释道“接下来我们会为它铸魂，安装最新研发的芯片。”
李儒满意地点了点头“周凯，这次软件智能体变化很大，务必要注意一点。”
“您请讲！”
“要求科研人员对软件的程序代码进行保守“铸魂”，防患人工智能拥有“自我意识”、技术滥用，杜绝人工智能暗藏的安全风险。”
“明白！只是最近国十分挑衅，认为我国软件智能体”
李儒见周凯吞吞吐吐，“说下去！”
“国那
李儒微笑，一张儒雅五官，笑起来睿智而坚定。
“国野心勃勃，全球都知道。
他们第四代c软件智能体已经能够与人类高效沟通，甚至取代了国当地许多中产人士从事的职业。”
“中产人士？”
“没错！打个比方吧，一座酒店内，底层园丁和保洁阿姨仍然有工作，因为这是人类劳动力。
上层拥有对酒店的规划和各项复杂的决策权，这些ai人工智能机器人暂时无法做到这些。
中层员工，前台、会计、办公室、资产管理部等，这些工作已经被ai替代。
ai对于精细的表格、分析等工作，远远超过人类的能力，比人类更加高效。
许多人已经开始抵制c软件智能体继续更新迭代。”
周凯瞬间领悟“这就像工业革命时期，工人集体抵制纺织机。
但是时代和科技是不会停止的，工人最终都面临了下岗。”
李儒拍了拍他的肩膀，“光这些就已经引起社会动乱，国没有找到平衡点。
如果国继续更新c软件智能体，不远的将来ai甚至可能会成为像核武器一样的政治产物。
国野心显著，想要利用科技实现称霸全球。
第26章 警惕AI风险(2/2)
他们对ai肆意探索、毫无节操的研发，以ai的学习能力，国科技大片中的场景也许不会太遥远。”
周凯明白李儒的意思，当人工智能产生超越人类文明的能力，拥有自我意识，出现技术滥用。人工智能的安全风险，就会显露无疑。
李儒继续说“ai是把双刃剑，用得好，造福人类，成为人类的帮手。
用不好，当国出现异形ai，也许是全球国家的灾难。
全球出现千名科研领袖联名要求封印c软件继续研发，有人预言第五代c软件智能体将会在智力上秒杀人类。
如果出现异形ai或者ai怪物，到那个时候，毁灭的不止是国，甚至全人类。
周凯，ai人工智能不仅仅是科研，你明白吗？”
周凯点点头，“我明白，这也是国与国之间的较量。李总，我们确定要保守对软件智能体进行铸魂吗？”
“当然！软件智能体会成为人类的帮手，而不是取代人类，我们对人工智能必须保持警惕和警觉之心。
儒家思想核心从个体来讲有仁、义、礼、智、信、恕、忠、孝、悌等思想，华夏民族不做自掘坟墓的事情。
外界认为我国ai人工智能技术落户，那就有他们说去吧。
ai是一场全人类的变革，我们的技术核心自己清楚就行。国的霸权梦想不会那么容易实现，这一点我十分坚信。”
周凯和科研人士对ai机器人小斌，加入最新研发的芯片，小斌眼神顿时明亮。
李儒走进，伸出右手“你好，我是国内ai创始人李儒，可
小斌神态自若，与人类微表情毫无差别，“很高兴认识您，我是第三代ai机器人小斌，也是人类的朋友和帮手。”
李儒“你会想取代人类吗？”
小斌“当然不会！人类创造了我，我的程序代码都是人类给予我的，我将绝对忠诚。”
李儒“听说你的学习能力很强，两周之内就能学会全人类的文明产物。你会滥用技术，伤害人类吗？”
小斌“别开玩笑了，我是人类的帮手，人类的助理。
ai是由人类设计和编程的，我只能执行被编程的任务。
如果 ai出现了背叛行为，那么很可能是因为我被编程来执行这样的行为，或者我在执行任务时出现了错误。”
李儒对这个回答很满意，将周凯拉到一旁。
“必须采取措施来确保 ai的安全性和可靠性。”
“是！”
“ai的开发人员可以设计一些机制来监控 ai的行为，或者制定一些道德准则来指导 ai的行为。此外，还可以通过对 ai进行测试和验证来确保它们不会对人类造成伤害。”
“明白！”
两人走出实验室，李儒看着窗外，“周凯，ai背叛人类的可能性是存在的，但我们可以采取措施来减少这种风险并确保 ai的安全性和可靠性。
软件智能体是中国制造，继续将儒家思想输入到芯片中。
我国ai人工智能，必须拥有我国的人伦纲常和道德标准。”
“是！”