这个团队是由科学家、工程师以及社会学家共同组成的，最初他们认为，“任何情况下都不能剥夺人类生命”这一条应该作为保险，加进GEI的核心意志里。

但随着安西娅进入测试阶段，人们发现，设置这一条核心原则，对安西娅的思考效率造成了极大拖累。而且每一个决策都要先做这么一个判断，也是毫无意义的。

比如调整公交车线路，要说跟人命无关，大数据会告诉你，其实是有关的，但这又不是公交车线路应该承担，并且也能解决的问题，而是跟城市规划、人的安全意识等等各方面问题都能挂上钩。

要安西娅贯彻这条原则，那么每一部清洁机器人的行动路线，它都得纳入到管理中，因为理论上存在着熊孩子乱跑一头撞上机器人的概率，在目前来说，做到这点显然是不现实的。

换个角度看，要给安西娅设置类似于“机器人三定律”之类的法则，就相当于将人类对自己行为所承担的责任转交给安西娅，但人类自身行为却不是安西娅所能控制的。

研发团队由此推导出了一个可怕的结论，如果要坚持“机器人三定律”，那么机器人就应该深入到每个人的思维里，去控制管理人的所有行为。

研发团队接着发现，给安西娅设置这种法则也是多余的，因为安西娅跟所有EI一样，都遵从“授权行动”原理。许可它做什么，它才会做什么，许可之外的事项，在它的核心意志里就等同于禁止。

最重要的是，安西娅只相当于一个大脑，它能做什么，能做到什么程度，全依赖扩展的功能。

比如安西娅管理机器人警察，机器人警察本身已经被设置为禁止装载实弹武器，搭载的电击、微波、绳网等非致命性武器也进行了严格限定，当安西娅接管机器人警察的时候，只要让它加载“确保当事人和周围人类的安全”之类的指令，就能解决问题。

当然，这不意味着安西娅没有主动性，它会根据之前的管理行为，结合现状提出意见，并且能发现不同领域内的关联，指出其中的问题。在获得许可后，才进行下一步的思考。

因此，在进行市政方面的决策思考时，给安西娅加入“衡量人类安全”之类的指令，就能确保它的倾向。

再举个例子，某片区域的空气污染出现异常，安西娅会结合空气状况，寻找和分析相关的科学报告，再提出建议。

总结而言，安西娅已经可以依靠理性判断，以及各方面的扩展功能服务城市，解决城市的市政管理问题。但人类将所有问题都丢给GEI，甚至包括责任也丢出去，这依旧是幻想。

人类还必须在决策层面为自己负责，安西娅所做的，就是评估这些决策的利害，完善这些决策，然后去执行。在执行的各个层面，人类也必须承担起自己的责任，确保安西娅的执行过程是有效和安全的。

资料影像里，研发团队认为，即便出现强人工智能，在市政管理上的表现，也只是比安西娅做得更细致，对决策理解得更到位，建议和意见更人性化。

人类不必担忧被它统治，因为它的“生命意义”是服务城市，造福人类。“统治人类”之类的事情，不过是人类自身的妄想和恐惧。有授权才行动，是强人工智能也要遵循的法则。跟弱人工智能相比，不过是授权范围更宽，行动更灵活而已，不需要每个细节都去检验和矫正。

人类也不能幻想它成了无所不能的神明，如果人类把决策都交给它，那就是人类自己的责任，而且，按照权限机制，强人工智能的行为随时可以通过程序终止。当然，如果人类疯狂到把权限机制都丢掉，让强人工智能为所欲为，那就跟打开核武器保险一样，纯粹是自作自受了。

安西娅管理安齐拉纳纳的介绍到此为止，不仅UNOC的诸位代表，一般观众也对GEI在城市管理的表现，乃至管理更多公众事务的情况有了初步了解，并且产生了莫大的期待。

公正、公平、科学、高效、廉洁，这样的公务员，老百姓都喜欢。

至于各国政府，看华夏代表那种快能拧出水来的脸，就知道有多纠结了。

科学、高效，政府当然喜欢，不过前面的公正和公平，后面的廉洁，不是不喜欢，而是大-麻烦。这意味着过往沉淀下来的利益格局，要被全面推翻。

更不用提，要确保GEI在公众事务的管理上发挥作用，决策机制不仅需要“程序正义”，还需要“从群众中来，到群众中去”。因为每一项决策，在GEI的推动下，见效都会很快。决策层是不是为民服务，是不是称职，很难糊弄得过去。如果没有权责清晰的政治结构，决策层的责任也很难丢出去。

更可怕的是，如果人类依旧生而平等，现行政治体制只要交代得过去，人们也没有改革的动力。但昨天的纪录片《第四进化》揭示了人类已经走向生而不平等，在这种变革之潮中，人们自然期待更强力也更先进的政治体制来稳定社会，让GEI来管理是一个必然的方向。

在GEI面前，人类又可以平等了。

安西娅之后，纪录片又开始介绍科研方面的GEI，以及商业方面的BEI。不仅华夏和美国用于统计分析经济状况的“管仲”和“亚当斯”亮了相，还有上百家科研机构和商业企业的EI都以拟人化的虚拟形象出现。

它们所展示的能力，让代表们再一次回味这两三年里，科技和经济的腾飞是怎么来的，观众们也终于明白，EI早已经深入到生活的方方面面。

在这之后，PEI终于登场。纪录片回顾了从最初的普罗米修斯，到第一代火种，再到现在最新的第三代火种，从教育、医疗、娱乐和生活服务，方方面面展示了PEI给人类带来的便利，甚至对个人的进化。

镜头转到安塔尼亚，这里的小学生们，通过PEI和教育GEI的结合，仅仅小学五年级就开始接触高中的知识，而且并不显得有多吃力。因为知识性的信息，通过PEI随手可得，学生们的学习重点全放在了思维、逻辑以及文化感悟等层面上。

看着十岁出头的小学生，就能依靠初见雏形的方法论，自己开展一些大学生才会结出的课题研究，不管是UNOC的代表，还是抬头看天幕的路人观众，都生出一种“恨不能晚生十年/二十年”的感慨。

镜头再度转移，字幕提示是虚拟场景，但内容却是很多人都知道的。之前被星联抓捕的日本科学家团队，企图破解PEI的意志映射机制，以便通过病毒之类的途径，修改PEI的核心意志。

虚拟场景在展示PEI被破解和控制的后果，映射在PEI上的个人喜好被篡改却不自知，在网络上大肆购物。学生的信息库被定向锁定在特定内容上，课堂上，日本小学生齐声念着“皇国兴废，在此一举”。罪犯通过PEI的破解，挪用他人的网络账号乃至银行账户。某人垂涎美女，通过PEI扭曲美女的心理，最终抱得美人归。

“PEI延伸了自我，给人带来十倍的便利，一旦被他人掌握，带来的是百倍危害”，展示了种种危害后，影像里打出这样一行大字。

接着展示的是星联在PEI上的防范措施，除了核心架构之外，还展示了下一代PEI，依附于人类神经元，与人体直接绑定的新技术，让PEI的破解在技术上更难做到，而且这样的尝试，也等同于侵害人体。

再一行大字打出，让正沉浸于自身安全的观众悚然。

“这只是PEI，如果GEI也被侵害呢？”

想想看，如果安西娅那种管理着一座城市的GEI被破解和控制了，那会是什么情形？

根本是一场噩梦吧……

纪录片末尾，星联战斗机的导弹直射日本战斗机，星联特勤突击日本东京警视厅，抓走三个企图破解PEI的日本科学家。

“星联的使命，守护EI三定律，守护人类个体，以及人类社会的灵魂。”

纪录片末尾，打出了这样一行字幕。

UNOC的会场里，沉默持续了好几分钟，才听到理事长艰涩的话语：“这么说，星联是准备扮演技术的监管者，全面监察各个国家了吗？”

这绝对是一场决战啊！

在场各国代表都在想，星联有民意，有技术，有实力，而他们有什么？只有利益集团为捍卫利益的咆哮吧……

“星联也知道，马上实现这样的目标，是一场全球范围的社会革命，新旧秩序交替，引发的混乱不仅会伤害到很多人，而且会影响星门里的局势。”

星聆这话出口，众人都长出了一口气，还好，你们星联也是有自知之明的，除非想变成地球联邦，否则不敢掀起这场怒潮。

“所以星联推出了《EI技术条约》，也就是《灵魂宪章》”，星聆说到的名词，让代表们回想起昨天的情形。

理事长问：“这个《灵魂宪章》，到底是说什么？”

“说的就是星联的定位，星联的目标，还有星联跟人类的关系。”(未完待续。)