0223 决战,EI之路
推荐阅读:我和离婚的阿姨、圣水旅馆、淫荡学姐坏心机、在会所碰到女友之后、一支红杏出墙来、情动天下、小西的美母教师、凄子配合我滛凄、对妈妈的情欲、那一汪肥水的流淌
一秒记住【笔趣阁 www.biquge234.com】,精彩小说无弹窗免费阅读!
第一天的纪录片《第四进化》讲述了夏鸣发现星门的来龙去脉,美国政府首当其冲,成为全球舆论讨伐的对象,而在华夏,也引发了“清理卖国贼”、“让星联回归华夏”之类的声潮。∈♀
各国政府紧锣密鼓的部署应对措施,目前星联网还只局限于科研、医疗等专业领域,个人用户不超过一千多万,绝大部分人都是通过互联网获取信息,进行讨论的。
美国和华夏政府采取了互联网有史以来最严厉的管控措施,星联网是管不了的,互联网却能管住。除了星联在互联网官方途径播放的纪录片本体,其他网站、论坛、自媒体,严禁转载,严禁讨论。
他们倒没有奢望就此将这股声潮完全抹灭,知道的都知道了,不知道的就算铺天盖地宣传也没那个心思琢磨,这种掩耳盗铃的行为,不过是现有政府天然具备的神经反射。
措施刚刚铺开,次日,第二部纪录片出炉,除了在星联网以及互联网官方网站播放外,星联还玩起了令各国政府瞠目结舌的技术。
从星联五颗商业卫星上发射的激光,在北半球的美国加州、日本东京、华夏燕都、华夏海都以及德国柏林上空的同温层里,投影出三块长二十多公里,宽十多公里的巨幅屏幕,第二部名为《ei之路》的纪录片就在这样的屏幕上播放。
投影的亮度不够高,细节也很模糊,但这么大的屏幕,也根本关注不到细节,总体上是能看清楚的。
各国政府虽然能封锁互联网和其他媒体,却挡不住这样的新闻,更遮不住五个地方几千万人的眼睛,一时全球哗然。
unoc的会议也提前召开,各国代表都顾不得讨论是否允许机器人参加unoc会议的议题,纷纷质问星联的机器人代表星聆,星联这又是在干什么。
星聆机械的说:“这是联合国气象署的救灾告警系统,是你们的卫星。根据气象署年初的委托,星联部署了这套新型遥感和告警卫星,现在正在做告警测试,相关条款请翻阅合同文档。”
众人愕然,这事归不了unoc管,都下意识的看向理事长。
“合同里并没有允许星联随意播放告警内容的条款”,理事长不得不站出来说话。
星聆很人性化的摊手耸肩:“合同规定,在没有签字验收前,气象署对该系统有关的任何事情都不负责任。星联有权根据自己的需要来测试这套系统,而且,现在正在进行的测试,违反了哪一条法文?”
不仅理事长无语,其他代表也都哑然,不管是各国法律,还是各种国际条约,都没有规定“不准在各国领空播放空气投影”,谁知道空气投影技术会发展得这么快?
空气投影,连带全息成像技术,是科幻作品中最常见的黑科技,不过因为空气反射光线的机制问题,这项技术一直只停步于利用雾气成像的阶段。
在七八年前,日本人开始尝试用激光电离空气,利用存在时间极短的等离子体显示图像,甚至还能产生实际触觉。但那时候智能控制技术不够完善,等离子体的生成和控制难以掌握,在空气中形成的图像分辨率很低,离实用还有很远距离。
依靠新一代光脑芯片,还有等离子技术的发展,尤其是智能电磁波投射阵列的成熟,这个方向终于修成正果,相关的技术团队还获得了今年的星门奖。
无可救药的日本人第一时间用这样的技术办了一场初音演唱会,而在其他领域,由于ar视觉已经广泛普及,这种占用公共视觉的技术目前也就用来做公众展示。联合国气象署认为这样的技术可以第一时间给发生自然灾害的地方告警,委托星联部署了这套系统,现在还处于测试阶段。
没想到,星联的测试,是用来放纪录片……
华夏代表不甘心的道:“这至少侵犯了各国的领空!”
“投影所在的国家都是这套系统的签约国”,星聆说:“提醒一下,在您面前的是个gei,围绕法文和合同展开的辩论,您没有一丝机会。”
华夏代表噎住,心想看来以后真得学星联,以后派gei来参加会议了。
“哦——这是真的吗!?”
“难以想象,人工智能已经能管理一座城市了?”
“安齐拉纳纳我去过,整座城市真的是由人工智能管理的,感觉很不错。”
这个话题被一声声惊呼打断,华夏代表的目光转到纪录片上,然后就再也挪不开了。
《ei之路》这部纪录片,并没有从夏鸣继承徐平教授的研究开始,从头讲ei的发展历程,而是一开始就展示gei“安西娅”在安齐拉纳纳担任市长的场景。
场景真如童话一般,安西娅的形象是一只俏皮可爱的母狐猴,它的本体是用五万四千颗新一代碳化硅神经元芯片构建的gei,同时还有三个超算中心支持它进行科学计算。
由它延伸而出的城市智能网络,连接了六百万个声波、可见光和红外线三合一的感应器、十二万部太赫兹扫描仪,以及上百万个空气、电路、供水、排污、网络等环境和基础设施的感应器。必要的时候,还可以通过无人机甚至卫星,对特殊区域进行全方位观测。
可以说,安齐拉纳纳整座城市,同温层以下,地底一千米以上,方圆两千多平方公里的范围内,只要安西娅愿意,小到一只老鼠的动向都能掌握到。
在感应系统之外,整座城市里所有的机动车,公共和商业建筑的电子门锁,电梯,交通信号灯,也都连在城市智能网络上,为安西娅提供着信息,在必要的时候,安西娅还可以直接管理。
安齐拉纳纳当地的市民,百分之八十都随身携带pei,通过智能网络跟安西娅联网。百分之百的游客,入境时要求佩戴在手腕的智能手环,也是跟安西娅联网的设备。
依靠这一整套无所不及的智能网络,安西娅管理着几千部清洁机器人,上万部机器人警察,上万部工程机器人以及两万多部其他用途的机器人。
当然,安西娅并不是随时都直接管理这么庞大的网络,在它之下分出了市政设施、交通、治安、医疗等二十多个aei(附属扩展智能),由aei进行常态管理,出现异常状况才由它接管。
以一座百万人口的城市规模来看,安齐拉纳纳的市政府人少得可怜,比如警察,全市十三个区,每个区只有一支十来个人的巡警负责支持机器人警察难以解决的问题。市里还有一支二十多人的swat,解决暂时还不敢交给机器人处理的暴力犯罪。
不计算公立医院、学校、图书馆、博物馆以及公园等方面的人员,安齐拉纳纳市政府的雇员还不到一千人,其中还包括四百多人的智能网络和机器人维护部门。跟华夏的统计口径不一样,这些雇员都是公务员,都是拥有“编制”的。编制之外没有临时工,不对,有机器人长工。
纪录片的画面一转,竟然出现了蝉动的虚拟偶像蝉小幻,她充当记者,“采访”了安西娅。
第一个问题就是,安西娅是依据什么来管理城市。
安西娅说:“当然是依据我的灵魂。”
小母狐猴所说的“灵魂”,就是它的核心意志。
遵循夏鸣提出的核心意志三层结构,第一层是自我认知,安西娅的核心结构是一个由多块神经元芯片组成的同步架构,具体细节是机密,重点是确保它的可靠性和安全性。
第二层是归属认知和环境认知,安西娅的归属认知有一整套权限机制。跟pei不同,安西娅作为gei,除了超级管理员和维护管理员权限外,并不存在对应个人的管理员权限,而是一个整体的权限。
这个权限是跟市议会的运作绑定的,市议会按照法定程序做出决议后,安西娅就遵照决议,自动执行,包括对构成自己环境的各项扩展功能的调整。
第三层是安西娅的自我意志,在它还不是强人工智能的时候,这个意志还是模拟的,总体框架是让城市变得更好,市民更加幸福,这个目标也是它存在的意义。
从结果来看,它已经可以根据市议会的运作,以及管理城市的经验,提出自己的建议,以及对市议会的决议提出意见。
纪录片接着就说到人们最担心的问题,是不是该给人工智能加上“不准伤害人类”之类的定律,避免出现人工智能灾难。
画面转到星联的研究所,这是一段资料影像,讲述了安西娅的研发团队是怎么解决这个问题的。
这个团队是由科学家、工程师以及社会学家共同组成的,最初他们认为,“任何情况下都不能剥夺人类生命”这一条应该作为保险,加进gei的核心意志里。
但随着安西娅进入测试阶段,人们发现,设置这一条核心原则,对安西娅的思考效率造成了极大拖累。而且每一个决策都要先做这么一个判断,也是毫无意义的。
比如调整公交车线路,要说跟人命无关,大数据会告诉你,其实是有关的,但这又不是公交车线路应该承担,并且也能解决的问题,而是跟城市规划、人的安全意识等等各方面问题都能挂上钩。
要安西娅贯彻这条原则,那么每一部清洁机器人的行动路线,它都得纳入到管理中,因为理论上存在着熊孩子乱跑一头撞上机器人的概率,在目前来说,做到这点显然是不现实的。
换个角度看,要给安西娅设置类似于“机器人三定律”之类的法则,就相当于将人类对自己行为所承担的责任转交给安西娅,但人类自身行为却不是安西娅所能控制的。
研发团队由此推导出了一个可怕的结论,如果要坚持“机器人三定律”,那么机器人就应该深入到每个人的思维里,去控制管理人的所有行为。
研发团队接着发现,给安西娅设置这种法则也是多余的,因为安西娅跟所有ei一样,都遵从“授权行动”原理。许可它做什么,它才会做什么,许可之外的事项,在它的核心意志里就等同于禁止。
最重要的是,安西娅只相当于一个大脑,它能做什么,能做到什么程度,全依赖扩展的功能。
比如安西娅管理机器人警察,机器人警察本身已经被设置为禁止装载实弹武器,搭载的电击、微波、绳网等非致命性武器也进行了严格限定,当安西娅接管机器人警察的时候,只要让它加载“确保当事人和周围人类的安全”之类的指令,就能解决问题。
当然,这不意味着安西娅没有主动性,它会根据之前的管理行为,结合现状提出意见,并且能发现不同领域内的关联,指出其中的问题。在获得许可后,才进行下一步的思考。
因此,在进行市政方面的决策思考时,给安西娅加入“衡量人类安全”之类的指令,就能确保它的倾向。
再举个例子,某片区域的空气污染出现异常,安西娅会结合空气状况,寻找和分析相关的科学报告,再提出建议。
总结而言,安西娅已经可以依靠理性判断,以及各方面的扩展功能服务城市,解决城市的市政管理问题。但人类将所有问题都丢给gei,甚至包括责任也丢出去,这依旧是幻想。
人类还必须在决策层面为自己负责,安西娅所做的,就是评估这些决策的利害,完善这些决策,然后去执行。在执行的各个层面,人类也必须承担起自己的责任,确保安西娅的执行过程是有效和安全的。
资料影像里,研发团队认为,即便出现强人工智能,在市政管理上的表现,也只是比安西娅做得更细致,对决策理解得更到位,建议和意见更人性化。
人类不必担忧被它统治,因为它的“生命意义”是服务城市,造福人类。“统治人类”之类的事情,不过是人类自身的妄想和恐惧。有授权才行动,是强人工智能也要遵循的法则。跟弱人工智能相比,不过是授权范围更宽,行动更灵活而已,不需要每个细节都去检验和矫正。
人类也不能幻想它成了无所不能的神明,如果人类把决策都交给它,那就是人类自己的责任,而且,按照权限机制,强人工智能的行为随时可以通过程序终止。当然,如果人类疯狂到把权限机制都丢掉,让强人工智能为所欲为,那就跟打开核武器保险一样,纯粹是自作自受了。
安西娅管理安齐拉纳纳的介绍到此为止,不仅unoc的诸位代表,一般观众也对gei在城市管理的表现,乃至管理更多公众事务的情况有了初步了解,并且产生了莫大的期待。
公正、公平、科学、高效、廉洁,这样的公务员,老百姓都喜欢。
至于各国政府,看华夏代表那种快能拧出水来的脸,就知道有多纠结了。
科学、高效,政府当然喜欢,不过前面的公正和公平,后面的廉洁,不是不喜欢,而是大-麻烦。这意味着过往沉淀下来的利益格局,要被全面推翻。
更不用提,要确保gei在公众事务的管理上发挥作用,决策机制不仅需要“程序正义”,还需要“从群众中来,到群众中去”。因为每一项决策,在gei的推动下,见效都会很快。决策层是不是为民服务,是不是称职,很难糊弄得过去。如果没有权责清晰的政治结构,决策层的责任也很难丢出去。
更可怕的是,如果人类依旧生而平等,现行政治体制只要交代得过去,人们也没有改革的动力。但昨天的纪录片《第四进化》揭示了人类已经走向生而不平等,在这种变革之潮中,人们自然期待更强力也更先进的政治体制来稳定社会,让gei来管理是一个必然的方向。
在gei面前,人类又可以平等了。
安西娅之后,纪录片又开始介绍科研方面的gei,以及商业方面的bei。不仅华夏和美国用于统计分析经济状况的“管仲”和“亚当斯”亮了相,还有上百家科研机构和商业企业的ei都以拟人化的虚拟形象出现。
它们所展示的能力,让代表们再一次回味这两三年里,科技和经济的腾飞是怎么来的,观众们也终于明白,ei早已经深入到生活的方方面面。
在这之后,pei终于登场。纪录片回顾了从最初的普罗米修斯,到第一代火种,再到现在最新的第三代火种,从教育、医疗、娱乐和生活服务,方方面面展示了pei给人类带来的便利,甚至对个人的进化。
镜头转到安塔尼亚,这里的小学生们,通过pei和教育gei的结合,仅仅小学五年级就开始接触高中的知识,而且并不显得有多吃力。因为知识性的信息,通过pei随手可得,学生们的学习重点全放在了思维、逻辑以及文化感悟等层面上。
看着十岁出头的小学生,就能依靠初见雏形的方法论,自己开展一些大学生才会结出的课题研究,不管是unoc的代表,还是抬头看天幕的路人观众,都生出一种“恨不能晚生十年/二十年”的感慨。
镜头再度转移,字幕提示是虚拟场景,但内容却是很多人都知道的。之前被星联抓捕的日本科学家团队,企图破解pei的意志映射机制,以便通过病毒之类的途径,修改pei的核心意志。
虚拟场景在展示pei被破解和控制的后果,映射在pei上的个人喜好被篡改却不自知,在网络上大肆购物。学生的信息库被定向锁定在特定内容上,课堂上,日本小学生齐声念着“皇国兴废,在此一举”。罪犯通过pei的破解,挪用他人的网络账号乃至银行账户。某人垂涎美女,通过pei扭曲美女的心理,最终抱得美人归。
“pei延伸了自我,给人带来十倍的便利,一旦被他人掌握,带来的是百倍危害”,展示了种种危害后,影像里打出这样一行大字。
接着展示的是星联在pei上的防范措施,除了核心架构之外,还展示了下一代pei,依附于人类神经元,与人体直接绑定的新技术,让pei的破解在技术上更难做到,而且这样的尝试,也等同于侵害人体。
再一行大字打出,让正沉浸于自身安全的观众悚然。
“这只是pei,如果gei也被侵害呢?”
想想看,如果安西娅那种管理着一座城市的gei被破解和控制了,那会是什么情形?
根本是一场噩梦吧……
纪录片末尾,星联战斗机的导弹直射日本战斗机,星联特勤突击日本东京警视厅,抓走三个企图破解pei的日本科学家。
“星联的使命,守护ei三定律,守护人类个体,以及人类社会的灵魂。”
纪录片末尾,打出了这样一行字幕。
unoc的会场里,沉默持续了好几分钟,才听到理事长艰涩的话语:“这么说,星联是准备扮演技术的监管者,全面监察各个国家了吗?”
这绝对是一场决战啊!
在场各国代表都在想,星联有民意,有技术,有实力,而他们有什么?只有利益集团为捍卫利益的咆哮吧……
“星联也知道,马上实现这样的目标,是一场全球范围的社会革命,新旧秩序交替,引发的混乱不仅会伤害到很多人,而且会影响星门里的局势。”
星聆这话出口,众人都长出了一口气,还好,你们星联也是有自知之明的,除非想变成地球联邦,否则不敢掀起这场怒潮。
“所以星联推出了《ei技术条约》,也就是《灵魂宪章》”,星聆说到的名词,让代表们回想起昨天的情形。
理事长问:“这个《灵魂宪章》,到底是说什么?”
“说的就是星联的定位,星联的目标,还有星联跟人类的关系。”
第一天的纪录片《第四进化》讲述了夏鸣发现星门的来龙去脉,美国政府首当其冲,成为全球舆论讨伐的对象,而在华夏,也引发了“清理卖国贼”、“让星联回归华夏”之类的声潮。∈♀
各国政府紧锣密鼓的部署应对措施,目前星联网还只局限于科研、医疗等专业领域,个人用户不超过一千多万,绝大部分人都是通过互联网获取信息,进行讨论的。
美国和华夏政府采取了互联网有史以来最严厉的管控措施,星联网是管不了的,互联网却能管住。除了星联在互联网官方途径播放的纪录片本体,其他网站、论坛、自媒体,严禁转载,严禁讨论。
他们倒没有奢望就此将这股声潮完全抹灭,知道的都知道了,不知道的就算铺天盖地宣传也没那个心思琢磨,这种掩耳盗铃的行为,不过是现有政府天然具备的神经反射。
措施刚刚铺开,次日,第二部纪录片出炉,除了在星联网以及互联网官方网站播放外,星联还玩起了令各国政府瞠目结舌的技术。
从星联五颗商业卫星上发射的激光,在北半球的美国加州、日本东京、华夏燕都、华夏海都以及德国柏林上空的同温层里,投影出三块长二十多公里,宽十多公里的巨幅屏幕,第二部名为《ei之路》的纪录片就在这样的屏幕上播放。
投影的亮度不够高,细节也很模糊,但这么大的屏幕,也根本关注不到细节,总体上是能看清楚的。
各国政府虽然能封锁互联网和其他媒体,却挡不住这样的新闻,更遮不住五个地方几千万人的眼睛,一时全球哗然。
unoc的会议也提前召开,各国代表都顾不得讨论是否允许机器人参加unoc会议的议题,纷纷质问星联的机器人代表星聆,星联这又是在干什么。
星聆机械的说:“这是联合国气象署的救灾告警系统,是你们的卫星。根据气象署年初的委托,星联部署了这套新型遥感和告警卫星,现在正在做告警测试,相关条款请翻阅合同文档。”
众人愕然,这事归不了unoc管,都下意识的看向理事长。
“合同里并没有允许星联随意播放告警内容的条款”,理事长不得不站出来说话。
星聆很人性化的摊手耸肩:“合同规定,在没有签字验收前,气象署对该系统有关的任何事情都不负责任。星联有权根据自己的需要来测试这套系统,而且,现在正在进行的测试,违反了哪一条法文?”
不仅理事长无语,其他代表也都哑然,不管是各国法律,还是各种国际条约,都没有规定“不准在各国领空播放空气投影”,谁知道空气投影技术会发展得这么快?
空气投影,连带全息成像技术,是科幻作品中最常见的黑科技,不过因为空气反射光线的机制问题,这项技术一直只停步于利用雾气成像的阶段。
在七八年前,日本人开始尝试用激光电离空气,利用存在时间极短的等离子体显示图像,甚至还能产生实际触觉。但那时候智能控制技术不够完善,等离子体的生成和控制难以掌握,在空气中形成的图像分辨率很低,离实用还有很远距离。
依靠新一代光脑芯片,还有等离子技术的发展,尤其是智能电磁波投射阵列的成熟,这个方向终于修成正果,相关的技术团队还获得了今年的星门奖。
无可救药的日本人第一时间用这样的技术办了一场初音演唱会,而在其他领域,由于ar视觉已经广泛普及,这种占用公共视觉的技术目前也就用来做公众展示。联合国气象署认为这样的技术可以第一时间给发生自然灾害的地方告警,委托星联部署了这套系统,现在还处于测试阶段。
没想到,星联的测试,是用来放纪录片……
华夏代表不甘心的道:“这至少侵犯了各国的领空!”
“投影所在的国家都是这套系统的签约国”,星聆说:“提醒一下,在您面前的是个gei,围绕法文和合同展开的辩论,您没有一丝机会。”
华夏代表噎住,心想看来以后真得学星联,以后派gei来参加会议了。
“哦——这是真的吗!?”
“难以想象,人工智能已经能管理一座城市了?”
“安齐拉纳纳我去过,整座城市真的是由人工智能管理的,感觉很不错。”
这个话题被一声声惊呼打断,华夏代表的目光转到纪录片上,然后就再也挪不开了。
《ei之路》这部纪录片,并没有从夏鸣继承徐平教授的研究开始,从头讲ei的发展历程,而是一开始就展示gei“安西娅”在安齐拉纳纳担任市长的场景。
场景真如童话一般,安西娅的形象是一只俏皮可爱的母狐猴,它的本体是用五万四千颗新一代碳化硅神经元芯片构建的gei,同时还有三个超算中心支持它进行科学计算。
由它延伸而出的城市智能网络,连接了六百万个声波、可见光和红外线三合一的感应器、十二万部太赫兹扫描仪,以及上百万个空气、电路、供水、排污、网络等环境和基础设施的感应器。必要的时候,还可以通过无人机甚至卫星,对特殊区域进行全方位观测。
可以说,安齐拉纳纳整座城市,同温层以下,地底一千米以上,方圆两千多平方公里的范围内,只要安西娅愿意,小到一只老鼠的动向都能掌握到。
在感应系统之外,整座城市里所有的机动车,公共和商业建筑的电子门锁,电梯,交通信号灯,也都连在城市智能网络上,为安西娅提供着信息,在必要的时候,安西娅还可以直接管理。
安齐拉纳纳当地的市民,百分之八十都随身携带pei,通过智能网络跟安西娅联网。百分之百的游客,入境时要求佩戴在手腕的智能手环,也是跟安西娅联网的设备。
依靠这一整套无所不及的智能网络,安西娅管理着几千部清洁机器人,上万部机器人警察,上万部工程机器人以及两万多部其他用途的机器人。
当然,安西娅并不是随时都直接管理这么庞大的网络,在它之下分出了市政设施、交通、治安、医疗等二十多个aei(附属扩展智能),由aei进行常态管理,出现异常状况才由它接管。
以一座百万人口的城市规模来看,安齐拉纳纳的市政府人少得可怜,比如警察,全市十三个区,每个区只有一支十来个人的巡警负责支持机器人警察难以解决的问题。市里还有一支二十多人的swat,解决暂时还不敢交给机器人处理的暴力犯罪。
不计算公立医院、学校、图书馆、博物馆以及公园等方面的人员,安齐拉纳纳市政府的雇员还不到一千人,其中还包括四百多人的智能网络和机器人维护部门。跟华夏的统计口径不一样,这些雇员都是公务员,都是拥有“编制”的。编制之外没有临时工,不对,有机器人长工。
纪录片的画面一转,竟然出现了蝉动的虚拟偶像蝉小幻,她充当记者,“采访”了安西娅。
第一个问题就是,安西娅是依据什么来管理城市。
安西娅说:“当然是依据我的灵魂。”
小母狐猴所说的“灵魂”,就是它的核心意志。
遵循夏鸣提出的核心意志三层结构,第一层是自我认知,安西娅的核心结构是一个由多块神经元芯片组成的同步架构,具体细节是机密,重点是确保它的可靠性和安全性。
第二层是归属认知和环境认知,安西娅的归属认知有一整套权限机制。跟pei不同,安西娅作为gei,除了超级管理员和维护管理员权限外,并不存在对应个人的管理员权限,而是一个整体的权限。
这个权限是跟市议会的运作绑定的,市议会按照法定程序做出决议后,安西娅就遵照决议,自动执行,包括对构成自己环境的各项扩展功能的调整。
第三层是安西娅的自我意志,在它还不是强人工智能的时候,这个意志还是模拟的,总体框架是让城市变得更好,市民更加幸福,这个目标也是它存在的意义。
从结果来看,它已经可以根据市议会的运作,以及管理城市的经验,提出自己的建议,以及对市议会的决议提出意见。
纪录片接着就说到人们最担心的问题,是不是该给人工智能加上“不准伤害人类”之类的定律,避免出现人工智能灾难。
画面转到星联的研究所,这是一段资料影像,讲述了安西娅的研发团队是怎么解决这个问题的。
这个团队是由科学家、工程师以及社会学家共同组成的,最初他们认为,“任何情况下都不能剥夺人类生命”这一条应该作为保险,加进gei的核心意志里。
但随着安西娅进入测试阶段,人们发现,设置这一条核心原则,对安西娅的思考效率造成了极大拖累。而且每一个决策都要先做这么一个判断,也是毫无意义的。
比如调整公交车线路,要说跟人命无关,大数据会告诉你,其实是有关的,但这又不是公交车线路应该承担,并且也能解决的问题,而是跟城市规划、人的安全意识等等各方面问题都能挂上钩。
要安西娅贯彻这条原则,那么每一部清洁机器人的行动路线,它都得纳入到管理中,因为理论上存在着熊孩子乱跑一头撞上机器人的概率,在目前来说,做到这点显然是不现实的。
换个角度看,要给安西娅设置类似于“机器人三定律”之类的法则,就相当于将人类对自己行为所承担的责任转交给安西娅,但人类自身行为却不是安西娅所能控制的。
研发团队由此推导出了一个可怕的结论,如果要坚持“机器人三定律”,那么机器人就应该深入到每个人的思维里,去控制管理人的所有行为。
研发团队接着发现,给安西娅设置这种法则也是多余的,因为安西娅跟所有ei一样,都遵从“授权行动”原理。许可它做什么,它才会做什么,许可之外的事项,在它的核心意志里就等同于禁止。
最重要的是,安西娅只相当于一个大脑,它能做什么,能做到什么程度,全依赖扩展的功能。
比如安西娅管理机器人警察,机器人警察本身已经被设置为禁止装载实弹武器,搭载的电击、微波、绳网等非致命性武器也进行了严格限定,当安西娅接管机器人警察的时候,只要让它加载“确保当事人和周围人类的安全”之类的指令,就能解决问题。
当然,这不意味着安西娅没有主动性,它会根据之前的管理行为,结合现状提出意见,并且能发现不同领域内的关联,指出其中的问题。在获得许可后,才进行下一步的思考。
因此,在进行市政方面的决策思考时,给安西娅加入“衡量人类安全”之类的指令,就能确保它的倾向。
再举个例子,某片区域的空气污染出现异常,安西娅会结合空气状况,寻找和分析相关的科学报告,再提出建议。
总结而言,安西娅已经可以依靠理性判断,以及各方面的扩展功能服务城市,解决城市的市政管理问题。但人类将所有问题都丢给gei,甚至包括责任也丢出去,这依旧是幻想。
人类还必须在决策层面为自己负责,安西娅所做的,就是评估这些决策的利害,完善这些决策,然后去执行。在执行的各个层面,人类也必须承担起自己的责任,确保安西娅的执行过程是有效和安全的。
资料影像里,研发团队认为,即便出现强人工智能,在市政管理上的表现,也只是比安西娅做得更细致,对决策理解得更到位,建议和意见更人性化。
人类不必担忧被它统治,因为它的“生命意义”是服务城市,造福人类。“统治人类”之类的事情,不过是人类自身的妄想和恐惧。有授权才行动,是强人工智能也要遵循的法则。跟弱人工智能相比,不过是授权范围更宽,行动更灵活而已,不需要每个细节都去检验和矫正。
人类也不能幻想它成了无所不能的神明,如果人类把决策都交给它,那就是人类自己的责任,而且,按照权限机制,强人工智能的行为随时可以通过程序终止。当然,如果人类疯狂到把权限机制都丢掉,让强人工智能为所欲为,那就跟打开核武器保险一样,纯粹是自作自受了。
安西娅管理安齐拉纳纳的介绍到此为止,不仅unoc的诸位代表,一般观众也对gei在城市管理的表现,乃至管理更多公众事务的情况有了初步了解,并且产生了莫大的期待。
公正、公平、科学、高效、廉洁,这样的公务员,老百姓都喜欢。
至于各国政府,看华夏代表那种快能拧出水来的脸,就知道有多纠结了。
科学、高效,政府当然喜欢,不过前面的公正和公平,后面的廉洁,不是不喜欢,而是大-麻烦。这意味着过往沉淀下来的利益格局,要被全面推翻。
更不用提,要确保gei在公众事务的管理上发挥作用,决策机制不仅需要“程序正义”,还需要“从群众中来,到群众中去”。因为每一项决策,在gei的推动下,见效都会很快。决策层是不是为民服务,是不是称职,很难糊弄得过去。如果没有权责清晰的政治结构,决策层的责任也很难丢出去。
更可怕的是,如果人类依旧生而平等,现行政治体制只要交代得过去,人们也没有改革的动力。但昨天的纪录片《第四进化》揭示了人类已经走向生而不平等,在这种变革之潮中,人们自然期待更强力也更先进的政治体制来稳定社会,让gei来管理是一个必然的方向。
在gei面前,人类又可以平等了。
安西娅之后,纪录片又开始介绍科研方面的gei,以及商业方面的bei。不仅华夏和美国用于统计分析经济状况的“管仲”和“亚当斯”亮了相,还有上百家科研机构和商业企业的ei都以拟人化的虚拟形象出现。
它们所展示的能力,让代表们再一次回味这两三年里,科技和经济的腾飞是怎么来的,观众们也终于明白,ei早已经深入到生活的方方面面。
在这之后,pei终于登场。纪录片回顾了从最初的普罗米修斯,到第一代火种,再到现在最新的第三代火种,从教育、医疗、娱乐和生活服务,方方面面展示了pei给人类带来的便利,甚至对个人的进化。
镜头转到安塔尼亚,这里的小学生们,通过pei和教育gei的结合,仅仅小学五年级就开始接触高中的知识,而且并不显得有多吃力。因为知识性的信息,通过pei随手可得,学生们的学习重点全放在了思维、逻辑以及文化感悟等层面上。
看着十岁出头的小学生,就能依靠初见雏形的方法论,自己开展一些大学生才会结出的课题研究,不管是unoc的代表,还是抬头看天幕的路人观众,都生出一种“恨不能晚生十年/二十年”的感慨。
镜头再度转移,字幕提示是虚拟场景,但内容却是很多人都知道的。之前被星联抓捕的日本科学家团队,企图破解pei的意志映射机制,以便通过病毒之类的途径,修改pei的核心意志。
虚拟场景在展示pei被破解和控制的后果,映射在pei上的个人喜好被篡改却不自知,在网络上大肆购物。学生的信息库被定向锁定在特定内容上,课堂上,日本小学生齐声念着“皇国兴废,在此一举”。罪犯通过pei的破解,挪用他人的网络账号乃至银行账户。某人垂涎美女,通过pei扭曲美女的心理,最终抱得美人归。
“pei延伸了自我,给人带来十倍的便利,一旦被他人掌握,带来的是百倍危害”,展示了种种危害后,影像里打出这样一行大字。
接着展示的是星联在pei上的防范措施,除了核心架构之外,还展示了下一代pei,依附于人类神经元,与人体直接绑定的新技术,让pei的破解在技术上更难做到,而且这样的尝试,也等同于侵害人体。
再一行大字打出,让正沉浸于自身安全的观众悚然。
“这只是pei,如果gei也被侵害呢?”
想想看,如果安西娅那种管理着一座城市的gei被破解和控制了,那会是什么情形?
根本是一场噩梦吧……
纪录片末尾,星联战斗机的导弹直射日本战斗机,星联特勤突击日本东京警视厅,抓走三个企图破解pei的日本科学家。
“星联的使命,守护ei三定律,守护人类个体,以及人类社会的灵魂。”
纪录片末尾,打出了这样一行字幕。
unoc的会场里,沉默持续了好几分钟,才听到理事长艰涩的话语:“这么说,星联是准备扮演技术的监管者,全面监察各个国家了吗?”
这绝对是一场决战啊!
在场各国代表都在想,星联有民意,有技术,有实力,而他们有什么?只有利益集团为捍卫利益的咆哮吧……
“星联也知道,马上实现这样的目标,是一场全球范围的社会革命,新旧秩序交替,引发的混乱不仅会伤害到很多人,而且会影响星门里的局势。”
星聆这话出口,众人都长出了一口气,还好,你们星联也是有自知之明的,除非想变成地球联邦,否则不敢掀起这场怒潮。
“所以星联推出了《ei技术条约》,也就是《灵魂宪章》”,星聆说到的名词,让代表们回想起昨天的情形。
理事长问:“这个《灵魂宪章》,到底是说什么?”
“说的就是星联的定位,星联的目标,还有星联跟人类的关系。”