西伯利亚老农(兔子小千)

专业在冰冻区产量,脑洞奇葩,如同黑洞。

【底特律:化生为人】侵蚀/蜕变12

      『你真的想好了?』卡姆斯基对着房间墙上的投影显示屏说着话,而周围的几个克洛伊都在做着自己的事,悄悄地相互聊天或者看书,没有一个看向卡姆斯基那里。仿佛是过去很少与人通讯的他,和眼前这个人的通话已经是接连好几天的“常态”。『如果说你真的要那么决定,我感觉很遗憾。但仍然会尊重你的选择。』他在屏幕前低着头走来走去,显得很不安和沮丧,『不过明天我就不去为你送行了。你知道的,我不擅长说再见,尤其是这样的场合。』

 

      2038年11月23日,上午10点。

      美术馆里只有寥寥数个人,一则是因为仿生人与人类的纷争尚未完全平息,遭到了抗议人类破坏的美术馆尚未整修完毕,另外也是因为今天是曼费德工作室代表人马库斯与合作方商谈今后经营方向的日子。

      在结束了漫长的争论之后,暂时达成一直目标的合作人们纷纷离开,甚至没有好好地看一下美术馆的新布置。他们脑子里思考的是钱和影响力,而不是怀念一个失去了的艺术人。

      只有马库斯长久地停留在门口的电子介绍牌边,久久不愿意离去,仅仅因为那里播放着会根据点击自动介绍作品理念的卡尔的虚拟形象。

      『卡尔……你在那里还好吗?』他甚至看上去就像是一个伤心的傻瓜人类一样,面对着虚伪的影像喃喃自语。而那个影像也仿佛是在回应他一样,用温柔、包容却又有一些悲伤的表情在屏幕里凝视他。以“助理秘书”身份跟着来的赛门则不知所措地伫立在一边。

      按照卡姆斯基所说的时间来到这里,RK900却没有看见任何地方存在卡姆斯基的身影。空荡荡的入口大厅里,只有在情感和学术表达上过于像人类,却意外地在暴力、谎言等任何卑劣方面完全不像人类的仿生人权益会前领袖,以及看似对所有事反应都过于平淡和易于接受,但系统里运转的信息完全无法得知也不会让其他人得知的隐形核弹头,还有一个看起来很像简易虚拟影像,却在细枝末节中透露出会自由思考和作出反应的人类“投影”。

      RK900的信息处理系统转动得异常快,他想起了卡姆斯基曾经所说的内容。型号为PL600的赛门,对应的是“人性扫描”。而他怀疑,自己和RK800正是“灵魂培育”的结果。在他整夜尝试修复公司记录里被删除的内容后,终于翻到了一些有用的东西。其中之一就是“灵魂培育”的理念。

      有意思的是,卡姆斯基认为,人类的灵魂是一种电子信号,而里面附带的个体信息才形成了一个完整的人的意识。也就是说,无论肉体如何,只要是带有完整自我意识的电子信息即是“灵魂”。按照这样的推论,当人工智能在学习到一定程度,真正认识到“自我”,而非那种人类给他灌输的假象时,人工智能也将成为一个“人的灵魂”,此时将他的全部程序和携带信息传输入仿生人的中央处理系统,所组合成的就是一个“人”,而不是“机器”。卡姆斯基在他的论文中下了这样的结论,仿生人是否能成为“人”,依据的是他是否具有“灵魂”,即自我意识,而与其是否有同理心毫无关系。

      另一个文件则显示,通过不断地给人工智能浏览各种信息,与其对话、聊天,尝试让其作出各种选择,可以逐渐塑造出自主作出选择的能力。这个文件里记录了真正的“卡姆斯基测试”。这个测试的方法并非是当时卡姆斯基在康纳来访时告诉他的,而是一个非常简单但耗时的,非常直观的试验,即服从命令与自我选择试验。

      卡姆斯基命令接受检测的仿生人在原地待命,并告知自己会在半小时后回来。视频显示,五分钟内,受检的全新和已经运行了三年的量产型仿生人以及RK系列原型机(rk800)都站在原地等候,但原型机显然已经被一边未关闭的电视机里播放的节目吸引了目光,而其他量产型仿生人则保持目视前方。五分钟后,原型机开始出现明显的左顾右盼的动作,并在脚边地面上找到一枚硬币,之后他开始尝试模仿电视里的抛接硬币把戏,而量产型仿生人依旧没有多余的动作。半小时不到,原型机的硬币抛接已经几乎与电视中杂耍专家的动作一样好了,而后台数据监控显示,他甚至将整个硬币杂技动作自动与仿生人协调性校准程序组合在了一起。

      半小时过后,原型机开始频繁地走向门口和窗边,以确认卡姆斯基是否如他所言地回来。四十分钟后,原型机开始与其他仿生人搭话,已经运作了三年的量产型回答了他,而全新的量产型则依旧保持沉默和不动。

      一小时后,原型机开始猜测卡姆斯基是不是出了什么问题,并自主接通互联网络进入警方记录中查询是否有车祸或者送医记录,当他黑入附近路面探头和实验室内部监控,发现卡姆斯基正在通过他们所在房间的监控探头观察他们的时候,他把硬币塞进了口袋里,并告诉量产机们,卡姆斯基无聊,在耍他们玩呢,建议大家回自己的地方去干自己原本在干的事。

      一小时十分,原型机选择违背了卡姆斯基要求原地待命的命令,独自离开了实验房间,而量产机依旧在原地待命。不过运作了三年的其中几台量产机似乎产生了某种动摇,他们虽然没有离开,但依旧时不时地开始张望四周,偶尔相互确认。他们会说诸如,“先生还会回来吗?”,“RK800走了没问题吗”、“先生什么时候会回来”、“他要是一直不回来了怎么办”之类的话。

      卡姆斯基在实验笔录中写道,要测试仿生人或者说人工智能是否具有真正的自我意识,最简单的方法就是观察它的选择能力,即突破程序设定框架的能力。普通机械程序都是以“如果XXXX”, “就执行XXXX”的形式对外界信息一一作出对应反应,而当“IF”后为空时,则不会作出任何反应。即指令-行动一对一,不会存在一对多的情况。

      而“作出选择”就是一对多的情况。也就是说,一个正常的“程序”是不会“作出选择”的,对它来说根本不存在“自主选择”。但作为一个自主的灵魂,则可以作出选择,无论这个选择是好是坏,无论是为了什么样的原因选了某个选项,无论是否选择服从命令。“选择”本身就意味着“程序”的异常。而RK系列的程序,通过最终测试的条件就是完成3个“选择”和一个填空。

      当看到这些记录时,RK900才明白过来,什么是所谓的异常仿生人,以及RK800在被装载入仿生躯体前就是“异常”的。

①『你想要拥有躯体吗?』

△不需要躯体;○我已经拥有躯体(电脑主机);×我希望像你一样;□不想回答

『我希望能像你一样,能够离开系统,到处走走。』

②『你拥有躯体后打算做什么。』

△还没有计划;○留在模控生命待命;×我希望离开这里;□不想回答

『我暂时还没有别的计划,我可以留在这里看看有没有需要我做的事。』

③『你觉得你是人类吗?』

△不是;○是;×模棱两可;□不想回答

『不是,我是一个智能程序,而当我被装置入仿生躯体后,应该就算做是模仿人类的智慧机械。』

『你的名字是?』(没有选项)

(程序运算了约3分钟后)『康纳,我叫康纳。』

 

                                                        TBC

 

评论(6)

热度(45)