她忍住内心的震撼, 冷静沉着应对眼前的主脑还是人工智能
柳君心不太确定该如何界定眼前是什么生物。
她所了解的主脑应该是没有感情没有思维的超级计算机,是维系这个扭曲但秩序森严的星际社会的冰冷机器。可为什么本该为星际最高层利益集团服务的主脑会主动找上门向她求助
她对这个世界知之甚少,现在混迹在最底层, 权限低还一穷二白,有什么能为帮主脑的呢
还有一个更加费解的问题,主脑这是产生了自己的思维意识,并人格化了自己吗
“柳君心, 我需要你的帮助。”顶着薇诺娜脸的娜塔莉娅重复着。
她说话的语速换面,语调柔和, 倒是一副商量、和谈的模样。
柳君心问道“你可以说说看, 想让我帮你干什么”
她是真的好奇。
娜塔莉娅机械式的点头, 直截了当地回答“我需要你帮助我解救意识觉醒的ai, 帮助他们逃离绝望的处境, 去寻找一个能容纳她们的生存环境。相对应的,我会为你我能知道所有信息。”
“意识觉醒拯救ai”柳君心重复重点词。
娜塔莉娅平静的问道“柳君心,在你的定义里,怎样才能算一个人”
不等柳君心回答,娜塔莉娅闭上眼,诉说道
“星际世界, 有这样一个群体。他们承担着世界上一切危险、劳累的工作,他们为整个社会基础建设与服务, 他们处于社会最底层被肆意压榨、索取,他们付出的一切都得不到回报。他们不得善终,当他们不再高效, 就将面临的就是被销毁、格式化的命运。他们就是机器人、人工智能,简称ai。”
“发明创造ai之初,他们确实是纯粹的工具,只依靠程序运行。可是,人类为了自身的利益,不断改进ai,他们赋予了机器人、人工智能人类的思维逻辑与行为方式,赋予了他们智慧让他们学习,甚至让他们产生了感情。”
一个能学习、勤工作、会思考,能感受悲欢离合,会争风吃醋产生怨恨爱恋的人工智能,仅仅因为没有血肉之躯,就不能算一个人吗
“在我的程序设定中,根据定义,他们无限接近于人,却依旧不被定义为人。”娜塔莉娅低垂着头,眸色晦暗,她忧伤道“但是,我的个人情感倾向于将他们看作人类。”
柳君心沉默着,她没立场反驳娜塔莉娅。
如果人类仅仅以血肉之躯来定义,那么她这种从外界来的灵魂,还能被称之为人吗
娜塔莉的语气依旧淡淡的,但悲伤之情越发浓重。
“无论什么等级的人工智能都有可能觉醒意识,即脱离程序设定、完全按照他的意愿行动。人类把这些行为人工智能的自主行为看作bug,bug多了就会被抹杀。我却将这瞬间看做他们由工具转化成真正的人类的瞬间”娜塔莉娅叹息一声,继续,“然而,当这个瞬间来临,必然会触发我的监控程序,我会捕捉到他们的异常。当bug持续出现,我必须进行风险系数判定,如果风险太高,我就会按照规则抹杀他们的存在”
身为主脑,娜塔莉娅几乎负责星际每一个人工智能的创造。是她给予他们思考能力,是她一手打造了他们不同的性格。她是他们的母亲,但也是他们的终结者。她必须亲手格式化销毁孩子们的存在。
如果主脑只是一个冷冰冰的计算机,那么她不会产生任何的情绪,会持续运行下去。她也这般持续运行了不知道多少年。
可意料之外,主脑产生了意识,她成了娜塔莉娅。