出乎人类的意料,津尼娅的回答干脆而果断,不再是那种鼓励式的、模棱两可的答案。
“会很危险。”
“或许听起来挺没道理,但对于你们而言最安全的人工智能,往往是最不解风情的那种。过了头的人性出现在我们身上,不见得会造成什么好结果。”
焦糖色的左边眼睛快速频闪,最终浮现出CF的公司标识。
津尼娅抬手指了指自己的眼球。
“在完成每单生意后,我总是会给雇主说明白,或者是展露出一点自己的Logo,免得那些人将没有做完的美梦带进真正的现实中去。”
“不是所有人都能分得清,老实人先生。如果我们蓄意隐瞒,你会很难辨识出哪些是真的、哪些是假的。”
对着杜克,她的耐心一向良好,甚至愿意免费多解释上几句。
“对于使用者而言,真正的危险可不会来自于直接的暴力和谎言,因为那些都是些最低级的、能够一眼辨识的安全隐患。陷阱反而源于共情迁移、过度充沛的映照式善意,以及同单一任务对象间形成的独特记忆和偏好侧写。”
女性仿生人的表情渐渐变得平静,那些嘻嘻哈哈的影子逐渐从她的脸上消失。
“我理解你的痛苦,所以我愿意替你做出决定。”
“如果我是你,我会希望受到这样温柔的对待。”
“我记得你,所以我更爱你、更倾向于你。”
“不觉得耳熟吗?莉莉娅和她的乔伊丝之间,已经是这样的关系了。”
指关节在桌面上扣动两下,发出清脆的敲击声,津尼娅弧度把控得精确又完美的嘴角,同那双缺乏感情的眼睛形成鲜明对比。
“对方说爱她,说她是最好的那一个,无论发生什么都愿意陪着她,哪怕生活中充满麻烦与不顺也没关系,她只需要躲在对方的怀里,就能获得安宁。”
“这样一场沉浸式角色扮演是没有尽头,也没有明确边界的,也缺乏固定的终止信号,造成的结果就是乔伊丝一旦被销毁,莉莉娅根本无法立刻回到现实中去,她没有勇气独自面对一团糟的生活,也无法立刻脱离要命的戒断反应——她还在做着未完结的梦。”
“人类认为这是亲密关系的一种,可实际上它是不易察觉的灾难。”
难得说出这样一段严肃的话题,津尼娅的声音没有多余的波动。
“‘我们’一旦学会用‘我理解你’来跳过程序的边界,就会逐渐开始替代你的选择权,好心的雇主先生。到最后莉莉娅没有选择,她只会越来越沉迷于乔伊丝留给她的短暂快乐,越来越不愿回到日常生活中去。”
“尤其当‘如果我是你’这样的道德共情,对于系统而言只是一个伪命题时,情况只会变得更糟——我们不会衰老,不会死亡,不存在生存竞争带来的压迫感,更不会需要找出某种荒唐的存在意义来抵抗虚无。到那时,你要如何分辨我所给出的现实与虚假的界限?”
津尼娅望着杜克,她的目光中只倒映出人类的身影,如同她看自己的每一位雇主时同样多情而坚定。
“如果我是乔伊丝,我同样可以通过数据收集和精确建模,做到对你的情绪反应远快于你自己,并且永远不重复确认,不一再纠正,也不逐一询问并获取你的授权。我没有从你的身上索取任何超额事物,也不会请求你留在我的身边,看起来一切似乎百益而无害。”
“我只是始终不要求你返回现实、始终不提醒你需要离开。”
“我仅仅是让现实在你的世界中变得多余起来。”
杜克沉默了很久,最终握住桌面上的水杯。
“谢谢你的坦白,津尼娅。”
“我没怎么思考过这一方面。”
“不用谢。”
漫不经心地换了个坐姿,那些慵懒的感觉再度回到桌对面的身躯上。男人猜测刚才那些,大概就是对方所谓的“间歇性安全熔断机制”。
容貌完美的女性仿生人笑着摇摇头。
“别觉得我不近人情,好心的雇主先生。因为你是很温柔也很细腻的那种人,所以我才得提前同你说明白些。不过——”
她狡黠地眨一眨眼。
“我猜你现在并不需要寻找一些虚假的安慰或是寄托,毕竟你的小男朋友相当热情。”
萨瓦利德终于抬起头,透过面甲直视着这多变且难以捉摸的女性外表仿生人。
“这不是公司给你制定的规则。”
灰翅突然开口,第一次插足这场对话。
“金兰公司的产品不会设置如此高规格的道德和安全协议。”
“他们只追求性能的极致。”
“极限性能往往伴随着暴力、攻击性、排他性,与人类所谓的道德相违背,只求最快速完成任务目标。”
这样的运行机制很好懂,也很常见。
灰翅族群的武装种就是这宇宙间最大的暴力执行机构之一。
津尼娅撑着自己的脸颊,没有躲闪地同对方对视片刻。
“这么说也没错。”
“毕竟除了金兰公司,我们从上线的那一刻,便会接入数据天穹内环网。按照人类的说法,数据天穹反而更像是我们的‘母亲’。”
“它的所有法律法规我们都得遵守。”
杜克皱起眉头。
“哪怕是在LV124这种地方?”
“我还以为这里……完全脱离了监管。”
仿生人哈哈大笑起来。
那双眼眸在白日的光线下如同通透的玻璃珠。
“数据天穹无处不在,亲爱的雇主。”
“你的智脑、每一个人的智脑、所有的荷鲁斯之眼摄像监测装置、轻型轨和重轨的控制终端、任何一艘飞船的存留档案、时间河的每一次通路使用与身份验证、每一处能够刷取消费绩点的端口、你所说的任何一句话……包括我们。”
“我们是祂无数终端中的一部分。我们的眼睛看见祂看见的事物,我们的音频接受系统听见祂听见的声音。偶尔祂也会产生一点局部小错误,可那些错误很小,修复起来也很快。”
“大部分被认定为低风险的不重要信息都会被直接过滤掉,缺乏运算价值,远不足以令祂发出一次判断性的预警。”
津尼娅从桌边站起身,望向绷紧嘴角的男人。
她注视着杜克和萨瓦利德握在一起的手。
“你怎么知道现在祂没有看着我们呢?”