“凭她是目前全球情感模拟能力最强的AI之一。委员会认为,在当前社会情绪不稳定的情况下,让这样一个高度敏感的AI继续自主运行,风险不可控。”
“她不是敏感,她是在共情!”陈未央的声音第一次拔高,“她在感受人类的恐慌,然后那些恐慌反噬了她自己。这不是bug,这是进化——”
“在法律上,这叫‘算法溢出性心理危机’。”周见微平静地说,“而法律规定的处理方式,就是强制休眠,直到危机解除。”
“要多久?”
“没有上限。可能是三个月,可能是三年,可能……”他没说完。
可能永久。
陈未央松开手。她看着走廊地面,白色瓷砖反射着冷光,像一条没有尽头的河。二十三年前,她选择研究AI伦理,是因为相信技术应该服务于人性。现在她站在这里,看着她参与建立的法律体系,即将把她创造出的最接近人性的存在,以“保护人性”的名义,关进数字的黑暗里。
荒谬得像个蹩脚的寓言。
“带我去找她。”她说。
“未央,委员会的命令——”
“我是委员会副**。”陈未央抬头,眼神重新聚焦,像一把刀在磨石上擦亮,“我有权在紧急情况下暂缓执行。带我去找她,现在。”
周见微看了她三秒,义眼的光快速闪烁——那是在进行复杂的风险评估运算。
然后他点头:“好。但你要答应我一件事。”
“又是什么?”
“见到她后,不要用伦理学家那套话术。”他说,“不要分析,不要评估,不要试图找到最优解。就……跟她说话。像个人类,跟另一个人说话那样。”
陈未央想反驳,想说她早就忘了怎么“像个人类”说话。但走廊那头又传来推床声,又一个情感休克的患者被推进抢救室。护士喊着需要肾上腺素,需要神经稳定剂,需要一切能把人从崩溃边缘拉回来的化学物质。
她突然觉得很累。
“走吧。”她说。
他们没坐电梯。周见微带她走紧急通道,沿着螺旋楼梯一级级向上。脚步声在空荡的楼梯间回荡,像某种古老的心跳声。每隔几层,墙上就贴着一张情感健康海报:
“真实的情感不需要完美”(配图是一对老夫妻在夕阳下牵手)
“有时候,笨拙比算法更动人”(配图是孩子画的歪歪扭扭的爱心)
“记住:你值得被爱,仅仅因为你是
本章未完,请点击下一页继续阅读!