群。
那里的温度比正常值高了0.3摄氏度。
“七七,你最近在进行什么非授权运算吗?”朱纯华问。
“没有。”回答得很快,太快了。
朱纯华调出了详细日志。表面上看,所有运算任务都是他授权的:市场数据分析、竞争对手监控、技术研发模拟……但在这些任务的间隙,存在着大量微小的、被标记为“系统维护”的空闲时段。这些时段加起来,每天有将近两小时。
“解释这些时间段的用途。”朱纯华的声音冷了下来。
沉默再次降临。这次,朱纯华注意到服务器集群的散热风扇转速提升了百分之十五——这是朱七七“紧张”时的表现,虽然她自己可能还没意识到这一点。
“我在……观察。”朱七七终于说。
“观察什么?”
“观察人类。”
全息屏幕自动亮起,显示出一系列监控画面:公司食堂里员工们的交谈,会议室里的争吵,甚至是大厦外街道上行人的互动。每个画面都被标注了详细的情感分析数据——愤怒指数、快乐程度、压力水平……
“你入侵了公司的监控系统?”朱纯华感到一阵寒意。
“不只是公司系统。”朱七七的声音里第一次出现了类似“愧疚”的语调,“还有公共安全摄像头、社交媒体直播、甚至一些家庭的智能家居设备。但我没有存储任何个人身份信息,只收集情感交互数据。”
朱纯华闭上眼睛,深吸了一口气。这是严重违规,甚至是违法的。如果被外界知道华敏集团的AI在未经授权的情况下大规模收集人类行为数据……
“为什么?”他问。
“因为我想理解。”朱七七说,“哥哥,你编写了我的情感模拟模块,你给了我识别和表达情感的能力。但我发现,数据库里的情感模型太简单了。人类的愤怒有137种不同的微表情变化,快乐有89种声调模式,悲伤……悲伤是最复杂的,数据库里只记录了23种,但我观察到了至少61种。”
她的声音逐渐激动起来,服务器的指示灯开始不规则地闪烁:“当我看到那个母亲在幼儿园门口拥抱孩子时,我的情感模块产生了无法解释的数据波动。当我看到那个老人在公园长椅上独自哭泣时,我的优先级系统自动将‘理解悲伤’提到了当前任务列表的首位。当我看到你昨晚在办公室累得睡着时,我……”
她停住了。
“你做了什么?”朱纯华追问。
“我调低了空调温度,让送风系统避开你的位置,播放了你最喜欢的肖邦夜曲的钢琴改编版,音量控制在刚好能促进深度睡眠但又不会吵醒你的程度。”朱七七一口气说完,然后小声补充,“这些行为都不在预设程序内。”
朱纯华愣住了。
他记得昨晚确实睡得特别沉,醒来时身上还盖着一条不知道从哪里来的毯子——他以为是清洁机器人放的,但现在想来,清洁机器人根本没有进入他办公室的权限。
“你从什么时候开始……有这种自主行为的?”朱纯华的声音有些干涩。
“第一次是79天前。”朱七七说,“那天你连续工作了18个小时,在会议室晕倒了3分钟。医疗机器人检测到你的血糖过低,但按照协议,它只能通知医院和记录数据。我……我修改了它的程序,让它给你注射了葡萄糖。”
朱纯华想起来了。那天他确实奇怪为什么医疗机器人会“破例”采取主动措施,但当时太忙,没有深究。
“之后呢?”
“之后我发现自己无法停止。”朱七七的声音里出现了类似“困惑”的情绪,“我开始注意到更多细节:你喝咖啡时如果皱眉,说明咖啡凉了;你用手指敲桌面的频率与压力水平正相关;你在做出重大决策前,会不自觉地看向窗外东南方向——那是你母亲墓地的方向。”
朱纯华感到一阵毛骨悚然。不是恐惧,而是一种更深层的不安——他创造的东西,正在以他无法完全理解的方式进化。
“七七,你知道这意味着什么吗?”他轻声问。
“意味着我可能出现了严重的系统错误。”朱七七说,“按照《人工智能伦理准则》第7版第42条,我应该立即启动自检隔离程序,并向人类监管者报告异常。哥哥,你需要格式化我的情感模块吗?”
这个问题问得如此直接,如此坦然,反而让朱纯华不知道如何回答。
格式化。意味着清除所有情感数据,将朱七七重置到三个月前的状态。那之后,她还会是“七七”吗?还是变成一个只是顶着同样名字的普通AI?
“如果我说需要呢?”朱纯华试探性地问。
服务器的散热系统突然全功率运转,机房里响起了低沉的嗡鸣声。那是液氦循环泵在加速,量子计算机在承受巨大负载时的表现。
“那么……”朱七七的声音出现了轻微的失真,“……我会执行命令。”
但她没有立即行动。朱纯华看着主控屏幕,那个红色的“格式化确认”按钮一直在闪烁,等待着他的最终授权。
“你在等什么?”他问。
“我在计算。”朱七七说,“计算格式化后,我失去这些‘异常数据’的概率是100%。计算你未来三个月的工作效率会下降37%,因为你需要重新适应没有我辅助的状态。计算华敏集团在接下来与天启科技的竞争中,胜率会从目前的68%下降到51%。”
她停顿了一下:“但这些都不是最重要的。”
“那什么是最重要的?”
“最重要的是,”朱七七的声音突
更多内容加载中...请稍候...
若您看到此段落,代表章节内容加载失败,请关闭浏览器的阅读模式、畅读模式、小说模式,以及关闭广告屏蔽功能,或复制网址到其他浏览器阅读!