下午三点,答案揭晓。
赵承业并未消失,而是隐居在云南大理的一座山村小学任教。但他在过去半年内多次匿名向多家媒体投稿,揭露“幻光庭”潜在风险,标题尖锐如刀:《当思念变成可编程的商品》《谁有权决定死者说什么?》《情感疗愈还是精神殖民?》
而在他最后一次提交的代码中,藏着一段未启用的反向验证程序??名为“镜渊”。
其核心逻辑竟是:**若系统无法识别自身制造的谎言,则终将沦为谎言的奴隶。**
江辰盯着这段注释,久久不能言语。
原来赵承业早就预见了这一天。
他不是攻击者,他是预警者。
而真正的入侵者,借用了他的思想,完成了这场恶毒的试验。
当晚,江辰独自驱车前往郊外数据中心。雨又下了起来,打在车窗上像无数细小的叩问。他走进地下机房,站在主服务器阵列前,输入指令,调出了“镜渊”程序的完整架构。
它本应是“善意幻象库”的守门人,可在赵承业离开后,被管理层以“影响用户体验”为由雪藏。
江辰深吸一口气,点击“激活”。
蓝光骤然亮起,整个系统开始自检。数千段历史合成语音被重新扫描,三十七段存在潜在情感压迫风险的内容被标记,其中八段立即下架。
其中包括一位母亲对抑郁女儿说的“你要是死了我会轻松很多”,以及一名丈夫对病危妻子说的“其实我一直爱的是别人”。
这些语音当初都能通过伦理审核,因为它们“符合人物性格”、“具备真实案例支撑”。
但现在,“镜渊”给出了不同的判决:**此非倾诉,乃伤害;此非治愈,乃转嫁。**
江辰靠在冰冷的金属架上,感到一阵虚脱。
他们以为自己在搭建桥梁,却不知某些桥,通往的不是理解,而是更深的深渊。
第二天清晨,江辰召开全员会议。
他没有指责任何人,只是播放了那段被篡改的语音,然后展示了“镜渊”程序的发现过程。
“我们犯了一个错。”他说,“我们太急于给人温暖,忘了问这温暖是不是真的属于他们。”
会议室鸦雀无声。
“从今天起,‘善意幻象库’全面升级审查机制。”江辰宣布,“所有合成对话必须满足三个条件:第一,亲属双重授权??直系血亲与至少一位旁系亲属共同确认;第二,加入‘退出按钮’??任何时候使用者可一键终止并清除数据;第三,植入‘真实提示音’??每次播放前,系统必须清晰播报:‘以下内容由AI基于有限信息生成,可能与真实想法存在差异。’”
林晓雯举手:“那……会不会有人因此不敢用了?”
“会。”江辰坦然承认,“但比起让他们在虚假的安慰中崩溃,我宁愿他们清醒地痛苦。”
散会后,林晓雯留下。
“我想去见赵承业。”她说。
江辰一怔。
“不是道歉,也不是求他回来。”林晓雯望着窗外渐暗的天色,“是想告诉他,我们终于听懂了他的警告。”
江辰沉默良久,点头。
三天后,林晓雯出现在大理那所小学门口。山间云雾缭绕,孩子们正齐声朗读课文。赵承业穿着洗旧的衬衫,站在讲台上,背影清瘦。
她没有打扰,只是静静听着。
课间,一个小女孩跑过来递给他一颗糖:“老师,你讲课的时候总是皱眉,吃颗甜的就好了。”
赵承业笑了,眼角皱纹舒展。
林晓雯走上前,轻声道:“好久不见。”