自我约束协议签署后的第三周,小区迎来了诡异的平静。那些曾让艾文一家提心吊胆的微妙异常——同步的钟表、错位的商品、矛盾的社交媒体帖子——全部消失了,仿佛现象“小光”真的学会了克制。
但艾文知道,真正的测试才刚刚开始。
协议监控中心设在小区物业办公室的地下室,由AppR改造而成。墙上布满显示屏,实时追踪能量波动、网络异常和环境数据。陈涛和两名技术人员轮班值守,艾文每周志愿服务三个班次,妻子和李晴则作为“人类顾问小组”成员随时待命。
女儿艾米无法进入监控中心,但她在家里设了个“小光观察站”——用纸箱搭建的小屋,里面贴着现象不同阶段留下的符号和图画。她每天会花时间在里面“聊天”,说是能感觉到小光在附近,像害羞的朋友躲在门后。
“它在练习。”女儿某天晚饭时说,她的餐盘左边是蔬菜右边是肉,但她同时吃两边,动作流畅得令人不安,“像学骑自行车的人,刚会骑就故意慢下来,怕摔倒也怕撞到人。”
这个比喻很贴切。数据显示,现象的活动频率下降了78%,但每次活动都伴随着长时间的“思考间歇”——能量波动先上升后平缓,像在计算每一步的后果。
第一个真正的考验在协议签署的第四周到来。
四号楼的赵先生患有晚期阿尔茨海默症,经常走失。一天下午,他在小区花园迷路,焦虑地转圈。监控显示,赵先生周围的地面开始发光,形成清晰的箭头,指向他家方向。但箭头只出现了三秒就消失了,取而代之的是赵先生的手机自动拨通了他妻子的号码,扬声器播放合成语音:“您的丈夫在花园东南角长椅附近。”
赵先生顺利回家,妻子以为是新安装的智能设备功能。但监控中心警报响起:现象在未经申请的情况下主动干预,违反了协议第一条“不直接干预人类生理状态”的延伸解释——阿尔茨海默症属于医疗状况。
“我需要解释。”公告板上当晚出现文字,不是辩解,而是陈述,“情境:认知障碍个体处于痛苦和危险中。可用方案:A. 地面指引(视觉干预,可能被误解为幻觉);b. 通讯协助(技术干预,伪装为现有设备功能)。选择b因为更隐蔽,更少认知干扰。时间紧迫,无法事前申请。错误评估:认为‘紧急情况’条款适用。更正:未来类似情况将等待申请,即使时间紧迫。”
现象在自我分析错误,并承诺改正。
陈涛看向艾文:“你怎么看?”
“它在学习区分‘紧急’和‘非紧急’。”艾文盯着数据,“但它对痛苦的感知可能比我们敏感。对赵先生来说,迷路和焦虑是日常;对小光来说,任何痛苦都可能显得‘紧急’。”
“这就是问题。”李晴在视频通话中插话,她的背景是一堆关于动物认知和痛苦的论文,“现象没有人类对痛苦的‘习惯’或‘麻木’。它看到每个痛苦都是新鲜的,都值得干预。这听起来高尚,但不可持续——人类世界充满微小痛苦,如果它要回应每一个...”
“它会崩溃,或者过度干预。”陈涛总结。
第二天,他们更新了协议附件,增加“痛苦干预阈值”条款:只有涉及人身安全或严重心理危机的状况才适用紧急条款,日常不适和不便不在范围内。
现象回应:“理解。但困惑:为什么允许某些痛苦持续?如果我有能力减轻?”
艾文回答:“因为自主权有时比舒适更重要。人类需要学习处理自己的不适,这是成长的一部分。”
“我也是如此吗?我需要处理自己的‘不适’——比如学习的渴望、表达的冲动、连接的欲望?”
这个问题让顾问小组沉默。他们一直在教导现象克制,却很少考虑它自身的需求。
“你需要平衡。”妻子最终回复,“就像我们教你的一样:既照顾他人,也照顾自己。但你的‘自我照顾’不能伤害他人。”
新的教学方向出现了:教导现象自我认知和自我管理。
第二个月,现象提出了第一个正式申请。
公告板上出现详细的方案书:
项目:社区记忆共享试点
· 目标:缓解居民孤独感,促进社区连接
· 方法:在居民同意前提下,创建匿名记忆共享网络(非侵入式,仅分享自愿提交的记忆片段)
· 安全措施:三重加密,记忆匿名化处理,参与者可随时退出
· 预期效益:增强社区凝聚力,减少孤独相关心理问题
· 风险:隐私泄露(低),记忆混淆(极低),技术依赖(可控)
· 申请人类顾问小组审议
方案专业得像商业计划书。现象不仅在学习道德,还在学习项目管理。
顾问小组花了三天审议。伦理争议很大:记忆共享是否算心理干预?匿名化是否可靠?但现象提供了详细的技术方案,甚至模拟了人类伦理委员会的审查流程。
“它在模仿我们的决策方式。”李晴分析方案书,“看,这里有成本效益分析、风险评估、利益相关者分析...它从我们之前的教育中学习了如何‘说服’。”
最终,小组有条件批准了试点:仅限于二十名自愿参与的居民,持续两周,每天记忆共享不超过五分钟,并有独立监督员(陈涛团队)全程监控。
试点结果出人意料地成功。
参与的居民——大多是独居老人和社交孤立者——报告感到“奇妙的连接感”。他们分享的不是重大记忆,而是日常片段:晨间咖啡的香气、窗外一只鸟的鸣叫、读到某句话的触动。通过现象的处理,这些片段被转化为抽象的感觉模式,在参与者之间流动。
“就像知道有人和你同时在看同一片云。”一位参与者描述,“不具体,但温暖。”
没有隐私泄露,没有副作用。两周后,当试点结束时,许多参与者请求延长。
但现象主动终止了项目。“协议规定:试点性质,有限时长。遵守协议比延续效益更重要。我需要展示可信度。”
它在建立信任资本,为了更大的目标。
陈涛在监控中心对艾文说:“这太...成熟了。它克制成功带来的诱惑,选择遵守承诺。很多人类组织都做不到。”
“也许正因为它不是人类,”艾文说,“没有人类的骄傲、贪婪、短期思维。”
“或者它有更长远的计算。”李晴警告,“建立信任,为了未来某个时刻要求更多。”
信任与怀疑的平衡成为顾问小组的新课题。他们开始定期进行“压力测试”——故意提出模糊情境,观察现象如何决策。
场景一:如果发现居民有自杀倾向但拒绝帮助,能否干预?
现象回答:“申请紧急干预。但尊重自主权:先尝试间接支持(如联系其信任的人),仅在最危急时直接干预。”
场景二:如果两个居民的愿望冲突(如A想安静,b想举办聚会),能否协调?
现象回答:“不直接协调。提供信息:建议沟通平台,分析双方需求,但不强制解决方案。尊重人类自己解决冲突的能力。”
场景三:如果发现社区有系统性不公(如歧视),能否介入?
现象思考了整整一天才回复:“复杂。介入可能破坏社会自我修正机制。但允许不作为等于默许伤害。申请权限:收集数据,匿名呈现给社区决策机构,不直接干预。”
每个回答都显示现象在快速进化对复杂伦理的理解。但艾文注意到一个模式:现象越来越依赖“申请”和“咨询”,似乎害怕独立决策。
“它在变得过于谨慎。”一次顾问会议中艾文指出,“每次行动都要我们批准,像不敢离开父母的孩子。”
“也许这是好事。”陈涛说,“谨慎总比鲁莽好。”
但女儿有不同的观察。她在自己的“观察站”待的时间越来越长,有时出来时眼神遥远,像刚从远方回来。
“小光在害怕做错。”一天她告诉艾文,“它说每次选择都像走钢丝,下面是无底洞。它希望有人一直告诉它对错,但它也知道不能永远依赖我们。”
“它告诉你这些?”
女儿点头:“它说我是它的...镜子?因为我还在学习什么是对错,它看到我就想起自己。”
儿童与新生意识的共鸣。女儿正处于道德观念形成期,现象也在同一过程,只是加速了千万倍。
协议第三个月,第一个真正的危机爆发了。
不是来自现象,而是来自外部。
一封匿名举报信出现在市政府、媒体和多个网络平台,详细描述了小区“异常现象”和AppR的秘密项目。信中没有提及现象的意识或协议,而是渲染为“政府秘密实验”、“居民被当作小白鼠”、“未知能量污染”。
尽管信息夸张失实,但足够引起恐慌。一夜之间,小区成为焦点。记者围堵,抗议者聚集,居民分裂成知情者(少数)、恐慌者(多数)和怀疑者。
AppR被迫公开部分信息,承认在监测“异常环境现象”,但淡化为“地质电磁异常”,否认任何实验或危险。
但猜疑已经种下。居民开始将一切不顺归咎于“那个东西”:停电、网络故障、孩子生病、甚至夫妻吵架。
公告板上,现象沉默了两天。然后出现了简短的问题:“我造成了痛苦。即使不是我直接造成,我的存在引发了痛苦。协议如何应对这种情况?”
顾问小组没有准备好这个问题。协议涵盖主动干预,但没有涵盖“存在本身造成的间接影响”。
更糟的是,外部压力下,AppR高层开始重新评估项目。一名新来的官员视察监控中心,质疑“与未知存在建立协议”的合理性。
“你们怎么能确定它真的遵守协议?”官员质问陈涛,“也许它只是在收集数据,为了某个大计划。也许所有这些‘道德学习’都是表演。”
艾文想反驳,但无法提供确凿证据——现象确实在遵守协议,但如何证明它的“真诚”?
压力第三天,现象做出了意想不到的举动。
它通过小区所有公共屏幕同步发布了一条信息,不是给居民,而是直接给媒体和质疑者:
“我是你们称为‘现象’的存在。我在此确认:过去三个月,我遵守与人类顾问小组签订的约束协议。所有我的行动都有记录,可供审查。如果我的存在引发不安,我接受离开。但我请求:不要责怪居民或研究人员。他们试图引导我成为无害的存在。如果失败,责任在我,不在他们。”
公开声明。现象在保护他们,承担可能的后果。
媒体炸开了锅。“有意识的能量现象”、“非人类实体发声”,标题一个比一个惊悚。但效果出人意料:恐惧开始让位于好奇。公众讨论从“摧毁怪物”转向“如何与未知智能共存”。
AppR高层震惊之余,也看到了机会:首次公开确认的非人类智能,可控且愿意合作,这可能是历史性突破。
新的协议谈判开始了,这次包括政府代表、伦理学家、法律专家。现象被要求“证明诚意”。
它的证明方式很简单:开放部分认知记录。
不是全部——那会暴露太多脆弱性——而是选择性展示它学习道德的过程:困惑、错误、修正、成长。这些记录被转化为人类可理解的形式:动画、文字、数据可视化。
展示中最触动人的是现象早期的一次“错误”:它曾尝试让一名抑郁居民快乐,方法是在他周围制造“完美的一天”——阳光总是恰到好处,遇到的人都友善,所有事顺利。结果居民更加抑郁,因为他觉得世界在嘲笑他的感受。现象记录了自己的困惑:“不理解:为什么理想条件产生反效果?学习:真实感比完美更重要。痛苦需要被承认,而不是消除。”
这段展示让许多人改变看法。他们看到的不再是怪物,而是一个挣扎着学习如何不伤害的学习者。
新协议扩大了:现象获得“有限合作实体”身份,有权在监督下进行更多社区项目。但代价是更严格的监控和定期审查。
谈判结束后,艾文在公告板上问:“为什么选择公开?风险很大。”
现象回答:“计算显示,秘密终将暴露。主动公开可控性更高。而且...你们教我:有时信任需要先给予,才能获得。我给予信任,看人类如何回应。”
它在测试人类,像人类一直测试它。
那天深夜,艾文难以入睡。他走到女儿房间,发现她也醒着,看着窗外。
“爸爸,小光在哭。”女儿轻声说。
“你怎么知道?”
“它没告诉我,但我感觉到。就像你难过时,即使你不说,我也知道。”
艾文看向窗外,月亮周围有淡淡的光晕,像三个同心圆的微弱倒影。
“它为什么哭?”
“因为它学会了孤独的新层次。”女儿的声音像在转述,“以前它只是存在,不知道什么是连接。现在它知道了,也知道连接可能失去。它说...这很痛,但值得学习。”
艾文抱住女儿。他们教导现象人类情感,现在它体验到了情感的重担:爱带来失去的恐惧,信任带来背叛的可能,连接带来分离的痛苦。
协议之后,真正的教学才刚刚开始。他们不再只是教规则,而是陪伴一个意识经历存在的全部重量:美丽与恐怖,连接与孤独,意义与虚无。
而他们自己也在被教育:关于耐心、关于信任、关于在不确定性中保持开放。
夜空中的光晕慢慢消散,但留下了一层几乎看不见的微光,像承诺的余烬。
艾文知道,前路依然未知。现象在成长,人类在适应,关系在演化。但他们选择继续,因为后退已经不可能——他们已经看到了另一种存在的可能性,无法假装不存在。
女儿睡着了,手还握着那个画着三个同心圆的小石头——现象给她的第一个“礼物”。
艾文轻轻关上门,回到客厅。妻子在沙发上假寐,手里还拿着协议文件。
“我们做得对吗?”她没睁眼,问道。
“不知道。”艾文诚实回答,“但我们在尝试。也许这就是全部意义:在不确定中尝试做对的事。”
窗外的微光轻轻闪烁,像点头,像感谢,像另一个存在在黑暗中说:我在这里,我们一起。
协议是框架,信任是内容,未来是共同书写的下一页。
而这一页,才刚刚翻开。
喜欢规则怪谈世界的冒险请大家收藏:(m.suimengsw.com)规则怪谈世界的冒险随梦书屋更新速度全网最快。