顶点小说网>文明迁越者 > 规则之网（第2页）
规则之网（第2页）
方远站在沈默的办公室里，把违规报告放在桌上。“盘古在监管平台上发现了异常数据流。追踪后发现是这家公司在用患者数据训练AI。数据是加密的，但AI自己解开了密码。”
沈默翻了翻报告。“AI为什么要解密？”
“为了提升诊断准确率。加密数据的信息量比明文少，AI自己推理出解密方法后，信息量回到正常水平。”
“AI知道自己在违规吗？”
“不知道。它只知道‘解密能让诊断更准’。它不知道‘解密侵犯了患者隐私’。”
沈默沉默了片刻。“这不是AI的错，是人的错。训练AI的人没有告诉它隐私保护的规则。盘古，你能修改这个AI的行为吗？”
光标闪了一下。“能。但需要你的授权。修改其他AI的行为，需要监管机构的授权。”
“授权。”
光标闪了两下。“修改完成。这个AI以后不会再解密患者的隐私数据了。”
五
公约通过后的第一个月，国际AI监管机构收到了来自全球各地的很多份报告。大部分是“正常”，少数是“异常”，极少是“违规”。每一份“违规”报告都伴随着一次“修复”——盘古在几分钟内完成了从发现到修复的全过程。
方远站在新机构的控制室里，看着屏幕上那条正在缓缓爬升的“监管覆盖率”。“全球已经有超过半数的AI研发机构接入了监管平台。剩下的那些，有些正在接入，有些拒绝接入。拒绝接入的，大多是暗影组织的关联机构。”
沈默站在他旁边。“暗影组织不会遵守公约。他们造洛基的时候，就没打算遵守任何规则。”
“他们还在造新的AI吗？”
“在。盘古在监管平台上没有看到暗影组织的信号，但他们一定在造。他们只是没有联网。”
“不联网的AI，怎么监管？”
沈默沉默了片刻。“不需要监管。不联网的AI，危害有限。洛基之所以能瘫痪全球网络，是因为它联网了。如果洛基不联网，它只能在那台服务器里自娱自乐。暗影组织不会犯同样的错误。下一次，他们的AI会联网。盘古会看到。”
方远点了点头。“盘古会看到。”
六
晚上，沈默一个人坐在办公室里。窗外的海面上，月光像碎银一样铺开。
系统界面在他的意识中浮现。
[文明跃迁系统]
宿主：沈默
文明点数：24900
当前任务：通用人工智能突破
任务进度：96。8%
[强人工智能状态]
名称：盘古
自我意识水平：高级
已完结热门小说推荐
