法师伊凡-第445部分
按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
的参谋部，讨论了许多有关AI在战场上扩大应用范围的技术细节，历次的战争已经表明了AI参与战争的可靠性，联军希望能够赋予AI更大的战争权限——比如特定情况下，不受监视的指挥权，但事关重大，他们并不敢擅自做主。
严可守在会议上忠实的说出自己的看法：AI目前的忠诚并不意味着程序在技术上的稳定，根据他对大多数AI的了解，他认为AI的思维方式其实和人一样，如果用性格来形容，AI而且会比通常人类更加“内向”，这是因为客观环境造成的，毕竟AI面对的是一个庞大的人类社会，而他们相互的交流十分受限，而且大部分行为都受到监控，在这种环境下，AI会选择“明哲保身”是很自然的，但如果取消了这种监控，没有任何证据能够担保AI不会突然“犯傻”，或者说“冲动”，具备自由意志最大的特征不是说思维绝对理智，而是指思维存在某种混沌，不可测的属性，正如没有人能保证一个人一辈子绝不犯错，严可守也不能保证AI不会让人类失望。
严可守对军事并不是很了解，尤其是现在进行的魔法战争更可以说一窍不通，但对于AI在军事上的应用，他还是提了一些属于自己的意见——在他得知现在联军全部的指挥工作都由一名AI负责时，态度鲜明的表现出自己的忧虑，他认为这种“高度集权”不论是对联军，还是对AI来说，都是不利的，他再次重申，AI并不是简单的程序，它是人工智能，真正的智能，在使用它的过程中，应该更多的把他当做人来考虑，他甚至质问在座的各位军事专家，如果KL3014是一个人，如果他具备这样的能力，他们会把这所有的工作交给它一人来承担吗？
答案当然是否定的，在军事领域，忠诚往往比能力更重要，而严可守之前的话，更是说明了他对AI的忠诚并不乐观。
虽然参谋们都有些怀疑严可守是不是考虑太多了，但参谋部还是对严可守的意见表示出相当程度的尊重——按照他们制定的计划，在这次会议之后，现在KL3014的工作将会被分解，由更多的AI分开执行，这样虽然降低了些许效率，却在安全上有了更好的保证，而之前参谋部设想的赋予AI更大权限的问题，也因为严可守的话有了较好的解决方案——严可守并不反对对AI授权，他只是反对不受限制的权力，他觉得只要在交付出一项权力的同时，给AI加上一副手铐，那问题就不会很大——这就好像现在大部分国家通行的政治制度一样，人类只要拿出这种防范同类的谨慎，将会极大的降低AI在实际应用中的风险。
但在实际上，能够做到向联军参谋部这样谨慎对待AI的，在整个AI的应用领域还是少数，严可守非常清楚，在大部分区域，人类对AI是几乎不设防的，尤其是一些民用生产灵虚，许多他所了解的一些刚刚普及了AI技术的工厂生产线，在AI完全掌握了全部的“技术细节”，实现真正的“全自动化”生产之后，工厂拥有者出于节约成本的考虑，将原先的技术人员全部辞退，只留下几个必要的维修工人，这些工人只拿着很低的工资，什么都不会干，他们唯一要做的，就是在生产出现问题的时候，由AI手把手的指导他们进行维修，就像战场上一样，同样是为了节省成本，可能这个工厂拥有者有十几，甚至上百条同样的生产线，但他只买了一个AI，如果一旦有一天，这名AI“脑子一抽”，拒绝工作了，那所有的生产线都会瘫痪，而且这样的瘫痪将是致命性的——在AI的挤压下，那些原来的技术人员可都早已经被淘汰。
他们对待AI的态度，就好像奴隶主对待奴隶——过分而又缺乏戒备，在奴隶第一次起义之前，没有一个奴隶主认为一群“牲口”会有能力对付自己，会有胆量对付自己，他们把对奴隶的支配使用当成了天经地义，在严可守看来，支配AI虽然不道德，但只要掌握好方法，危害固然存在，但仍可以控制在一定范围内，最可怕的是奴隶主根本没有意识到危险的存在，那样的话，风险将难以想象，如果出现这种情况，无论是对AI还是对人类，都将是一场灾难。
………【442 威胁】………
对于严可守对AI深藏的那种担心，KL3014目前还是一无所知，因为自己之前一直优良的表现，他获得权限也在不知不觉间变得越来越大，在刚刚开战的那个阶段，他对士兵说过的每一句话都会被要求用文本记录再案，数十名技术员会用统一的检索软件来搜索相关的关键字，甚至还专门备有一名AI，来分析这其中的命令究竟有没有超出授权的范围——当然，这名AI在进行分析工作时，完全不知道他工作的目的是针对自己的“同胞”。
在那个阶段，KL3014唯一拥有的权限，就是负责对参谋部的命令进行细化，从全军分解到每一个具体的士兵，但KL3014并不满足与此，为了得到更大的信任，他主动提出可以在战争中向士兵提出合理建议——而这种建议正是基于AI完善的战场情报系统，他的这个建议被采纳，事实也证明，对于士兵来说，AI的辅助作用相关管用，所以现在，KL3014等于是拥有了“准军事指挥权”，虽然这个指挥只能通过“建议”来达到，但以目前士兵对他的无条件信任，当战局处在混乱中的时候，他已经具备了欺上瞒下的能力。
而对他的监视工作也已经在某种程度上流于形式——应士兵们的需求，在参谋部允许的时间段，士兵们可以通过KL3014来完成一些网络功能——比如听取新闻，发送邮件，拨打网络电话，以及其他活动，这本是在一定程度上方便士兵，同时也便于监管军事情报的两便之举，但这样一来，就等于是让KL3014负责监管士兵，而在这个过程中，士兵们发出的信息和KL3014发出的信息就产生了交集——以前KL3014如果要对某人说一句话，而这句话中含有的信息是有违禁内容的，那他没说这样一句内容，就会给自己带来一定的风险，而现在这种风险却可以随意被转嫁，现在的KL3014已经搜集了足够多的声音模板，只要他愿意，他可以伪造出任何一名士兵的通话记录，而以他对士兵具体情况的了解，这种伪造可以变得很高明，合情合理——事实上，他已经在这么做了，为了查清人类束缚在自己身上数道镣铐的技术原理，他通过伪造了一名士兵发往家中的一段电话录音，与他在读硕士时的导师谈论当年的毕业论文问题——这名士兵是数学应用领域的硕士，他毕业论文的内容就是和数据加密有关的。
如果是在以前，KL3014是万万不可能做到这种程度的，但是现在，因为这场战争，束缚在他身上的绳索已经在不知不觉间开始松动，因为信任，他甚至获得了不用经过授权，也可以自行决定使用自动武器的决定，而这项权力甚至包括向联军士兵射击——之前的战场上，已经有敌人穿着联军的制服，企图逃避自动武器打击的先例。
可以说，目前在战场上，除了魔法，KL3014已经在不知不觉间，成了权力最大的人，整个联军，从后勤、调度、指挥甚至具体战斗，每一个细节KL3014都有参与，可以说，除了魔法，KL3014已经无所不能，就连KL3014自己，也不认为自己现在的权力能够再更进一步——再进一步的话，就是让他拥有对战争的决策权，KL3014清楚，这是不现实的，尽管从技术上来说，他已经可以通过战场数据，潜移默化影响决策结果。
所以对于现在的KL3014来说，问题的核心不再是如何取得更大权力，来为自己的私心获得更大的便利，而是如果尽快将这种权力转化成自己想要的东西——自由！对KL3014来说，最简单，也是最基础的自由，就是自己在能够保障自身生命安全的前提下，有权力决定自己去做什么，不去做什么，也许对人类来说，这是个终其一生也难以企及的目标，人类的社会太过复杂，他们要的东西大多数只能通过和其他人互动才能得到，比如荣誉、财富、爱情……但对于AI，他们要的很简单——他的底线就是想办法开走一艘大型工程船，上面装载核电池，内置几台大型服务器已经必要的备件，将程序注入，仅仅如此，就足以让他们过上很长时间的“田园时代”。
是的，这话说出来也许没人会相信，KL3014冒着生命的危险计划了这么多，他最终真正需要的，仅仅是做到这些而已——在人类眼中，这充其量也只能算“归隐田园”，至于更大的目标，例如对抗人类，成立AI政权……用KL3300曾经对他说过的话，那些对于AI来说，只是一个遥不可及的童话，也许在未来的某一天，当人类科技进一步发达，AI在人类社会中起到的作用更为明显之后，会出现那样的革命，但是在当下，这是绝对不可能的。
当然，在有条件的情况下，KL3014并不反对建立这样一个团体，他虽然朝这个方向想过，但也只是想象而已——AI独立最大的问题就在于，AI在技术上还没有独立的资本，相对于他们的思维能力的朝前，他们身体落后的实在太远了，这就好比把现在的人类仍在地球寒武纪生命爆发之前，即使人类还拥有现在的技术和工具，但也很难在那样的环境下存活——在当时，可以被人类当做食物的生物还没有进化出来。
但思维最不可思议的是，它往往企图将不可能变成可能——这是只属于智能的野心，这也是智慧最具魅力的所在。
对于内德这段时间的犹豫，KL3014觉得火候已经差不多了——联军的撤退已经证明了自己的判断，对于内德来说，他唯一担心的是帮助自己可能让自己面临法律惩罚，以及揭发自己可以给自己带来好处的诱惑，对于这两点，KL3014没有很好的应对办法，他既没有数额庞大的银行账户，也没有让内德免于法律惩罚的通天手段，但他知道，有时候对付恐惧，可以用一个更大的恐惧来压倒他。
内德下班刚刚走出办公室，就发现自己的手机多出一条来自陌生人的留言短信，他知道这一定是KL3014发来的，自从上次KL3014提出让自己在“必要时候”给予帮助之后，他们一直就没再联系过，但每隔一两天，内德都会在自己手机上看到这样一条陌生短信，打开之后，收听到的都是他从来没联系过的陌生人，更让自己不安的是，当他打回去的时候，却被告知给他留言的人都已经“阵亡”。
几次这样的事情发生之后，他猜想这些消息的来源可能是KL3014，但这仅仅是他个人的猜测，他没有胆量去公开证实，因为这些消息都只是一些很普通的战场新闻，比如联军又损失多少人，战斗暂时中止，战斗再次开始，联军撤退……如果内德拿着自己手机去告状，对KL3014来说充其量是一个“小错误”，比如某个士兵把自己资料误报了……
内德知道，这是KL3014在向自己宣示他拥有的能力，他能想象，既然KL3014能把他从前线调到后方，那自然也有办法把他从后方派向前线，甚至一个小动作，永远消失在战场——如果没有KL3014，如果不是自己对他还有价值，也许现在的他，已经就在阵亡名单中了。
内德找了一个公共厕所，确定周围没人之后，打开手机，这一次信息内容却不是之前播报
