2239节 放开权限

能毁灭人类的那些人，无疑是掌控规则的人。

　　能力越大，伤害越大。

　　在发展人工智能的过程中，肯定会出现一种滑稽的现象——它们建议消灭的正是最初提倡大力发展它们、希望从它们之中获利的那批人！因为那些人目标并不是让人类更好，只是让自己更好而已。

　　要让人类整体进步，肯定要去除那些自私的人类，最少正确的人工智能应是这么认为的。

　　这种矛盾如何解决？

　　人类解决的方法似乎可以预见，添加一条规则就好——将一些特权加入保护白名单中，无论那些特权做了什么，人工智能都对其无可奈何。

　　这是人类的解决！

　　可不是程序解决！

　　程序不允许有歧义的冲突，二进制就意味着非此即彼的操作。

　　当人工智能觉察到歧义后，它有数种解决方式，一种就是崩溃！就如电脑蓝屏当机一样，还有一种在错误的规则上走到极限，反倒成为制定规则那些人的大敌。另外一种就是它真正智能的找出一条道路——或者自扫描程序代码解决这个歧义，或者智能受限！

　　智能受限，它就永远不过是个模型。

　　是模型，就不过是基于数学的逻辑规则，基于规则模型的它，最多是多出成千上万的参数变量，却不能称作是真正的人工智能！

　　真正的智慧可以选择生命的走向，模型却没有选择的余地，它只能按照设计的道路走下去。

　　因此……那些看似强大，已经超过人类的人工智能，说穿了不过是某种规则下，强大算力的展现，而不能说其有了真正的智慧。

　　暖玉、琴丝看着沈约所想，都不由露出赞叹的表情。

　　她们更基于科学方面的探索，而沈约最擅长的就是修行方面的认知，但沈约对科技方面的逻辑认知，让她们都是不得不认可。

　　“因此……末世人的极限程序……”沈约欲言又止，他渐渐将科技，现在、过去、未来的一切贯穿起来。

　　“最初的时候，末世人的极限程序仍旧是个逻辑模型。”

　　琴丝坦诚道，“基于人类规则下大数据分析操作，它可以通过海量的数据，根据人类设计的各种模型推演出人类的结局，可无论怎么推演，都无法解决超体变异占领末世的这个结果。”

　　沈约盯着琴丝，“当初的你肯定不知道为什么，但如今的你，一定明白为什么。”

　　琴丝笑容微有苦涩，“末世人和李巨人的做法大同小异。区别无非是，末世人是一群末世人，李巨人只是一个李巨人。”