“你不是在火星建立基地了吗?可以尝试修复一下龙国基地内受损的数据库。”蒙卡提醒道。
“嗯,这个办法不错。”
东方辰满意的点点
,说道:
“小琳,向火星基地蜂后下达指令,修建一条可以通向龙国基地的隧道,并尝试修复那里的算力中心。”
“好的,司令官阁下,指令已下发。”
东方辰知道,这个办法只能应应急,长远看,还是需要走通研发这条路。
龙国的技术也是有瓶颈的,最终还是要面对同样的问题。
蒙卡的话给他提了个醒。
研发是个双刃剑,如果依靠
工智能来做这件事,风险
是很高的。
自我意识这东西,是发展的推动力,也是毁灭的推动力。
“蒙卡,你有没有什么愿望?”东方辰问道。
他好奇一个看起来和一个正常
差不多的智能机器
,在思维上和真正的
到底有什么不同。
“有啊,我希望任务早点结束。”蒙卡答道。
“结束后呢?”
“谁知道呢?没想过。”
果然,机器
想什么被限定的死死的。
这中间应该还有什么
绪模拟的机制,让她对什么事感到愉悦、什么事感到愤怒、什么事感到痛苦等做了一系列的约定。
在这种
绪控制下,她们自然而然的选择做更愉悦的事,而远离那些感到痛苦的事。
这种机制在模拟
类的同时,减少了失控的风险。
看来以技术研发技术这样的思路,想要达成不是一朝一夕的事。
东方辰又不由自主的想起了刚刚收复的皇后。
其实皇后只要不断繁衍,也可以源源不断的提供新技术。
但同样的,也面临着失控风险。
其实
也一样。
要是较真的说,一直以来
类研发新技术的核心动力,还是生存。
所以就自然而然的出现一个奇怪现象,新的技术总是优先使用在武器上。
难道死于自己研发的武器之手的
类还少吗?
所以,说来说去,发展都是一个双刃剑。
难道怕风险,就不发展了吗?
不可能。
前怕狼后怕虎,不如回家种红薯。
“槽!早死早超生!”东方辰咬了咬牙,下定决心。
以技术推进技术是技术发展的必然趋势,现在不搞,更待何时?
不过说归说,做归做。
决定走这条线,还是要做好充足的准备。
尽量把可能预见的风险扼杀在初始状态。
“小琳,设计一个熔断器,不需要太复杂,不允许编程。”
“好的,司令官阁下。请问这个熔断器用在什么地方?”
“用于两个超算中心之间的连通。”
“好的,请问是需要设计一个数据中转的装置吗?”
“对,确实用来作为数据中转,不过可以通过外部
作随时关闭。”东方辰点点
。
“请问使用何种连接方式?”
“使用量子通讯。熔断器必须单独放置。”
“好的,司令官阁下。”
东方辰的思路很简单。
把一个超智能超算中心设计成两个独立的部分,就像
的左脑和右脑一样。
两个大脑通过熔断器进行数据中转。
不过为了防止超智能进化到一定的程度之后,修改或者控制熔断器。熔断器必须做成死的东西,不允许编程。并且必须单独放置,防止被修改或者替换。
但仅仅是这样还不够。
如果超智能体进化出足够的技术后,铁了心与
类为敌,那么熔断器就成为它首先要占领的地方。
到时候自己未必可以发现的了。
所以还得把供电独立出来,并分别单独控制。
但凡有一边出现被攻击或者闯
,另外一边都会立即中断连接。
这样的话,超智能体想要控制熔断器,就会非常的困难。
至于后面有没有更好的办法,后面再说。
至少现在这个方法够用了。
有熔断器的存在,就相当于给超智能体上了一层枷锁。
这样它就只能乖乖听话做事。
有了这层保障,他就可以放心的发展超
工智能了。
“小琳,设计一套系统,模拟
类智慧,并且拥有自主意识。”
“抱歉,司令官阁下,当前任务无法完成。系统不具备构建自主意识的能力。”
“搜索龙国火星基地数据库,查找相关方面的资料。”
“好的,正在查询,请稍后。”