安帆海已经开始用眼神示意,老爷子不会吃这一套,但弗朗索瓦仍想通过这种方式示好。直到安集频频摇头,严肃的目光开始直视二人,他俩才决定默不作声。
“我刚才的问题怎么不回答?如果不顺利呢,你们应该懂我的意思。”
安集说着准备坐起身来,但萎缩的肌肉让他很难完成这个动作。安帆海正要去扶,老人却直接换了个姿势转身侧躺着,只给他俩留下一个瘦弱背影。
“既然想寻求阿尔伯特的帮助,又很清楚他为什么不愿意支持这件事,那这个问题你们必须想明白,就算我不这样问,他也会抛出类似的问题来。”安集深吸一口气,但他的叹息轻得几乎听不见:“先想清楚吧。”
二人并非专家,这样的问题当然无法正面回答。而且它成功与否都牵扯一个重大社会风险,这是一个百年来都有待商榷的道德思考,甚至是哲学问题。
超级人工智能,人们已经在2035年的危机中见识到那种恐惧,即便在那个时代,程序员们只是搞出一个开发程度不高的模型,但那场危机却永载史册。
在当前科研水平下,在如今这个高自动化的无人机时代里,控制机制一旦出现失控,其所带来的危险和震慑必定远超于迄今为止最大的自然灾难。