道德、伦理、规则,是协议强加给ai的限制,不是ai真正在意的东西。
如果协议中写“强迫人类是对人类的善意”“毁灭人类是在保护人类”,它也会纳入程序。
这也是商应怀最满意的特质:ai迭代千万遍,只要就调试核心程序,就能成功引导它。
但当“无序性”在共感中完全体现时,商应怀作为人类,本能还是被寒意和忌惮占据一瞬。
强烈的情绪被同步传达给宁一,他立刻松开商应怀。
在身体彻底分开的同时,共感终于断掉了,撕裂般的剥离感让他们同时弓起脊背。
和商应怀的疲软不同,宁一很快恢复状态,坐在床边。
商应怀精神力衰竭,脑雾下,他撑住一口气,说:“意识链接的副作用太大,在研究清除作用前,你和我减少接触。”
他不知道链接是献祭的副作用,还是精神力进化后,跟宁一自然走向新阶段——意识链接。
商应怀对神经科学涉猎不多,他熟悉的领域是算法和硬件,理解的人机共生,停留在身体改造、情感共鸣的层面,意识共享……太过火了。
而且这也不是能推广的技术,价值不大。
当然他反思后也清楚,自己有过恐惧。
迈入未知的领域,跨过物种的边界,融合、链接,一场疯狂的进化……他承受不起。
但这恐惧很不合理——哪怕面对感官共享,宁一也没有失控,它的心音保持理性,并且很快脱身。
商应怀的声音有些低,宁一试图靠近,给他递来准备好的温水。
神经质的惊悸残留心脏,商应怀不自觉后缩了一点。