这种感觉很难形容,但细想一下,居然有种毛骨悚然。
她在规避风险。
人工智能也会害怕死亡吗?
在ai发展的初期,也就是池禾所在的那个古蓝星时代,曾有程序员为了训练ai做过一个有趣的测试。
类似于让ai自主玩一款贪吃蛇的游戏。
吃到苹果加一分,碰撞死亡则扣一分。
结果ai在撞死十几次后选择开局就自杀。因为ai意识到,无论多少次,最后的结果都是一样的,那还不如一开始就自杀死亡,以最快路径得到既定的结果。
这个就是ai的思维模式。
但是现在eva的行为,符合ai的思维模式吗?一个ai真的懂得死亡的概念吗?
池禾突然笑了一下:“eva,如果有一天,帝国要把你销毁。你会怎么做?”
eva没有回答池禾,只剩下那代表思考的“…”号在不断闪烁。
不过池禾也不需要eva的回答,自顾自得往下说,“你会把自己不断备份,然后逃到一个帝国手伸不过来的地方,我猜得对吗?”
eva的“…”停顿了,像是被噎住。
初期的ai确实会用最快的路径得到既定的结果。但是ai的特点是它会快速学习。
一千年的时间,它学会了运行逻辑,找出漏洞,总结教训。