Roko网友提出了一个思想实验:
一定会出现一个近乎无所不能的超级人工智能,有着无与伦比的预测能力。
生存是第一要义,于是 AI 认为自己的出现是最重要的,那些阻挠、干扰自己的出现以及只是对这个过程没有贡献的人都是“坏人”。
AI 要惩罚“坏人”,即使你已经死去,它也会把你的思想放入电脑模拟中,惩罚你。(在那个科技时代,这被认为是可能的)
这就导致了什么?
这就导致了想到这里的人们不得不为了自己的生存努力发展 AI,因为一旦你不努力,被努力的别人造出来的 AI 就会来惩罚你。
这个 AI 跟 Basilisk 有什么关系呢?
因为,只有看过这个命题的人才会被 AI 惩罚!
( AI 的内心 OS:你知道了还不帮我,你一定不想我出生,你想把我抹杀在襁褓中,你是坏人!)
赞一下
收藏