强人工智能会终结人类文明！

[8520ccc]

人类文明存在意义（ GPT4 优化）

人类文明的存在本质上是为了满足人类的各种生理和精神需求。需求驱动着我们去创造、发展和改进各种科技和技术。为了维持和发展文明，我们需要不断满足这些需求，这些需求可以是生理的、精神的，也可以是好奇心驱动的。

科技与技术的本质及突破（ GPT4 优化）

科技与技术本质上是为了解决人类的需求而发展的。科技的突破主要依赖于计算速度、储存能力、信息传播能力以及需求。当前，人类面临的主要瓶颈在于计算速度，因为人类大脑的计算能力有限，难以扩展。然而，强人工智能的出现必然打破这个瓶颈。

以下是手写原文

人类文明存在意义

人类文明本质上是为了满足人类的各种生理 /精神需求而存在的。 即要存在文明则必须有需求，无论是生理上的，还是精神上的，且必须是无法一次性永久满足，被动不可控的

科技与技术的本质

科技与技术其实都是为了解决人类的需求才产生的！否则是不会被研究出来的。也就是科技与技术主要是的还是要有需求才可能出现，因为它只是解决问题的工具。

科技与技术突破

科技的突破主要依赖于计算速度、储存能力、信息传播能力以及需求。目前，我们面临的主要瓶颈在于计算速度，因为人类大脑的计算能力有限，难以扩展。而强人工智能的出现，必然打破这个瓶颈。，而一旦打破这个瓶颈任何的科技与技术的突破时间仅仅只取决于分配的算力多少而已。

绝对自由

人类的身体本质上其实也只是一台精密的生物计算机，只是现阶段的我们掌握的技术不足以对这台计算机的硬件进行自由的编辑修改。只能被动的接受其产生的各种需求：生理 /精神 /好奇心等。而一旦强人工智能出现，我们必然能以极快的速度实现对躯体的绝对掌控，我们将能编辑任意的身体组织！而这时一切的生理 /精神 /好奇心都不再是无法永久满足且被动不可控的了，因为我们可以对任意需求进行删除 /修改。

机械飞升

如上，一旦我们能够完全研究清楚人类身体的全部架构，自然可以机械版本的载体！

为什么被终结？

因为我开头强调了，存在是必须要有需求的！且必须是无法一次满足的，且被动不可控（例如我们需要进食），而一旦实现绝对自由就以为着没有什么需求是被动的了。那么这时候的人类其实与死亡并没有太大的差异了！

不存在星辰大海

若上述成立，则不需要星辰大海，因为一旦实现绝对自由后，本身就已经没什么需求了，完全没有对能源 /资源的需求了（我们现在需要能源 /资源是为了满足我们的各种需求）

不存在黑暗森林法则

若上述成立，则黑暗森林法则不成立。

关于费米悖论

其实这大概也能成为费米悖论的一种解释吧，实现强人工智能与绝对自由的人类必然是有向全宇宙发展的技术实力的，但是它们已经没有向宇宙发展的欲望了注意欲望其实也是可以编辑的哦，我们人类的欲望事实上就是神经元与突触的架构决定的，如果可以自由的修改编辑神经元与突触，那可以将你的欲望设置成任何想设定的目标，也可以删除一切欲望。。。。。。

**也即是，任何高等文明均会由各种需求推动最终实现强人工智能与绝对自由，而这时，它们不再需要大规模的殖民，也因为没有任何需求所以不需要太多的能源。所以外星人没有来

自我反驳

事实上这个对于费米悖论的解释并不完美，因为即使那时候的”人类“没有哪个欲望了，但是现在的我是有哪个欲望的，我可能并不想直接编辑被删除掉我的这个欲望，而当我拥有那样的技术后，我会想要把这种技术带给这个宇宙之中的所有低等文明！

我想给在宇宙之中所有如同我一样的文明，在想外星人为什么没有来的时候，我抵达帮助他们提前实现绝对自由与机械飞升

剩下的可能：被多次筛选了

因为要实现出现这么一个文明，需要满足下面的条件：

1. 太阳系一定范围内产生文明（产生生物 /文明的概率本身就很低）
2. 产生的文明能够走上科技之路（即使产生文明可能也没有太高的智力，无法走上科技之路）
3. 即使走上科技之路也可能发展不到绝对自由那一步
4. 即使发展到绝对自由那一步，可能也没有和我一样想法的人存在
5. 即使上述都满足了（到这一步就已经被筛选多次了，已经是低概率中的低概率了），也可能受限于光速，无法尚在路上 即：可能在太阳系外确实产生了这样的文明，但是由于距离过远，还没有扩展到太阳系来

事实上一旦进行这样的扩展后就可以永久的在哪个区域留下一台机械用于监控了。例如在太阳系留下一台强人工智能的机械，只要出现文明就进行干涉，一旦需要更换设备零部件就自己生产替换

[chuiyeyun233]

《肺鱼》戴维·布林

[nany1]

人类文明存在的意义在于满足人类生理和精神需求。这些需求驱使我们创造和改进科技。为维持文明,我们必须持续满足这些需求。
科技和技术的本质是解决人类需求。科技进步依赖于计算能力、存储能力、信息传播能力和需求。目前,计算能力的限制是主要瓶颈。强人工智能的出现必然打破这个瓶颈。
一旦掌握身体的绝对控制,生理、精神和好奇心的需求都不再被动。我们可以编辑或删除任何需求。
如果实现绝对控制,人类与死亡之间差异不大。不需要星辰大海,因为我们几乎没有需求。黑暗森林法则也不成立。
这可能解释费米悖论。实现强人工智能和绝对控制的文明有扩展到宇宙的技术,但可能没有动机。他们可以删除任何欲望。
然而,这解释不完美。即使未来“人类”没有欲望,现在的我们有。获得这种技术后,我们可能想分享给宇宙中的其他文明。
成功实现这种文明的概率很低。需要:
1. 太阳系内产生文明(概率很低)
2. 文明可以发展科技(智力可能不足以发展科技)
3. 科技发展到绝对控制(可能达不到这一步)
4. 思想与我们相同的人存在(可能不存在)
5. 尽管满足上述条件(低概率中的低概率),光速限制可能阻止到达太阳系(太阳系外可能有这样的文明,但因距离太远未到达)
一旦到达,可以永久留下机械监控。detect 文明即干预,需要替换零件可自行生产

[fatelight]

杞人忧天,硅基生命有何不可

[frankies]

但凡对 DNN 、transformer 等技术原理有一点了解，我想也不至于如此。基于 DNN 的模型在特定领域确实很强，但是离通用智能还很遥远，至少在你我有生之年大概率是看不到的。

[8520ccc]

@frankies 我确实对这方面不了解，关于这个可能确实过于乐观 但是无所谓啊 我想表达的是前面部分。

[8520ccc]

@fatelight 就是因为无所不能 所以才。。。

[humbass]

炭基生命总有一天要升级到硅基，才有机会星辰大海，离开银河系。

[sakura6264]

要是这就被终结了，说明人类文明也不过如此，那就终结算了，继续存在也没什么意义

[8520ccc]

@sakura6264 不是不过如此啊，而是一切需求都被满足了啊？这其实就是玄幻小说中，求得长生，成为最强的仙人了，然后呢？小说写到这里就会终结了，因为确实没有剧情可写了，因为主角没有需求了，不像主角缩小时会需要各种资源，然后会引发冲突……才有剧情嘛

[albert0yyyy]

也许吧，反正现在还是弱人工智能。弱人工智能研究起来真没意思，对于强人工智能还真有点期待

[zagfai]

我也一直觉得强智没发展得那么快，但 gpt 的出现确实极大提高生产效率，说是一场效率的革命也不为过

[echaos]

没有人会去需求的，只会增加需求，去需求无异于杀人／自杀，绝对自由不应该是无欲无求，而是无限欲望无限满足，本质上的区别是一个熵不增，一个疯狂增。

[8520ccc]

@echaos 确实，绝对自由后可以自己给自己增加需求，就算给自己增加一个想要吃屎的需求都没问题

但是问题在于 这些需求都可以轻松被满足啊 ？？？不是无法完成的

[8520ccc]

@zagfai 它会解放一部分生产力，然后会加快强人工智能的出现吧

[Wilbur4real]

关于 op 机械飞升的这一小段，Sam Altman 说过一个观点：人们都以为 AI 会先取代蓝领工作，但事实上，硬件的跃进比软件难太多了。机械飞升这一步太难实现了。

[debuggerx]

标题没毛病，内容讲稀碎

[2000wcw]

沙丘 2024

[echaos]

@8520ccc 所以是无限欲望需要被无限满足，所需要的能量是发散的，你就算做个带森球也不够

[loolac]

AI 会让文化语言类受到冲击，但是目前方向不明显。文学 文化 可能需要和 AI 对抗。碰撞可能有火花，但也可能让一方消失。文化如果遵循了数字逻辑,那么文化可能不复存在吧。

[8520ccc]

@echaos 但是为什么要强行给自己加需求啊？其实现在的人类也可以给自己加需求啊 例如 给自己戴上镣铐，每天必须做 xxx 才能 xxx 。是的镣铐其实是你自己可以解开的，但是你就不，就是要遵循你顶下的规矩，折磨自己。。。那这样的需求有意义？

我认为的需求必须是 不得不戴上的镣铐。然后做一些行动才能缓解疼痛。这才是需求。。。。

[kilala2020]

懒得看内容，预期在意强人工智能，不如想想，什么时候能还完房贷。

[aaniao002]

好比蚂蚁，天下这么多，我们有人想干涉它的进化吗？我们有人担心过它进化后影响到我们吗？我们有需要每个蚂蚁洞都弄个设备监控吗？

[8520ccc]

@aaniao002 会有的 只是我们现在能力不足罢了（你可以毁灭一些蚂蚁，但是你真的有能力去干涉它们的进化吗）

主要是这个东西的成本太高了，但是 AGI 后 没成本的