#晓莉晨读 第 1757 天

今天继续读《吾辈如神》，超级智能爆炸：2024-2030 年。

话题从戴曼迪斯 2024 年举办的富足峰会说起，埃隆·马斯克也出席了。

埃隆·马斯克有一个言论：AI 的发展速度正在不断加快，而人类能用来追赶的时间已经所剩无几。

另外还有一个人物，利奥波德·阿申布伦纳。他也提出了这个问题，意思是：这些智能 AI 不断研发出比自己更高版本的智能 AI，这样的循环没有尽头。

他在 2024 年 4 月被 OpenAI 解雇。离职之后，阿申布伦纳发表了一篇白皮书，大概意思是：AI 的指数级加速并非抽象概念，而是在现实中展开，并且还在不断提速、不断扩张、不断变得更可怕。

他希望引起政策制定者或公众发出一个声音：AI 的发展不会止步于人类的智力水平。如果后面衍生出一些控制不住的智能爆炸，我们人类是控制不住的。

这又引发出一个问题：这种 AI 已经比任何一个人都聪明，甚至可能比全人类的智能总和还要聪明，那么可能存在什么隐患呢？

马上说到隐患这块了。

其实我今天还有一个思考：AI 越强大，一个缺乏权责边界的人，就越容易成为组织里那个无限承接任务的人。任务越来越多，责任边界越来越模糊。