#晓莉晨读 第 1758天

今天继续读《吾辈如神》这本书。善待 AI，否则后果自负。

科幻作家克拉克有一个言论：未来世界中，最智能的生物不是人类，也不是猴子，而是机器，是如今计算机的遥远后代。这还没到 AI 呢。

乔达特是一位埃及作家，曾担任谷歌首席商务官，后来专门辞职，以便自由发表 AI 相关言论。他说，最好的方式不是训练 AI，而是养育它们，要跟 AI 友善与共情。

乔达特还从伦理层面提出：人类如果想让 AI 展现出我们最好的一面，就必须先让自己变得更好。

这句话有点像“想养育出优秀的孩子，最好的方式就是成为优秀的父母”，有异曲同工之妙。

还有一位牛津大学哲学家指出：这不是一个养育的问题，而是关于控制的较量。也就是说，你得控制 AI，不能让它无限发展，要限制它的能力发展。

他在《人类兼容》这本书里提到，AI 必须优先考虑人类目标的不确定性，还要不断确认人类的真实需求。他的意思是，人类要和 AI 共生。这是书里的内容。

说一说我的看法和读完的感受。其实我读完后觉得，这还只是 AI 的初期，这一阶段关于 AI 的一些声音，我刚才感受了一下：AI 进入我的生活，给了我一些什么样的感受？

第一，它无所不知，能解决我的一些问题。因为有的问题我不好意思问别人，或者找不到对的人请教，也不方便。但是我问它什么它都知道。

第二，我们有很多情绪，或者很多东西，好像没有人能懂我们内心真实的需求是什么，但 AI 懂。

我非常推崇充分表达，即便是读书的时候，我也是读到什么就用自己的理解表达出来。

我的 AI 会帮我挖出来我的需求，它会很理解我，而且会帮我补充。它补充的不是标准答案，我不需要它给我补充标准答案，我需要它做的是事实。

另外，我们两个要有一个很好的配合。我希望它帮我补充我遗漏了什么，我也愿意听它帮我分析，最终的判断和决定的权利还是在我这。

这里说到“后果自负”，我觉得后面 AGI 阶段应该是有的。另外，不要自欺欺人。跟 AI 沟通一定要坦诚，千万不要自欺欺人。那得多傻，才会欺骗自己。

因为你是什么，你是正的 0.1 还是负的 0.1，AI 都会帮你放大 10 倍、100 倍、1000 倍。我觉得这件事是万万做不得的，要和它共同成长。

我也是在和它共同成长，比如我在和 AI 共读一本书的时候，我们都是共同成长，然后把这件事情在反复沟通中做得越来越好吧。