LLM倾向于用核武毁灭人类

[牛河梁]

斯坦福大学研究发现。哪怕是研究者告诉LLM核战会停电。LLM宁死也怕。甚至会在毫无威胁的情况下主动发动核战争。最“热爱和平”的是最初级的ChatGPT。约等于随机给答案那个。

据说原因可能是人类太多的研究核战争如何升级。缺乏如何降级核战争让LLM去学习。

难怪拜登和习近平旧金山峰会一个成果是禁止用AI控制中美核武器。

[kc130]

ＡＩ最大的问题就是不懂“爱”（ｌｏｖｅ）

碳基生物的感情先于智能，情绪先于感情，知觉先于情绪，感觉先于知觉，条件反射先于感觉，动作电位先于条件反射。

硅基ＡＩ直接从动作电位一步到人工智能。

[Leuning]

AI 现在没到wisdom 这一步，所以很多task 还不行。
现在只是从现有数据中学习出规律，加以应用。