| 查看: 1450 | 回复: 5 | |||
[交流]
斯坦福教授李飞飞驳斥AGI已具备感知能力这个错误观点
|
|
今天北京时间5:17，斯坦福HAI院长李飞飞教授在社交平台发布一条动态，撰写一篇严肃的驳论文章来驳斥「AI已具备感知能力」的“主观认知”，文章题为「No, Today’s AI Isn’t Sentient. Here’s How We Know」 两位教授也戏称，AGI被赋予了某种“神话”色彩： Now, general intelligence is a bit of a myth, at least if we flatter ourselves that we have it. ‘if we flatter ourselves that we have it.’甚至可以说是非常犀利了。 随着AGI概念的讨论，本文也就开始阐述起了这次驳论的核心：「AGI已具备感知能力」。 如果AGI要实现「G」的畅想，那就要求AI具备和人一样可以「感觉」「了解」并「应对」多项不同事件的能力，这就是「感知」。 拥有「感知」无疑将会是AI技术的历史性进步，但它也会引起恐慌：“AI有自主意识了？”“AI要打败人类了？” 稍微懂一点当前AI真实进展的人都知道：在我们尚能摸爬滚打的时间里，AI是没法取代人类的；但依旧有不少人鼓吹AI已具备让人类感到危险的「感知力」，借此来忽悠科研经费“AI有自主意识了”“AI要打败人类了”“要加强科研伦理研究了”。 斯坦福大学两位教授采访多位AI学者后，总结了这些支持方极具代表性的观点： AI is sentient because it reports subjective experience. Subjective experience is the hallmark of consciousness. It is characterized by the claim of knowing what you know or experience. 简单来说就是他们认为当前一些所谓AGI系统的一些回答中包含着具备情感色彩的词语，这是一种主观的体验，那就说明AI具有一定范围内的“自主意识”。 听起来似乎诡异又很有道理，但李飞飞方直截了当地对这种观点进行了反对： 以支持方所举的“我感到饥饿”的场景回答为驳斥核心，李飞飞方提出了一个关键词「生理特征」——当人类感到饥饿的时候，他们是在感知一系列生理状态——低血糖、空荡荡的肚子咕噜作响等——而当前一些所谓AGI系统根本没有这些生理状态，就像它没有嘴巴可以进食和没有胃可以消化食物一样。 一直以来，我们为了区别人类与一般动物，都在强调“思想”，自然而然地将“思想”作为了一切“类人”的标准，但我们忘记了“思想”的基础是生物状态。 正如斯坦福大学两位教授所说： “所有感觉——饥饿、感到疼痛、看到红色、坠入爱河——都是生理状态的结果，而当前一些所谓AGI系统根本没有这些生理状态。因此我们知道当前这些所谓AGI系统不可能有这些状态的主观体验。换句话说，它不可能有感知力。 当前一些所谓AGI系统是在硅芯片上编码的数学模型。它不是像人类一样的实体存在。它没有需要吃饭、喝水、繁殖、体验情感、生病并最终死亡的‘生命’。” 李飞飞方认为，当前一些所谓AGI大模型们给出的所谓带有“主观意识”的report，都是在人类向其输入了带有“主观意识”的prompt后才有的，而非它自己产生。 |
回复此楼» 猜你喜欢
289求调剂
已经有3人回复
-
求调剂
已经有4人回复
-
材料调剂
已经有5人回复
-
化工282求调剂一志愿211
已经有6人回复
-
A区一本交叉课题组，低分调剂，招收机械电子信息通信等交叉方向
已经有25人回复
-
材料085601一志愿哈工大317
已经有4人回复
-
材料与化工，291，求调剂
已经有8人回复
-
材料调剂
已经有5人回复
-
085600材料与化工，一志愿广州985，求调剂
已经有8人回复
-
中科大材料299求调剂
已经有6人回复
2楼2024-05-29 22:55:18
3楼2024-06-02 13:16:09
4楼2024-06-04 18:20:16
5楼2024-06-10 01:22:02
6楼2024-06-15 16:55:29
