24小时热门版块排行榜

返回列表

zju2000

金虫 (著名写手)

应助: 28 (小学生)
金币: 810.2
红花: 33
帖子: 2004
在线: 229.2小时
虫号: 3862355
注册: 2015-05-11
专业: 计算机应用技术

[交流] 斯坦福教授李飞飞驳斥AGI已具备感知能力这个错误观点

今天北京时间5:17，斯坦福HAI院长李飞飞教授在社交平台发布一条动态，撰写一篇严肃的驳论文章来驳斥「AI已具备感知能力」的“主观认知”，文章题为「No, Today’s AI Isn’t Sentient. Here’s How We Know」

两位教授也戏称，AGI被赋予了某种“神话”色彩：
Now, general intelligence is a bit of a myth, at least if we flatter ourselves that we have it.
‘if we flatter ourselves that we have it.’甚至可以说是非常犀利了。

随着AGI概念的讨论，本文也就开始阐述起了这次驳论的核心：「AGI已具备感知能力」。
如果AGI要实现「G」的畅想，那就要求AI具备和人一样可以「感觉」「了解」并「应对」多项不同事件的能力，这就是「感知」。
拥有「感知」无疑将会是AI技术的历史性进步，但它也会引起恐慌：“AI有自主意识了？”“AI要打败人类了？”
稍微懂一点当前AI真实进展的人都知道：在我们尚能摸爬滚打的时间里，AI是没法取代人类的；但依旧有不少人鼓吹AI已具备让人类感到危险的「感知力」，借此来忽悠科研经费“AI有自主意识了”“AI要打败人类了”“要加强科研伦理研究了”。

斯坦福大学两位教授采访多位AI学者后，总结了这些支持方极具代表性的观点：
AI is sentient because it reports subjective experience. Subjective experience is the hallmark of consciousness. It is characterized by the claim of knowing what you know or experience.
简单来说就是他们认为当前一些所谓AGI系统的一些回答中包含着具备情感色彩的词语，这是一种主观的体验，那就说明AI具有一定范围内的“自主意识”。

听起来似乎诡异又很有道理，但李飞飞方直截了当地对这种观点进行了反对：
以支持方所举的“我感到饥饿”的场景回答为驳斥核心，李飞飞方提出了一个关键词「生理特征」——当人类感到饥饿的时候，他们是在感知一系列生理状态——低血糖、空荡荡的肚子咕噜作响等——而当前一些所谓AGI系统根本没有这些生理状态，就像它没有嘴巴可以进食和没有胃可以消化食物一样。
一直以来，我们为了区别人类与一般动物，都在强调“思想”，自然而然地将“思想”作为了一切“类人”的标准，但我们忘记了“思想”的基础是生物状态。

正如斯坦福大学两位教授所说：
“所有感觉——饥饿、感到疼痛、看到红色、坠入爱河——都是生理状态的结果，而当前一些所谓AGI系统根本没有这些生理状态。因此我们知道当前这些所谓AGI系统不可能有这些状态的主观体验。换句话说，它不可能有感知力。
当前一些所谓AGI系统是在硅芯片上编码的数学模型。它不是像人类一样的实体存在。它没有需要吃饭、喝水、繁殖、体验情感、生病并最终死亡的‘生命’。”

李飞飞方认为，当前一些所谓AGI大模型们给出的所谓带有“主观意识”的report，都是在人类向其输入了带有“主观意识”的prompt后才有的，而非它自己产生。

回复此楼