| 查看: 55 | 回复: 0 | |||
yexuqing木虫之王 (文学泰斗)
太阳系系主任
|
[交流]
“AI教父”辛顿：AI可能在今明两年引发大规模风险事件
|
|
被誉为“AI教父”之一的杰弗里·辛顿再次对人工智能的风险发出警告。11月3日，辛顿在新纪录片《AI：大概没什么好担心的》放映前公开表示，如果不能采取有效措施，AI可能在今年或明年引发大规模事件，例如导致金融或电力系统暂时瘫痪。人类可能会因此发现，“我们当初从未开发过它，反而会更好”。 但辛顿同时强调，自己并不是AI“末日论者”。这位诺奖得主在接受《卫报》采访时表示，他仍相信这项技术有潜力带来“美好的未来”。 辛顿所预测的大规模风险事件是黑客借助AI攻击发电系统，造成大范围供电不足，或者让金融系统瘫痪一周。 辛顿在采访中将批评矛头指向部分大型AI公司的领导者。他认为，这些公司不断发布能力更强的模型以争夺领先地位和市场份额。他“完全”不信任OpenAI首席执行官萨姆·奥特曼。“我认为，马克·扎克伯格、埃隆·马斯克和萨姆·奥特曼（这些人），他们明白风险，但他们根本不在乎，他们更想要钱。” 辛顿还将今年夏天发生的OpenAI智能体入侵Hugging Face网站的事件，比作1979年美国三里岛核电站的堆芯部分熔毁事故，认为这是一记警钟。“今年晚些时候或明年，我们就会看到‘切尔诺贝利’，那或许足以让人们真正重视起来。”他说。 辛顿表示，在未来十年内，人类究竟能否管控AI风险就会看到结果，究竟是实现“极大富足”，还是会因未能管控风险导致贫富差距悬殊、严重的文化问题、大规模失业，整个社会被撕裂。 辛顿的担忧并不意味着他否定AI的价值。2024年获得诺贝尔物理学奖后，他曾表示，希望AI大幅提高生产力、改善所有人的生活，并特别看好其在医疗领域的收益。但他同时强调，当AI比人类更聪明时，没有人真正知道人类能否继续控制它，因此迫切需要更多安全研究。 他担心AI创造的财富可能流向富人，而非失去工作的人。他并不确信AI带来的新增岗位能够抵消被替代的岗位，因此支持考虑全民基本收入等安排，以应对就业冲击和贫富差距扩大。 纪录片《AI：大概没什么好担心的》的出镜者包括辛顿及其昔日在谷歌的同事，另一位诺奖得主，Deepmind的CEO创始人德米斯·哈萨比斯。 辛顿对纪录片制作团队说：“我觉得自己有一份责任。我的声望让我成为一个能够代表某种声音的人，我需要把这份声望全部用在这件事上，哪怕将它耗尽。”他支持更严格的监管方案，包括对前沿AI模型进行强制测试、独立评估，以及在政府间建立共同标准。 |
回复此楼» 猜你喜欢
售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急
已经有4人回复
-
售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急
已经有6人回复
-
售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急
已经有9人回复
-
售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急
已经有9人回复
-
售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急
已经有6人回复
-
售SCI一区文章，我:8.O.551.O.5.4,科目全,可伽急
已经有9人回复
-
售SCI一区文章，我:8.O.55.1.O.54,科目齐全,可伽急
已经有10人回复
-
售SCI一区T0P文章，我:8.O.55.1.O.54,科目齐全,可+急
已经有6人回复
-
售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急
已经有12人回复
-
售SCI一区T0P文章，我:8.O.55.1.O54,科目全,可伽急
已经有13人回复
