24小时热门版块排行榜

新虫 (小有名气)

[求助] 寻找打开神经网络黑箱的方法

感觉这个圈子里的人都蛮优秀的，就在这里提下困扰我已久的学术问题：人工智能中，想尽可能理解神经网络做出某个决策的背后原因，都有什么手段方法可以使。虽说不具备可解释性是神经网络的一个特点，但应该有可以在一定程度上打开这个黑箱的方法吧。

发自小木虫Android客户端

1楼 2020-06-05 08:29:21

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

木虫 (著名写手)

what makes sense doesn't work, what works doesn't make sense

[img]http://osu.ppy.sh/stat2/iamikaruk-0.png[/img]

2楼2020-06-05 10:42:03

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

铁杆木虫 (著名写手)

神经网络本来就是模仿人类大脑的逻辑就构建的模型的，大脑的神经元之间的结构是无法用逻辑解释的，我记得看吴恩达的机器学习视频的时候，他说他用了很多年的神经网络的模型，有时候感觉都讲不清楚里面细节

3楼2020-06-06 17:58:02

已阅回复此楼关注TA 给TA发消息送TA红花 TA的回帖

相关版块跳转我要订阅楼主 ibasaw 的主题更新