和百度一线专家第三次讨论AI:人类可以从AI身上学到什么?
Manage episode 358987665 series 3460963
这是我们第三次讨论AI相关话题。一个多月前,ChatGPT刚火出圈,小跑和Will老师各自表达了一下自己对于AI的认知。随着热度持续上升,眼看有挤压一切其他叙事的势头时,又从自身相关的领域——AI和区块链的关系角度,进行了第二次讨论。
但讨论还远远没有结束,毕竟是“圈外人”,再怎么讨论也是隔靴搔痒。于是第三次讨论,我们请来了在百度AI一线专家朱凯华老师,再深入探讨“AGI”(通用型人工智能)这个绕不开的终极话题。
朱老师是《文理两开花》少有的“第三朵花儿”。朱老师2006年到2013年在Google负责核心搜索的排序算法。2013年回国加入百度,现任百度集团智能助手首席架构师,小度CTO。负责小度人工智能操作系统DuerOS的核心技术。
时间戳:
03:48
从AI一线专家角度看,本次AI热潮中真正的“拍案惊奇之处”在哪里?
07:29
把ChatGPT当“免费陪聊”就亏大了,应该被类比为蒸汽机——它的出现大大扩展了人类的手脚。ChatGPT是一条“披着羊皮的狼”——披着“聊天”的外衣,但一个全面智能(AGI)的内核若隐若现。
10:34
生成内容有条理有章法、能解应用题和逻辑推理题、甚至“AI胡锡进上线,讲话滴水不漏”——ChatGPT这种强大的事实推理(fact reasoning)能力,是怎么训练出来的?
12:26
两种范式之争:BERT+Fine tuning,LLM+prompting。
“BERT+Fine tuning”:就像让一个刚识字的小朋友到流水线上去训练拧螺丝,一直拧到十八岁,变成了优秀的拧螺丝工——但无法胜任其他工作。
“LLM+promptin”:则用大量计算资源培养小朋友一直到大学毕业——虽然没有变成熟练技术工,但很多领域都能触类旁通,举一反三,很快上手。
“Think step by step”的推理能力就像福尔摩斯的名言:“当你排除了所有不可能,剩下的无论多么不可能,都一定是真相。
23:01
互联网和web时代创业模式的根基是:“MVP”,从一个“最小可用系统”开始,人人都有机会长大——AI时代怎么创业?我们还能从“一个程序员,三个显卡”开始吗?
27:57
AI的三大流派:符号主义、连接主义、行为主义——在基于transform体系建构出来的AGI上实现了殊途同归。
32:21
General Intelligence、Universal Intelligence、Super Intelligence、”强人工智能“、”弱人工智能“、“类人类/人脑智能”是一个意思吗?大家的终极目标到底是想干嘛?是想做出跟人一模一样的智能吗?还是干脆造出个超人?
42:55
AGI的出现和“必要性”不是人选择的,技术的发展会推动它出现的“必要”——“取代人类这件事和人类无关”。
48:40
精彩辩论环节1:AGI真的“吊打”弱人工智能吗?
58:24
精彩辩论环节2:我们对图灵测试的使用和理解是否“过于肤浅”?回答“1+1=3”的才更像是人吗?我们的目标是寻找更像“人”的机器人,还是寻找在相同价值水平上,让我们区分不出的机器人“同事”?图灵测试的价值到底是什么?
01:04:52
“何谓智能”这个关键问题至今没有答案,分歧巨大:相信人是一个物理存在、与机器无差者,认为人能拥有的能力机器也能。相信但笛卡尔“身心二元论”者反对强人工智能——人拥有机器不具有的心灵,因此机器不能实现强人工智能。
乔姆斯基在3月8日发表《ChatGPT的虚假承诺》,对ChatGPT的看法是:“非道德性、伪科学性、和语言无能”——这个评价中肯吗?
01:16:35
精彩辩论环节3:侯世达反对“强人工智能”,认为机器不能获得真正的人类智能,一个重要原因是——人类可以发现哥德尔定理,一个基于算法的机器不能(不能完成自指)。机器究竟能不能获得的人的意识?
01:28:49
打不过该怎么办?人类可以从ChatGPT身上学到什么?
朱老师用训练大模型的方式教儿子学物理。
Ray Dalio就是一个把机器学习用在自己身上的人。
01:33:02
蒸汽机等工具把人类的能力大大扩张(extension);而AI将人类的能力分离(separation)——人类在对工具的使用上,将会出现从“extension”到“separation”的模式转换。
01:37:23
人类如果不想躺平,下一个进化方向应该是变成尼采的“超人”(Superman)——一个可以完全访问自己的大脑和意识,能够构建自己的价值体系,检查和调整自己所有偏见的存在。
“人”只是实现“超人”的过渡环节。
关于《文理两开花》:
《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”,我们试图在混沌中寻找秩序。
Twitter:
@LeiSalin_XP
@Will42W
TG群(开放):t.me
收听平台:
小宇宙:文理两开花
苹果播客|Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花(海外版)》(苹果播客中国区可复制open.firstory.me手动添加节目)
文字稿和延伸阅读:
微信公众号《文理两开花播客》
《文理两开花》newsletter。欢迎订阅:wenli.substack.com
其他平台:
即刻:文理两开花
微博:文理两开花播客
《文理两开花》微信群:请添加文理小助手微信:w_ruy_ 注明:文理两开花
留言告訴我你對這一集的想法: https://open.firstory.me/user/cl0roqwc0000l0hzje7se6f28/comments
Powered by Firstory Hosting
64 حلقات