和百度一线专家第三次讨论AI：人类可以从AI身上学到什么？
Description
这是我们第三次讨论AI相关话题。一个多月前，ChatGPT刚火出圈，小跑和Will老师各自表达了一下自己对于AI的认知。随着热度持续上升，眼看有挤压一切其他叙事的势头时，又从自身相关的领域——AI和区块链的关系角度，进行了第二次讨论。
但讨论还远远没有结束，毕竟是“圈外人”，再怎么讨论也是隔靴搔痒。于是第三次讨论，我们请来了在百度AI一线专家朱凯华老师，再深入探讨“AGI”（通用型人工智能）这个绕不开的终极话题。
朱老师是《文理两开花》少有的“第三朵花儿”。朱老师2006年到2013年在Google负责核心搜索的排序算法。2013年回国加入百度，现任百度集团智能助手首席架构师，小度CTO。负责小度人工智能操作系统DuerOS的核心技术。
时间戳：
从AI一线专家角度看，本次AI热潮中真正的“拍案惊奇之处”在哪里？
把ChatGPT当“免费陪聊”就亏大了，应该被类比为蒸汽机——它的出现大大扩展了人类的手脚。ChatGPT是一条“披着羊皮的狼”——披着“聊天”的外衣，但一个全面智能（AGI）的内核若隐若现。
生成内容有条理有章法、能解应用题和逻辑推理题、甚至“AI胡锡进上线，讲话滴水不漏”——ChatGPT这种强大的事实推理（fact reasoning）能力，是怎么训练出来的？
两种范式之争：BERT+Fine tuning，LLM+prompting。
“BERT+Fine tuning”：就像让一个刚识字的小朋友到流水线上去训练拧螺丝，一直拧到十八岁，变成了优秀的拧螺丝工——但无法胜任其他工作。
“LLM+promptin”：则用大量计算资源培养小朋友一直到大学毕业——虽然没有变成熟练技术工，但很多领域都能触类旁通，举一反三，很快上手。
“Think step by step”的推理能力就像福尔摩斯的名言：“当你排除了所有不可能，剩下的无论多么不可能，都一定是真相。
“小孩不是大人的 MVP”
互联网和web时代创业模式的根基是：“MVP”，从一个“最小可用系统”开始，人人都有机会长大——AI时代怎么创业？我们还能从“一个程序员，三个显卡”开始吗？
AI的三大流派：符号主义、连接主义、行为主义——在基于transform体系建构出来的AGI上实现了殊途同归。
General Intelligence、Universal Intelligence、Super Intelligence、”强人工智能“、”弱人工智能“、“类人类/人脑智能”是一个意思吗？大家的终极目标到底是想干嘛？是想做出跟人一模一样的智能吗？还是干脆造出个超人？
AGI的出现和“必要性”不是人选择的，技术的发展会推动它出现的“必要”——“取代人类这件事和人类无关”。
精彩辩论环节1：AGI真的“吊打”弱人工智能吗？
精彩辩论环节2：我们对图灵测试的使用和理解是否“过于肤浅”？回答“1+1=3”的才更像是人吗？我们的目标是寻找更像“人”的机器人，还是寻找在相同价值水平上，让我们区分不出的机器人“同事”？图灵测试的价值到底是什么？
“何谓智能”这个关键问题至今没有答案，分歧巨大：相信人是一个物理存在、与机器无差者，认为人能拥有的能力机器也能。相信但笛卡尔“身心二元论”者反对强人工智能——人拥有机器不具有的心灵，因此机器不能实现强人工智能。
乔姆斯基在3月8日发表《ChatGPT的虚假承诺》，对ChatGPT的看法是：“非道德性、伪科学性、和语言无能”——这个评价中肯吗？
精彩辩论环节3：侯世达反对“强人工智能”，认为机器不能获得真正的人类智能，一个重要原因是——人类可以发现哥德尔定理，一个基于算法的机器不能（不能完成自指）。机器究竟能不能获得的人的意识？
打不过该怎么办？人类可以从ChatGPT身上学到什么？
朱老师用训练大模型的方式教儿子学物理。
Ray Dalio就是一个把机器学习用在自己身上的人。
蒸汽机等工具把人类的能力大大扩张（extension）；而AI将人类的能力分离（separation）——人类在对工具的使用上，将会出现从“extension”到“separation”的模式转换。
人类如果不想躺平，下一个进化方向应该是变成尼采的“超人”（Superman）——一个可以完全访问自己的大脑和意识，能够构建自己的价值体系，检查和调整自己所有偏见的存在。
“人”只是实现“超人”的过渡环节。
关于《文理两开花》：
《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”，我们试图在混沌中寻找秩序。
Twitter：
@LeiSalin_XP
@Will42W
TG群（开放）：t.me
收听平台：
小宇宙：文理两开花
苹果播客｜Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花（海外版）》（苹果播客中国区可复制open.firstory.me手动添加节目）
文字稿和延伸阅读：
微信公众号《文理两开花播客》
《文理两开花》newsletter。欢迎订阅：wenli.substack.com
其他平台：
即刻：文理两开花
微博：文理两开花播客
《文理两开花》微信群：请添加文理小助手微信。注明：文理两开花
<figure>
</figure>
United States
