关于AI第四次讨论：GPT-4、RLHF、OpenAI插件、和未来产业发展的可能性
Description
每天都是生产力革命。一觉醒来，AI推搡着人类社会和科技史又向前奔跑了，还是加速度。AI专家们兴奋的舍不得睡觉，工具人们跟的上气不接下气。
而《文理》对AI的思考似乎也停不下来——本来和百度人工智能专家朱老师的一次特别版嘉宾讨论，变成了“AI锵锵三人行”，提纲上的问题似乎永远讨论不完，还越拉越长。有位听友总结的相当经典：我们的节目似乎变成了“web3 + AI 两开花”。
于是我们迎来了对AI话题的第四次讨论，再请朱老师返场，一起深入探讨最近发生的几个标志性事件：GPT-4发布、OpenAI插件、“新的iPhone时刻”、科学家联名呼吁暂停AI开发六个月、当然还有大家最关心的——未来产业发展的可能性。
本期嘉宾：
朱凯华：百度集团智能助手首席架构师，小度CTO
时间戳：
什么是GPT？Sam Altman在和Lex Fridman对话中的有趣回答：“多年以后，我们回头看GPT，会把它定义为：一个非常早期的人工智能，很慢，有很多bug，很多事情做得不太靠谱——但是早期计算机也是这样。它给我们指了一条路，这条路会通往所有人生活中的巨变。”
GPT-4为什么会让朱老师感到“地动山摇”？报告中哪一张图“秒杀了很多东西”，让朱老师感受到巨大冲击？OpenAI的“科学炼丹”是什么？为什么要给AI模型“写宪法”？
09:23 GPT-4的多模态是AI能够达到人类智能的一个阶段。《皇帝的新脑》中的观点被推翻了吗？
13:53 能看梗图，能解释笑点——为什么很厉害？这体现出了什么能力？
那副关于GPT-4参数的著名“模因图”——”big circle, small circle”：GPT-4有100万亿个参数，到了GPT-5，规模更加不可想象，甚至出现了机器人一家在博物馆里看“人类文明最后的发言痕迹”的漫画：”GPT-5 isn’t that impressive.”
这张模因图的源头出自哪里？参数到底有多重要？
<figure>
</figure>大模型足够大一定能产生好效果，但做出这么一个大模型，还能让它正常运转——难度非常大的。
什么是“世界模型”（the World Model）？为什么预测下一个词的能力显示了对世界的理解程度？
世界模型能涵盖博尔赫斯的知识宇宙——“巴别图书馆”吗？
28:04 微软研究院：《通用人工智能的火花：GPT-4早期实验》中的一个有趣发现：AI无法写出英文“回文句”（最后一句和第一句话的单词相同，但顺序颠倒，且语法正确；比如“叶落天落叶”）。侯世达在GEB中提到巴赫的《螃蟹卡农》，正反演奏都成立。AI无法生成”回文句“，能说明这是人类特有能力吗？
朱老师对《通用人工智能的火花：GPT-4早期实验》的精彩总结：14行诗、素数证明、用JavaScript画抽象画、用圣雄甘地的口气给老婆写信——体现出了GPT的什么能力？
44:18 什么是RLHF（Reinforcement Learning with Human Feedback)？“人类指导的科学”（the science of human guidance）是种什么体验？
合作比对抗强，GAN和RLHF——一个是“鸡娃式家长”，一个是“鼓励式家长”。
给外星人一本《红楼梦》，它能学会使用中文吗？RH模型中的“grounding”（锚点）如何帮助外星人实现目标？
GPT Plug-in（插件）：“新的iPhone时刻”到来了吗？
和菜头把把GPT比作《沉默的羔羊》中高智商罪犯汉尼拔，被关在死牢最深处；把插件比作克拉丽丝——授权的FBI探员，可以带着最新的资料来请教汉尼拔，插件就是一堆得到OpenAI授权的公司——这个比喻正确吗？
59:04 Will老师认为和菜头老师的比喻“说反了”：其实是GPT把插件软件“学透了”。朱老师认为，“汉尼拔”就像超级智能，人类根本无法把它“关起来”，它很可能把你玩转。
OpenAI“智能接口”的惊奇之处：实现了自然语言编程，并且具有良好的推理能力，可以根据用户需求进行思考，将需求分解为一步一步的操作，调整操作以满足用户需求。
插件是否全面打击了我们熟悉的互联网商业模式？如果GPT抢占了所有人的注意力，大家还会愿意打开其他应用程序或网站吗？
01:12:55 Will老师比较乐观：GPT的出现改变了人们寻求“扩展”的行为模式，虽然可能导致失业，但从社会分工的角度，人类本来就习惯于“分离”和“分工”的方式。
1000多名AI专家的联名上书，要求所有与AI相关的实验室暂停工作6个月。威胁是否真的如此严重？联名上书是否有效？
朱老师和Will老师的态度鲜明：不同意，不可能，阻止不了。
小跑则为文科生发声：从弗兰克斯坦、普罗米修斯、亚当夏娃的故事，再到法国大革命的现实，总有一批右脑在和极度理性做斗争，认为人类“创造生命”的结果是扭曲可怕的。 数学不可怕，科学不可怕，AI也不可怕，但是人类追求极度理性时的狂热、忘我、和不自知的偏执才是可怕的。
虽然但是，如果AI已经可以摆脱人类能自行发展，那就算人类克服了偏执狂热又有什么用呢？“核不扩散条约之后，我们应该有个”AGI不扩散条约“吗？
关于维特根斯坦的小“battle”：AI的神经网络是否能超越真值表的逻辑体系？
《文理两开花》终于要和大家线下见面啦！
初次见面，我们特别选在了香港web3 festival的盛大节日期间，在香港中环地标“百年冰窖”——藝穗會（Fringe Vault）里，和大家相聚畅聊！
4月15日下午，Will老师和我会和大家：一起回顾过去一年做《文理》播客的心得和“幕后故事”、畅聊一下我们的未来规划（包括即将出版的书、未来节目和社区规划）、还会现场录制一场播客节目；聊一聊web3，AI，科技，金融和我们的未来。当然不限时不限题目的Q&A！
我们还为大家准备了我自己的著名滞销书，和藏书票套装礼盒，送给幸运的听友们～
详细活动信息请见我们置顶在小宇宙节目主页上的通知，或者前往《文理两开花》公众号查看。
那么4月15日，我们香港见啦！
（封面图：人类最后一条推文）
=================
活动信息：
时间：4月15日（星期六）下午3:00-6:00 pm
地点：藝穗會 Fringe Vault，香港中環下亞厘li畢bi道二號藝穗sui會 (中環地鐵站D出口)
现场：免费饮料和小零食
报名方式：请见公众号文章。
=================
关于《文理两开花》：
《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”，我们试图在混沌中寻找秩序。
Twitter：
@LeiSalin_XP
@Will42W
TG群（开放）：t.me
收听平台：
小宇宙：文理两开花
苹果播客｜Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花（海外版）》（苹果播客中国区可复制open.firstory.me手动添加节目）
文字稿和延伸阅读：
微信公众号《文理两开花播客》
《文理两开花》newsletter。欢迎订阅：wenli.substack.com
其他平台：
即刻：文理两开花
微博：文理两开花播客
《文理两开花》微信群：请添加文理小助手微信。注明：文理两开花
<figure>
</figure>
United States
