E16. Claude创始人:科技发展慢了是会死人的
Update: 2025-08-03
Description
🎙️ Dario Amodei——AI安全领域的"理性派革命者",普林斯顿神经科学博士,前OpenAI研究副总裁(主导GPT-3开发),因担忧AI安全风险创立Anthropic。他提出"宪法AI"框架,打造出企业级AI明星产品Claude系列,坚持"宁可慢也要安全"的开发理念,甚至将公司注册为"公共利益机构"以确保AI发展符合人类长期福祉。这位兼具物理学、神经科学和AI背景的科学家,正在用工程思维重塑AI伦理边界。
⏱️ 时间戳
04:39 父亲去世的遗憾:技术进步的紧迫性
08:29 在斯坦福的顿悟:弃生物学,从AI行业
15:02 OpenAI内部矛盾二三事
17:52 回应黄仁勋的批评:无耻的谎言
19:38 创办Anthropic:以人为本
27:30 靠安全与高情商破局的Claude
31:00 如何与巨头竞争:人才密度与资本效率
36:44 末日不会必然来临,但是人类不能失去对AI的控制
💡 思考
- 考虑到Dario Amodei这种如此强烈的个人动力很大程度上是源于失落,源于对本可避免的悲剧的遗憾,这种独特的驱动力在未来引导AI发展的那些关键决策时刻,究竟会成为他更敏锐洞察风险的一种优势,还是说可能因为这种执念过于强烈,反而会影响他的判断?无论是让他过于偏向加速,还是过于偏向保守,这跟其他那些由不同动力(比如技术好奇心、商业利益或权利)驱动的AI领导者相比,又有什么根本的不同?
🔗 参考资料
Anthropic CEO Dario Amodei: AI's Potential, OpenAI Rivalry, GenAI Business, Doomerism
Comments
In Channel