Discover文理两开花硅谷的新图腾:“有效加速主义”(e/acc)这面大旗举的起来吗?
硅谷的新图腾:“有效加速主义”(e/acc)这面大旗举的起来吗?

硅谷的新图腾:“有效加速主义”(e/acc)这面大旗举的起来吗?

Update: 2023-08-28
Share

Description

你近年有没有一种感觉:好像总有一种“加速度感”或者“历史感”,总觉得我们处在“the end of something”, 似乎是在某个阶段,某种系统的末期?自己可能正在经历一个未来要被历史书大篇幅记录的一个阶段?
有时感觉技术发展越来越快,连AI现在好像都有点过气了,实在跟不上了。有时又觉得我们现有的一切都“不work”了,坏掉了——不管是经济体系、国际格局、生活方式、还是科技发展,好像是个死局。早晚会有一大变化来临,把这一篇儿翻过去。
无论是正向还是负向,“脱节”可能是大家的共同感觉。我们今天聊的这个话题,也跟它相关。
 
时间戳:
00:00:30
近两年越来越强烈的 "加速度感"和"历史感",好像正处在“某系统或阶段的末期”:我们可能即将达到库兹韦尔预言的奇异点?
00:06:35
什么是“e/acc”(有效加速主义)?这流行于硅谷的最新哲学思想是怎么来的?
00:17:50
它的哲学脉络:“破罐子破摔”于资本欲望的“精神分裂”。
00:26:20
向大家展示一下:一个纯理科生是如何像机器一样思考、逐步解构、最后达到对一个概念的理解的。
00:34:15
有效加速主义实际上是一种价值观,它认为只要加速有效,就是“好的”。但“价值观”应该是人类才有的,机器没有。
00:39:22
线性思维与法西斯:如果AI和科技“正在”加速发展,那它就“应该”加速发展吗?
00:42:08
有效加速主义诉诸于自然规律,实际上也只是一种辩论手段,无法避开价值观的问题,也是从“人”来的。不能借用宇宙万物的规律来支持某种主义——就像用宇宙大爆炸理论或达尔文的进化论来证明某观点,严格来说是无效的。
00:48:48
“有效加速主义”和“有效利他主义”是两种极端的价值观。前者主张无限加速AI的发展,后者主张无限扩大自己的资源来造福人类,“富人吃肉,穷人才有汤喝”——其实都是不同群体在寻找“大旗”来实现自己的价值观和目标。
00:56:57
有效加速主义与“多样性”这一人类核心价值观冲突。
01:07:00
这是一个和“洛可的巨蛇”(Roko's Basilisk)(一条AI巨蛇,只要看你一眼,你就会消失)相似的悖论。
01:09:57
脑筋急转弯:"Artificial Diversification"(人工多样性)——会出现吗?
 
文字稿:
小跑:
不知道Will老师近年有没有一种感觉:好像总有一种“加速度感”或者“历史感”,总觉得我们处在“the end of something”, 似乎是在某个阶段,某种系统的末期;变化开始加快,总觉得好像要有大事发生,自己可能马上就要见证历史,或者正在经历一个未来要被历史书大篇幅记录的一个阶段。
一种速度感是:技术发展越来越快;AI现在好像都有点过期了;前一阵子室温超导差一点儿就没火起来。但实在是赶不上了。
另一种是:觉得我们现有的一切都“不work”了,坏掉了,好像是个死局。早晚会有一大变化来临,把这一篇儿翻过去——不管是经济体系、国际格局、生活方式、还是科技发展。但是那个时刻,好像左等不来右等也不来。但又感觉死局实在僵持不下去,要来了。
Will:
确实有。就像我们最初讨论AI时所提及的那样。回顾历史,Google GPT论文大模型就应运而生。这种发展速度至少在我们看来,已经超过了过去50到70年的AI发展。
类似的事情并不少见,室温超导可能也是其中之一(虽然不确定是不是真的)。美国的一个实验室(我忘了是不是国防部的)最近在激光核聚变方面取得了几十年来未有的进步。这些新发展似乎预示着我们可能正在接近一个超级加速点。
这让我想起了库兹韦尔(Ray Kurzweil)在2005年写的一本书《起点临近》。他在书中预言,我们将很快迎来这个奇异点(Singular Point)。现在看来,这个预言可能在这两年内就会实现。我觉得这种感觉在近两年内变得越来越明显。
小跑: 
无论是正向还是负向,“脱节”可能是大家的共同感觉。我们今天聊的这个话题,也跟它相关。
前两天看蓝江老师写的一篇文章:开头引无崖子的珍珑琪局,令众人或认输或走火入魔。正在此时,对弈局一窍不通的虚竹出手了,闭着眼睛把子放在了最不该放的地方,杀死自己一片白子——“岂知局面顿呈开朗”。没想到一招自杀死招,居然盘活了整个局面,大转折。
珍珑棋局这个故事就是“置之死地而后生”的典范。而虚竹就是一个“加速器”,他的出现让转折点更快到了。我们今天要聊的这个概念,在我看来,其实就是“置之死地而后生”、以及转折点怎么来。
今天的话题就是最近硅谷很流行的“有效加速主义”(E/acc)( Effective Accelerationism)的缩写。它火于硅谷,是把生物、物理、经济和社会理论整合在一起的哲学思想。有人觉得是“餐巾纸上的宣言”(napkin manifesto),理论很松散,更多是口号。
最早是硅谷的两个工程师在space上聊天,被听众总结出了观点,结果开始传播;他俩干脆开了一个博客网站,把这个观点整理在上面,成了“有效加速主义”(shownotes)的舆论阵地。后来这个概念被好几位硅谷科技圈,特别是AI大V带货——A16Z的创始人Marc Andreessen和YC孵化器的CEO Garry Tan把自己账号名字后缀加上了“e/acc”。后来又赶上GPT出现,越来越火。
我总结一下这个思想的太长不读版:
– 理论基础是物理学热力学第二定律:认为生命是作为热力学广义第二定律的原理出现的——就像物理定律一样,生命倾向于寻求捕获“自由能量”,需要不停增加运动范围、和自身复杂性来维持存在。所以,我们必须与 "宇宙热力学意志 "保持一致,必须拥抱和助力加速宇宙向更多增长、更大复杂性和更高智能方向发展——这个自然趋势。所以我们要加速,要有效加速。 
– “宇宙热力学意志”在当下技术时代的语境中,法则就是:适应性、进化、智能、加速。人类应该最大限度地利用创新和技术力量来推动社会变化。
– e/acc被提出的几个月后,AIGC突然爆火,于是马上被拿来当作AI理论基石。对抗“人工智能威胁论”的理论大旗:人工智能技术向前发展的趋势是不可阻挡的,与其想办法减缓它的发展速度,不如团结起来发挥人工智能更多正向的影响,尽力减少负面影响。
– 当然啦,人工智能有一定潜在危险,但解决方案不是延缓、阻止其发展,而是要让更多人使用和加入这个技术浪潮、要开源、要加速——“自行车骑得越快人才不会摔倒”。而且AI发展的结果一定是好的,一定是有利于人类福祉的。加速才是正解。
– 任何试图控制它的组织和政府只能滋生腐败和低效。AI系统会相互制衡,迫使自己进化,所以我们应该做的是努力创造这种平衡。
小跑:
我们再来看看它的哲学发展脉络:
它的根还是“加速主义”——一种主张“破罐子破摔”的哲学理论。如果社会问题无解,那就加速发展,引发变革。
一切从工业革命后,“左翼加速主义”批评资本主义对“技术加速”的控制,且尝试把这种力量变成无产阶级的武器开始。后来随着全球化资本主义崛起,左翼和欧洲社会主义节节挫败,干脆转变策略,选择了走“加速主义”的路线——朝着资本主义的方向全面加速。
后来德勒兹写了《反俄狄浦斯:资本主义与精神分裂》,主张应释放“资本”欲望的破坏性和革命性力量,推动社会进步。他觉得资本的欲望是一种强大的力量,既有破坏性,又有革命性,我们应该让它释放出来,而不是压制它——因为它早晚会颠覆自己。
这本书启发了“加速主义之父”尼克·兰德更极端的观点:我们应该全力加速资本主义和科技发展的速度,即使这可能会导致社会崩溃,甚至人类灭亡。他还有一些很暗黑的想法,比如我们应该接受且欢迎人类的动物性和机械性。
兰德的思想进一步影响了硅谷和AI圈的“E/acc”——有效加速主义:在在区块链、量子计算、基因学、AI等技术的发展无法阻挡,我们应该全力加速。
 
Will: 
背景的介绍与我对有效加速主义的理解完全一致。
你提到工人阶级可能认为科技进步会损害自身利益,这个观点很重要——被马克思称为“异化”,是马克思主义的核心观点之一。科技的发展实际上是工人的创造,但科技反过来却帮助资本家剥削工人。这是一个很荒谬的场景。
然而,加速主义观点非常有效地应对了这个问题,主张不要害怕“异化”:工人不应害怕异化,因为资本家投入大量资金来加速科技的发展;如果最后能颠覆资本主义的话,资本家也会被“异化”。
我想向大家展示一下,一个纯理科生是如何像机器一样思考,然后逐步解构,最后达到对一个概念的理解的:
我在思考的时候,觉得“有效加速主义”这个词在我看来很不明晰。作为一个理科生,我会用两种方法来理解一个概念:一种是字面理解,另一种是理解它的隐含含义。
在理解字面含义时,我习惯找反义词来理解一个概念。但是,找了半天找不到“有效加速主义”的反义词。于是尝试理解它的隐含含义,觉得"effective"(有效)在这个词中并不是指对加速“好与不好”的价值判断,而是以效果为判断标准。换句话说,只要加速是足够有效的,它就是好的。
所以,当一个“加速”让我们不适的时候,我们的解决方案不是减速,而是给它更高的,更有效的加速,让它向前跑得更快——这就是我对"有效加速主义"的理解。发现这与小跑描述和历史背景介绍是一致的。
Will:
我们回到一个核心观点:有效加速主义(EA)认为,所有前沿技术(如人工智能,常温超导,受控核聚变等)都是有益的,因为它们的进步足够迅速。即使过去的技术如蒸汽机被资本家用于剥削工人,当这些高科技发展到一定阶段时,资本家也可能无法再利用它们了。
我可能是一个有效加速主义者,因为我认为,科技的加速发展会解构甚至颠覆我们现有的传统价值观。
但是有效加速主义实际上是一种价值观,它认为只要加速有效,就是“好的”。但“价值观”应该是人类才有的,机器没有。AI等科技的发展是中性的,没有价值观。用人类的旧价值观去评判新科技可能是不准确的。
但是,有效加速主义是否在创造一种新的、我们称为"客观价值观"的东西?这种价值观以技术发展的速度和有效性为价值衡量标准,将价值观“客观化”?当然,反对有效加速主义的人肯定会怼:一些人类固有的价值观是不能被替代的。
所以,问题就在于,这两种矛盾的价值观是否会一直并存,还是会被某种方式消解?
 
小跑:
将有效加速主义视为一个“纯客观”的概念,会引发了一个逻辑问题——(is-ought)“实然-应然”:如果某种事物“是”这样,那它是否就“应该”是这样?
有效加速主义的一个主要前提是:无论是人类还是AI,都是生命体,都“应该”按照宇宙的规律,比如热力学第二定律,不断获取能量。那么,如果生命体“是”不断获取能量,是否就意味着生命体“应该”没完没了的获取能量?
这让我想到目的论:是否因为某样东西“正在”以某种方式发展,就认为它“应该”以这种方式发展?人类“一定”是从低级向高级发展,技术发展“一定”是从慢到快,“一定”是从简单到复杂,“一定”是向着更好、更复杂的方向线性发展——听起来很“社会达尔文主义”。
如果把技术最大化,将其视为拯救人类的手段或假想敌,那就是一种“夸大”;任何将某样东西“夸大”,并视为“唯一手段”的观点,都有可能走向法西斯式的加速主义——如果你接受它,就是好的;如果你不接受,就是坏的,该灭绝。
这种思考忽略了太多的偶然性。比如从猴子到人类的进化,需要基因突变、而这种突变能否适应当时当地环境,并推动进化——都是偶然的。所以我们为什么会认为技术加速主义一定是有效的?这其实也是一种线性思维。
 
Will:
同意你的观点,我们需要从更高的抽象层次来讨论这个问题。
虽然有人认为存在有效的加速主义,但对于“价值”的判断仍然是主观的。我们需要讨论加速主义与其他价值观的冲突。
有效加速主义,像我们所说的耗散结构,通过排出熵来增大系统内的结构有效性。这看起来是好的,但根据宇宙的规律,熵应是增加的,而不是减少的。所以从物理学的角度看,有效加速主义也是错误的。有效加速主义诉诸于自然规律,实际上也只是一种辩论手段,无法避开价值观的问题。
我们应该承认存在两种价值观都是从“人”来的,不能借用宇宙万物的规律来支持某种主义。就像用宇宙大爆炸理论或达尔文的进化论来证明其观点,严格来说是无效的。
应该回到原始的问题,那就是价值观的问题——我们应该讨论的是,何为好?何为坏?而不应该试图用自然科学的规律去证明一种价值观的正确性,因为这只是一种辩论的手段,而并不能真正解决我们面临的问题。
 
肖小跑:
所以我们今天讨论的关键词,还是"价值观"。
“E/acc”由特定群体提出,并不是客观事实,也反映出这些人的价值观——所以我们的注意力,应该放在:提出和支持“e/acc”的这些人到底有什么诉求?
其实很简单:和我们之前的AI和web3(区块链)讨论也相关。AI支持者认为先进的生产力(如AI)可能由于落后的生产关系(如现有的社会关系)而受阻;为了推动AI的发展,需要一种不受限制的理念。但又不想再被web3和投机者白嫖占便宜。正如SBF大肆宣扬的“有效利他主义”——其实只是用来割韭菜用的大旗。
“有效加速主义”和“有效利他主义”是两种极端的价值观。前者主张无限加速AI的发展,后者主张无限扩大自己的资源来造福人类,“富人吃肉,穷人才有汤喝”——这两个理念其实都是不同群体在寻找“大旗”来实现自己的价值观和目标。
 
Will:
有效加速主义可能是一个价值观,它以加速的有效性作为评判标准。然而,这可能与人类的某些基本价值观产生冲突。我思考过这个问题,并得出了一个可能的冲突点:“多样性”——Diversification的价值观。
不论左派还是右派,都倾向于赞同“多样性”。比如生物多样性:热带雨林之所以生机勃勃,就是因为有各种树木植物、食草、食肉动物、水源,昆虫等等。多样性维护了生态环境,也有利于人类。
那么,我们可以提出一个问题:科技进步是否能够促进多样性的发展?这种多样性的价值观能否被技术有效加速?或者说,技术有效加速的主义是否能够达成多样性的目标?
《美丽新世界》中的人类已经能够通过试管培养人类,但“多样性”仍然是书中被人类共同遵守的价值观。在这个世界里,制造者们并不希望所有的人都具有同一种特征,为了维护人类的多样性,需要有“酗酒的人”。
这种看似矛盾的价值观,是否能够被有效加速主义所解决呢?我个人认为,技术的发展往往是单一维度的,它向着更高、更快、更强的方向发展。当我们放任所有的技术疯狂地向前发展的时候,最终的社会是否还有多样性存在?我个人认为这与有效加速主义可能是冲突的。
各种各样的主义,包括马克思主义,在反对现有秩序或现有思想的不合理之处时,它们具有非常大的价值。但如果我们以这些论据去构建社会规则,或者将它们作为社会发展的总规律,大概率会带来灾难。
 
肖小跑:
我觉得我们可以得出一个结论,即有效加速主义就是一种napkin manifest,就像写在餐巾纸上的共产主义宣言,我们不应过于当真——它可能自己也没想清楚。
Will老师刚才关于《美丽新世界》的分析非常精彩。人类的多样性与AI的极速加速之间存在一种底层的矛盾。这让我想到了那个有名的思想实验,马斯克的女朋友在一首歌中提到的“洛可的巨蛇”(Roko's Basilisk):假设有一个强大的AI,如同巨蛇,只要看你一眼,你就会消失。这个AI会模拟全人类的思想形成过程,如果发现你曾想过阻止AI的出现或发展,无论你是否还活着,它都会复原你,然后消灭你。
如果真有这样的AI,那就说明当初不会有人想要阻止它,因为如果有人有这种想法,它可能就不会出现。既然它已经出现了,就说明没有这个选项,大家都被这种想法威胁着。它从未来游回到现在,告诉你如果你想杀死它,它就会先杀你。
这是一个逻辑悖论,无论你怎么转,都无法避开。这就证明了存在一个底层的、无法解决的悖论。所以,有效加速主义并非普世真理或定理。
Will:
是的。有效加速主义其实也是反对那些想阻止AI发展的人。
我构思了一个新词:"Artificial Diversification"——“人工多样性”:你可以支持人工智能,不想阻止它的发展,但你是否考虑过,一天可能会发展到"美丽新世界"那样,或者像我刚才提到的那种状态。但如果你去鼓励人工多样性,也就不会出现AI极限发展那一天——所以这个逻辑永远是不通的。
肖小跑:
没错,一旦开始多样化,还怎么加速?
Will:
对,"artificial"能否成为"diversification"的修饰词?我们能创造出多样性吗?这是不是暗示着底层的价值观冲突?这些脑洞值得开。
 
BGM:Acceleration, by Cannibale
封面:Facundo Moyano - Accelerate

关于《文理两开花》:

《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”,我们试图在混沌中寻找秩序。

Twitter:
@LeiSalin_XP
@Will42W

TG群(开放)t.me

收听平台:
小宇宙:文理两开花
苹果播客|Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花(海外版)》(苹果播客中国区可复制https://open.firstory.me/rss/user/cl0roqwc0000l0hzje7se6f28手动添加节目)

文字稿和延伸阅读:
微信公众号《文理两开花播客》
《文理两开花》newsletter。欢迎订阅:https://wenli.substack.com

其他平台:
即刻:文理两开花
《文理两开花》微信群:请添加坛子微信(WeChat ID: BKsufe),注明:文理两开花

 

留言告訴我你對這一集的想法: https://open.firstory.me/user/cl0roqwc0000l0hzje7se6f28/comments



Powered by Firstory Hosting
Comments 
In Channel
认知被AI暴击的瞬间

认知被AI暴击的瞬间

2023-02-0901:31:01

loading
00:00
00:00
x

0.5x

0.8x

1.0x

1.25x

1.5x

2.0x

3.0x

Sleep Timer

Off

End of Episode

5 Minutes

10 Minutes

15 Minutes

30 Minutes

45 Minutes

60 Minutes

120 Minutes

硅谷的新图腾:“有效加速主义”(e/acc)这面大旗举的起来吗?

硅谷的新图腾:“有效加速主义”(e/acc)这面大旗举的起来吗?

小跑