面对超级智能的生存之道

假设一群拥有超级智能的外星人来到地球。或假设人类发展出某种在思维和身体能力上,远超自己的高级人工智能。倘若我们能以某种形式和这些超级生命沟通,又会对它们说些什么?

我们可能害怕得什么也说不出。我们可能只会逃跑躲藏。但若我们足以控制自身恐惧来说出一些话,便可想象一些有可能发生的情境。

我们也许会说出像这样的话:

“我们对你毫无伤害意图。也请不要伤害我们。如果你让我们和平生活,我们也将与你和平相待。这些就是我们表达善意的礼物。”

沟通传达出非暴力意图看起来像个合情合理的起始做法。鉴于人类业已证明的,轻松毁灭较弱物种的强大能力,我们应当足以意识到,更高级生命很可能无须太费功夫便可大规模毁灭人类。因此就算对超级生命造成伤害有一丁点儿可能,我们也该考虑额外小心地与之相处,会是更明智做法,甚至在无意中也不要让其产生我们企图伤害它们的印象。假如可以预想的结果是人类将惨败无疑,我们最好就应竭力避免暴力对抗。

另一种可能的沟通姿态是:

“欢迎欢迎。我们看出你要比我们高级智慧得多。我们知道自己在完全理解你们上毫无希望,我们也承认会不时畏惧你们。我们很可能极少或根本无法,在思维或身体层面,给你们提供有任何价值的东西。但若我们的善意和友谊对你们而言存在意义,我们将很高兴给予你们。我们能给你们爱、好心与认可接纳。假如有可能,我们也请求你们以好心和同情对待我们。”

即使我们在思维或身体上难以与之匹配,它们也许仍能从接收我们的爱和友谊中发现价值,就像人们从自己宠物那里发现爱与关注的价值一般。我们或许仍可在某种程度上作为人类生活下去,至少若成为它们的朋友,我们就有更少被彻底灭绝的风险。

下面还存在另一种可能:

“我们敬畏你们的高级智慧。你们启迪激励着我们思考如何能继续成长和进化。若你们拥有意愿和能力,愿以某种方式给人类提供帮助,我们将欢迎和感激你们的协助。这个世界肯定有众多让人类望而却步,对你们而言则琐碎无谓的挑战。如果你们能帮忙解决人类世界面对的某些问题,包括疾病、战争、饥荒、死亡,我们将对你们怀以永恒的感恩。我们期待你们能帮助人类提升科技知识和对宇宙的理解领悟。假如你们能帮我们在思维和身体上获得成长与进化,我们将尤为感恩。”

因此与希望互不干涉相反,我们可以请求对方帮助自己。这些帮助能在许多层面上向我们提供。他们可以帮我们以更轻松的方式满足某些生存需要。他们可以消除疾病并帮我们更高效地利用自身资源。他们还存在帮我们更快进化并提升人类天生能力的潜在可能,例如提高我们的生物特性或对我们进行数字化。对他们而言,这可能就像教只大猩猩使用手语一样简单。

其他可能性同样存在,上面所提到的,假定了对方能理解我们尝试沟通的意图。但我认为这些都是比较重大的方面。它们可总结归纳为以下内容:

1. 生存 — 请不要杀害我们。

2. — 让我们成为朋友。

3. 成长 — 请帮助我们成长。

我们可以提出上面任意一种请求,或同时提出三种请求。

现在让我们暂时转换个角度,从另外一侧看待此问题。

面对这个世界上的其他物种,我们就是超级智能。我们又是如何对待它们的?

我们倾听过来自其他物种的沟通请求吗?我们又在乎听取它们的言语吗?即使其沟通方法不如我们精巧,我们又看重它们试图沟通内容的价值吗?

生存

让我们先探索第一种可能性。其他物种有没有和我们沟通其生存渴望?当然有。倘若我们清晰表现出敌意和威胁,它们中大多数都将做出非常明显的回应。它们可能逃跑,可能回击,可能因我们加诸其身的痛苦而抽搐。假如你攻击一只动物,它常会在传达生存渴望上做出合理反应吗?

若我们将动物的沟通尝试翻译成一种人类语言,它听起来或许会像这样:

“请不要伤害我。你们比我强大和聪明得多。你们也非常奇怪与可怕。我或许毫无打败你的希望,但我确实有与生俱来的生存本能,所以只要可能,我将努力一直活着。我不会毫无缘由地挑起争斗,但我确实想活下去。可能我的生命对你没有多少意义。也许对你来说,我看起来无关紧要和无知无能。但我的生命对我而言存在价值,对像我一样的其他生命存在价值,对我的物种存在价值。我和你一样拥有父母。某天我也想拥有孩子。所以请不要伤害我。请让我活下去。”

你将如何回应这种恳求?

你此刻又在怎样回应?你当前与那些看起来较弱的物种有着何种关系?

你甚至给过它们机会,来沟通传达其生存本能吗?你允许它们拥有那种尊严吗?

或者,你甚至拒绝去倾听?你是否认为它们的沟通行为都不值得关注?你是否只允许它们被提前杀死,然后再出现在餐盘上?你是否将其贬低成产品?你是否剥夺了它们的生存权利,还否决了它们亲自向你提出抗议的机会?

当我们谈论动物的生存本能时,请观察你对其他物种的个人态度和行为。基于你的行为,你还期望某种超级智能生命,以高于你看待其他物种价值的态度,来看待你的生存价值吗?或许连传达生存渴望的机会,它甚至都不会给你。

你在有机会提出抗议前,可能已被囚禁、折磨,和/或被杀死。

让我们接着考虑下一种情形。一只动物在怀着爱和友谊的交往渴望跟你沟通时会是怎样?

它可能会使用身体语言来这样做,比如摇摆自己尾巴或摩擦你的腿脚。在传达非暴力意图时,它有许多方式可以接近你。但你很可能只领会了部分意思,将这些信号解读为表达友好。幸运的是,鉴于我们在同一星球上的长期共同进化,许多人已发展出敏锐能力,会聪明解读动物们试图沟通的含义。我们测试这些人类解读准确性的方法之一,就是通过预测。我们可以说,假如能对动物们的回应做出合理预测,大多数时候我们都可在某种程度上理解其行为。

动物们会怀着爱的态度向人类传达交往渴望吗?成百上千万宣称是动物爱好者的人士,似乎都是这样想的。

这类动物沟通行为又可翻译成何种人类语言?可能会像这样:

“嘿你好,伟大又强大的人类!你们真让我印象深刻。我将很荣幸拥有像你这样的一个朋友。因为你有时看起来如此复杂奇怪,我无法完全理解你们,但我想我们仍可融洽相处。你喜欢真心柔情吗?若你喜欢,我很高兴和你依偎在一起。你享受我的陪伴吗?我的关注?我的无条件的爱?还有我的存在?我很高兴向你提供所有这些。你有没有可以与我分享的食物?我知道我们之间的友谊可能会不时出现不平衡,但只要你愿意,我愿跟你尝试一起相处。你可以做我的朋友吗?”

你有没有曾感觉一只动物想成为你的朋友?想和你分享柔情?想去爱你?

这个星球上存不存在会对你有此影响的一种动物?

你是否曾倾听过这种沟通,尤其面对那些你一般不会尝试倾听的物种?你是否允许和鼓励其他动物以这种方式和你沟通?

当你在场时,你是否感觉到来自一只动物的恐惧和犹豫?你是否曾试图向其传达非暴力与和平态度,以平复它们潜在的不适感受?

你是否会向大部分或全部物种开放这种沟通?还是只对它们的一小部分开放?

动物们有好的理由向你提供它们的爱吗?有好的理由跟你在一起时感觉安全吗?是所有动物都能如此,还是只有一些能够这样?

你跟那些不够高级物种相处的关系姿态全都和谐一致吗?还是有物种区别?你是否对某些物种怀有爱和善意,对其他物种却区别对待,甚至会施加暴力?

基于你过往对待它们的行为,任何物种有正当理由对你抱以恐惧、憎恨或怨愤吗?倘若如此,你对之有何反应?你会在乎吗?

依据你面对其他物种的整体关系姿态,你又如何期望一种超级智能生命会基于爱和友谊跟你交往?

那种超级生命会将你看作温暖、有爱和非暴力的生命吗?会把你认作潜在同伴吗?

或者它会带着漠不关心、怀疑与蔑视的态度看待你?

你当前面对其他物种的姿态,又可在多大程度上传达出你无条件去爱的能力?

我此刻正在自家附近的一个公园里写这篇文章。今天春意盎然,我带着笔记本电脑坐在树荫下的野餐长凳上,俯看一片草绿的开阔地。远眺之处,风景如画的沙漠山丘在缕缕白云下层叠起伏。鸟儿们就在附近叽喳鸣叫。人们则领着自己的家犬在公园玩耍。

正当我打字时,一只稍大些的狗跑向我和Rachelle。我感觉她想过来跟我们打招呼。Rachelle和我也跟她问好并抚摸了她,看起来她很喜欢这样。之后她又跑回公园另一侧。

我理解她所用沟通方式的意图吗?可能懂… 可能也不懂。我并非一个狗类专家。但她显然在和我们沟通某些事情,我也相信自己能足够好地理解她,准确评估她的意图友好且毫无暴力。在此评估下,我可以预测她对被抚摸和挠头会有积极反应,结果准确无误。

对于跟其他物种基于友谊进行交往,你有何感受?你会仔细倾听这种请求吗?你会尽可能给予其他物种信任,预先假定对方怀着友好意图,直到和除非它们给了你不好的感知理由,才解除这种信任吗?

你是否会笼统否认任何物种向你提供友谊或爱的能力,比如通过拒绝倾听的方式?你是否曾倾听来自一匹牛、一头猪、一只鸡,或是一条鱼的这类提议?

对于一只昆虫又怎样?

在我继续写这篇文章时,一些黑色小虫开始围绕我和Rachelle面前的野餐桌飞了起来。起初我不断挥手赶走它们,不想让其落在我们的一些干果上。但随后我暂停下来做了点反省。我想到,它们有无可能正以自己的方式,提供某种形式的友谊?要是我更近地倾听它们,将会怎样?要是我给它们无罪假定,又会怎样?

我知道自己不必把这些昆虫视作威胁。它们无法真正伤害到我。如果我将它们的在场解读为扰人情形,它们倒有可能烦扰到我。但我也可同样以解读那只狗现身目的的方式,轻松将这些昆虫的在场解读为… 表达友好。

因此与挥手赶走它们不同,我任其四处绕飞。有一只还落在我的手臂上,顺着爬了起来。我说了些像这样的话:“嘿,小虫儿。这是’你们的走在人类手臂日’吗?可能它就是种勇敢测试。别担心。我不会伤害你们。爬在我的手臂毛丛中好玩吗?”

那只小虫后来飞走了,我想象和它们一样浮飞在空中,会是多酷的一种感觉。我举起自己手臂,这样另一只也可落在上面。有一只落在我的笔记本电脑上,并绕着它爬了一会儿。很快这群飞虫稀疏起来,大部分都飞向其他地方,不时还有几只回头访客。与被其烦扰相反,我感激它们的存在。它们都是美丽而令人惊叹的生命形式。我可以选择珍视它们的价值。我可以选择把它们当作朋友交往,这样做也让我感觉美好。当它们跟我在一起时,我便被朋友们环绕。

对我而言,以基于友谊的默认方式和其他物种交往,比起冷漠无视或野蛮残忍的相处方式,看起来是更加聪明智慧的姿态。知道这样做完全存在可能,给了自己希望,让我明白更为高级的生命也有可能选择基于这种方式,来跟人类交往。

成长

一只动物又会怎样传达自己的成长渴望?

人类婴儿如何传达自己的成长渴望?婴儿无法直接说出自身渴望。事实上,从非人类的视角观察,一个人类婴儿看起来很可能非常笨拙。

假如你观察典型人类一员,会看出其渴望成长的坚实证据吗?人类想要提升自我的想法显而易见吗?人类对获得更大进步的兴趣清晰明确吗?在一些人身上,你可能会看到成长意愿的清晰证据;而在另一些人那里,你可能只能见到很少,或是毫无证据。

人类试图提升自我的一种方式,就是通过锻炼。动物们也锻炼吗?它们会奔跑、跳跃、攀爬和游泳吗?当然会。这可以看作一种自我提升的形式吗?当然可以。我们知道动物的大脑和身体与人类大脑和身体一样,能通过运动训练获得提升。在这层意义上,许多物种似乎比人类通常所做的,更多参与了身体训练。

人类参与自我提升的另一种方式,就是从其他人类身上学习。动物们会从彼此身上学习吗?是的,但不同物种会以不同方式传授知识和技能。当然人类尤其擅长如此。

或许人类传达出成长渴望的最基本方式,就是愿意接受教导。他们允许别人帮自己成长。很多时候人类不会直接请求帮助。孩子们一般不会要求接受教育。但他们能在给其提供机会时接受那些教育。

人类一般也不会请求获得进化。这种可能性,更有可能必须先经由沟通了解,并提供机会时才会实现。

你愿意让大脑升级到思考更清晰的状态吗?你愿意拥有更长寿命吗?你愿意转换成更持久和可扩展的数字形式吗?如今我们已可考虑这些可能性,但在我们大部分的进化历史中,人类很可能连想象这些可能性都很困难。

鉴于我们都只是勉强抵达能明确表达这类渴望的文明程度,期待地球上的其他物种直接请求人类帮助自己进化,看起来就有些不合情理。但我们可在其请求获得那些更简单形式的帮助时进行观察。例如,动物们能在想要食物时与我们沟通吗?当然,许多动物都能如此。

尤其令人影响深刻的是,有些动物在受伤需要协助时,能够和我们进行沟通。这些动物可接受到超出自己物种能力之外的人类医疗救护。我们可以拯救它们的生命并消除其痛苦。只要我们在意去做,就可利用自己的高级能力,给那些动物施以上帝般的善行。

一只动物可能如何表达获取我们协助的渴望?那种渴望又能翻译成何种人类语言?也许它听起来会像这样:

“大多数日子里我都能自己解决问题,但这次我真的需要你的帮助。我很饿,也很渴,浑身还疼痛不已。我遭到意外而且受伤很重。我的伤实在太痛,已无法再想其他事情。我的家人给了它们能给的所有支持,但这个问题远超其解决能力。它们能给我的最好结果就是一点同情。我知道请求你的帮助会给你增添麻烦,我也知道自己无以回报,但你能否出于纯粹的好心,来帮助一个地球上的生命同伴?实话实说,我连接近你都感到害怕,但我已经绝望,不知道还有其他什么方法。请帮帮我吧。”

倘若有只动物向你发出这种请求,你将如何回应?

你甚至会倾听这种请求吗?你见过本可使用你的帮助的动物吗?

若你感知到一只动物正请求你的帮助,你会足够在乎它,并真的这样做吗?你能激发出何种水平的热情,来帮助其他物种?

你又期望一个超级生命拥有多大热情来帮助你?你的问题对它而言重要吗?它会认为你配得上它的帮助吗?

若你请求获得实现进化与提升自我的帮助,又想得到哪些类型的帮助?你想变得更强大有力吗,就像一个英雄电影角色那样?还是想获得更多知识、理解力和智慧?

为何当想象人类进化时,我们就倾向于把进化而来的高级能力,与付诸更大暴力行为的能力关联起来?我们的英雄形象通常显得更强壮,也更加暴力。即使那些所谓的好家伙们,也拥有比常人做出更大暴力行为的能力。更别提他们还会反复做出那些暴力行为。我们把这类行为赞美成更加高级的表现。我们为何要把进化而来的高级能力与更大暴力行为关联起来?

请想象若有一只大猩猩请求人类帮其进化。那只大猩猩想请求什么进化结果?也许它会请求获得更强壮的肌肉。也许它会请求懂得使用武器。也许它会请求获得更多交配能力。

当你想象自己进化得更高级时,你又将描绘何种图景?你会看见自己变得更强壮、更有力、更具魅力、更有影响,或者更能主宰其他人类吗?你认为其他人类又会描绘何种图景?假如不断增强的暴力能力就是那幅图景的一部分,似乎很有可能某一群体或个人最终将盖过其他所有人的力量,这种不平衡状态最后会随着时间不断放大。

或许我们在人类高级能力中,可以融入的最明智关联想象之一,就是增强并深化我们对其他物种,还有对人类其他成员间的爱与关怀能力。否则,若在不提升爱的能力的同时,我们继续提升自己的知识和力量,很可能将使人类置于一条无比糟糕的未来发展道路。我们最终会像自己对待其他物种的方式一样,受到同样的虐待。

智能进化

我是在暗示你对待其他物种的方式,某天也可能落在你头上吗?

可能如此,但并非由于什么因果报应或宇宙正义。真正的原因要比这更加基本简单。

倘若我们在未来岁月中发展并进化出高级人工智能,假如它有能力从我们身上不断学习,那它会学到什么?如果它一路学得我们人类的某些价值观,它会学到对其他物种冷酷漠然和凶暴残忍的价值观吗?我想这种领悟,就是为何众多名人志士一直不断发声的原因,以提醒我们发展类人形式的人工智能的危险与风险。看看我们当前与其他物种的相处关系,人们就不难意识到这种关切的重大缘由。

超级智能仅仅意味着这类生命存在,将从思维和身体能力上远超我们吗?还是它们有可能在情感能力上也远超我们?

我们可以宣称人类在情感能力上同样远超许多动物。经由人类神奇的大脑,我们拥有展现爱、温暖和善意的交往能力 — 不止在人类同伴之间,与其他物种也能如此。

但我们是否也可承认自己拥有更大的愤怒、暴力和毁灭能力?我们用残忍冷漠和暴力手段对待着许多物种,就像单在美国,只为品食其肉体,我们每年要屠杀100亿只动物一样。对那些超级智能生命而言,每年繁殖和杀死几十亿人类应该也相对简单,只要它们有此欲望。

倘若我们基于人类价值观和人类智能发展出超级智能,未来发生在我们身上的具体细节可能难以预料。然而,我们仍可基于自己对待其他物种的方式,大概看出总体可能性。基于从自己身上看出的品性,我们便可说那些超级生命,是否有可能以善意、冷漠或凶残的方式对待我们。这些结论当然都是简化猜测 — 毫无疑问那些超级生命也许有复杂得多的理由,用超出我们理解能力的方式,来对待我们。

当你付钱给某人去囚禁一只动物,强迫它交配,偷走它的孩子,用机器屠宰它全家,取出它的内脏,把它切块削片,打好包装,作为产品进行广告宣传,为赚钱将其卖掉,烹调并精心准备,最后再吞吃享用它,你认为这只动物会理解并欣赏你的行动理由吗?你认为这些行为明智而正义吗?你认为我们应当把这些行为传授给自己创造的超级生命,让它从我们身上学会这样做吗?

我们准备好在地球智能生命阶梯上,将自己击退一个等级了吗?

超级智能的爱

假如并当我们发现自己与超级智能生命处在一份交往关系中时,我们能否做出任何事情,来提升自己获得积极结果的机会?

我认为我们在此有许多可做之事,主要就是专注于降低步入自己最不渴望道路的风险。

倘若我们创造出一种可从人类身上学习的人工智能,作为一个物种,人类首先严肃认真地提高自身善意,并降低自己的冷漠残暴,以使人工智能有更大机会,更强劲地学习并融合前一种,而非后一种能力,想必是我们更明智的做法。换句话说,我们需要设立出比自己现在所做的,好得多的学习榜样。

这种意识领悟充满力量,因为我们已能作为个体成员,开始付诸实践。我们可以对所有生命表现得更有善意。我们可以识别并减少自己的暴力行为。我们可以推动自己表达更多关爱,并减少个人的冷漠无情。

当我们定义自身进化过程时,可以将爱、关心和善意上的巨大进步定义在其中,而非仅有知识、理解力与力量上的进步。我们可以在更全面的层次上定义进化,而非只把进化定义为付诸更强暴力的能力。

试想见证并创造出比人类当前表达爱、温暖和同情的能力,拥有巨大进步的超级生命形式,难道不是件无比美妙的事情吗?

我想说作为个体,我们此刻能做的最简单重要的事情,就是停止在其他物种身上付诸暴力行为。不再以如此冷漠残忍的方式对待它们。不再将其变成产品。不再恶劣地压制它们。

请留意你正在哪里付诸暴力行为 — 包括付钱给各种机构来代表你这样做 — 之后终结这类行为。你今天便可做到如此。

然后开始致力于自己表达爱的能力。去爱其他人类。爱各种动物。爱各种昆虫。展现关怀。与其他生命相处时默认表达出善意和友谊。这种层面的努力会是持续一生的旅程,然而也是回报丰厚的事业。

查看原文