马斯克:我最大的恐惧是AI

每经编辑:杜宇,宋欣悦当地时间5月23日,在第八届“欧洲科技创新展览会”(Viva Technology)上,特斯拉CEO埃隆·马斯克(Elon Musk)通过视频连线发表了前沿观点,并在随后的远程采访中与主持人展开了深入交流,同时积极参与了现场观众的问答互动。…

每经编辑:杜宇,宋欣悦

当地时间5月23日,在第八届“欧洲科技创新展览会”(Viva Technology)上,特斯拉CEO埃隆·马斯克(Elon Musk)通过视频连线发表了前沿观点,并在随后的远程采访中与主持人展开了深入交流,同时积极参与了现场观众的问答互动。在这次讲话中,马斯克谈到了AI对未来工作及教育的影响、AI的开发与监管、xAI真实性追求、火星探索等多个重要话题。

图片来源:截图于Youtube

核心内容

1、关于AI与工作

在未来,没有人需要工作,就算要工作也只是出于热爱,工作将会是一种“选项”。

2、关于AI与教育

AI将极大地影响教育,AI是一个非常知识渊博的老师,并且可以根据每个孩子的具体情况量身定制课程,就像每个孩子都有像爱因斯坦一般的老师。

3、关于对未来的希望和恐惧

我的最大的希望,用一个词来说,那就是火星;我的最大的恐惧,用一个词来说,那就是人工智能。

4、关于火星探索

我们预计七到八年内,人类将登陆火星,五年内重返月球。

5、关于加征中国电车关税

我不赞成向中国电车加征关税,特斯拉在中国激烈的市场竞争下,也没有被区别对待。任何抑制自由交换或扭曲市场的事情都是不好的。

图片来源:截图于Youtube

马斯克首先提到了Neuralink技术在恢复脑损伤患者功能方面的巨大潜力,指出“通过植入式设备,几乎任何大脑或脊柱的损伤都可以解决。”他进一步阐述了Neuralink的最终目标:“拥有一个高带宽接口,以减轻数字超级智能的风险。”马斯克认为,这样的技术不仅能够解决健康问题,还能“使身体重新焕发活力”,甚至让瘫痪者重新行走,其影响“将具有相当深远的意义”。

在被问及创建xAI的原因时,马斯克表达了对当前AI研究缺乏追求最大真相的担忧,认为“对AI来说最安全的事情就是最大限度地寻求真相”,并强调了xAI将致力于此目标,力求建立一个有益于人类的AI,避免训练出“超级智能撒谎者”,他反复强调:“诚实才是上策”。马斯克还表示,xAI正致力于此,承诺“始终发布一个超越当前开放源码模型的模型”,以提高透明度和促进健康的竞争。

在教育领域,马斯克认为AI将带来革命性变化:“AI是一位知识渊博的老师,非常有耐心,几乎总是正确的,并且可以专门为孩子量身定制课程。所以,就像每个孩子都有像爱因斯坦一般的老师,这肯定是影响巨大的。”但他同时警告,当前社交媒体上的AI算法对儿童的影响堪忧,建议家长限制孩子接触社交媒体的时间,以免他们受到“多巴胺最大化”的负面影响。

对于工作被AI取代的担忧,马斯克表示:“在一个良性的情况下,可能我们都没有工作。但在这种情况下,将会有普遍的高收入。任何人所做的任何工作都将是一种‘选项’。如果你把工作当作一种爱好,那就去做。”

当被问到对加征中国电车关税的看法时,马斯克持反对态度,表示:“特斯拉在中国激烈的市场竞争下,也没有被区别对待”,还提到,“任何抑制自由交换或扭曲市场的事情都是不好的。”

马斯克还表达了对火星探索的雄心壮志,预计五年内实现无人星际飞船着陆火星,七至十年内送人类登陆火星。

最后,当被问及个人的希望与恐惧时,马斯克说:“如果非要用一个词来表达我最大的希望,那就是‘火星’,火星将确保人类意识的长久存活;而我最大的恐惧,用一个词来说,就是‘人工智能’”。

以下为马斯克与主持人对话以及观众问答环节的节选:

主持人:我想问一下关于Neuralink的问题,但在我提出问题之前,我们来看一段病人的视频。埃隆,看完这个视频你肯定很感动吧?

马斯克:是的。我认为我们可以帮助很多脑损伤的人。通过植入式设备,几乎任何大脑或脊柱的损伤都可以解决。因此,我们拥有的第一部分称为“心灵感应”,它可以让你只需通过思考,就能使用手机或电脑。你可以闭上眼睛移动光标,从大脑运动皮层读取信号。接下来的产品是Blindsight(盲视),这将使那些失去双眼或完全失明的人能够看到,它直接与大脑的光学处理区域接口。我认为这是一个有趣的进展。

Neuralink的最终目标是拥有一个高带宽接口,以减轻数字超级智能的风险。我并不是说这一定会减轻风险,只是可能会有所帮助。这有点深奥,但我认为,长期来看,限制人工智能对齐的因素可能是带宽。我们能多快与数字第三自我交流?现在,我们已经在边缘系统和皮层之上有一个数字第三层,也就是我们的手机、电脑和所有电子设备。但与他们的通信速度非常慢。人类每秒输出的持续比特数远低于10比特每秒。所以,如果你想想,特别是如果你说在24小时内,它低于每秒5比特。所以它非常慢,而计算机能够以每秒数万亿比特的速度进行通信。

所以我认为这对于人工智能的协调来说很重要,因为它能够将通信带宽增加好几个数量级。在此过程中,它将解决大脑和脊椎损伤问题。我认为,它最终有可能使身体重新焕发活力。因此,如果你从一个神经链接中获取运动皮层的信号,然后将它们发送到另一个神经链接中,该链接就在被切断的脊髓的旁边,你基本上是从运动皮层分流信号并调动感觉信号。你需要到达体感皮层和运动皮层,然后分流信号,你应该能够让人再次行走。所以我认为这将具有相当深远的意义,而且,我相信这在物理上是可以实现的。

主持人:这是非常让人印象深刻的。我想谈谈你的xAI,我不知道你是否意识到这一点,但似乎你认为这源于你对OpenAI的做法不满意。也许你可以先详细说明一下,为什么你对OpenAI感到沮丧,以及原因是什么?其次,你对xAI有什么期望?

马斯克:我真的很关心所有主要的人工智能公司。我的意思是,最大的两家公司显而易见地是Google DeepMind和OpenAI,后者与微软合作。所以你有谷歌DeepMind和OpenAI以及微软作为最大的两家参与者。第三名可能是Meta。我担心的是,这似乎是一个小问题,但我认为这实际上是一个非常大的问题,就是没有在追求最大的真相。我认为对AI来说最安全的事情就是最大限度地寻求真相,即使真相不受欢迎,这一点非常重要。然后我认为另一个因素是它必须非常好奇。我认为,如果它是寻求真相并且充满好奇新的,那对人类将是最有益的,因为它会想要看到并促进人类的发展。我认为训练超级智能撒谎是非常危险的。因此,对于xAI,我们的目标是尽可能地追求真理,即使部分真理会不受欢迎,我认为这非常重要。

主持人:我们在那次会议前,与约书亚·本吉奥(Yoshua Bengio)进行了对话,你非常了解约书亚,你和约书亚去年签署了一份要求暂停的声明,显然,这份声明并没有得到实际行动,你能谈谈你的想法吗?

马斯克:当然预期这个声明是徒劳的。我只是觉得这个声明会起作用。我只是想声明一下,我认为我们应该暂停。但是我认为他们会停顿一秒钟吗?绝对不会。

主持人:你现在已经决定创建自己的AI。

马斯克:要么做旁观者,要么参与进来,但数字超级智能的创造无论我喜欢与否,都会发生。所以要么参与进来,尽量建立一个对人类最有益的AI,或者眼睁睁地看着别人做,并关注它是如何被制造出来的,因为我不认为它是正确的。但你应该把人工只能看作是一种,就像抚你养孩子一样,你要教孩子什么。而数字超级智能的成长,重要的是你的鼓励和禁止,你教给它的东西是好的还是坏的。这有点像你用价值观来构建它一样。所以,我担心的是,有微软、OpenAI或者像谷歌这样价值观。

观众:我们如何确保AI在各种不同的开发过程中,保持透明和问责制?

马斯克:很长一段时间以来,我一直认为对大型模型进行一些监管是必要的,我其实说了很久了。回到我之前说过的,我认为非常重要的是,人工智能应该被训练成诚实的,这点我一直在强调。但确实,正如俗话所说,“诚实才是上策”,这非常重要。

--------------------------------------------------------------------------------------------

观众:我们都知道你在公众面前的形象,这是一个我们喜爱的角色。你是否认同这个角色?如果认同的话,你是如何确保自己的言行都符合这个角色的定位呢?

马斯克:我不看关于我的新闻,我很少读关于我的新闻文章。即使是沃尔特·艾萨克森(Walter Isaacson)的书,我也问沃尔特,我应该读这本书吗?他说不。所以我甚至没有读关于我的书。我其实不太清楚公众的看法是什么。新闻的本质就是会引人猎奇,它很可能会被夸大,因为听起来越疯狂的东西,点击量就越高,很多事情都是如此。所以,我认为最好是直接看某人自己说的话,而不是看关于他们的报道。

--------------------------------------------------------------------------------------------

观众:人们对你们承诺在一个像比亚迪可以生产一辆价格约为10000美元的汽车的市场推出一款低成本电动汽车存在着一些疑虑。拜登政府征收的100%关税是你们推出这款低成本电动汽车所需的绿灯吗?如果是的话,交付的时间表是怎样的?

马斯克:我真正想说的是,特斯拉和我都没有要求这些关税。事实上,当宣布对中国电车加征关税时,我很惊讶。特斯拉在中国激烈的市场竞争下,没有被区别对待。所以,我是支持零关税的。我也支持对电动汽车取消税收优惠,但前提是对石油和天然气的税收优惠也必须取消。所以我支持取消电动车和石油天然气的关税和激励措施。如果它们都被取消,我认为那是最好的。

主持人:所以这又回到了你所说的真相的话题。你希望价格是真实的。

马斯克:我认为,任何抑制自由交换或扭曲市场的事情都是不好的。

--------------------------------------------------------------------------------------------

观众:我想知道你对雅诗兰黛和NASA或科普尼克和NASA最近的合作有什么想法,以及你是否想与SpaceX进行任何行动,你想开发什么?

马斯克:SpaceX我们非常专注于Starlink星座计划,用于互联网连接,我认为这对世界有很大的帮助。它将互联网连接带到了没有或者非常昂贵的地方。我认为这是教育的重要推动者,还有,使人们能够国际销售他们的商品和服务。所以即使你是偏远村庄,你也可以销售你的商品和服务。所以Starlink是很棒的。而且SpaceX的长期目标当然是使生活多行星化。

但SpaceX的目标是通过单星球费米级过滤器。所以人们经常问我,我是否认为地球上有外星人?实际上,我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证,如果我看到任何外星人的证据,我会立即发布在X平台上。这点你可以放心。

但令人担忧的是没有外星人,因为这意味着也许我们在这个银河系里是孤独的。也许只有我们。也许至少在这个银河系里我们是唯一有意识的生物。在这种情况下,意识是非常脆弱的,我们应该尽一切努力保护和延长意识之光,在地球上保存并延伸到其他行星。所以你知道,其中一个人们认为,也许我们还没有接触外星人的原因之一是因为没有一个文明在我们的银河系中越过了自己的母星。

我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次有可能实现这一点。直到现在这是不可能的。所以我认为我们在有可能的时候要成为可持续的多行星文明。那个能力窗口可能会打开很长时间,但它也可能只会打开很短的时间。这就是SpaceX的目的。

--------------------------------------------------------------------------------------------

观众:xAI能否承诺始终发布一个超越当前开放源码模型的模型,即使它不是你们最好的模型,但如果它可以击败当前最好的开放源码模型,你会承诺发布它吗?

马斯克:是的,我会做出这个承诺。

--------------------------------------------------------------------------------------------

观众:你对未来五年的电动汽车充电基础设施有什么预测?

马斯克:实际上,我认为有很多充电基础设施。你可以在整个欧洲范围内使用特斯拉超级充电站进行出行。而且欧洲实际上有很多非常好的第三方超级充电站。在北美、中国和日本的任何地方都可以出行。所以我认为实际上,高速充电的出行自由在世界大部分地区已经得到解决,并且将在所有地方得到解决。

--------------------------------------------------------------------------------------------

观众:我想知道如何让人们意识到AI的危险性?我能和xAI安全团队聊聊吗?

马斯克:我确实认为数字超级智能存在一些危险。正如我之前所说,我认为最大的问题是它必须接受严格的真实性训练,而且必须接受好奇心的训练。而且我长时间以来一直在思考人工智能的安全性问题。

我认为,监管者应该关心的是,人工智能是否接受了严格的真实性训练?它是否给出了一个在公认的误差范围内最可能正确的答案?我认为这是人工智能的最佳举措。这就是我们在xAI试图做的事情。现在,xAI是一家新公司,所以在与谷歌DeepMind和微软OpenAI竞争之前,它还有很多工作要做。我认为也许在今年年底,我们会做到这一点。但努力达成这一点没有太大意义,我们只需要拥有一种具有竞争力的人工智能,这是当务之急。

如果它没有竞争力,目前它还没有,但我认为它会有的,那么事情就开始有意义了。当它开始变得有竞争力的时候,我们需要开始担心安全问题,与其他人工智能相当强大。我一直在强调这个点,真实,真实,真实。这非常重要。有时人们会说,是否存在客观真理?要我说,在很多情况下是存在的。在物理学中,就存在客观真理,或者说有最高概率的真理,这有点像物理学家的安全方法。

我一直在重复自己的观点,诚实才是上策。

--------------------------------------------------------------------------------------------

观众:我们发现很多工作都被AI取代了,你担心你的工作被AI取代吗?如果不担心,为什么?如果你的工作被AI取代,你会怎么做?

马斯克:在一个良性的情况下,可能我们都没有工作。但在这种情况下,将会有普遍的高收入,而不是普遍的基本收入。不会出现商品或服务短缺的情况。我认为这是最有可能的情况,有80%可能性。在我看来,问题不会是你缺乏商品或服务。每个人都可以获得他们想要的商品和服务。

这个问题很有意义,如果计算机和机器人可以比你做得更好,那你的生活还有意义吗?这就是良性情况下的问题所在。而在消极情况下,我们会有大麻烦。所以,我认为人类或许仍然有机会,即我们可以赋予人工智能意义。你想想我们大脑的工作方式是怎么样的。我们有边缘系统,也就是我们的本能和情感;我们有大脑皮层,负责思考和规划。但是大脑皮层一直在努力让边缘系统快乐。也许和人工智能的关系就是这样,人工智能试图让我们的大脑皮层快乐,也试图让我们的边缘系统快乐。也许我们是赋予了人工智能意义或目的。

但我确实认为,从长远来看,在良性发展的情况下,任何人所做的任何工作都将是一种“选项”。如果你想把工作当作一种爱好那就去做。但除此之外,人工智能和机器人将提供您想要的任何商品和服务。

主持人:在未来,没有人需要工作,就算要工作也只是出于热爱。

马斯克:我想,这就是最可能的结果。

--------------------------------------------------------------------------------------------

观众8:我的问题是,你认为这会影响下一代孩子关于价值观和道德方面的教育吗?

马斯克:我认为父母仍然会负责价值观和道德方面的教育。我确实认为AI会极大地影响教育,因为AI是一位知识渊博的老师,非常有耐心,几乎总是正确的,并且可以专门为孩子量身定制课程。所以,就像每个孩子都有像爱因斯坦一般的老师,这肯定是影响巨大的。但我确实担心,现在的孩子们接受着社交媒体的训练,而社交媒体中的人工智能算法基本上是多巴胺最大化者。因此,它们试图通过观看屏幕来最大化你获得的多巴胺量。我会建议父母限制孩子能够看到的社交媒体的数量,因为他们受到了一个多巴胺最大化的人工智能的编程。

--------------------------------------------------------------------------------------------

主持人:我在背景中看到数字“42”,生命、宇宙以及一切的答案。实际上,这让我想起另一本值得一读的书,道格拉斯·亚当斯的《银河系漫游指南》。

马斯克:那是一本哲学书,只是以幽默的方式进行伪装。所以,一直值得阅读《银河系漫游指南》,我发现这对我相当有启发。

第一艘前往火星的星际飞船将被命名为“黄金之心”,以向《银河系漫游指南》中的飞船致敬。SpaceX的目标是让任何想要前往火星或月球的人都能够负担得起,让更多的地球人成为可能。这是我们的目标,为了在火星建立一个自给自足的文明是必不可少的。为了实现火星上的多重生命,显然需要将大量人员送往火星。

正如我所说,我认为这对于意识的长期生存是非常重要的。因为最终地球上将会发生一些事情,这些事情将会消灭我们所知的生命,就像恐龙那样灭绝一样。并且在化石记录中发生了很多次。所以,你知道,希望是随时会发生的,但最终,总会出现某种自然灾难,使我们所知的地球上的生命消失,即使我们自己没有消灭它。所以,我觉得这非常非常重要,我们要趁现在,把生命延伸到其他行星上。这意味着让移居火星和月球变得尽可能地负担得起。

--------------------------------------------------------------------------------------------

观众10:我对旅行和冒险非常热衷,我想问你,我们什么时候去火星?

马斯克:我认为我们希望在五年内将第一艘无人驾驶的星际飞船成功着陆到火星,以及月球。我认为,在五年内可能会有人登上月球。然后大概在10年内将人类送上火星。我觉得不到10年,也许七八年。

主持人:你是说你们能在七八年内登陆火星?

马斯克:是的。

-------------------------------------------------------------------------------------------

观众:我想知道,关于电动汽车,埃隆·马斯克和特斯拉在未来几年有什么创新项目?

马斯克:我们不想在问答环节中进行产品发布,那是毫无意义的。我们的产品活动就是产品活动。但是显然,有些事情大家已经知道了,比如机器人出租车和Optimus人形机器人,这些都是意义非常重大的。

--------------------------------------------------------------------------------------------

观众:埃隆·马斯克,你和弗雷德里克几年前说阿丽亚娜5号火箭没有任何机会存活。你会对今年七月将发射的成本更有效率的阿丽亚娜6号火箭也持同样观点吗?

马斯克:任何至少有大部分是可以重复使用的,没有竞争机会。所以,猎鹰9号的助推器,主级火箭,都是可重复使用的。并且航天器的整流罩也是可重复使用的。所以大约80%的飞行器都是可重复使用的。一架一次性的飞行器根本无法与可重复使用的飞行器竞争。

而且,这个道理在任何领域都是适用的。如果是汽车、飞机或者船只,如果有一家公司制造可重复使用的飞机,或者80%可重复使用的飞机,而另一家公司制造的飞机只能用于一次飞行,那么制造一次性飞机的公司根本无法生存,因为你每次飞行都得购买一架新飞机。所以这就是为什么多年来我一直说开发不可重复使用的火箭是完全没有意义的。

--------------------------------------------------------------------------------------------

观众:人们喜欢ChatGPT,但单方面讨厌大多数网站的聊天机器人体验,需要什么来弥合这种差距?

马斯克:我不确定我完全理解那个问题。我同意ChatGPT在聊天方面非常出色。就像我说的,我担心的是它并没有严格追求真理,这是一个很大的问题。因此,xAI的Grok至少会尽力严格追求真相。而且,我们还希望尽量成为最搞笑的人工智能。我认为,如果我们要死,至少我们应该笑着死。我们正在努力让Grok成为最搞笑的人工智能。

--------------------------------------------------------------------------------------------

主持人:在你离开之前,我想你用一个词去描述你最大的希望,再用一个词去描述你最大的恐惧。

马斯克:我没有一个词可以完全表达我的希望和恐惧。但如果非要用一个词来表达我最大的希望,那就是“火星”。火星将确保人类意识的长久存活。而我最大的恐惧,用一个词来说,就是“人工智能”。

每日经济新闻

网友看法

1、网友勤学慎思明辨笃行:我现在每天也是被按设定程序运行,但是都是被人控制. 要是能选择被ai控制,我还是选ai,终究它本来没有人性,我也没期望他有人性,这样我的落差感变小,幸福指数会高一点.

2、网友无双星星4y:我最大的恐惧是穷

3、网友追风筝的人a:马斯克为什么说五年内登上月球吗?美国上世纪就上了月球了吧

4、网友虾巴拉巴拉:曾仕强:人类最终会被科技消灭

5、网友人生过客对对对:转发了

6、网友欧鹏码农:转发了

相关推荐

联系我们

联系我们

13630457012

在线咨询: QQ交谈

邮箱: 79111873@qq.com

工作时间:周一至周五,9:00-17:30,节假日休息

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

返回顶部