ChatGPT之父Sam Altman七年前访谈马斯克：创建OpenAI的初衷，及未来最重要的事
ChatGPT之父Sam Altman七年前访谈马斯克：创建OpenAI的初衷，及未来最重要的事
瓦砾村夫
马斯克认为，人工智能是最有可能影响人类未来的事情，遗传学可能是第二重要的事。
2016年9月，现今OpenAI CEO，ChatGPT之父，时任创投公司Y Combinator的总裁Sam Altman在特斯拉加州弗里蒙特工厂采访了埃隆·马斯克。马斯克阐述了创建OpenAI的初衷，以及就他而言，对于未来最为重要的五件事。
这是OpenAI的两位联合创始人之间的一次对话，按某位油管读者的评论，宛如“成名前的科比访谈乔丹”。
时间背景：马斯克和OpenAI的渊源
2015年12月
Sam Altman和埃隆·马斯克等六人，亚马逊AWS，Infosys，以及YC Research共同宣告OpenAI成立，并注资10亿美元。
2016年9月
本次访谈。Sam Altman时任创投公司Y Combinator的总裁。特斯拉4月刚发布Model 3新车型，正在搭建自动产线，老马即将深陷“产能地狱”。
2018年
马斯克退出OpenAI董事会席位，声称因他同时担任特斯拉CEO，开发基于人工智能的自动驾驶技术，而可能有“潜在的利益冲突”。
2019年
OpenAI从非营利组织转变为“有限盈利”的营利组织。
2020/2021/2022年
OpenAI相继推出GPT-3模型，DALL-E（通过文本生成图片），ChatGPT等产品。
最重要的事
就最有可能影响人类未来的事情而言，我认为人工智能可能是短期内最重要的事。
我认为，遗传学可能是第二重要的事。
25年前，我认为最重要的（五件）事是：让生命跨越行星，加速向可持续能源的过渡，广义上的互联网，然后是遗传学和人工智能。
选择做有用的事
这就是为什么，创造一些能带来巨大变化的东西，影响少量到中等数量的人，这很棒。但即使只带来了很小的变化，如果能影响大量的人，也一样出色。
如果人们认为，每一年技术都会自动进步，那么，事实并非如此。只有聪明的人们疯狂地工作，努力让它变得更好，它才会进步。这就是任何技术得以进步的真正方法。
我认为你应该永远记住，熵并不在你这边。
我并不是没有恐惧感，我的感觉很强烈。但有时，当一件事足够重要，你足够相信它，你就会不顾恐惧，放手去做。
人工智能风险，创立OpenAI的初衷
我认为，风险并不在于人工智能会源于邪恶而发展出自我意志。令人担心的是，某些人可能会拿它来干坏事，而即使他们不打算拿它来干坏事，也会有人把它拿走，然后用它来干坏事。
我认为我们必须实现人工智能技术的民主化，并让它能广泛使用。而这显然就是整个团队创建OpenAI的原因。
如果我们能改善大脑皮层和“数字化扩展的你”之间的脑机接口，有效地与人工智能融合，你事实上就成了一个人工智能和人类的共生体。
如果这个方案能被广泛获取，任何人都可以拥有它，那么我们也就解决了控制权问题。我们不必再担心某个邪恶的独裁人工智能，因为整体而言我们就是人工智能。
访谈全文
Sam：
今天我们请到了埃隆·马斯克。埃隆，感谢你接受采访。
埃隆：
感谢你邀请我。
Sam：
今天，我们想花点时间谈谈你对未来的看法，以及人们应该往哪些方面努力。
首先，你能否告诉我们，你年轻时曾说过一句著名的话，你认为，对你来说，有五个问题是需要从事的最重要的工作。如果你今天回到22岁，你会想要解决的五个问题是什么？
埃隆：
嗯，首先，我认为如果某人在做一些对社会其他人有用的事情，这就是件好事，不一定需要改变世界。
如果你做的事情对人们来说有很高的价值，坦率地说，即使只是一个小游戏，或者只是照片分享的某种改进，如果它对于大量的人群能带来少量的好处，我认为这就很好。并不一定非得要改变世界，才算是好事。
但是，就最有可能影响人类未来的事情而言，我认为人工智能可能是短期内最重要的事。
重要的是，我们让人工智能以良好的方式到来，让你如果能透过水晶球看到未来，你会欣喜那样的结果，因为就如我们多次讨论的，这件事可能会出错。我们的确需要确保它以正确的方式发展。
人工智能，致力于人工智能，并确保它的未来很美好。这是我认为目前最重要，最紧迫的事情。
然后，显然是任何与遗传学有关的事情。如果你能真正解决遗传性疾病，如果你能通过基因重新编程，预防痴呆症或阿尔茨海默氏症，这就太棒了。我认为，遗传学可能是第二重要的事。
我认为，需要拥有一个高带宽的大脑接口，因为我们目前带宽有限。我们有一个数字化的“第三级自我”，以电子邮件、电脑、电话、应用程序的形式存在。实际上，我们已经是超人了。但我们的大脑皮层和第三级数字形式的自我之间，在接口上的限制相当糟糕。
我认为，帮助解决这一带宽限制，对于未来也是非常重要的。
Sam：
雄心勃勃的年轻人最常问的问题之一是，我想成为下一个埃隆·马斯克，怎样才能做到这一点？
显然，下一个埃隆·马斯克将从事和你非常不同的事情。但你的哪些过往经历，你年轻时做过些什么，对你产生了巨大的影响？
埃隆：
嗯，首先，我应该说，我并不期望参与所有这些项目。
大学期间，那已经很久了，25年前，我认为最重要的事是：让生命跨越行星，加速向可持续能源的过渡，广义上的互联网，然后是遗传学和人工智能。
我想，我并不期望自己参与所有这些项目。事实上，在读大学的时候，我想过，我会从帮助汽车向电动化转变开始。而实际上，我实习时所从事的工作，就是高级的超级电容，看看对于汽车的能量存储来说，是否相对于电池会是一个突破。
然后，当我去斯坦福的时候，这也是我原本要做的研究生课题，研究电动汽车的最新储能技术。
而我搁置了学业，在95年创办了一家互联网公司。因为对于某些特定技术来说，当时似乎的确处于曲线的一个拐点。而我并不想只是在斯坦福大学读博士，然后看着这一切发生，我也并不完全确定我所研究的技术是否真的会取得成功。正如你可以攻读很多方向的博士学位，但最终也没对世界产生实际的影响。
而我只是想成为一个有用的人。这就是一个优化问题，我能做些什么才会真正有用？
Sam：
你认为今天想成为有用的人，需要读取博士学位吗？
埃隆：
大多数情况下，并不需要。有些情况需要，但大多数情况并不需要。
Sam：
那么，怎么样才能成为有用的人呢？
人们应该如何寻求让自己成为最有用的人的方式？
埃隆：
不管你想创造的是什么，与当前技术水平相比的实用性提升是多少，乘以会影响的人数。
这就是为什么，创造一些能带来巨大变化的东西，影响少量到中等数量的人，这很棒。但即使只带来了很小的变化，如果能影响大量的人，也一样出色。
这就像曲线之下的面积。是的，没错，这两种情况，曲线下的面积其实大致相似。是的，努力成为有用的人，有影响的人。
Sam：
然后，当你努力估算成功的概率，你会说，这件事非常有价值，曲线下的面积颇为可观。
我想举SpaceX的例子，当你决定要做这件事的时候，在当时，这是一件非常疯狂的事情吧？
埃隆：
当然，非常疯狂。人们对此并不确定，但我同意，我同意他们的看法，这很疯狂。
如果目标是实现经风险因素调整后最好的回报，创办一家公司的确是疯狂的，但那并不是我的目标。显然我的结论是：如果不做些什么改进火箭技术，我们将永远困在地球上。
而当时，大型航空航天公司对于激进的创新毫无兴趣，他们所想要做的，只是努力让他们的旧有技术每年进步一点点。而事实上，有时他们的技术甚至会变得更糟。特别是在火箭方面，情况相当糟糕。
69年，我们还能用土星五号登月。然后，航天飞机只能把人带到低地球轨道上。然后，航天飞机退役了。我是说，这个趋势，基本上就是趋向于零。
如果人们认为，每一年技术都会自动进步，那么，事实并非如此。只有聪明的人们疯狂地工作，努力让它变得更好，它才会进步。这就是任何技术得以进步的真正方法。
而就技术本身而言，如果人们并不努力工作，它就会退步。你可以看看文明的历史，众多文明，比如古埃及。他们当时能够建造这些神奇的金字塔，然后，他们基本上忘记了如何建造金字塔，再然后，他们也忘记了如何阅读象形文字。
再看看罗马人，他们当时能够建造这些神奇的道路、水渠和室内管道，而他们后来忘记了如何建造所有这些。
历史上有很多这样的例子。我认为你应该永远记住，熵并不在你这边。
Sam：
我很喜欢你的一点，是你异常的无畏，别人说的疯狂的事，你也愿意去做。我认识很多相当疯狂的人，但你仍然很突出。
这一点从何而来？或者说，当所有人都告诉你这是一个疯狂的想法时，你是如何做出决定的？或者，你是从哪里得到了内在的力量，去做这样的决定？
埃隆：
嗯，首先，我想说的是，我其实认为我对恐惧的感受相当强烈。我并不是没有恐惧感，我的感觉很强烈。
但有时，当一件事足够重要，你足够相信它，你就会不顾恐惧，放手去做。
人们不应该这样想：嗯，我对这件事感到恐惧，我就不应该去做。感到恐惧是正常的，如果你不感到恐惧，那一定是你的心理有某种问题。
Sam：
你就感受着恐惧，然后让事情的重要性驱动你动手去做。
埃隆：
事实上，在某种程度上，宿命论有所帮助。如果你接受了概率，那么，这就能减少你的恐惧。
当创建SpaceX时，我认为成功的几率不到10%。而我接受了这一点，事实上，我很可能会失去一切。但是，如果能向前推进的话，也许我们会取得一些进展。即使我们倒闭了，也许其他公司会接过接力棒，继续向前推进，这仍然是一件好事。
是的，特斯拉也一样。我当然认为，一家汽车公司获得成功的几率极低。
Sam：
当前，你认为建立火星殖民的概率有多高？
埃隆：
嗯，奇怪的是，我认为概率还挺高的。
Sam：
那我什么时候可以去火星呢？
埃隆：
好吧，当前，我确定有一个办法，我确定对于建立一个自给自足，不断发展的火星殖民地而言，成功有可能的，我确定这是有可能的。而甚至几年前，我都还不确定是否有成功的可能性。
送足够数量的人去火星，我认为这件事有可能可以在大约10年内完成。也许更快，也许9年。
在那之前，我需要确保SpaceX公司不会倒闭，而且我不会死去，或者如果我死了，有人会接手能继续这件事。
Sam：
你不应该跟随第一次发射去火星。
埃隆：
没错。不过反正第一次发射肯定是不载人的。
Sam：
我想去火星，但我受不了网络延迟。
埃隆：
是的，网络延迟会很明显。
火星离太阳约12光分，而地球是8光分。地球和火星的最近距离是4光分，最远是20光分。会略多一些，因为你们不能直接对着太阳通话。
地球和火星轨道的相对关系
Sam：
说到真正重要的问题，人工智能，你一直对人工智能直言不讳。你能谈谈人工智能的积极未来是什么样子吗，以及我们如何实现这一未来？
埃隆：
好的，我想强调下，并不是我这样倡导，也不是什么条条框框，这纯粹只是一个预测。因为有时人们会说，这是我所希望发生的事情，而不是说，这是现有替代方案中，我认为可能最好的方案。
我可以想出的最好替代方案，也许也是其他人可以想出的最好方案，就是：我们实现人工智能技术的民主化。也就是说，没有任何一家公司或一小部分人能控制高级人工智能技术。
我认为那是非常危险的状况。
它也可能被某些坏人偷走，比如，某些邪恶的独裁者或国家可能会派情报机构偷取它，并获得控制权。一旦你获得了极其强大的人工智能技术，就会变成一个非常不稳定的状况，你就不知道，谁会来掌控它。
我认为，风险并不在于人工智能会源于邪恶而发展出自我意志。令人担心的是，某些人可能会拿它来干坏事，而即使他们不打算拿它来干坏事，也会有人把它拿走，然后用它来干坏事。我认为，这个危险相当的大。
因此，我认为我们必须实现人工智能技术的民主化，并让它能广泛使用。而这显然就是整个团队创建OpenAI的原因。那就是，帮助传播人工智能技术，这样，它就不会被集中在少数人的手中。但当然，这需要与解决大脑皮层的高带宽接口相结合。
Sam：
人类是如此的迟缓。
埃隆：
人类是如此的迟缓，是的，没错。
但是，我们的大脑已经具备了大脑皮层和边缘系统。边缘系统就像是一个原始的大脑，它就像是你的本能。然后，大脑皮层是负责大脑思维的一个部分。
这两个系统似乎可以很好地协同工作。偶尔，你的大脑皮层和边缘系统会有分歧，但一般来说，它们都能很好地协同工作。我还没有发现有人想要切掉他们的大脑皮层或他们的边缘系统的。
Sam：
没错。
埃隆：
是的，这很不常见。
如果我们能改善大脑皮层和“数字化扩展的你”之间的脑机接口, 有效地与人工智能融合，正如我所说，“数字化扩展的你”已经存在，只是有带宽问题，然后，你事实上就成了一个人工智能和人类的共生体。
如果这个方案能被广泛获取，任何人都可以拥有它，那么我们也就解决了控制权问题。我们不必再担心某个邪恶的独裁人工智能，因为整体而言我们就是人工智能。
这似乎是我能想到的最好结果。
Sam：
你看到过很多其他公司，从小规模起步，并获得了真正的成功。
希望我不至于忘记在镜头前问这个问题，作为一家成立六个月的公司，你认为OpenAI的进展如何？
埃隆：
我认为它的进展挺好的。
我认为，我们在OpenAI有一个非常有才华的团队。是的，非常非常有才华的团队，他们工作非常努力。
OpenAI的结构是一个501c3非营利组织。许多非营利组织都没有紧迫感，这没问题，他们不需要有紧迫感。但是OpenAI有，因为人们真正相信它的使命。我认为这很重要，这个使命是关于将未来的生存伤害风险降到最低。
我认为它的进展挺顺利，对于人们在做的事和人才的水平，我的印象很深。显然，我们一直在寻找相信这个使命的优秀人才加入。
Sam：
接近40人了。
好的，在我们结束之前，还有几个问题，你的时间是怎么分配的？你的大部分时间花在哪里？
埃隆：
我的时间主要是花在SpaceX和特斯拉。
当然，我努力每周花一些时间在OpenAI上。基本上，大多数星期我都会花半天时间在OpenAI上。然后，周中也会有一些OpenAI的事务。但除此之外，基本就是SpaceX和特斯拉。
Sam：
那么，在SpaceX或特斯拉时，你会做些什么？你的时间主要花在哪里？
埃隆：
这是个好问题。
我想，很多人认为我一定花了很多时间在媒体或商业的事务上。但其实，我几乎所有的时间，80%的时间是花在工程和设计上，工程和设计。开发下一代产品，花了我80%的时间。
Sam：
你可能不记得这件很久以前的事情了，很多年前，你带我参观了SpaceX。最令人印象深刻的是，你了解火箭和工程技术的每一个细节。我不认为很多人能做到这一点。
埃隆：
是的，我想，很多人认为我是商人或之类的身份，没问题。
但在SpaceX，格温·肖特维尔是首席运营官，她负责管理法务、财务、销售和日常的商业活动。然后我的时间几乎完全花在工程团队上，致力于改进猎鹰9号和龙飞船，并开发火星殖民架构。
然后，在特斯拉，是从事Model 3的工作。有时在设计工作室，通常每周半天，处理美学，界面外观的问题。然后一周的大部分时间是跟进汽车本身的工程工作，以及工厂的工程工作。
我今年最大的感受是，真正重要的，是生产机器的机器，也就是工厂。而这至少比汽车本身难两个数量级。
Sam：
看着机器人在这里工作，而这些车就这样被造出来了，这真是不可思议。
埃隆：
是的，与即将建成的超级工厂和Model 3产线相比，这里的自动化程度算低的。
Sam：
这些汽车在生产线上的行进速度是多少？
埃隆：
事实上，生产线的平均速度是很慢的。包括X和S，可能也只有每秒5厘米，很慢。
Sam：
那你的目标是多快？
埃隆：
我相信我们至少可以达到每秒1米，提速20倍。
Sam：
这就很快了。
埃隆：
是的，这少这个速度。
我认为可以这么看，每秒1米是慢速行走，或者说是中速行走。快速行走是每秒1.5米。然后，速度最快的人类可以每秒跑超过10米。
如果我们每秒只前进0.05米的话，那真的是非常慢。而每秒1米，你的步行速度仍然可以比生产线快。
本文来源： 瓦砾村夫，原文标题：《ChatGPT之父Sam Altman七年前访谈马斯克：创建OpenAI的初衷，及未来最重要的事》
风险提示及免责条款
共有 0 条评论