Lex Fridman采访了Sam Altman,这次采访有快两个小时,基本上谈到了所有需要谈的内容。
包括GPT-5、Sora、董事会闹剧、马斯克、Ilya去向以及最重要的AGI。
强烈建议看一下,我也拿GPT-4翻译了一下视频,并且总结了文本,下面还有对应时间轴快捷跳转,时间有点长,可以收藏之后看。
采访的要点总结:
计算力将成为未来最宝贵的财富之一,人工智能的发展将是一场巨大的权力斗争。
Sam回顾了在OpenAI董事会经历的困难时刻,称其为职业生涯中最痛苦、混乱和令人沮丧的经历,但这些经历有助于增强韧性。
OpenAI正在寻找新的董事会成员,希望引入具有不同专业背景的人才,包括非营利组织、学习型公司、法律和治理等领域的专家。
董事会需要回应全球的需求,而不仅仅是自身利益。
人们对产品发布策略的反思,认为应该更加迭代地发布,避免突然的更新,以满足用户的需求。
GPT-4是一个重要的里程碑,但并不足以改变世界。真正意义上的AGI应该能够显著提高科学发现的速度。
大部分真正的经济增长来自科学技术的进步。
Sam期望首个AGI系统能够回答关于宇宙统一理论和外星文明存在性等重大科学问题。
没有任何一个个体或机构应该对AGI拥有绝对控制权,需要建立一个强大的治理系统来管理AI的发展。
目前AI安全研究者过于关注某些具体的技术风险,而忽视了其他一些重要的问题。
未来编程可能会以自然语言交互的方式进行,传统的编码方式可能会逐渐减少。
OpenAI在机器人领域有一些进展和规划。
虚拟现实技术以其超逼真和照片般的真实感著称,在虚拟世界中很容易迷失自己。
作者对大自然机械化运作的进化机制赞叹不已,尤其是在亚马逊丛林中的观察。
科技发展非常强大且吓人,但作者对宇宙中存在智慧外星文明非常有信心。
人工智能可能更像是人类之间的支撑和社会联系,而不是单个大脑。
人类共同建立的知识基础赋予了我们无比的能力,这种集体创造让作者对未来抱有希望。
尽管有时会提到人工智能的风险,但对于死亡,我们更多的是感激生命中的美好时刻。
在对人工智能未来的展望中,Sam表达了对人类未来的乐观态度,认为人类社会一直在持续进步。
Sam引用了科幻作家Arthur C. Clark的一句话:"在这个星球上,我们的角色可能不是崇拜上帝,而是创造上帝。"
采访的时间轴:
0:00 - 介绍
1:05 - OpenAI董事会传奇
18:31 - Ilya Sutskever
24:40 - Elon Musk诉讼案
34:32 - Sora 44:23 - GPT-4
55:32 - 记忆与隐私
1:02:36 - Q*
1:06:12 - GPT-5
1:09:27 - 7万亿美元的算力
1:17:35 - 谷歌和双子座
1:28:40 - 跨越到GPT-5
1:32:24 - 通用人工智能(AGI)
1:50:57 - 外星人