6月10日,OpenAI创始人Sam Altman以视频连线的方式现身于中国北京举办的2023智源
人工智能大会,这是Altman首次对中国观众发表演讲。
Altman在演讲中引用了《道德经》,谈及大国合作,表示AI安全始于足下,各国间必须进行合作和协调。
随后Altman接受了智源研究院理事长张宏江的一对一问答。Altman演讲核心内容:
当下人工智能革命影响如此之大的原因,不仅在于其影响的规模,也是其进展的速度。这同时带来红利和风险。
随着日益强大的 AI 系统的出现,全球合作的重要性从未如此之大。在一些重要的大事上,各国间必须进行合作和协调。推进 AGI 安全是我们需要找到共同利益点的最重要的领域之一。
对齐仍然是一个未解决的问题。GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级,主要分为扩展性和可解释性两方面。
问答环节核心内容:
十年内人类将拥有强大的人工智能系统(AI System)。
OpenAI没有相关的新的有关开源的时间表,开源模型具有优势,但开源一切可能并不是一条(促进AI发展的)最佳路线。
看明白神经网络比看明白人类脑子容易多了。
在某个时候,会尝试做GPT-5的模型,但不会是很快。不知道具体GPT-5出现的时候。
AI安全需要中国研究者的参与和贡献。
注:“AI对齐”是AI控制问题中的最主要的问题,即要求AI系统的目标要和人类的价值观与利益相对齐(保持一致)。