过去三年内人类最重要的两天

第一个日期是2022年11月30日(北京时间),OpenAI放出ChatGPT-3.5。

第二个日期是2024年09月13日(北京时间),OpenAI放出ChatGPT-o1

24年6月和25年6月的对比

中国高考:2024年6月最高者勉强及格2025年6月最高接近满分

AIME数据集也类似。

注定会成功

在第一个日期之后,虽然OpenAI没有放出技术细节,但其他公司都知道,往这个方向(RLHF)走,肯定会成功。第一个跟上的是Google的Bard。

在第二个日期之后,OpenAI同样没有放出技术细节,但其他公司也都知道,往这个方向(Chain of Thought)走,肯定会成功。第一个跟上的是Google的Gemini和DeepSeek的R1。

语言模型的未来

鉴于人类对于语言模型为何成功知之甚少,下一次突破可能就发生在明天,也可能永远不会出现。

利用语言模型

想一想什么是现在能做而十年之前做不了的?

我认为有两个方向未来十年内一定会成功,一是破译动物的语言,二是给瘫痪患者用的语音解码脑机接口。