过去三年内人类最重要的两天
第一个日期是2022年11月30日(北京时间),OpenAI放出ChatGPT-3.5。
第二个日期是2024年09月13日(北京时间),OpenAI放出ChatGPT-o1。
24年6月和25年6月的对比
中国高考:2024年6月最高者勉强及格、2025年6月最高接近满分。
AIME数据集也类似。
注定会成功
在第一个日期之后,虽然OpenAI没有放出技术细节,但其他公司都知道,往这个方向(RLHF)走,肯定会成功。第一个跟上的是Google的Bard。
在第二个日期之后,OpenAI同样没有放出技术细节,但其他公司也都知道,往这个方向(Chain of Thought)走,肯定会成功。第一个跟上的是Google的Gemini和DeepSeek的R1。
语言模型的未来
鉴于人类对于语言模型为何成功知之甚少,下一次突破可能就发生在明天,也可能永远不会出现。
利用语言模型
想一想什么是现在能做而十年之前做不了的?
我认为有两个方向未来十年内一定会成功,一是破译动物的语言,二是给瘫痪患者用的语音解码脑机接口。