大脑奖
有点郁闷,随手写写释放一下,这篇文章是给做神经科学的人看的。
今年三位理论/计算神经科学家拿到了Brain Prize。我对他们略知一二(实话)。
先讲个轻松点的—Terry。第二次AI浪潮时,Terry和同事做了一个叫NedTalk的机器(当然是用人工神经网络),它经过训练后,可以读出它从来没见过的文字(有监督学习啦)。这是人类历史上第一个做到这点的机器。Terry在UCSD的食堂做了演示,引发了轰动。现在这种text to audio的东西我天天用,Chrome和Edge都有一个叫Read Aloud的插件,读出来的英文非常自然、真实。
还有一事。Terry在80年代就设想过用人工神经网络破解蛋白质结构,有论文为证。我猜,当时没成功,是数据和算力问题。
Terry后来做过一些测单个哺乳动物神经元的HH model参数的工作。我们上次JC还提到了。
第二位是Haim。Haim和爱尔兰的天才Gardner做过一些和记忆容量有关的文章,我看了一下,不好意思,没看懂,至今也没再看。Haim也是天才,他给我一种大道至简,能看懂我的文章你就懂,看不懂拉倒不关我事的感觉,类似朗道。
天赋是和人比较的。我是千里挑一,但不是百万里挑一。我记得小学时发新数学教材,我几个小时就自己看懂了,初中时,几天。不过初三看高中的数理就没看懂,我当时还特别不理解为何三角函数里的θ可以不在0到90度之间。本科的狭义相对论,我学了四遍才理解(比如为什么用狭义相对论可以和推迟势得到同样的结果)。Error Back Propagation,我第三次看才看懂(还好这是自学学会的)。我读过丘成桐、严济慈、杨振宁、李政道的自传,这四位自学高中和本科课程完全无压力,甚至严济慈和杨振宁高中本科时就给几百个学生讲过课、写过教材。我自学本科的东西就很吃力了,通常我会去互联网找视频,很少能看书看懂。
乐,想起我高中有个同学做到了迅速自学和给同学讲课,不过他好像不是很珍惜自己的天赋。
第三位是Larry。有点惭愧,Larry的文章我一个也没读过,不过他的教材我偶尔看。我只知道他在宇宙学领域已经功成名就了,又转去搞理论神经,君子豹变。
最近有一句话总在我脑海里盘旋:理论神经科学是22世纪的科学,但是不幸降临在20世纪和21世纪。
注意:
- 最后一句话指的是研究神经网络的理论神经科学,既包括人工神经网络也包括生物神经网络。
- 有关最后一句话,我是这样想的——在Transformer里,我们知道每一个w和b,但是我们还是不知道它为何起效,甚至通用(GPT4)。那既然如此,就算有一天(至少50年之后)你测出了人脑的每一个w,那又如何,你还是不知道人脑为什么起效。一句话,人类连知道结构连接组和功能连接组的Transformer都理解不了,还妄图理解测不出连接组的生物神经网络?
- 就算不理解,我们还是可以做很多事情,用一个黑盒子破译另一个黑盒子呗。比如,可以去破译猴子的高级视觉(V4),去破译动物的语言,去帮助脊柱损伤患者重新走路,去帮助瘫痪患者想象语音。