随笔：上交冬校
第一天
傍晚，想去超市买点水果，偶然看到了卡士的酸奶。
思潮瞬间涌回了深圳。两室一厅、四十一层、冰箱、厨房、卡士、晚风。
我终究，忘不了。
第一天
上午是个做数学的美国科学院院士，做的是Hubel-Wiesel工作的后续。
纯理论，很无趣。
下午是个做AI的老师，还不错。
我和他聊，实现AGI是否需要生物，他竟然还挺乐观。
午餐和晚餐，和几位新朋友聊天。
就这样了。
第二天
上午，Tutorial 1，单神经元Model，我大多都教过一次了。
下午，一个做fMRI的，无趣。
下课后，和一个做AI的学生聊了一道。
下午和CL聊，晚上和HX聊，想明白了很多。
第三天
上午，杨光宇，很不错。
下午，Tutorial 2，fMRI，还行吧。
傍晚，和ZJJ边走边聊，又想明白了很多。
第四天
上午，自我介绍。
下午，休息。
晚上，去找王安南和郑中鹏。吃川菜，胃很疼。
晚上一点才睡，疲惫。
第五天
上午，周鹏程来给报告。他讲到一个自动确定神经元个数的算法。我本来很兴奋，后来思考了一下，这问题被吴宇翔用YOLO直接就解决了，因为我们用的是只在胞体中表达的质粒。
如果我们用的是胞体和轴突、树突都表达的质粒，那么，可以用周鹏程的方法。但是，神经科学家发明只在胞体表达的质粒，本身就是为了解决重叠问题。
下午，一个很能申基金的，ppt里有生物也有忆阻器，但我估计他对自己ppt里的东西都没搞懂。
第六天
上午，汪小京，和他在Croucher讲得差不多。
下午，李澄宇，生物出身，做小鼠，也做脑机接口。很能申基金，但对科学的热情总感觉差了一些。
我问杨光宇的问题：
任何一个投身Neuroscience的人，都想搞清楚生物神经网络的机制，它为什么通用、为什么高效，它到底如何实现学习、记忆。
但是，对于人工神经网络或者生物神经网络，追求可解释性，是否是个不可能达成的目标？
在Transformer里，训练方法是知道的，Attention怎么算也是知道的，每一个突触的强度都是知道的，但没有任何一个人知道Transformer为什么有效。CNN同样如此。
那么，就算有一天用电子显微镜测出了果蝇、小鼠乃至人的连接组，就算有一天用电生理测出了每一个神经元的活动，也没有任何一个人知道人脑为什么有效。更何况，你还不知道训练方法。
2016年，DL+Vision，是Hubel-Wiesel之后视觉上最重要的工作。但是这实际上是用一个黑盒子完美地拟合了另一个黑盒子。
对比一下，DNA，我们知道它的结构——双螺旋，知道它的复制方式——半保留复制，知道它是通过转录翻译表达的。Hodgkin-Huxley, Hubel-Wiesel的工作。这仨都是打开黑盒子。
两个问题——我们到底还能不能理解Artificial Neural Network和Biological Neural Network？没理解的情况下能否造出AGI？
光宇回答：
第二个问题，能。生孩子、造自行车、造汽车、造飞机，都是在没有完全理解的情况下造出来的。
第一个问题，目前最前沿的数学和理论物理，你我也都理解不了。但是，我会说，我认识的一些数学家、物理学家，比如丘成桐，可以理解。未来，很有可能是这样——人类最聪明的科学家，说，我认识的最笨的机器科学家，说，它认识的最聪明的机器科学家，可以理解ANN和BNN。
我的看法和光宇的看法90%一致。
同样的问题，我也问了小京。
小京跟我说要乐观，不要悲观。但理性告诉我，不能盲目乐观。理性告诉我，我问光宇的问题，是无懈可击的质疑。
从1980年到现在，神经科学家一直希望发明更好的技术。但Transformer的成功告诉我们，就算获得了结构练接组和功能连接组，依然一无所知。
小京反驳我说，他的两个工作，难道不算理解大脑？我当时没有反驳，但我想说，这两个工作拿不到诺贝尔奖。
和科考在七尖拉练，暂时忘记了这事。但是在回到现实世界的大巴车上，我又想起来。
博后，我还不如去治病救人，或者去造AGI。如果我继续留在计算神经，必定依然做小虫子。对于治病救人和计算神经，我希望我有足够强的竞争力。物理、动手能力，我会在2024SP加强。
最后来个QA吧：
Q：如果，有一天用电子显微镜测出了果蝇、小鼠乃至人的连接组并且用电生理测出了每一个神经元的活动，你认为人类科学家能否理解BNN？
A：九一开。九成不能，一成能。因为人类连CNN、Transformer都理解不了。
Q：你和杨光宇不一样的10%是什么？
A：线虫是一个只有302个神经元的通用智能。还有一种小虫子是只有66个神经元的通用智能。这些小虫子是人类的最后一根救命稻草。
Q：低等生物和高等生物的学习、记忆一样吗？
A：我不知道。
Q：你希望呢？
A：我希望是一样的，否则最后一根救命稻草也没用了。
将来我有两个去处：科学界、企业界。
我有两个研究方向：Comp Neuro、AI。
二乘二，四。