我和小娄在向新来的同学介绍自己的研究方向。

我:小娄是做粒子物理的。

新来的同学:哦哦。

小娄:懿轩是研究诺奖水平物理的。

新来的同学:啥?

Read more »

昨天给学生上课,讲到这张图:

一个想法突然钻入我的脑海——在深度学习中,过去十年大家一直在拼命增加参数量,那为什么没有导致过拟合呢?

一个原因是——那是因为数据量也在上涨。但是,过去三年(2022-2024),互联网上所有的文本数据几乎都被拿来训练了,而人们还在拼命增加大语言模型的参数量,但是却并没有导致过拟合!

这有点不可思议。如果这张图是对的,那么在互联网上的文本数据都用了的情况下,增加参数量应该导致过拟合才对,即模型在新的数据上效果变差。

Read more »

《失业》

好久没去星座吃拉面了。早上心血来潮,发觉拉面改成用机器做了。

小时候的我肯定只会感慨科技的神奇。但是今天我问卖面大叔:“原来拉面的那个小伙呢?”

大叔:“回家了,找别的工作了。”

我叹息了一声。吃面的时候亦心事重重。

Read more »

随感:

刚才看了看八王之乱隋末唐初历史视频,感觉晋惠帝司马衷和隋炀帝杨广真是神似。一个聪明到极致,一个傻到极致。之前也写过,但没写得很露骨。

我一路走来,没见过司马衷,杨广 倒是见过不少。只不过杨广擅长文学,他们擅长数学,仅此而已。

杨广当年有句名言:“天下的人还是太多了。”在广哥眼里,人不是人,和猪羊差不多,死了一批还会再有一批,所以他修新都城、修大运河、三征高句丽,死了再多人他都不心疼。另外,在广哥眼里,天下都是他的,他给天下人发工资,天下人自然都应该为他而死。

我看现在的科学家,有不少也和杨广一样,并不把人当人看,而当成工具或者耗材,不管是对自己的学生还是对社会上其他人。只不过现在是文明社会,不能像杨广一样动不动害死百万人。

Read more »

2月4号,和母亲去看了《唐探1900》,彩蛋里有句话:

西方的魔术是科学技术,我的魔术不过是障眼法。

颇有感触,作此篇。

多交流

去年9月,和一个朋友去安徽省博物馆看了古希腊的雕塑,那里亦有些古希腊在数学上的突破。

Read more »

在使用hexo时,我发现,我的Markdown转成HTML时,多个空行会变成一个空行,即多个\n会变成一个\n。

咋办呢?我尝试了多种方法,有的不行,有的改变太多、担心出错。

最后,我选择在Markdown中手动加入<br>


Markdown, HTML, hexo, next,终究只是工具而已,能用就行。

Read more »

今天和爸妈看了小林讲解OpenAI的政变。

看到小林最后说的那句话:

谁给公司带来的价值更大,谁说了算。

他们的不可替代性,就是隐形股权。

我恍然大悟。

这和Ray Dalio的第三条劝告是一致的

Read more »

看了 Dalio 的 World Order,写点文字

优点

  1. 他的理解出自资本主义、市场经济。
  2. 他正确解释了衰落两部曲:名不副实 -> 内忧外患。

缺点

  1. 他忽略了法国和德国对英国的挑战
  2. 他忽略了英国对西班牙的挑战
  3. 他过于渲染中国威胁论
  4. 他忽略了荷兰、英国的人民生活得依旧很好
  5. 他的模型可以随意调参
  6. 他忽略了冷战中苏联和美国的对峙,这是超越资本主义、市场经济框架的。
Read more »

其实我看金老的小说,只有部分章节喜欢。很多章节完全看不下去。

我猜,因为最开始是报纸连载,所以难免凑字。

天龙八部,只喜欢萧峰的那条线。段誉和虚竹的真是看不下去。

射雕英雄传,只被结尾成吉思汗和郭靖的英雄之辩震撼到了。这也是全金庸小说里我觉得最深刻的一章。

神雕,只喜欢最后的八回。

Read more »

小林又更新了,涉及自己的赚钱方式和团队组成,真是个诚实的自媒体啊。

中文科技教科书能被翻译成英文的,我只听说过周志华的西瓜书。

中文科技自媒体能让英文母语者打开字幕看的,我只知道小林和李永乐。

等啥时候中文科技教科书能全都咔咔被翻译成英文,中文科技自媒体在YouTube上能让其它母语者心甘情愿地开字幕看,那一天太美不敢想。

今天陪母亲在电影院看了徐克的射雕,这电影相当无聊。

回来后重温了《射雕英雄传》最后成吉思汗和郭靖的英雄之辩,所思甚多。

遂作此篇。

Read more »

两相对比

晚上读了一些历史小故事,突然发现中国历史上一个很深刻的巧合。

司马衷是著名的傻子

帝常疑太子不慧,且朝臣和峤等多以为言,故欲试之。尽召东宫大小官属,为设宴会,而密封疑事,使太子决之,停信待反。妃大惧,倩外人作答。答者多引古义。

《晋书 · 卷31 · 后妃上 · 惠贾皇后》

杨广是著名的天才

Read more »

今年回家,格外高兴。

我变了。以前我把工作放在第一位,现在我把家庭放在第一位。

这一转变,有客观原因,也有主观原因。

主观原因有:

  1. 我极其厌恶现在的学术界制度(二战后逐渐形成,1990年后稳固)
  2. 我认为,真正的科学家应”惜时如金”。用一小时干完别人二十四小时的工作,用一天干完别人一年的工作,用一年干完别人一百年的工作,这特么才是科学家。
  3. 我认为,有我没我,学术界和企业界不会有什么区别。但有无我,对我的家人而言,有很大区别。
Read more »

我很早就察觉到了。今天和家人聊天,聊到此话题,遂记录。

从记事到大三结束,我一直认为——科学家是这个世界上最伟大的职业

2022年及之后,这个观点至少受到以下三点的冲击:

第一是和 WY 的交流。她回家过年时,跟我说,她爸爸给大姑上坟,一直在哭,那时候就是太穷了。类似的交流还有很多。我明白了一个道理——你想不想让你的家人过上更好的生活、想不想让你的孩子收到更好的教育,如果想,你觉得这要靠科学家,还是靠政治家和经济学家?

第二是和弟弟的交流。他问我:“你一直觉得,你做出伟大成就,就应该被分配到更多的东西。但我觉得,可以稍微多一点,但不能太多。如果没有食堂大妈、清洁工、建筑工人、生产螺丝和螺母的人,你们科学家又能做出什么贡献?”

Read more »

这是一个研究生的愤怒。

在曼哈顿计划中他们努力工作是为了全人类。

在回国的浪潮中他们努力工作是为了国家和民族。

在美苏冷战时他们努力工作是为了证明自己的制度是更好的制度。

但是现在,我们什么也做不了。

Read more »

我的旅程

人生如逆旅,我亦是行人


有好几个朋友问我,你看起来跨了很多学科,你到底是做啥的?我想,我欠你们一个回答。

省流:本科物理,硕士理论/计算神经科学,未来打算做脑机接口。

Read more »

前几年,我靠说英语掌握一种迷之自信。

现在,我靠说汉语掌握一种明确的自信。

上次助教时,我能说汉语时却偏偏说英语。

这次助教时,我对关键词给出了中英双语。

0%