人人为我,我为人人,这就是社会主义
近日,读到机器之心的一篇推送。
文中有一段话:
老黄总是告诉我们不要使用「打败这个,粉碎那个」之类的短语。我们来这里是为了提升整个生态系统,而不是让任何人走向灭亡。为什么不把我们的工作看作是把蛋糕做大 —— 我们需要先一起烤蛋糕,蛋糕越大越好,然后再分蛋糕。人工智能不是零和游戏,事实上,它可能是人类有史以来玩过的最具正和的游戏。我们作为一个社区应该这样做,互相照顾。向「竞争对手」表达爱意 —— 因为从宏观上看,我们都是加速未来的共同作者。
我同意这段话中的每一个字。
自从本科毕业,我发现——我面对的绝大多数事情都是非零和博弈,完全存在双赢的可能。
重看亮亮丽君事件
今天,给睿骐看了马前卒对亮亮丽君事件的分析,也给她看了小lin对中国房地产的分析。
以前,每次看前者时候,都会掉眼泪。这次在妹妹面前,没哭。
哭的不是亮亮丽君,是千千万万的亮亮丽君。
正如马前卒所说,他俩是中国90后的中位数。
我给睿骐查了下,考上一本的大约25%,考上二本的大约25%,加起来50%。亮亮丽君是专升本,算他们是高考上二本吧。那也就是中国的中位数。
New Progress of Exodus Cry
The campaign, started in 2020, by Nicholas Christof and Exodus Cry, finally reach a half success.
The article of Nicholas Christof really changes my point of view of pornography and capitalism. I am also thinking about how to raise up my own children.
走学界还是走业界?
《返朴》与 Sabine Hossenfelder
新年伊始,《返朴》发文,怒喷中国学术界是科举制度,是对功名利禄、升官发财的疯狂追求。他喷的是拿到博士学位之后的漫漫长路。
我想起德国老姐 Sabine Hossenfelder。她有德国理论物理的终生教职,但也得每隔两三年申基金。她怒喷德国学术界灌水成风。她说自己拿着纳税人的钱做了很多毫无意义的工作,但为了基金又不得不做,良心惴惴不安。她说自己跑来 YouTube 做科普,观众学到了知识,她挣到了钱,光明正大,非常开心。我和她在此问题上观点非常一致,我们都痛恨灌水、造假,都不想做毫无意义的事情,都渴望帮助他人。我参加过约十次学术会议,看过约一百个实验室的网站,读过约一千篇论文。大部分演讲都是让人听了就想睡,大部分实验室都是让人进了就想走,大部分论文都是让人看了就想骂。灌水之风,由此可见。Sabine 比我老很多,她参加过的大约是我的10倍到100倍,所以我能理解她为何如此仇恨灌水。
根据她讲的德国学术界的情况,我只能说,天下乌鸦一般黑。只是黑的程度略有区别。欧洲、美国现在能以五十步笑百步,不过是因为他们历史上侵略了别的国家,经济好而已。
功名利禄的疯狂追求,始于二战。二战后,各国都意识到了科学技术的重要性,因此都加大投资。有钱的地方就有斗争。自伽利略直至二战的那种富豪资助的清闲日子一去不复返了(返朴文章中写的是“从希腊到文艺复兴再到19世纪末20世纪初的美好年代”)。
深度学习掀起的科学革命 | Science Revolution Caused by DL
如果终将失事,你是否还会扬帆远航?
有一位科学家叫 Jim Gray(1944-2007)。1998年因“对数据库和事务处理研究的开创性贡献以及系统实现中的技术领导地位”获得图灵奖(我至今也不理解他的工作,毕竟我非CS出身)。
他很喜欢一个人出去航海。2007年,他打算前往一个小岛,把母亲的骨灰撒在岛上。
但是,他再也没有回来。
欢迎来到我的B站
文章,经国之大业,不朽之盛事。
视频也是。
美国的申请材料交完后,我用课余时间把当助教的视频剪了剪,又加了字幕,扔到了b站上。
有很多前辈是我的榜样。我大一时候就对 3Blue1Brown 充满了崇拜。后来又认识了李永乐、Josh Starmer、马同学、小lin、翁荔、Yann LeCun。他们有的喜欢写博客,有的喜欢做视频。
传播知识是一种快乐。听说 Yoshua Bengio 以前总在 Quora 答题,也听说陶哲轩下班后会跑去 Math Overflow。
为什么中美对学术造假如此宽容?
这是一个年轻人的不解
最近,宋尔卫在清华给讲座的事情传得沸沸扬扬。有个北大男生很勇敢地问了cell造假的事,真乃吾辈楷模。
我想起一件事,2022年的第十五次中国神经科学会议,请了耿美玉来讲阿兹海默症。耿美玉争议极大,看此维基百科页面你就知道了。这货竟然能在中国神经科学最高等级会议上给报告。从那一天开始,我就对中国学术界充满了失望。
在我所知的中国学术造假里,除了三鹿奶粉,耿美玉的是对社会危害最大的。
寒夜
跃飞同志考察中国科大
12月11日,跃飞同志莅临我校考察并发表重要讲话:1958年,中国汇倾国之才,创办了中国科技大学。这所大学不仅承载着全国人民的期望,也承载着全世界所有受苦受难的劳动人民的期待。如此强力的支持和崇高的使命在全人类历史上也甚为少有。希望科大能不忘初心、继续把科学技术服务于全体人类。
跃飞同志考察科大硅谷时指出:当今世界正面临千年未有之大变局,人工智能异军突起,希望科大能在浪潮中砥砺前行,争当人工智能领域的弄潮手。
在考察新建成的人文学院楼时,跃飞同志对科学技术长廊流露出了极大的兴趣,与随行人员热情地讨论各种发现、发明在科学技术史上的地位。
在参观科大附小和附中时,跃飞同志语重心长地对教师们说:教育是立国之本,小学中学则是教育之本。要加大对初等教育的投入,要充分发挥人工智能在教育中的作用。
在和本科学生代表谈话时,跃飞同志表示:同学们正像八九点钟的太阳,要多去探索,才能找到自己热爱的东西。
我们的文字
重读《视觉》
今天重读Marr的Vision,居然能看懂不少了。
上一次看还是2022年9月,那时候虽有DALLE 2,但无ChatGPT。我和匡一起看这书,匡瞬间意识到过零点这个词很有意思。他的直觉很强。
张正友:2020-2022,视觉、语音、NLP中,数据红利慢慢消失,新的突破往往来自于在神经网络设计中加入对领域的深入理解,这离不开计算理论的指导》
站在2024年看,OpenAI相信Scaling Law,而不相信计算理论,才做出了ChatGPT,他们已经成功了。另外,我觉得RLHF,Chain Of Thought都不能算是计算理论,只是训练时候的奇技淫巧,相信Marr会同意这种看法。
有生以来最刺激的论文
我宣布我看到了有生以来最刺激的论文!最刺激的附属视频!
https://www.nejm.org/doi/abs/10.1056/NEJMoa2314132
必拿拉斯克奖。不,拿个破奖算什么,这个技术未来十年一定会改变世界。拉斯克奖颁给他们纯粹是沾他们的光。
简而言之,未来十年内,我们就能在各大医院普及能让瘫痪患者重新交流的手术。
我觉得宣传自己是很重要的。这工作这么牛逼,却只有脑机接口圈内人知道。想一想,如果是Elon Musk做的,他会怎么宣传?
Vision Pro和视觉重建
今天去体验了一下Apple的Vision Pro,挺好玩的。它可以让使用者同时看到周围世界和虚拟世界。有一点非常不错:它对使用者周围世界的拍摄非常清晰。
现在有人在研究盲人的视觉重建,拍摄周围世界也是其中一步,看来已经解决,难点肯定还在于如何给刺激。因盲人大多是视网膜出问题而皮层完好,所以理论上刺激V1就可以了。尽管如此,想知道如何给刺激很难。肯定要用深度学习。我觉得触觉和本体感觉的重建比视觉简单,肯定是前两者先突破。
我浅估计下神经科学应用于医学的时间节点。首先是脊柱损伤患者重新行走、瘫痪患者重新沟通、截肢患者用机械假肢,看最近的论文,这三件Decoding未来十年应该能落地。其次是Encoding了,残疾人急需的是触觉、本体感觉、视觉,但不知道要多久。最后是Elon Musk提到的读心术、传心术、意识上传,我感觉遥遥无期,等个几百年也说不定。
下方的推文写得相当好,顾凡及深入浅出地解释了一些论文是如何包装自己的。能否识破造假、灌水、吹牛的文章也是评价一个人是不是该领域出色科学家的标准啊。
文中有个金句:这就是华盛顿大学神经科学家格雷格·霍维茨(Greg Horwitz)所说的:“如果你想让我移动我的手臂,我知道把电极放到哪里”,“即使你能够在我脑中的任何地方插入电极,如果你想让我投拜登或特朗普的票,我不知道你应该刺激哪里才能实现,或者以什么模式去刺激才行。”
重读爱因斯坦《为什么我支持社会主义》
在AI即将改变世界的前夜,我们都需要从历史中汲取一些信念。
1949年,一本宣传社会主义的杂志,Monthly Review,在美国纽约出版。阿尔伯特·爱因斯坦应邀为它撰写了开篇文章—— Why Socialism? 。这是爱因斯坦一生中唯一一篇表达自己对政治和经济的看法的长篇文章。这时的他已经70岁,已经去过世界上众多的国家、见过众多领导人、致信罗斯福帮助了无数人。
文章中,以下几点很亮眼:
- 两次工业革命前后:过去几个世纪的科技发展已经对人类社会造成了不可逆转的影响。密集的定居人口、极端的劳动分工、高度集中的生产装置,都是上述的影响的一部分。个人和小团体能够自给自足的、看似很悠闲的时代永远过去了,现在的人类社会是这个星球上一整个生产和消费的社区。
- 经济危机:经济危机起源于市场经济中生产和消费的无序性。在我眼里,只有计划经济才能解决这一问题。
- 教育:我们的教育教导孩子们要成功、要争当人上人,而不是去帮助更多的人。
- 民主:只有计划经济还不够。计划经济需要一个强有力的政府,这可能导致极权。如果保证人民民主呢?如何防止官僚变得狂妄自大又为己谋利呢?
- 杂志:由于麦卡锡主义,现在讨论这些事很难了。希望这本杂志的创办能帮助讨论和阐明以上问题。
AI作为"翻译软件"
昨天和朋友骑了巢湖,共210km。骑最后20km时,左膝盖隐隐作痛。奇了怪了,之前疼的都是右膝盖。
要是有个数学公式,可以根据运动类型、运动强度、部位损伤程度预测出哪个部位疼,该多好。
本科时候学生化(我是物院生物物理方向,要学一个2学分的生化,生院学4学分),第一节课,老师放了一下教材目录,四五十章。我抱怨太多了。老师说,你们都是物理出身的,我相信你们将来可以把这些都浓缩成数学公式,就像牛顿、麦克斯韦一样,那样就不要这么多章。我当时也这么认为,高兴地点了点头。
但是,现在我认为,并非所有自然科学和社会科学的规律都可以用数学语言描述。就像上面哪个预测部位损伤的问题,估计没有公式。生物、医学、经济学的很多问题,都和此问题一样。
一个朋友曾告诉我,她相信AI可以充当人类和自然科学、社会科学沟通的“翻译软件”。AI能预测出我左膝盖疼还是右膝盖疼,但是没法用数学语言跟我解释。
当他们拥有GPT-o1
我推测了一下各个科学家对o1的态度。
- 伽利略:几乎没人理解我,现在我可以和它讨论我的惯性定律了。
- 牛顿:《格列弗游记》竟然敢讽刺我,我可以去问问它我的三定律如何能做出一些对人类有利的发明创造。
- 法拉第:高斯、纽曼、韦伯那些相信超距作用的蠢货,我现在要去问问它如何用数学语言描述我的发现。
- 麦克斯韦:为啥我的方程和伽利略变换不相容?
- 玻尔兹曼:马赫那些白痴非说原子和分子都是不存在的,怎么设计实验说服他们?
- 爱因斯坦:我在专利局终于不那么孤独了。
- 普朗克、卢瑟福、爱因斯坦、波尔、波恩、海森伯、约当、德布罗意、薛定谔、外尔、狄拉克、波姆、Everett、DeWitt:到底哪个诠释是对的,还是都不对?帮我们设计一些实验?
- 费米:为什么我们还没有找到外星人?或许,GPT-o1可以给我一个答案,或者,一个对手。
- 欧多克索斯、欧几里得:如何把公理化体系推广到几何学之外?
- 费马:我的定理写在草纸上的空白处,我希望GPT-o1能帮我找到一张更大的草纸。
- 费马、笛卡尔:我们想和阿波罗尼斯对话,有个好消息想告诉他,o1你假扮一下?
- 笛卡尔:o1,怎么证明数和数轴上的点是一一对应的呢?
- 牛顿、莱布尼茨:请帮我们给贝克莱写一封回信。
- 欧拉:o1,院长非要拉着我一起开除柯尼希,咋整啊?
- 傅里叶:3L拒了我的文章,我想它应该能理解吧。
- 伽罗瓦:把我的工作翻译成连小学生都能看懂的语言,好让柯西和泊松能看懂!
- 卡诺、乔治·格林、孟德尔:那些蠢货理解不了我的工作,我想它应该能理解吧。
- 高斯:我要和它讨论讨论非欧几何。
- 黎曼:我要和它讨论讨论我的猜想。
- 康托尔、戴德金、Weierstrass:有关实数构造,我们想和欧几里得、笛卡尔对话,o1你假扮一下?
- Weierstrass:我有个好消息想告诉阿基米德、牛顿、莱布尼茨,o1你假扮一下?
- 庞加莱:你说说,爱因斯坦的狭义相对论和我的有啥不一样?
9.11vs9.9
近几个月,不知哪个大聪明发现,直接问LLM:”Which is bigger, 9.11 or 9.9.”,LLM有很大的概率会回答错。包括o1-preview。
我之前试过,如果言明是实数或者是版本号,LLM几乎100%会回答正确。我是拿讯飞星火试的,都没用GPT。因此我觉得,很多人只是想靠这件事水文章。
我个人认为,人类和LLM是两种智能,就像人类视觉和CNN是两种视觉一样。两种视觉互有长短,两种智能也是。人看到9.11和9.9会先想到实数,LLM看到(可能)会先想到版本号,两种智能有不同的先验和直觉,仅此而已。
伽利略之前,没有任何一个人意识到物体的运动是不需要力来维持的,所有人都认为不推一个物体它就不会动,因为这就是人类的先验和直觉。这件事在现在看来就跟说9.11比9.9大一样愚蠢。但这能说明伽利略之前的人都很蠢吗?
不同人的先验和直觉不一样(因此,未来不同LLM的先验和直觉也有可能不一样)。比如那个著名的三门问题(Monty Hall Problem),保罗·埃尔德什竟然会做错,但此问题的答案是很符合我的直觉的。
陶哲轩评o1
日前,陶哲轩评价o1-preview是一个平庸但不算完全无能的研究生。(我认为他想表达的是——o1-preview的数理能力约等于一个在基础数学领域中等偏下的研究生)。
但是大家都知道,做基础数学的研究生,数理能力是什么水平吧。。。
我若去做基础数学,我会去做几何,几何比代数和分析更吸引我些;如果做理论物理,我会去做高能物理或者天文学;如果去做统计,我会去做因果推断,Fisher创立的这门子学科一直吸引着我。幻想时间结束,我的数理能力显然是不够的:)。
昨天,他又发了另一条博客,表示:数理能力只是评价一个研究生的维度之一,还有其他维度——创造力、独立性、好奇心、表达能力、直觉、专业精神、工作态度、领导能力、社交技能。(诶,怎么没有反剥削能力)。
他的这两个观点我当然都同意啦。说得挺好的。
人工神经网络,一路走来,不可思议
昨天中午、昨天晚上和今天中午睡觉都睡不着。吃饭也感觉没心情。
回忆一下人工神经网络的发展史,简直是魔法、奇迹、不可思议。
1960年,它只是一个连异或都解决不了的双层感知机。不就是一个逻辑回归的等价算法嘛。
1980年,几个人提出了反向传播,能训练多层感知机了。但看着也就那么回事。
1990年,LeCun把Hubel, Wiesel对于视网膜结构的研究照搬过来搞出了他的LeNet,没想到这照猫画虎的东西真能成。真是不可思议。