A Journal Through My Activities, Thoughts, and Notes
@26860 前文纪要:Shengyi Wang 我就想起小时候看到的传说:把人类全部知识编码成一个数,前面加个小数点,然后在一根棍子上这个小数的比例处划一刀,那这根棍子就蕴含了全部的人类知识。小时候想想没毛病啊,目眩神迷,居然有如此美妙的方法。可惜物理世界测量精度也好普朗克极限也好,都限制了你既不能这么精准的划一刀,划不了几位小数,也不能准确的读出来。#网友语录
刚刚我在办公室厨房午饭,一个想法就突然的浮现在我的脑海:我认为今天的人类已经找到了方法来划这一刀。这就是大语言模型。全人类过去几十万年学会的技能,凡是有点价值的曾被多次引用的,都被蒸馏进如今最先进的语言模型里。这当然只是个近似解,却是已经实现了的并且准确性和压缩比还在不同程度的提高的解。
未来人类每个人都能背着全人类的技能负重前行,不知道对他们是幸运还是不幸。(瞎操心
刚刚我在办公室厨房午饭,一个想法就突然的浮现在我的脑海:我认为今天的人类已经找到了方法来划这一刀。这就是大语言模型。全人类过去几十万年学会的技能,凡是有点价值的曾被多次引用的,都被蒸馏进如今最先进的语言模型里。这当然只是个近似解,却是已经实现了的并且准确性和压缩比还在不同程度的提高的解。
未来人类每个人都能背着全人类的技能负重前行,不知道对他们是幸运还是不幸。(瞎操心
我跟来新西兰之后第一份工作的老板一直有联系,或者准确一点说,我还一直做他的免费顾问,也不是很经常,一年几回的频率答答疑解解惑。几周前他甩给我一份casual job合同,这样他就可以放肆一点的问我问题,或者让我干活。我乐得挣点外快,反正闲着也是闲着。一小时$100也还公道。就接了。
我们办公室离得很近,今天和他一块儿午饭,他请客顺便问我一些问题。大家说,我饭吃了,问题也解答了,这一小时我charge不charge他?😄
我们办公室离得很近,今天和他一块儿午饭,他请客顺便问我一些问题。大家说,我饭吃了,问题也解答了,这一小时我charge不charge他?😄
#网友语录 fomalhaut “我们这代人最吊诡的地方在于,我们亲手造出了能完美模拟人类情感的机器,与此同时,自己却越来越像只懂服从算法的机器。
ChatGPT 和豆包不会变成人,但如果有一天我们对着它流的眼泪,比对着身边任何一个真人流的都多......那也不需要它变成人了。我们已经先一步,把自己变成了它。”
ChatGPT 和豆包不会变成人,但如果有一天我们对着它流的眼泪,比对着身边任何一个真人流的都多......那也不需要它变成人了。我们已经先一步,把自己变成了它。”
@27356 记一件趣事:十天前小长假我和朋友一起出去玩,A驾车,我和L搭乘。小长假嘛,所以1号高速车很多,快到一个人口密集的小镇R时,google导航就把我们支到一条小路上避免堵在1号高速上。挺科学的吧!
可是爽了没一会儿,当我们需要在一个没有红绿灯的路口右转弯回到主路上遇到了麻烦(纽西兰右拐需要让行直行和左拐弯的车辆):主路上车流量很大,我们和对面来车都只能趁主路上好不容易车辆之间有个缺口的时候赶紧通行,因为对面直行的和左转弯的车辆有优先权,我们右转弯这一排就只有耐心的等,暗暗希望对面直行的左拐的能赶紧走完。然而....就是走不完,好不容易只剩一辆两辆了,远处就又来几辆接上。而主路上刚脱离拥堵区的车辆更是撒着欢的飞驰,空档很短小,每次空档对面也就只能过一两辆车。
... 如此等了至少15分钟。
同行的L说下次再有空档我们就直行,到对面掉个头我们就变成有优先通行权的左拐弯。果然,如此这般只几分钟我们就成功的回到了主路。
平常这种情况在基督城市区,不用等很久就会有对面直行司机打灯光示意右拐道上等了很久的司机先走。但这次在远远的郊外小镇上,主路又是高速路,车速都很快,留给司机的反应时间很短,谦让一旦有一方理解上有偏差反而可能会带来危险。很能理解对面不谦让。
然而变通一下就好了。直行掉头再左拐,下次就不会傻傻等这样久了。
可是爽了没一会儿,当我们需要在一个没有红绿灯的路口右转弯回到主路上遇到了麻烦(纽西兰右拐需要让行直行和左拐弯的车辆):主路上车流量很大,我们和对面来车都只能趁主路上好不容易车辆之间有个缺口的时候赶紧通行,因为对面直行的和左转弯的车辆有优先权,我们右转弯这一排就只有耐心的等,暗暗希望对面直行的左拐的能赶紧走完。然而....就是走不完,好不容易只剩一辆两辆了,远处就又来几辆接上。而主路上刚脱离拥堵区的车辆更是撒着欢的飞驰,空档很短小,每次空档对面也就只能过一两辆车。
... 如此等了至少15分钟。
同行的L说下次再有空档我们就直行,到对面掉个头我们就变成有优先通行权的左拐弯。果然,如此这般只几分钟我们就成功的回到了主路。
平常这种情况在基督城市区,不用等很久就会有对面直行司机打灯光示意右拐道上等了很久的司机先走。但这次在远远的郊外小镇上,主路又是高速路,车速都很快,留给司机的反应时间很短,谦让一旦有一方理解上有偏差反而可能会带来危险。很能理解对面不谦让。
然而变通一下就好了。直行掉头再左拐,下次就不会傻傻等这样久了。
#网友语录 米歇尔与尤尔根
几周之前写了个自用skill叫council,PRD/spec阶段让Codex和Claude开会,他们同意的点直接approve,他们不同意的点辩论两轮后分出胜者,然后人类review。
对于Claude最近降智的评论,体感上确实已经从council开会体会到了。一个月前,Claude的胜率是70%。两周前大概是30%。现在Claude的胜率是0%。( 我现在不用claude code, 只用copilot里的opus,感觉并没有降智
几周之前写了个自用skill叫council,PRD/spec阶段让Codex和Claude开会,他们同意的点直接approve,他们不同意的点辩论两轮后分出胜者,然后人类review。
对于Claude最近降智的评论,体感上确实已经从council开会体会到了。一个月前,Claude的胜率是70%。两周前大概是30%。现在Claude的胜率是0%。( 我现在不用claude code, 只用copilot里的opus,感觉并没有降智
#网友语录 windliang 过去,年轻意味着更快的执行速度,而经验意味着更好的架构能力(选择合适的技术栈、设计合理的模块划分、规划可扩展的数据流、制定清晰的组件抽象策略)。但现在,AI 已经可以很好地解决「怎么做」的问题,真正稀缺的反而是「做什么」和「为什么做」。在这个维度上,经验的重要性被放大了,而单纯的熟练度优势则在减弱。
过去我们强调的是编码能力、框架熟练度、工程经验,但在新的模式下,更重要的反而是表达能力、抽象能力和判断能力。需要能够清晰地描述问题,引导 AI,评估 AI 给出的结果是否合理,甚至在多个「看起来都可以」的方案中做出选择。
当遇到线上故障、复杂边界、性能瓶颈,那种 AI 多次尝试都解决不了的问题,过去积累的经验训练出来的人类工程师的直觉显得尤为重要。
过去我们强调的是编码能力、框架熟练度、工程经验,但在新的模式下,更重要的反而是表达能力、抽象能力和判断能力。需要能够清晰地描述问题,引导 AI,评估 AI 给出的结果是否合理,甚至在多个「看起来都可以」的方案中做出选择。
当遇到线上故障、复杂边界、性能瓶颈,那种 AI 多次尝试都解决不了的问题,过去积累的经验训练出来的人类工程师的直觉显得尤为重要。
#「转」中国姑娘,你在慌什么?
走得太急,未必会走得最好最远最稳当。
这篇文章在网上四处传播,之所以未署原作者姓名,实在是因为我搞不清哪位是原作者。如果您知道原作者是谁,欢迎告诉我。我非常乐意署上原作者的姓名及原始链接。
听说Helen拿到Yale的fellowship,我受了震动。她是我的老师,教了我一年mathematical techniques和modeling,03年从OSU毕业,今年40岁。这样的年龄和这样的身份再去念书,在我看来,很需要勇气。虽然有传言她是没有tenure上迫不得已,但是从behavioral economics转向Neuroscience,我相信她是发掘了自己的新兴趣,做出了人生的新选择。好恭喜她,又努力又负责任又美丽的好老师。
无独有偶。我的室友也是东欧女人,一年前入学的时候就听小米在跟她说转PhD的事。前段时间我问她,下学期是不是要转PhD了,她说还不,她再修一年master的课程,打好基础,反正不着急。我听完心里也是抽了一口气的。她是84年的天秤座,这个年龄在我们中国人看来好像不上不下、正尴尬着。可她完全不急不慌,笃定地念着书,不介意一个学位念六七年,完全不担心年纪大了不好就业,三十未婚是不是悲哀等等我们都会忧心的问题。
我认识的中国女生,好像很少有这样的底气。
从小我爸爸就一直在跟我说,要一鼓作气,要马不停蹄。我至今记得坐在我家的阳台上,那时我才念小学,我家周围都没有太高的建筑物,视野很开阔,他跟我算着如果大学毕业直博、比三年硕士三年博士还能节省一年时间,一遍又一遍。后来我的确走得步步跟进,于是遇到越来越多的朋友在互相念叨,机会先到先得,竞争的就是时间,要抓紧毕业抓紧赚钱抓紧恋爱结婚等等等等等。
这样想好像也没什么错。只是在看见别人的悠然态度时会有一点疑惑,为什么我们选不了这样的洒脱?抓紧,抓紧,念着这两个字,手都会不自觉地握成拳头,眉角也轻轻地皱起来。
在北京待久了,人会变得很欲望。大家都在往前冲,匆匆的步伐把你的节奏也带得飞快。离开十个月以后,接触了很不一样的人群,我开始渐渐会质疑我这些年来形成的牢固理念。
谁说了女人结婚生子以后、就很难再有机会实现事业上的突破?谁说了一定要在当妈妈之前把该念的学位都念完?谁说了一定要事业奠定了基础才可以放心相爱自由结婚?谁说了女生必须在30岁以前把自己嫁掉?谁说了……???
我分明看到了另外的可能。
Helen18岁就生下第一个孩子,如今一个儿子一个女儿分别在UCLA与UC. Berkeley;结过两次婚,学业并没落下,事业发展也算合意。她的人生轨迹和我们的理想预设完全不一样,可是难道不好吗?
我的同学,很多是拖家带口的。他们并不像我从前以为的那样,会因为家庭琐事的烦扰而影响功课。相反,我想,有了家室的人,更加成熟、更有自控力、也更有一份对自己和对家人的责任感在激励努力。尤其在我们社科专业,其实多一些年岁的积累会对学科也有更深刻的认识。年纪太轻,经历太单薄,见识太浅,有什么底蕴阐释好万千变化的经济学呢?
走得太急,未必会走得最好最远最稳当。
人生没有那么多不能。我们总可以做自己喜欢做的事,而不仅仅是别人告诉你必须这么做的。所以何妨在很年轻的时候生下最聪明漂亮的小孩、然后和儿女一起成长?所以何妨在最心无旁骛的时候一心学习把自己好好武装?所以何妨在青春澎湃正有激情的时候抛下名利担忧去某一些偏僻的地方奉献力量?所以何妨一个人环游世界也有美丽心情不去理会有些人怎么想?
喘一口气,做自己。怎样都可以。
我不担心书念到尽头会是人老珠黄。花的每一个季节都有它的意义,等与不等,并无分别。
我愿生命是一个从容的过程。宁静相待,了然欢欣。
#网摘
走得太急,未必会走得最好最远最稳当。
这篇文章在网上四处传播,之所以未署原作者姓名,实在是因为我搞不清哪位是原作者。如果您知道原作者是谁,欢迎告诉我。我非常乐意署上原作者的姓名及原始链接。
听说Helen拿到Yale的fellowship,我受了震动。她是我的老师,教了我一年mathematical techniques和modeling,03年从OSU毕业,今年40岁。这样的年龄和这样的身份再去念书,在我看来,很需要勇气。虽然有传言她是没有tenure上迫不得已,但是从behavioral economics转向Neuroscience,我相信她是发掘了自己的新兴趣,做出了人生的新选择。好恭喜她,又努力又负责任又美丽的好老师。
无独有偶。我的室友也是东欧女人,一年前入学的时候就听小米在跟她说转PhD的事。前段时间我问她,下学期是不是要转PhD了,她说还不,她再修一年master的课程,打好基础,反正不着急。我听完心里也是抽了一口气的。她是84年的天秤座,这个年龄在我们中国人看来好像不上不下、正尴尬着。可她完全不急不慌,笃定地念着书,不介意一个学位念六七年,完全不担心年纪大了不好就业,三十未婚是不是悲哀等等我们都会忧心的问题。
我认识的中国女生,好像很少有这样的底气。
从小我爸爸就一直在跟我说,要一鼓作气,要马不停蹄。我至今记得坐在我家的阳台上,那时我才念小学,我家周围都没有太高的建筑物,视野很开阔,他跟我算着如果大学毕业直博、比三年硕士三年博士还能节省一年时间,一遍又一遍。后来我的确走得步步跟进,于是遇到越来越多的朋友在互相念叨,机会先到先得,竞争的就是时间,要抓紧毕业抓紧赚钱抓紧恋爱结婚等等等等等。
这样想好像也没什么错。只是在看见别人的悠然态度时会有一点疑惑,为什么我们选不了这样的洒脱?抓紧,抓紧,念着这两个字,手都会不自觉地握成拳头,眉角也轻轻地皱起来。
在北京待久了,人会变得很欲望。大家都在往前冲,匆匆的步伐把你的节奏也带得飞快。离开十个月以后,接触了很不一样的人群,我开始渐渐会质疑我这些年来形成的牢固理念。
谁说了女人结婚生子以后、就很难再有机会实现事业上的突破?谁说了一定要在当妈妈之前把该念的学位都念完?谁说了一定要事业奠定了基础才可以放心相爱自由结婚?谁说了女生必须在30岁以前把自己嫁掉?谁说了……???
我分明看到了另外的可能。
Helen18岁就生下第一个孩子,如今一个儿子一个女儿分别在UCLA与UC. Berkeley;结过两次婚,学业并没落下,事业发展也算合意。她的人生轨迹和我们的理想预设完全不一样,可是难道不好吗?
我的同学,很多是拖家带口的。他们并不像我从前以为的那样,会因为家庭琐事的烦扰而影响功课。相反,我想,有了家室的人,更加成熟、更有自控力、也更有一份对自己和对家人的责任感在激励努力。尤其在我们社科专业,其实多一些年岁的积累会对学科也有更深刻的认识。年纪太轻,经历太单薄,见识太浅,有什么底蕴阐释好万千变化的经济学呢?
走得太急,未必会走得最好最远最稳当。
人生没有那么多不能。我们总可以做自己喜欢做的事,而不仅仅是别人告诉你必须这么做的。所以何妨在很年轻的时候生下最聪明漂亮的小孩、然后和儿女一起成长?所以何妨在最心无旁骛的时候一心学习把自己好好武装?所以何妨在青春澎湃正有激情的时候抛下名利担忧去某一些偏僻的地方奉献力量?所以何妨一个人环游世界也有美丽心情不去理会有些人怎么想?
喘一口气,做自己。怎样都可以。
我不担心书念到尽头会是人老珠黄。花的每一个季节都有它的意义,等与不等,并无分别。
我愿生命是一个从容的过程。宁静相待,了然欢欣。
#网摘
#网友语录 Jessie 一说起国内的吃喝,多样、好吃、便宜自不在话下。经常被问:“你们国外是否有这么好吃的东西吗?”我却觉得很难回答。说是解乡愁吧,味道与记忆不一样;说是国外没这么好吃,又觉得言过其实。想来想去,其实还是一个氛围:在哪里吃、与谁一起吃,这才是东西好吃的原因。