Get live statistics and analysis of Suwako — e/acc's profile on X / Twitter

曾经有一个故事，最开始的时候，铁路是靠马拉的，所以铁轨的宽度是按照两个并排的马屁股的宽度来定的，后来火车出现了，但是为了兼容以前的铁轨，所以火车的宽度也是按照两个马屁股来定的，再后来我们开始出现火箭，由于火箭需要用铁轨运输，所以火箭的宽度也被限制为两个马屁股 我喜欢把这种为了兼容性的祖宗之法不可变的东西都称之为马屁股，而我们反思计算机领域，到底有多少马屁股？x86的马屁股是非常多的，这仅仅是冰山一角，还有其他的，比如当年为了跑分作弊引入的string指令等等 我们使用计算机的界面也有大量的马屁股，最明显的就是键盘设计，不知道这个糟糕的键盘设计造成了多少腱鞘炎 计算机领域真正大发展其实也就5-60年而已，就已经积累了如此之多的马屁股。简直是不可思议。我们学习计算机的过程中，有多少时间在学习真正的知识？有多少时间在学习这些马屁股呢？ 一个朝代，经过了上百年的发展，变得逐渐僵化，直到改革或者革命之后改朝换代才又重新焕发活力，其中很多也是马屁股积累的太多，去掉了这些马屁股之后重新爆发出的活力 作为一个软件行业的人，本来应该是打破藩篱，站在勇于创新的第一线，有时候看到很多人沉迷于马屁股，被马屁股环绕不可自拔，令人感到伤心，某种程度上，当一个行业的马屁股含量超过了真正的知识的含量的时候，当这个行业的从业者，以自己对马屁股有多了解为荣，对于去掉马屁股的努力冷嘲热讽的时候，这个行业大概是老了吧。一个人衰老的标志是他对新的事物看不惯，不接受，没兴趣，一个行业也是一样的

现在回想起来，ilya当年的讲座里，他认为ai的发展的几个阶段，第一个阶段是预训练，我们刚刚走过。第二个阶段是self play RL，也就是我们现在所处的阶段。第三个阶段是multi agent RL，之前也有传言opanai正在做这个。每一阶段都有不同的能力涌现：第一阶段是系统一，直觉，语言，常识第二阶段是系统二，产生了反思，推理，计划那么第三阶段能产生什么呢？考虑到现在的模型就如同缸中之脑， 第一阶段是系统一，直觉，语言，常识 第二阶段是系统二，产生了反思，推理，计划 那么第三阶段能产生什么呢？胡乱猜测一下，考虑到现在的模型就如同缸中之脑，它没有办法分辨信号来自于哪一个角色。但是如果我们要让它在multi agent训练里面成功，它就需要分辨每个agent的角色，比如你是谁，他是谁等等。但是如果这样，它会不会涌现出我是谁的自我意识呢？ 即使感觉自己这个想法有点太扯淡了，但是想想好像也不是没道理。

感觉只要牵扯到go的都会扯到rust。但是明显两个完全不是一个赛道 但是有一个隐含比较深的点是typescript本身就是比较强调类型的，所以这个点和rust比较契合，但是go属于完全相反，之前连泛型都没有的那种 所以go比较类似c，都是新泽西风格的，但是typescript，rust都属于mit风格。所以一个mit风格的语言编译器用新泽西风格的语言写就让人感觉有种背叛师门的感觉，比较容易引起话题性。 但是不同的领域用不同的语言是最好的，没有必要天天圣战，虽然我不太喜欢go，但现在都有llm了，为什么不干脆多学一门呢？至少go学起来没有任何难度

刚刚看到一个说法，国内的中产对于山姆会员店阿里化这么敏感的原因就是因为山姆相当于从外部输入了秩序，本土化了之后就会被内地同化。 现在想想，steam在某种程度上也扮演着同样的角色。steam对于国内的单机游戏市场相当于重新建立了市场秩序。而电影市场就因为失序导致崩盘。同样的，国内的app store也是扮演着秩序提供者的角色。

il-11是我这辈子看过的最厉害的靶点，它在人类疾病中存在之广，伤害之深，都是前所未见的。就现在来看就已经有几十种疾病和它有关。而且这些都基本上是人类束手无策的疾病。针对这个靶点的效果又是如此之强，可以将各种无药可治的绝症变得轻松可治愈。如果这个靶点成功，那么许多器官移植将变得没有必要。它也几乎可以确定可以超越pd-1，glp-1，pcsk9等明星靶点。说不定可以和青霉素对人类的影响相提并论

这个还真是，我在小学和初中的时候还没有遇到过这种，可能是因为我不愿意去混那些”成绩好的圈子“。但是到了高中之后，可能是因为经过几次考试的筛选，这些原是”成绩好的“圈子的人浓度越来越高，见面说话都是味儿，这个神，那个神，这个大牛那个大牛的，虚伪至极，甚至当时还有人在学校里面假装不学，回家偷偷学。这个还是因为我的班主任实在看不下去，私下和我说的，怕我总是跟他上课玩儿，学坏了。 在上学的时候，我家里人都和我说不要自己学会了什么东西都往外说，要藏一点。我就一直和他们讲，我们高考的竞争对象时全省的其他人，班里这几个人对于这么大的基数来说根本不会产生什么影响，但是如果我找到可以合作的人，可以互相探讨的话，对于我们两个来说，这个是完完全全的双赢，要识别出真正的竞争对手是谁，不要局限在眼前看得见的人身上

扩散比自回归好的一点是扩散本身是连续的，但是自回归是离散的，图像本身是连续的，为了把图像用在自回归就要做VQ，VQ本身就会带来损失，就会丢信息。很多像素层面的细节就会全部丢掉。实际上4o也没有解决这个问题，这也是为什么宣传的时候选择吉卜力画风迁移来做文章，最重要的就是吉卜力的画风本身就没啥细节，这个任务重视理解，效果可以体现的最好。但是如果想让他改某一些细节部分就不太行了。 当然也有不少工作试图解决这个问题，比如kaiming大神的MAR之类的，但是这个还需要时间。我感觉最后应该是两者融合的形式。

我曾经参与过两个东方社群的开发，令人惊讶的是，这两个社群的后端都是用的rust 不知道东方和rust的重合度为啥这么高，是有什么神秘的原因吗？

不知道为什么这个好几年前的文章突然火起来了，作为吹哥的粉丝，我之前就把这个演讲给组里面的每个人都推荐了一遍（但好像没有人有反应，感觉有点挫败） 经过了这些年，现在我对吹哥的这个观点又有点不同的看法。 实际上，在现代的人类社会中，基本上每一个领域都是已经达到了全世界只有少数的人才懂。这个不是软件领域的独特现象，甚至在软件依赖的硬件领域，最重要的某些关键部分懂的人比软件还要少得多，软件实际上是相对最安全的领域之一了。我们人类的知识分为几种类型，有的是最为明晰的书面知识，你看了之后就会懂，还有的是大量的是只存在于人类脑海里面的暗知识，比如这个手法应该怎么做啊？某个配方应该怎么加？他们是更加岌岌可危的。而软件，实际上是最为明确的知识了，不仅仅是书面写出来的，更是可以运行的，你可以直接通过运行了解它是怎么运作的。所以实际上，软件的文明的崩塌是相对来说最不值得担心的事情了。我们现在的社会协作是由亚当斯密在国富论里面定义的，分工就会产生更多的财富。只要这个逻辑不变，那么这种每个人只写一点代码片段，但是不懂这个系统是如何运作的就会越来越成为常态。这个是经济学原理决定的，而不是某个人一拍脑袋决定的。我们总觉得说，未来的人不会学某项技术了，但这个实际上是不对的，只要这个技术有钱，实际上人再去学也不是难事。事实上疫情的那个时候，COBOL这个基本上已经是死掉的技术照样能找到维护者就是一个例证。在历史上，许多重要的技术重新被发明是一个常态，技术实际上很难失传，失传的唯一原因就是有的新技术比它好用多了。 软件是管理复杂度的艺术，我们在软件领域做的几乎所有事情，都是在想办法去管理复杂度。这个复杂度我认为应该分为两个部分，一个是自然复杂度，他们来自于大自然，来自于硬件架构，来自于数学和物理定律，比如说异步，比如说并行，比如说缓存一致性，还有的来自于人类社会，比如我们的业务逻辑，这些复杂度都是大自然给的，是我们没有办法消除掉的。第二个是历史复杂度，他来自于历史上的设计错误，兼容性负担，或者来自于人类的惯性。比如说大端序，比如说头文件，比如web那一大坨，比如某些公司为了忽悠客户买新产品加的没有必要的新功能等等等等。这些是我们有可能消除掉的。随着硬件的进步，随着技术的进步，随着人类的习惯的改变，我们可以放弃一些的。 软件就是要不断的推倒重来的。 现在的软件已经积累了太多的历史复杂度了，类似docker，electron的出现已经说明软件的层层累加已经达到了一种荒谬的程度，我们的软件已经是摇摇欲坠了，这时候，按照现在的需求，重新把软件实现一遍已经是变得有价值且变得有必要了。 我印象最深刻的就是，我们负责k8s的组因为下面的组很多，每个组都自己负责一块，实际上用起来就是复杂的无以复加，常常一个功能要经过很多不同的组的pipeline，结果经常互相之间不兼容出一堆问题。还有就是我们的ci/cd，用了一个叫ev2的东西，非常离谱的是，明明是一个做非常简单的azure的类似于terraform的东西，每个组都要在上面增加一点自己的东西，每个组都搞了一套自己的模板语言，有的还好是用现成的，可以查到语法是什么，有的就完全是自己一拍脑袋随便发明的东西，也没有什么文档完全靠猜。最后层层叠叠4-5个不同的模板语言混在一起，简直是地狱绘卷。更别说有的组把自己的模板变成了ide插件，害得我写ci/cd的过程简直是要命。这个就是一个典型的康威定律导致软件变得难用的例证。这些就是我们需要避免的问题。

这位大哥的头像，在mac上，用chrome浏览器，低亮度环境下是非常强的hdr效果，把我闪瞎了。 似乎只有chrome才有的效果，safari会压缩直接变色，firefox直接过曝，一片惨白 尝试拍张照展示这个效果，但是似乎不好拍出来

看了老罗的直播才知道这些年牛皮癣一样的垃圾广告原来都是这个华与华干的，说实话，碰到这种风格的广告的品牌我都会自动把它列入次级品牌，能有得选我都不会买这种品牌的东西

今天oncall，接了一个特别无语的customer escalation 隔壁组的一个大姐，手搓前端的日历组件，但是没搓对，每个月都少了最后一天，客户想选9/30号选不上，都急疯了 难绷

看到这么多人都在口诛笔伐预制菜，其实我还挺希望预制菜能卖到美国来的，这边的菜实在是太难吃了

其实现在想想，软件的这么庞大的遗产，大概也就30多年而已

很好的文章，但是是不是折旧得看电力限制，blackwell是一个特殊情况，因为和Hopper是同一个制程，之后电力如果不够了那么会让他们不得不强行折旧

我还是无法理解这种对CUDA的迷恋，国内也不是没有做编译器，底层开发的人才，一大堆这类人现在要不然找不到工作，要不然无奈的在当webguy，写Spring和React。现在这么一折腾，国内相关岗位应该会迎来一次大爆发。CUDA不是护城河，是沼泽。对于AI来说，你只需要CUDA的一小部分，并且，你也只需要堆足够多的人就能跨过去。

曾经有一个故事，最开始的时候，铁路是靠马拉的，所以铁轨的宽度是按照两个并排的马屁股的宽度来定的，后来火车出现了，但是为了兼容以前的铁轨，所以火车的宽度也是按照两个马屁股来定的，再后来我们开始出现火箭，由于火箭需要用铁轨运输，所以火箭的宽度也被限制为两个马屁股 我喜欢把这种为了兼容性的祖宗之法不可变的东西都称之为马屁股，而我们反思计算机领域，到底有多少马屁股？x86的马屁股是非常多的，这仅仅是冰山一角，还有其他的，比如当年为了跑分作弊引入的string指令等等 我们使用计算机的界面也有大量的马屁股，最明显的就是键盘设计，不知道这个糟糕的键盘设计造成了多少腱鞘炎 计算机领域真正大发展其实也就5-60年而已，就已经积累了如此之多的马屁股。简直是不可思议。我们学习计算机的过程中，有多少时间在学习真正的知识？有多少时间在学习这些马屁股呢？ 一个朝代，经过了上百年的发展，变得逐渐僵化，直到改革或者革命之后改朝换代才又重新焕发活力，其中很多也是马屁股积累的太多，去掉了这些马屁股之后重新爆发出的活力 作为一个软件行业的人，本来应该是打破藩篱，站在勇于创新的第一线，有时候看到很多人沉迷于马屁股，被马屁股环绕不可自拔，令人感到伤心，某种程度上，当一个行业的马屁股含量超过了真正的知识的含量的时候，当这个行业的从业者，以自己对马屁股有多了解为荣，对于去掉马屁股的努力冷嘲热讽的时候，这个行业大概是老了吧。一个人衰老的标志是他对新的事物看不惯，不接受，没兴趣，一个行业也是一样的

感觉只要牵扯到go的都会扯到rust。但是明显两个完全不是一个赛道 但是有一个隐含比较深的点是typescript本身就是比较强调类型的，所以这个点和rust比较契合，但是go属于完全相反，之前连泛型都没有的那种 所以go比较类似c，都是新泽西风格的，但是typescript，rust都属于mit风格。所以一个mit风格的语言编译器用新泽西风格的语言写就让人感觉有种背叛师门的感觉，比较容易引起话题性。 但是不同的领域用不同的语言是最好的，没有必要天天圣战，虽然我不太喜欢go，但现在都有llm了，为什么不干脆多学一门呢？至少go学起来没有任何难度

现在回想起来，ilya当年的讲座里，他认为ai的发展的几个阶段，第一个阶段是预训练，我们刚刚走过。第二个阶段是self play RL，也就是我们现在所处的阶段。第三个阶段是multi agent RL，之前也有传言opanai正在做这个。每一阶段都有不同的能力涌现：第一阶段是系统一，直觉，语言，常识第二阶段是系统二，产生了反思，推理，计划那么第三阶段能产生什么呢？考虑到现在的模型就如同缸中之脑， 第一阶段是系统一，直觉，语言，常识 第二阶段是系统二，产生了反思，推理，计划 那么第三阶段能产生什么呢？胡乱猜测一下，考虑到现在的模型就如同缸中之脑，它没有办法分辨信号来自于哪一个角色。但是如果我们要让它在multi agent训练里面成功，它就需要分辨每个agent的角色，比如你是谁，他是谁等等。但是如果这样，它会不会涌现出我是谁的自我意识呢？ 即使感觉自己这个想法有点太扯淡了，但是想想好像也不是没道理。

这位大哥的头像，在mac上，用chrome浏览器，低亮度环境下是非常强的hdr效果，把我闪瞎了。 似乎只有chrome才有的效果，safari会压缩直接变色，firefox直接过曝，一片惨白 尝试拍张照展示这个效果，但是似乎不好拍出来

我曾经参与过两个东方社群的开发，令人惊讶的是，这两个社群的后端都是用的rust 不知道东方和rust的重合度为啥这么高，是有什么神秘的原因吗？

不知道为什么这个好几年前的文章突然火起来了，作为吹哥的粉丝，我之前就把这个演讲给组里面的每个人都推荐了一遍（但好像没有人有反应，感觉有点挫败） 经过了这些年，现在我对吹哥的这个观点又有点不同的看法。 实际上，在现代的人类社会中，基本上每一个领域都是已经达到了全世界只有少数的人才懂。这个不是软件领域的独特现象，甚至在软件依赖的硬件领域，最重要的某些关键部分懂的人比软件还要少得多，软件实际上是相对最安全的领域之一了。我们人类的知识分为几种类型，有的是最为明晰的书面知识，你看了之后就会懂，还有的是大量的是只存在于人类脑海里面的暗知识，比如这个手法应该怎么做啊？某个配方应该怎么加？他们是更加岌岌可危的。而软件，实际上是最为明确的知识了，不仅仅是书面写出来的，更是可以运行的，你可以直接通过运行了解它是怎么运作的。所以实际上，软件的文明的崩塌是相对来说最不值得担心的事情了。我们现在的社会协作是由亚当斯密在国富论里面定义的，分工就会产生更多的财富。只要这个逻辑不变，那么这种每个人只写一点代码片段，但是不懂这个系统是如何运作的就会越来越成为常态。这个是经济学原理决定的，而不是某个人一拍脑袋决定的。我们总觉得说，未来的人不会学某项技术了，但这个实际上是不对的，只要这个技术有钱，实际上人再去学也不是难事。事实上疫情的那个时候，COBOL这个基本上已经是死掉的技术照样能找到维护者就是一个例证。在历史上，许多重要的技术重新被发明是一个常态，技术实际上很难失传，失传的唯一原因就是有的新技术比它好用多了。 软件是管理复杂度的艺术，我们在软件领域做的几乎所有事情，都是在想办法去管理复杂度。这个复杂度我认为应该分为两个部分，一个是自然复杂度，他们来自于大自然，来自于硬件架构，来自于数学和物理定律，比如说异步，比如说并行，比如说缓存一致性，还有的来自于人类社会，比如我们的业务逻辑，这些复杂度都是大自然给的，是我们没有办法消除掉的。第二个是历史复杂度，他来自于历史上的设计错误，兼容性负担，或者来自于人类的惯性。比如说大端序，比如说头文件，比如web那一大坨，比如某些公司为了忽悠客户买新产品加的没有必要的新功能等等等等。这些是我们有可能消除掉的。随着硬件的进步，随着技术的进步，随着人类的习惯的改变，我们可以放弃一些的。 软件就是要不断的推倒重来的。 现在的软件已经积累了太多的历史复杂度了，类似docker，electron的出现已经说明软件的层层累加已经达到了一种荒谬的程度，我们的软件已经是摇摇欲坠了，这时候，按照现在的需求，重新把软件实现一遍已经是变得有价值且变得有必要了。 我印象最深刻的就是，我们负责k8s的组因为下面的组很多，每个组都自己负责一块，实际上用起来就是复杂的无以复加，常常一个功能要经过很多不同的组的pipeline，结果经常互相之间不兼容出一堆问题。还有就是我们的ci/cd，用了一个叫ev2的东西，非常离谱的是，明明是一个做非常简单的azure的类似于terraform的东西，每个组都要在上面增加一点自己的东西，每个组都搞了一套自己的模板语言，有的还好是用现成的，可以查到语法是什么，有的就完全是自己一拍脑袋随便发明的东西，也没有什么文档完全靠猜。最后层层叠叠4-5个不同的模板语言混在一起，简直是地狱绘卷。更别说有的组把自己的模板变成了ide插件，害得我写ci/cd的过程简直是要命。这个就是一个典型的康威定律导致软件变得难用的例证。这些就是我们需要避免的问题。

扩散比自回归好的一点是扩散本身是连续的，但是自回归是离散的，图像本身是连续的，为了把图像用在自回归就要做VQ，VQ本身就会带来损失，就会丢信息。很多像素层面的细节就会全部丢掉。实际上4o也没有解决这个问题，这也是为什么宣传的时候选择吉卜力画风迁移来做文章，最重要的就是吉卜力的画风本身就没啥细节，这个任务重视理解，效果可以体现的最好。但是如果想让他改某一些细节部分就不太行了。 当然也有不少工作试图解决这个问题，比如kaiming大神的MAR之类的，但是这个还需要时间。我感觉最后应该是两者融合的形式。

我们这边居然要开一个打NAD+的店。

果然我还是喜欢CV，我还是相信视觉才是智力最重要的东西，语言什么的，只是高水平智力涌现出来的能力，能够把高度压缩的概念用符号表示而已。

这个还真是，我在小学和初中的时候还没有遇到过这种，可能是因为我不愿意去混那些”成绩好的圈子“。但是到了高中之后，可能是因为经过几次考试的筛选，这些原是”成绩好的“圈子的人浓度越来越高，见面说话都是味儿，这个神，那个神，这个大牛那个大牛的，虚伪至极，甚至当时还有人在学校里面假装不学，回家偷偷学。这个还是因为我的班主任实在看不下去，私下和我说的，怕我总是跟他上课玩儿，学坏了。 在上学的时候，我家里人都和我说不要自己学会了什么东西都往外说，要藏一点。我就一直和他们讲，我们高考的竞争对象时全省的其他人，班里这几个人对于这么大的基数来说根本不会产生什么影响，但是如果我找到可以合作的人，可以互相探讨的话，对于我们两个来说，这个是完完全全的双赢，要识别出真正的竞争对手是谁，不要局限在眼前看得见的人身上

其实现在想想，软件的这么庞大的遗产，大概也就30多年而已

我已经分不清他是真疯还是假疯了

很多人说是蜜罐，我倒觉得不是，等到时候ech彻底普及了，墙拿不到sni了，那么墙理论上是没法拿到你访问了什么内容的。当然我们不考虑你在本地手机上安装了反诈中心这类情况 反倒是有可能是现在是希望通过提高准入成本（比如这个服务包需要几千块钱，远远超过普通人能接受的价格）来筛掉普通大众，本身现在翻墙的人就很多，现在翻墙的技术也越来越难防。墙当年是在http明文传输的背景之下产生的，现在tls标准演进也让墙变的越来越没有意义。墙的主要目的还是审查，防止政府不喜欢的信息进来，而不是彻底的脱钩断链。这两年经济也不好，现在三驾马车除了外贸其他都完蛋的情况下，政府实际上是无法承受彻底脱钩断链的风险的，这种情况下，不太能像前几年对于其他国家开放互联网的要求置之不理，更有可能的情况是在某几个更可控的一线城市有条件开放互联网，但是其他地方依旧不放开。反正这些一线城市能付得起一个月几千的大概率也已经天天翻过墙了，再封也没有啥意义。 总之，现在翻墙的人太多，信息实际上也并不太能防得住，技术上难度也越来越大，彻底断网也不现实，会让经济雪上加霜，更不利于统治。与其这样不如通过经济水平分割，只要基本盘不出问题就没事。

经过kimi的验证，这下是不是muon要火了？

终于有人开始意识到这个才是killer feature

有人测试过groq托管的kimi k2的性能和原版性能是不是一样的吗？groq之前托管的模型都是distill的版本，为啥到kimi k2就可以托管完整版了？我有点不能理解