0%

程序员会不会被 AI 取代,这个问题被反复问了好几年。真到了日常的工作里,被替掉的是一部分任务:样板代码、重复修复、机械实现。审查、验收和判断留了下来,它们的成本并没有下降。

软件工程攒了几十年的实践,比如完整的回归测试、跟随代码演进的文档、清晰的模块边界和性能基准,一直没有真正普及。它们对人力的消耗太大,有交付压力时总是先被砍掉。AI 把执行成本降下来之后,这些实践第一次变得划算。

阅读全文 »

1. 概览

最近刷到一个视频,《怎么奴役一千人》。
视频的设定很简单:把一千个人放到一座与世隔绝的岛上,没有政府,也没有历史留下的权威,然后问一个问题,怎么让这一千个人长期服从一个人。
真正吸引我的是那座孤岛。现实里的统治变量太多,看不清哪一条在起作用。
把规模压到一千人,把外部世界拿掉,剩下的就是结构本身。

看完我有两个疑问:

  • 这套东西有哪些零件,能不能拆成一套可以对照的框架;
  • 它为什么在历史上总是短命,明明每一步看上去都有效。

现实世界也有不少这类事情,特别是退出成本高的领域。国家层面也有,比如 国家为什么失败。

阅读全文 »

1. 起因:一条视频

前阵子刷到一条视频,《大灭绝时代的生存指南:塔勒布思想述评》,讲纳西姆·塔勒布。
这条视频把《随机漫步的傻瓜》《黑天鹅》《反脆弱》《非对称风险》串成一条线,中间还补了休谟的归纳问题、演化论里的间断平衡,以及塔勒布本人在黎巴嫩内战的经历。

看完的第一感觉是:讲的人逻辑清晰。
在这之前我读过《随机漫步的傻瓜》,当时留下的印象是,大部分人做金融,判断水平和猴子扔飞镖差不多。

那为什么搞金融的人会推崇塔勒布,他有什么优点,怎么去深入了解不确定性?

阅读全文 »

推特网友@dontbesilent 说:
过去十年最重要决定,就是从北京到了广东
随着时间推移,这个决定的影响会越来越大
Paul Graham,城市与雄心(2008)

于是我把 Paul Graham 2008 年的《城市与抱负》翻出来读了一遍。
这篇文章讲的是城市怎么影响人,读的时候,也想起来自己的几段经历。

阅读全文 »

1. 缘起

早些年买的 HHHK Type-S 键盘,一个月左右要换一次电池( 充电电池 ),有时候换完电池,
就没法连上 Mac 继续使用,为此还被家里领导吐槽过。
因为家里的 Mac Studio + 键盘 + 触摸板都是无线的,键盘挂了就没法用电脑。

每次遇到这个问题,我都要检索一番。
但是现在的搜索引擎,都在用 AI 进行总结,放在前面的方法不一定是对的。

于是我就想着写在博客上,下回可以直接手机查看。

2. 问题集锦

2.1 蓝灯常量

阅读全文 »

1. 缘起

9 月 23 日,Cursor 的 Eric Zakariasson 在 X 上发了一份 prompt。内容是优化 Agent Harness 的 token 效率。帖子说,某团队一轮改动后整体 token 成本降了约 7%,质量没有下降。改动包括提示词精简、工具卸载、缓存布局、稀疏行号、子 Agent 调优。这是团队自述数据,用来判断量级。

它最值得抄的是方法:不看单次请求省了多少,改看完成一个任务花了多少。李博杰的开源书《深入理解 AI Agent:设计原理与工程实践》补上了另一半,这些动作为什么有效。我写过读后感。

阅读全文 »

2026 年 8 月 4 日,硅谷101 播了一期对谈,嘉宾是盛颖。节目页给的头衔有三个:开源推理引擎 SGLang 的发起人、xAI 前推理团队负责人、RadixArk 联合创始人兼 CEO。这期还有一份近四万字的文字稿,发在硅谷101 的头条号上,本文引用的原话都出自那里。

她现在的公司拿了 1 亿美元种子轮,估值 4 亿美元。访谈里更耐看的是另外一部分:她怎么从九江走到斯坦福,为什么愿意把代码放出去,以及她怎么讲那些平时没人摆到台面上说的事。这几段放在一起,背后有一条共同的判据,她要把「对不对」从感觉变成可验证的东西:数学用证明,系统用指标,组织用规则。

落到产品上,SGLang 回答的是一个很实际的问题:同一批卡,做同一件事,凭什么有的团队能多跑出几倍的量。

阅读全文 »

1. laya 是什么

laya 是一个跑在自己机器上的判断模型:给它一段材料(工单、邮件、命令、JSON)和几个预设问题,它返回选项和概率,不生成任何文字。

它是照着 Jev 的接口做的开源替代:比 Jev 快得多、免费、能自己部署,但开箱能力弱一档,选项一多就崩,要用得先拿自己的数据微调。下面说的快和弱,参照物都是 Jev。

1.1 和 Jev 的关系

2026 年 9 月 15 日 TypeSafe AI 发布 Jev,闭源托管、邀请制。三天后 laya 出现在 GitHub 上,由 Convai Innovations 开发。

laya 复现的是 Jev 的接口和那套概念,模型本身是另一套。它是三个 encoder 加一个决策头,英文基于 ModernBERT-large 421M 参数,多语言基于 mmBERT-base 322M,权重都是自己训练的。Jev 只提供托管 API,laya 的基准测试里也从没调用过 TypeSafe 的接口,取的都是官方公布的数字。

阅读全文 »

1. 概览

一个 Chatbot 要上线,关键不在模型多强,在模型外面套一圈确定性的关卡。

  • 违规请求在进模型之前就被拦掉,省 token 也省风险。
  • 召回来的知识先过重排再喂给模型,低分的直接砍掉。
  • 工具调用套上中间件,限流、清洗、重试都在这一层做,下游不会被模型不可靠的参数打崩,出错能自愈。
  • 输出过审才出去、过审才写回记忆,某一轮的错结论不会污染之后每一轮。
  • 全程挂 Callback,出问题能定位到是哪个环节慢、哪个环节多花了 token。

思路是:模型能出错的每一处,都放一道确定性的关卡接着,模型只管认知,工程交给外面的关卡。

阅读全文 »

1. 缘起

2026 年 9 月 15 日,TypeSafe AI 发布模型 Jev。它不生成文字,给定一段材料与若干预设问题,直接返回选项和概率。创始人 Diogo Almeida 为 InstructGPT 论文作者之一。发布三天内,GitHub 上出现十余个围绕它的项目。

它要解决的问题:Agent 跑一次任务,中间要做几十上百次小判断,比如下一步点哪个按钮、这封邮件归哪个队列、这条命令危不危险。这些判断的答案通常只是一个选项或一个数,但交给大模型做,模型得先把答案写成一句话,程序再解析回来。成本花在两处用不上的地方:把答案写成文字,以及每问一个问题都把同一份材料重读一遍。

阅读全文 »