8 条来自 8 位 builder

AI构建者摘要

真正在做 AI 的人今天说了什么。一页读完,约 4 分钟。

今天的主线是 Karpathy 提出的“漏斗”:几十亿人眼里的 AI 还是个有点呆的聊天机器人,而几千个圈内人已经在看 agent 集群一连干上好几周。Levie 和 Garry Tan 顺着这个话题接着聊;Codex 的默认上下文提到了 500k,走订阅的用量不再收长上下文费用;Fractile 的 Walter Goodwin 则认为,决定 agent 能跑多快的是内存带宽。

X

Andrej Karpathy

Karpathy:大家对 LLM 能力的认知差距,已经变成一个陡峭的漏斗

Karpathy 粗略算了一笔账:大约 60 亿人几乎没碰过 LLM;10 到 20 亿人把免费版聊天机器人当成更好用的搜索;约 2000 万数学和编程领域的专业人士,看着 agent 凭一个 prompt 就做完要花几个月的项目;还有约 5000 名能用上内部前沿模型的圈内人,看到成群的 agent 连续运行好几周,不断挖出零日漏洞、推进数学研究。他把原因归结为三股力量:影响力随问题的野心和时间跨度放大;能力参差不齐,在奖励可数字化、可验证又值钱的地方最强;使用权限分成免费、付费和内部三档。不到一年前,他还在一行行手敲代码。而在漏斗顶端,人工审查已经跟不上了。

  • #agents
  • #adoption
X

Thibault Sottiaux

Codex 里的 GPT-6.1 Sol 默认上下文提到 500k,不再收长上下文费用

GPT-6.1 Sol 在 Codex 和 Work 里的默认上下文从 272k 提到 500k,多了约 80%,目的是减少长任务里的上下文压缩次数。用户仍然可以自己调,最高到 1M;走订阅额度的用量也不再收长上下文费用。Sottiaux 还说有个投票结果让他很困惑:他本以为在 Pro 100/200/500 三档里,用户会一边倒地选两倍用量,哪怕代价是恢复 5 小时限额,结果这个倾向远没有他想的那么明显。

  • #products
  • #pricing
播客

No Priors

Fractile 押注:让 agent 跑得快的是内存带宽,不是 FLOPs

Walter Goodwin 说,把聊天机器人做得更跟手,只是快速推理里的“更快的马”。真正的大奖是让数万亿参数的模型跑到每秒数千 token,让长时间运行的 agent 完成任务快得多。Fractile 早期用的是 SRAM 方案,也就是 Groq 和 Cerebras 走的路线,后来因为撑不起长上下文而放弃;现在他们和内存厂商合作,想从便宜的 DRAM 里榨出多得多的带宽,号称单芯片带宽是 HBM 产品的 25 倍。二十年来 FLOPs 涨了约一百万倍,内存带宽只涨了约 40 倍。他认为补上这个差距,稀疏得多的模型才真正能拿来做线上服务:“只要你能找到办法,在结构上拉开三到六个月的领先,这些部署就全是你的。”

  • #hardware
  • #inference
X

Aaron Levie

Box CEO

Levie:agent 集群是终局,但多数公司还差得远

Aaron Levie 回应 Karpathy 的漏斗说,大多数人把 AI 当成下一代搜索在用,而对任何有高价值、可以并行推进的领域来说,agent 集群可能才是终极形态,数学、网络安全、生物、材料科学、软件、金融都在其列。要把它推广到软件和 AI 研究之外,得下大力气做变革管理:升级工作流,把数据迁到现代化平台,再建立新的合规、治理和安全框架。在他看来,这些面向具体领域的工作,正是应用层 AI 在企业里大放异彩的地方。

  • #agents
  • #enterprise
X

Thariq

Thariq:别满足于一个不透明的超级智能

Thariq 认为 Terence Tao 的大方向是对的:我们不该满足于一个不透明的超级智能。在他看来,沟通能力是智能的关键信号,所以模型和产品应该和人一起建立理解,而不是把人排除在外。

  • #alignment
  • #products
X

Garry Tan

Y Combinator President & CEO

Garry Tan:把 LLM 调用换成确定性代码,根本不用犹豫

Garry Tan 说,把 LLM 调用换成确定性代码是显而易见的选择,而且这样写出来的代码更好,也更贴近用户真正想要的东西。他还号召大家“今天就成为那 5000 人中的一员”,称之为“人类历史上最大的 alpha 源泉”,并预测价格会降下来,让更多人有机会见识到。

  • #engineering
  • #agents
X

Peter Yang

就算活儿交给 agent 干,为什么最后一步还是人工审查

教过 10 万多人用 AI 做产品的 Micky(@Rasmic)说,凡是真有人在用的东西,他都不放心全交给 agent,所以最后一步始终是人工审查。他的办法是让 agent 自己拿出证据:通过改动前后的对比测试,说明它做了什么、好在哪里。他说这大概是开发者工作里最糟心的部分,这样做能让它顺畅不少。

  • #agents
  • #coding
X

Matt Turck

Matt Turck:agent 管理员不过是下一代打孔卡操作员

Matt Turck 理了一条脉络:从打孔卡操作员,到 Lotus Notes 管理员、Flash 开发者和 Dreamweaver 网站管理员,再到 DevOps 和 Tableau 分析师,如今轮到 agent 管理员和 harness 工程师。他对这场转变的判断是:“最后都会好好的。”

  • #jobs

发到你的邮箱

每天一封。一键退订。

数据来源

源数据来自 zarazhangrui 的开源项目 follow-builders,以 MIT 许可发布。摘要由 LLM 基于该项目的公开 feed 生成,摘要 prompt 亦改编自该项目。上面每一条都链接到原始出处。

摘要由程序自动生成。据此做判断前请先看原文。