真正在做 AI 的人今天說了什麼。一頁讀完，約 4 分鐘。
今天的主線是 Karpathy 提出的“漏斗”：幾十億人眼裡的 AI 還是個有點呆的聊天機器人，而幾千個圈內人已經在看 agent 叢集一連幹上好幾周。Levie 和 Garry Tan 順著這個話題接著聊；Codex 的預設上下文提到了 500k，走訂閱的用量不再收長上下文費用；Fractile 的 Walter Goodwin 則認為，決定 agent 能跑多快的是記憶體頻寬。
Karpathy：大家對 LLM 能力的認知差距，已經變成一個陡峭的漏斗
Karpathy 粗略算了一筆賬：大約 60 億人幾乎沒碰過 LLM；10 到 20 億人把免費版聊天機器人當成更好用的搜尋；約 2000 萬數學和程式設計領域的專業人士，看著 agent 憑一個 prompt 就做完要花幾個月的專案；還有約 5000 名能用上內部前沿模型的圈內人，看到成群的 agent 連續執行好幾周，不斷挖出零日漏洞、推進數學研究。他把原因歸結為三股力量：影響力隨問題的野心和時間跨度放大；能力參差不齊，在獎勵可數字化、可驗證又值錢的地方最強；使用許可權分成免費、付費和內部三檔。不到一年前，他還在一行行手敲程式碼。而在漏斗頂端，人工審查已經跟不上了。
Codex 裡的 GPT-6.1 Sol 預設上下文提到 500k，不再收長上下文費用
GPT-6.1 Sol 在 Codex 和 Work 裡的預設上下文從 272k 提到 500k，多了約 80%，目的是減少長任務裡的上下文壓縮次數。使用者仍然可以自己調，最高到 1M；走訂閱額度的用量也不再收長上下文費用。Sottiaux 還說有個投票結果讓他很困惑：他本以為在 Pro 100/200/500 三檔裡，使用者會一邊倒地選兩倍用量，哪怕代價是恢復 5 小時限額，結果這個傾向遠沒有他想的那麼明顯。
Fractile 押注：讓 agent 跑得快的是記憶體頻寬，不是 FLOPs
Walter Goodwin 說，把聊天機器人做得更跟手，只是快速推理裡的“更快的馬”。真正的大獎是讓數萬億引數的模型跑到每秒數千 token，讓長時間執行的 agent 完成任務快得多。Fractile 早期用的是 SRAM 方案，也就是 Groq 和 Cerebras 走的路線，後來因為撐不起長上下文而放棄；現在他們和記憶體廠商合作，想從便宜的 DRAM 裡榨出多得多的頻寬，號稱單晶片頻寬是 HBM 產品的 25 倍。二十年來 FLOPs 漲了約一百萬倍，記憶體頻寬只漲了約 40 倍。他認為補上這個差距，稀疏得多的模型才真正能拿來做線上服務：“只要你能找到辦法，在結構上拉開三到六個月的領先，這些部署就全是你的。”
Garry Tan：把 LLM 呼叫換成確定性程式碼，根本不用猶豫
Garry Tan 說，把 LLM 呼叫換成確定性程式碼是顯而易見的選擇，而且這樣寫出來的程式碼更好，也更貼近使用者真正想要的東西。他還號召大家“今天就成為那 5000 人中的一員”，稱之為“人類歷史上最大的 alpha 源泉”，並預測價格會降下來，讓更多人有機會見識到。
就算活兒交給 agent 幹，為什麼最後一步還是人工審查
教過 10 萬多人用 AI 做產品的 Micky（@Rasmic）說，凡是真有人在用的東西，他都不放心全交給 agent，所以最後一步始終是人工審查。他的辦法是讓 agent 自己拿出證據：透過改動前後的對比測試，說明它做了什麼、好在哪裡。他說這大概是開發者工作裡最糟心的部分，這樣做能讓它順暢不少。
來源資料出自 zarazhangrui 的開源專案 follow-builders，以 MIT 授權釋出。摘要由 LLM 依該專案的公開 feed 生成，摘要 prompt 亦改編自該專案。上面每一則都連結到原始出處。
摘要由程式自動生成。據此判斷前請先看原文。