从TPU到自我进化的Agent：Jeff Dean如何判断AI的下一步

事件概述

Jeff Dean在YC Startup School的访谈中表示，AI竞争正从“谁有更大的模型”转向“谁能更好地组织智能”。下一阶段的关键不是把模型训练得更聪明，而是把模型放进能长期工作、持续试错、自动验证并不断积累能力的系统中。

核心信息

• AI能力已接近初级工程师，生产组织方式将重构：Jeff Dean重申2025年5月“AI能力接近初级工程师”的判断“相当准确”，并指出Agent化、长流程编码和复杂任务上的进步超过预期。AI系统开始进入科学、工程等领域，能拆解任务、调用工具、运行实验并根据反馈行动。未来工程师将更多负责定义问题、搭建环境、设计反馈回路和调度Agent；他预测2027年机器学习系统会越来越多地参与改进自身，自动运行实验并组合有效方案。反馈清晰的领域会最先实现AI自动化。

• 硬件机会在低延迟低能耗专用推理芯片：以TPU诞生为例：2013年Google语音识别错误率下降一半，但若每用户每天使用三分钟语音识别，按当时CPU效率需把服务器规模扩大一倍，直接推动了TPU。第一代TPU比CPU和GPU节能30-80倍，延迟低20-30倍。Jeff Dean认为下一轮硬件机会仍在专用化，但重心会转向推理。他给出具体数据：一次乘法约需1皮焦耳，把数据从高带宽内存搬到计算单元的能量成本可能高约1000倍，因此数据搬运才是AI系统的真正成本中心。延迟若改善50倍，将催生全新产品形态。

• 上下文工程让小团队从API起步：模型参数中的知识像“浓汤”，而当前上下文中的信息更直接可用。上下文工程把专家步骤、工具和验证标准结构化，让通用模型在窄场景中可靠运行。Jeff Dean举例说，他和Sanjay Ghemawat把优化底层库的微基准方法写成Agent技能，模型便能自动运行基准、修改代码并比较结果。未来公司差异化可以来自被编码进工作流的领域经验。

• 长程Agent需要分布式系统设计思路：长流程Agent容易在第30步或50步后因分布外问题失控——忘记目标、误解状态或重复动作。解决方案包括用技能约束路径、多Agent分支探索和外部评估。可靠的长程Agent需要检查点、状态管理、回滚、分支探索和异常恢复，更像分布式系统而非超长聊天。MapReduce解决的就是“用大量不可靠机器完成可靠计算”的问题，Agent平台可能继承类似思想。

• 创业机会：寻找通用模型成功率1%的盲区：小团队应选择当前通用模型几乎完全失败的任务，成功率约0%或1%，而不是已经能做到20%的任务——后者很快会被模型进步覆盖。结构性盲区有三类：专有数据、专业评价能力、窄而深的垂直模型（如AlphaFold）。这样的优势才更具耐久性。

• 品味、规格和问题选择变得更稀缺：当Agent能写代码，判断“该做什么”的能力成为关键。目标规格越清晰，Agent成功率越高；未来设计文档不仅是团队沟通材料，也是机器执行输入。品味可以通过“写下未来12个月重要的事并复盘”来训练。

• 科学方法被压缩成高速循环：AI可自动提出并执行实验，也能用廉价近似模型替代昂贵验证器。例如，Google用神经网络近似密度泛函理论模拟，接近原模拟器准确度，速度快约30万倍。AlphaEvolve、AlphaChip等系统都是“提出方案-执行-评价-迭代”的闭环。机器学习本身也会被自动化，未来研究效率指标可能是“每单位算力产生多少有效发现”。

• 思想实验与工程抽象：Jeff Dean以“如果晶体管每天出错20次会怎样”说明应定期拿掉行业默认前提。MapReduce正是重新思考并行抽象的结果。他认为Agent工程也可能出现类似MapReduce的简洁抽象，让长程Agent的分解、验证、恢复和并行探索成为底层能力，这可能是下一批基础设施公司的机会。

值得关注

• Jeff Dean在2026年YC Startup School上的核心判断：AI下一阶段从“更大模型”转向“组织智能”。
• 关键数据：数据搬运能量成本约为计算的1000倍；第一代TPU比CPU/GPU节能30-80倍、延迟低20-30倍；神经网络近似量子化学模拟快约30万倍。
• 对创业者的“1%法则”：优先选择通用模型成功率接近0%或1%的窄而深问题。