Jeff Dean离职后首次公开访谈:谈Gemini不足、TensorFlow失误与新公司计划
Jeff Dean在斯坦福研讨会上首次公开谈及离职原因和新公司Discovery Loop。他承认Gemini早期对Coding能力重视不足,TensorFlow有两个设计失误,并透露新公司将聚焦科学和工程自动化,目标将实验迭代周期压缩到分钟级。
事件概述
Jeff Dean在斯坦福2026 Frontier & Pioneer Symposium上,完成了从谷歌离职后的首次公开访谈。他围绕离开谷歌的原因、Gemini早期开发、TensorFlow的设计失误、新公司Discovery Loop的方向等话题进行了分享。
核心观点
-
Gemini早期对Coding能力重视不足:Jeff Dean表示,Gemini是Google内部多个研究项目(DeepMind、Google Brain等)汇合的结果。他当时写了一份一页纸备忘录,推动整合团队从零打造多模态模型。现在看,从一开始就构建多模态是正确的决定,但当时对Coding能力的重视稍晚,而改进Coding能力有助于提升模型整体推理能力。
-
TensorFlow的两个明确失误:一是最初没有加入Eager Execution模式;二是开源时设置了contrib子目录,导致社区出现同一功能多种实现方式的混乱。他认为应该让核心更简洁,将扩展作为外部库。
-
离开谷歌的原因:Jeff Dean在谷歌工作了27年,离开是为了探索更专注的团队形态。他认为如今云计算和机器学习算力基础设施已足够成熟,小团队可以依靠这些基础设施专注做科学和工程自动化,绕开大型组织的干扰。
-
新公司Discovery Loop:目标是利用机器学习提高科学发现速度。初期聚焦少数领域,希望打造一个拥有接近20个不同领域博士级别能力的模型,通过Agent和Multi-Agent系统拆解大问题、并行运行实验,将实验迭代周期从一天或一周压缩到一分钟或一小时。
-
递归自我改进:他列举了此前Quoc Le的Neural Architecture Search和Evolved Transformer(效率比标准Transformer高约30%),认为模型架构、训练数据、Eval等环节未来都可以形成自动化闭环。
-
科研方法建议:与其精读一篇论文,不如快速浏览10篇甚至100篇摘要,以便连接尚未被连接的思路。同时要善用第一性原理做数量级估算。
-
AI与网络安全:他认为AI目前已经能完成顶级人类攻击者能做的事情,甚至可能更进一步,同时也能发现人类防御工程师难以发现的漏洞。他建议对不希望模型执行的行为,可能需要法律和监管等非技术手段。
