AGI Timelines and Agent Development - Andre Karpathy 认为 AGI (Artificial General Intelligence，通用人工智能) 还需要 10 年以上的时间才能实现 [1] - 行业普遍认为 2025 年至 2035 年将是 Agent (代理) 的十年，但要使 Agent 真正可用并普及到整个经济领域，还需要大量的开发工作 [1] - 行业观察到 LLM (Large Language Model，大型语言模型) 在近年取得了巨大进展，但仍然存在大量的基础工作、集成工作、物理世界的传感器和执行器、社会工作、安全工作以及研究工作需要完成 [1] Learning Approaches and Model Capabilities - Karpathy 认为 LLM 的学习方式更像是“幽灵”，而不是动物，动物天生就具备大量通过进化预先设定的智能 [1][2] - 行业对强化学习 (RL) 的有效性表示怀疑，认为其每次计算所获得的学习信号较差，并倾向于 agentic 交互，即为 Agent 创建一个可以进行实验和学习的“游乐场” [2] - 行业正在探索系统提示学习 (System Prompt Learning)，这是一种通过改变系统提示来影响模型行为的新学习范式，类似于人类做笔记 [2][3] Model Size and Memorization - 行业趋势是模型尺寸先增大后减小，认知核心 (Cognitive Core) 的概念是剥离 LLM 的百科全书式知识，使其更擅长泛化 [3] - 行业对当前 Agent 行业提出了批评，认为其在工具方面过度投入，而忽略了当前的能力水平，并强调与 LLM 协作，结合人类的优势和 LLM 的长处 [3]
Andrej Karpathy devastates AI optimists...
Matthew Berman·2025-10-20 21:22