Claude1.7万字系统提示词全网刷屏！Karpathy锐评：LLM训练缺乏关键范式

全网刷屏的Claude系统提示词，结果被卡帕西大神当场抓虫？！ 鹭羽 发自 凹非寺 量子位 | 公众号 QbitAI 事情是这样的。 一夜之间，近 1.7万 字系统提示词——包含 24000 个token，详细定义了模型行为、工具使用和引用格式…..全部细节直接在GitHub上被泄 露了！ 这事儿一出，网友蜂拥而至速速围观，甚至亲切地称呼 这次意外泄漏事件是提示技术的金矿 。 就在此时，大神卡帕西发现了华点： LLM学习缺少主要范式？ 随即他提出系统提示学习新范式—— 模拟人类经验积累过程，将系统提示嵌入权重。 简单总结一下，就是模拟人类学习，为LLM提供备忘录功能，让LLM拥有自主反思用户问题的"记忆"功能，记录通用的问题解决知识和策略。 新范式一石激起千层浪，有人表示赞同，也有人开始着手分析新范式帮助LLM畅玩Minecraft的可行性： 当然也有人持反对意见，认为允许模型自己编写提示会使模型更加混乱，也无法保证模型不会错误地理解提示。 具体是怎么一回事呢？别急，接下来让我们一起来回顾整个事件。 Claude系统提示词曝光 据揭露，完整的Claude系统提示词包含 16739 个字，也就是 110kb 。 ...