系统提示学习

Search documents
YC AI 创业营第一天,Andrej Karpathy 的演讲刷屏了
Founder Park· 2025-06-18 14:28
Andrej Karpathy 在 YC AI 创业营的演讲火了。 「我们并非处于智能体之年,而是身处智能体的十年时代。」 从软件和大模型发展开始讲起,阐述了今天做软件开发需要具备什么样的技能,以及 LLM 时代,新的交互和人机关系。 以及,如何真正迈向软件 3.0 时代——提示词即应用的时代。 虽然官方还未发布现场视频,但 Latent Space 对推特上相关推文进行了整理,基本上整理出来了 PPT 的完整内容。我们第一时间进行了编译处理。 第一天的 YC AI Startup School 还有其他一些嘉宾的精彩分享,Sam Altman、李飞飞、马斯克和 Aravind Srinivas 等人的观点,我们一并整理了放在文中。 TLDR: 超 6000 人的「AI 产品市集」社群!不错过每一款有价值的 AI 应用。 邀请从业者、开发人员和创业者,飞书扫码加群: 不同于我之前对软件 2.0 图表的修改方式, Andrej 此次推出了全新的示意图,展示了软件 1.0、2.0、3.0 交错共存的状态,并指出「软件 3.0 正在取代 1.0/2.0」,且「大量软件将被重写」。 01 软件 3.0: 提示词即软件 ...
Claude1.7万字系统提示词全网刷屏!Karpathy锐评:LLM训练缺乏关键范式
量子位· 2025-05-13 01:03
全网刷屏的Claude系统提示词,结果被卡帕西大神当场抓虫?! 鹭羽 发自 凹非寺 量子位 | 公众号 QbitAI 事情是这样的。 一夜之间,近 1.7万 字系统提示词——包含 24000 个token,详细定义了模型行为、工具使用和引用格式…..全部细节直接在GitHub上被泄 露了! 这事儿一出,网友蜂拥而至速速围观,甚至亲切地称呼 这次意外泄漏事件是提示技术的金矿 。 就在此时,大神卡帕西发现了华点: LLM学习缺少主要范式? 随即他提出系统提示学习新范式—— 模拟人类经验积累过程,将系统提示嵌入权重。 简单总结一下,就是模拟人类学习,为LLM提供备忘录功能,让LLM拥有自主反思用户问题的"记忆"功能,记录通用的问题解决知识和策略。 新范式一石激起千层浪,有人表示赞同,也有人开始着手分析新范式帮助LLM畅玩Minecraft的可行性: 当然也有人持反对意见,认为允许模型自己编写提示会使模型更加混乱,也无法保证模型不会错误地理解提示。 具体是怎么一回事呢?别急,接下来让我们一起来回顾整个事件。 Claude系统提示词曝光 据揭露,完整的Claude系统提示词包含 16739 个字,也就是 110kb 。 ...
AI也需要"记笔记":Karpathy从Claude 1.6万字提示词中看到的未来
歸藏的AI工具箱· 2025-05-12 08:28
LLM 的系统提示就是在对话一开始递给 AI 的"一页说明书",用来告诉它该扮演什么角色、遵守哪 些规则、用什么方式回答用户。 大概来看一下这么长的提示词里面主要都是一些什么内容: 而且整个提示词中充满了临时修改的的痕迹,这些修改往往没有使用 XML 或者 Markdown 格式的列表,就 是一段话,看起来像是针对一些热点事件或者问题修复打的补丁。 **Acknowledgments** I would like to thank my supervisor, for his kind of support. I would like to thank my supervisor, for his kind of support. 如果懒得看内容可以听一下,播客使用 listenhub 制作 前几天 Cluade 新的系统提示词泄露了,居然有 16,739 个单词,非常长。 相比之下,OpenAI 在 ChatGPT 中的 o4-mini 的系统提示有 2,218 个单词,只是 Claude 的 13%。 什么是系统提示词 Claude 整个系统提示词这么长维护和更新甚至版本控制应该都需要一个专门的流程,不然 ...