杨震原：2021 年字节团队曾训出大语言模型，但当时 “没眼光”

11月24日，在第五届字节跳动奖学金颁奖典礼上，字节跳动技术副总裁杨震原分享了公司的技术探索历程。 据其透露，2014年，字节跳动创始人张一鸣找到他表示想用大规模机器学习系统来搭建推荐系统，解决各种媒体形式，包括图片、文字、视频的推荐。被这 个想法吸引的杨震原就这样加入了当时还是一家小公司的字节跳动。 杨震原提到，在 2022 年 11 月 30 日 ChatGPT 横空出世之前，字节跳动团队曾在 2021 年有过一次提前关注大语言模型的机会：当时字节跳动的一位同事已 训练出一个大语言模型，但团队当时得出 "该大语言模型暂无实用价值" 的结论。 "所以还是很没眼光。"杨震原说道。 好在公司调整的很快，从2022年开始在这个方向投入至今，也取得了一些成果。"应用上大家可能更熟悉一些，豆包是中国最流行的AI对话助手，火山引擎 的大模型服务也受到客户的认可，根据IDC的报告，火山是中国MaaS市场的第一名。" 字节跳动技术副总裁杨震原 以下为杨震原分享全文： 大家好，很高兴在字节技术奖学金，这样一个场合见到大家。我自己是一个技术爱好者，2014年我加入字节跳动。从最初负责搭建新的推荐系统开始，到现 在已经有快12年 ...