黄仁勋称AI推理需要更多计算量

英伟达CEO黄仁勋在英伟达股东大会上表示，推理需要更多计算。仅在过去一年里，tokens(词元)生成 就激增了50到100倍。为了满足这种指数级的激增，大型人工智能工厂正在各地崛起。仅微软在上个季 度就处理了超过100万亿的tokens，是一年前的5倍。(第一财经) ...