想知道你的LLM API被过度收费了吗?隐藏的Tokens终于可以被审计了
机器之心·2025-06-17 08:52
本文作者来自马里兰大学的 CASE ( C ollaborative, A utomated, S calable, and E fficient Intelligence) Lab,主要参与者为博士生孙国恒与王子瑶,指导教师为李昂 教授。 研究背景:在商业保护与用户知情间寻求平衡 论文标题: Invisible Tokens, Visible Bills: The Urgent Need to Audit Hidden Operations in Opaque LLM Services arXiv 链接:https://arxiv.org/pdf/2505.18471 近年来,大型语言模型(LLM)在处理复杂任务方面取得了显著进展,尤其体现在多步推理、工具调用以及多智能体协作等高级应用中。这些能力的提升,往往 依赖于模型内部一系列复杂的 「 思考 」 过程或 Agentic System 中的 Agent 间频繁信息交互。 然而,为了保护核心知识产权(如防止模型蒸馏或 Agent 工作流泄露)、提供更流畅的用户体验,服务提供商通常会将这些中间步骤隐藏,仅向用户呈现最终的 输出结果。这在当前的商业和技术环境下 ...