“智能体”决策不应架空人类“数字主权”

●张佳欣 "信任"应成为产品硬指标 "代理权"越位或违背用户意愿 这种安全感的本质，是人类对"代理权"越位的深层警惕。以前，AI是一个"问答机"，人类下指令，AI来 执行。但现在，AI正在向"智能体"进化，这意味着它从被动响应转向了主动执行。 据国外黑客新闻网（The Hacker News）在1月24日发布的文章指出，AI智能体不仅仅是另一种类型 的"用户"。它们与人类用户、传统的服务账户有着本质区别，正是这些差异，导致现有的访问权限和审 批模型全面失效。在实际操作中，为了让AI能高效完成任务，系统赋予智能体的权限往往比用户本人 拥有的更高。这种"访问权限漂移"有可能导致AI在用户不知情、未授权的情况下，执行了技术层面合 法、但违背用户自主意愿的操作。 当"代理人"的技术权力在事实上大过其主人，人类在数字世界的控制权便面临被"架空"的风险。这种权 力的隐形流失，并非源于技术的恶意，而是因为系统在追求效率的过程中，悄无声息地打破了人类 的"数字主权"边界。德勤在1月21日发布的报告中指出，目前AI的"代理权"已经超越了其安全防御措 施。数据显示，全球仅有20%的公司建立了成熟的AI智能体治理模型。这种"五分之 ...