Workflow
SIAMD
icon
Search documents
破除水军机器人!北航团队发布全新对抗性框架SIAMD:用“结构信息”破译机器人伪装|IEEE TPAMI
AI前线· 2026-01-07 06:36
作者 | 北航彭浩团队 机器人检测对于打击虚假信息、维护社交媒体在线互动的真实性至关重要。然而,机器人在模仿真实账户和规避检测方面的复杂 程度不断提升,使得检测系统与建模技术之间的博弈持续升级。本文提出一种 基于结构信息原理的对抗性框架 SIAMD ,用于 对机器人行为进行建模并实现主动检测。该框架首先将用户账户与社交消息之间的多关系交互组织为统一的异质结构,引入结构 熵量化历史活动中固有的不确定性。通过最小化高维熵,揭示账户社区内的分层结构,为机器人账户的行为建模提供活动判定和 账户选择依据。针对每个建模机器人及其选定账户,SIAMD 提取历史消息和用户描述构建提示词,并结合大语言模型生成相关 消息内容。通过在原始异质网络中嵌入合成消息节点并建立多关系交互,SIAMD 实现网络结构与内容的协同演化,从而以对抗 方式增强基于图的主动检测能力。在多个真实世界数据集上的大量对比实验表明,SIAMD 在有效性、泛化性、鲁棒性和可解释 性方面显著且持续优于当前最先进的社交机器人检测基线模型。 对抗性检测架构 SIAMD架构包括四个主要阶段:社交网络分析、网络结构演化、网络内容演化和机器人检测优化,在上图中分别表示为阶 ...