数据污染冲击安全防线，国安部：警惕人工智能“数据投毒”

转自：北京日报客户端 国家安全部今天（5日）发布安全提示文章，人工智能的训练数据存在良莠不齐的问题，其中不乏虚假 信息、虚构内容和偏见性观点，造成数据源污染，给人工智能安全带来新的挑战。 促进AI模型的应用。数据资源的日益丰富，加速了"人工智能+"行动的落地，有力促进了人工智能与经 济社会各领域的深度融合。这不仅培育和发展了新质生产力，更推动我国科技跨越式发展、产业优化升 级、生产力整体跃升。 数据污染冲击安全防线 高质量的数据能够显著提升模型的准确性和可靠性，但数据一旦受到污染，可能导致模型决策失误甚至 AI系统失效，存在一定的安全隐患。 投放有害内容。通过篡改、虚构和重复等"数据投毒"行为产生的污染数据，将干扰模型在训练阶段的参 数调整，削弱模型性能、降低其准确性，甚至诱发有害输出。研究显示： 造成递归污染。受到数据污染的人工智能生成的虚假内容，可能成为后续模型训练的数据源，形成具有 延续性的"污染遗留效应"。当前，互联网AI生成内容在数量上已远超人类生产的真实内容，大量低质量 及非客观数据充斥其中，导致AI训练数据集中的错误信息逐代累积，最终扭曲模型本身的认知能力。 引发现实风险。数据污染还可能引发一系 ...