9月28日，由自治区党委网信办、自治区大数据发展局、南宁市政府联合主办的中国—东盟"护航丝 路"人工智能安全大赛决赛在南宁举办。 本次大赛分为算力安全、算法安全、数据安全、应用安全和实战攻防等5个子赛道，共有209支来自 国内头部安全企业、重点高校和科研院所、东盟国家留学生、广西重点企业单位的专业队伍报名参赛。 其中实战攻防赛道已于9月9日在中国—东盟数字经济产业园成功举办，算力安全、算法安全、数据安全 和应用安全等4个子赛道经过线上初赛及复审决出多支优胜队伍，并经专家组推荐，筛选出10支高水平 队伍进行现场决赛路演。 本次决赛路演的队伍围绕AI大模型安全治理、开源供应链与AI模型安全、行业应用安全、RCEP跨 境数据安全等主题，对参赛作品的创新突破、行业效益以及发展前景进行了充分展演。专家评委及投资 代表们针对作品亮点和不足给出了建议和意见，同时就路演作品的可落地性、可推广性、可复制性及行 业应用等问题同展演团队进行了充分的交流。 大赛作为广西人工智能赋能千行百业超级联赛系列赛事的重要组成之一，旨在通过打造国际化、前 瞻性的人工智能安全交流平台，进一步促进中国与东盟各国在技术、标准、产业、人才等领域的深度交 ...

中新网北京9月29日电 (陶思阅)今年9月，第22届国家网络安全宣传周网络安全协同防御分论坛活动中， 国内首次针对AI大模型的实网众测检验结果发布。测试累计发现281个安全漏洞，其中大模型特有漏洞 占比超60%，涵盖提示注入、信息泄露等典型风险。 同时，攻击者研究AI的学习偏好，有针对性地"投喂"信息，更有甚者，有组织地进行"数据投毒"，即通 过伪造专家身份、虚构研究报告等方式，向AI输入虚假信息，以达到操纵AI输出结果的目的。 同盾科技安全研究院院长董纪伟认为，随着生成式AI技术的广泛运用，未来的攻防战将迈入"以技术对 抗技术，以AI对抗AI"的阶段。 面对挑战，监管体系率先升级。9月15日，《人工智能安全治理框架》2.0版在国家网络安全宣传周发 布。 AI安全行业也正构建"AI对抗AI"的技术防线。9月，华为发布全新升级的星河AI网络安全解决方案，据 介绍，该方案威胁自动化处置率达99%，未知威胁检出率达95%。 蚂蚁消金通过多模态感知与大小模型协同，系统可精准识别假章假证、合成语音等造假行为。蚂蚁消金 首席信息官刘义介绍，目前，虚假证件识别准确率达98%，语音伪造检测覆盖50余种合成方式，2024年 以 ...

据官方信息显示，作为国内网络安全领域的标杆赛事，大赛由天津市人民政府主办，国家计算机病毒应急处理中心、天津市公安局、天津市滨海新区人民政 府、天津市委网信办、天津市科技局、天津市工业和信息化局、天津市人力资源和社会保障局、天津市数据局、公安部第一研究所、公安部第三研究所、天 津市科技创新发展中心共同承办，360数字安全集团、先进计算与关键软件（信创）海河实验室、中汽智联技术有限公司、天津市网络与数据安全生态协 会、大数据协同安全技术国家工程研究中心、ISC.AI平台、南京赛宁信息技术有限公司，以及29家国内头部科技创新企业联合支持，目前已连续成功举办三 届。 【环球网科技综合报道】第三届"天网杯"网络安全大赛决赛于9月23日在天津滨海新区圆满收官，来自全国顶尖网络安全战队激烈角逐，充分展现了卓越的 技术实力与专业的攻防能力。经过连续两天的激烈交锋，大赛各项奖项也震撼出炉：最终4支战队斩获一等奖，7支战队夺得二等奖，11支战队获得三等奖。 当前，数字经济蓬勃发展，国产化加速推进，人工智能与智能网联汽车等新技术不断涌现，与之相伴的安全挑战也日益凸显。筑牢安全屏障，已成为保障数 字经济发展的关键基石。在此背景下，" ...

网络安全为人民，网络安全靠人民。9月15日至21日，2025年国家网络安全宣传周河南省活动在全省各 地同步启动，通过线上线下相结合的方式，深入宣传贯彻习近平总书记关于网络强国的重要思想，普及 网络安全知识，推广防护技能，凝聚社会共识，共同绘就网络安全的"同心圆"，营造了人人参与、人人 有责、人人共享的浓厚氛围。 "电信日"当天，洛阳市涧西区武汉路社区邻里中心现场模拟"假冒客服"诈骗场景。刚接到"退款电话"的 张大爷，立刻向志愿者求证："你们昨天教过，这种电话要先挂断、再找官方核实！"周围群众纷纷称赞 老人学得快、用得准。 随着"法治日""金融日""青少年日""个人信息保护日"等主题活动的接连开展，全省各地通过专家讲座、 实景演练、现场咨询、短视频推广等形式，把网络安全知识送进校园、机关、社区、家庭。 多元共建 夯实网络安全基石 多方联动 共筑网络安全屏障 "陌生链接不乱点，网络谣言不轻信，密码设置不单一，社交分享需谨慎……" 9月15日，2025年国家网络安全宣传周河南省活动在商丘正式启动，活动现场，由河南日报社与商丘工 学院联合创演的微短剧《告白安全码》，从日常场景切入，以轻松剧情揭露AI换脸、过度收集个人 ...

大赛设置高校组和社会组双组别，吸引来自清华大学、北京大学、国防科技大学、中国联通、中国工商 银行等高校和单位的全国31个省市2040支战队5229名选手报名参赛，报名战队和选手数量同比实现翻 番。决赛阶段，70支高校组战队和30支社会组战队齐聚北京展开巅峰对决，经过6小时鏖战，内蒙古工 业大学长城杯工大一队战队和郑州轻工业大学Cha0s战队斩获大赛高校组一等奖，社会组由国网冀北电 力有限公司电力科学研究院菜鸟陪练战队拔得头筹。 新京报讯（记者曹晶瑞）近日，由北京、天津、河北、内蒙古四省（市、自治区）互联网信息办公室、 教委（教育厅）联合举办的第五届"长城杯"网络安全大赛暨京津冀蒙网络安全技能竞赛圆满收官。 本届大赛深度聚焦人工智能安全，通过CTF、靶场渗透与系统检测、AI智能体工作流等形式，检验选手 在大模型数据安全、信息系统安全、对抗样本攻击、深度伪造与内容安全方面的实战能力，推动人工智 能在政务、工业、教育、医疗等领域的创新安全应用，着力以赛促学促产，营造教育、技术、产业融合 发展的良性生态。 ...

9月17日，中国—东盟人工智能安全前沿论坛在南宁举行。自治区党委书记、自治区人大常委会主 任陈刚，全国工商联副主席、奇安信集团董事长齐向东出席并致辞，共同为广西人工智能安全研究院揭 牌，并见证南宁市政府与奇安信集团签署战略合作协议。 陈刚表示，人工智能在未来10年、20年将不可阻挡地成为推动产业、科技、文化、教育、医疗等领 域变革的重要力量。人工智能是一把双刃剑，在推进经济社会发展的同时，也将带来新的困难和挑战。 有效推动人工智能安全发展，符合国家安全利益，符合社会公众利益，符合个人隐私需求，也给从事人 工智能安全的企业带来重大历史机遇。广西明确提出要以"人工智能+"赋能千行百业，把发展人工智能 安全作为重要的产业来配置资源，与东盟合作伙伴共享共用相关技术，共同维护人工智能发展生态。愿 进一步深化与人工智能安全企业合作，携手东盟共同解决人工智能时代的安全问题，提升人工智能安全 治理能力，驱使人工智能更好地服务人类，不断增进各国人民福祉。 齐向东表示，当前，AI浪潮席卷全球，AI发展过程中最大的问题就是安全问题，而AI安全问题主 要归因为大模型、智能体向"超人"的演进。让AI"超人"安全地为我所用，关键是确保" ...

Core Points - The "Artificial Intelligence Security Industry Self-Discipline Initiative" was jointly released by the China Cybersecurity Association and over 60 enterprises and research institutions, marking a significant industry consensus in the AI field and a shift from "regulation" to "self-discipline" [1] - The initiative emphasizes that security is the "lifeline" of AI development and calls for a collaborative effort to build a "controllable, trustworthy, and reliable" AI ecosystem, covering seven key areas including shared responsibility, integration of technology and management, data compliance, ethical standards, and innovative cooperation [1] - Major tech companies such as Alibaba, Baidu, Huawei, and others participated in the initiative, which stresses the importance of implementing security responsibilities throughout the entire lifecycle of AI development, particularly in avoiding algorithmic bias, preventing data misuse, and ensuring user privacy [1] - The initiative serves as both an industry commitment and a practical action guide, proposing the establishment of comprehensive lifecycle technology security standards and promoting transparency in content labeling and enhanced detection and evaluation [1] Industry Context - The rapid integration of AI technology into daily life highlights the critical need for industry self-discipline mechanisms, as AI applications span from smart voice assistants to autonomous driving and medical diagnostics, raising increasing concerns about safety and ethics [2] - The release of this initiative is a proactive response from the industry to public concerns and aims to safeguard the healthy development of AI in the future [2]

来源：环球网 《倡议》提出，要在人工智能的研发、提供、使用等全链条中强化安全理念，建立健全安全责任体系； 要强化技管集合，共建安全能力；要深化协同共治，共建风险治理能力；要推动形成透明、负责任的行 业生态；要践行智能向善，推动建立行业自律机制；要加强技术创新与治理创新，在数据安全、伦理规 范等领域积极布局；要扩展全球视野，共促开放合作，携手全球伙伴共同促进技术发展，协同应对风险 挑战，助力构建人类命运共同体。 《倡议》由中国网络空间安全协会会同行业企业共同发起，涵盖科研院所、互联网头部企业、网络安全 厂商、人工智能企业等60余家单位，聚焦人工智能发展面临的突出安全风险和治理挑战，形成安全共 识，为进一步推动人工智能产业在创新和安全中实现良性互动，为人工智能健康发展提供有力支撑。 展望未来，轻松健康集团将以此次《倡议》发布为契机，进一步深化在人工智能安全治理方面的探索与 实践。也将携手行业伙伴，共同推动AI治理标准化与体系化建设，探索"安全+健康"的新路径，助力人 工智能产业实现高质量、可持续发展。 【环球网财经综合报道】9月15日，2025年国家网络安全宣传周开幕式在云南省昆明市举行。本届网安 周主题为"网络 ...

Core Insights - Irregular, an AI security company, has raised $80 million in a new funding round led by Sequoia Capital and Redpoint Ventures, bringing its valuation to $450 million [1] Group 1: Company Overview - Irregular, formerly known as Pattern Labs, is a significant player in the AI assessment field, with its research cited in major AI models like Claude 3.7 Sonnet and OpenAI's o3 and o4-mini [2] - The company has developed the SOLVE framework for assessing model vulnerability detection capabilities, which is widely used in the industry [3] Group 2: Funding and Future Goals - The recent funding aims to address broader goals, focusing on the early detection of new risks and behaviors before they manifest [3] - Irregular has created a sophisticated simulation environment to conduct high-intensity testing on models before their release [3] Group 3: Security Focus - The company has established complex network simulation environments where AI acts as both attacker and defender, allowing for clear identification of effective defense points and weaknesses when new models are launched [4] - The AI industry is increasingly prioritizing security, especially as risks from advanced models become more apparent [4][5] Group 4: Challenges Ahead - The founders of Irregular view the growing capabilities of large language models as just the beginning of numerous security challenges [6] - The mission of Irregular is to safeguard these increasingly complex models, acknowledging the extensive work that lies ahead [6]

9月17日，第22届中国—东盟博览会暨中国—东盟商务与投资峰会在广西南宁市隆重召开。在本次博览 会同期举办的中国—东盟人工智能安全前沿论坛上，广西人工智能安全研究院暨奇安信中国—东盟人工 智能安全研究院首次亮相，同时奇安信大模型安全护栏新品正式对外发布。本次亮相的人工智能安全研 究院聚焦三个方向：一是立足人工智能场景开展"数网智"安全技术创新；二是推动人工智能安全规范互 认互通；三是打造人工智能安全人才交流与培育平台，最终形成我国面向海外开展网络安全业务的龙头 品牌。而大模型安全护栏以"守护智能未来，构建可信AI"为核心理念，无需客户改造大模型，即可提供 全链路安全防护，从而帮助千行百业的大模型应用筑牢安全屏障，推动AI技术在安全、可控、可信、 合规的前提下释放真正价值，为中国和东盟国家的数智化发展保驾护航。（奇安信集团） ...