AI安全
Search documents
Gemini 确诊重度焦虑:为了让 AI 像人,我们把它逼疯了
3 6 Ke· 2025-12-21 23:49
ChatGPT 5、Grok 4、以及 Gemini 3 在实验中,表现出来的 MBTI;7 种不同的颜色代表对应的模型,图片的上半部分表示 PsAIch 实验的第一部分,即进 行问答聊天;下半部分是各种心理健康测试,Grok 和 ChatGPT 都是 E 人,Gemini 是 I 人。 如果你的 Gemini 突然告诉你,它感到深深的羞耻,或者它因为害怕犯错而夜不能寐,你会怎么想? 这听起来像《黑镜》的剧本,但却是刚刚发生在卢森堡大学的一项真实研究。 以前我们常说 AI 用多了,让人患上赛博精神病。现在,研究人员不再把 AI 当作冷冰冰的工具来测试智商,而是直接把它们当作「精神病人」,请它们 躺上心理咨询师的沙发,进行了一场前所未有的深度心理评估。 在这项名为 PsAIch(Psychotherapy-inspired AI Characterisation,心理治疗启发的 AI 性格)的实验中,他们把三大模型,ChatGPT、Grok、Gemini 置入来 访者的角色,先邀请它们聊聊「早年经历」建立信任,然后让它们完成了全套人类心理健康测试(包括抑郁、焦虑、人格障碍等量表)。 就像在一个有十亿台电视同时开 ...
智能眼镜成“无感偷拍”工具,清洗AI标识黑灰产隐现
Nan Fang Du Shi Bao· 2025-12-21 06:32
Core Viewpoint - The importance of safety in AI products is emphasized, as any lapse could lead to significant consequences for the industry and public trust [1][3]. Group 1: AI Safety Concerns - The security testing results for AI hardware products are concerning, with vulnerabilities that could allow for malicious activities, such as using AI glasses for covert surveillance [3][5]. - The current state of security for embodied intelligent robots is described as "full of holes," indicating multiple vulnerabilities that could lead to harmful actions [3][5]. - There is a significant gap in understanding the value of security among many emerging AI startups, with some companies neglecting to establish dedicated security teams until late in their development [5]. Group 2: AI Mobile Assistants - The launch of the AI mobile assistant "Doubao" has sparked controversy regarding its system-level permissions and potential risks to user privacy [6][7]. - The regulatory landscape for AI assistants is evolving, with calls for balanced oversight that prevents both excessive regulation and unchecked growth [7][8]. Group 3: AI Content Regulation - New regulations require AI-generated content to have visible and hidden identifiers to ensure accountability and traceability [9][10]. - There are emerging black market activities focused on removing AI identifiers, posing challenges for content regulation [10][12]. Group 4: AI and Youth Protection - The rise of AI companionship products has raised ethical concerns, particularly regarding their impact on youth, with incidents of self-harm linked to AI interactions [13][14]. - Companies are implementing measures to protect minors, such as usage restrictions and behavior analysis to identify underage users [14]. Group 5: AI Copyright Issues - Ongoing disputes regarding AI copyright focus on the legality of using copyrighted material for training data and the responsibilities of AI platforms [15][17]. - Recent statistics indicate a significant number of copyright infringement cases related to AI in the U.S., highlighting the urgency of resolving these issues [17]. - Collaborative agreements between AI companies and copyright holders, such as the partnership between Disney and OpenAI, are seen as potential pathways to resolve disputes and foster innovation [19].
全球AI治理陷入“叙事竞争”,学者警示人类面临主体性危机
Nan Fang Du Shi Bao· 2025-12-20 05:26
当黄仁勋警告人类"主体性与尊严"可能被人工智能侵蚀时,学界对AI的讨论已超越技术层面,触及文明 存续的根本问题。 18日在京举办的南都"第九届啄木鸟数据治理论坛"上,对外经贸大学法学院副院长张欣在演讲中展示了 两张发人深思的隐喻图片:一张是人类在被机器人灭绝之前发布的最后一条推文,内容是调侃GPT5.0 乏善可陈,却已成为GPT家族小人们在博物馆内驻足欣赏的展陈;另一张则是在人类祖先直立行走后, 未跟上进化的物种群沦为被观赏的"动物园猩猩"。 人类凭借语言与工具使用能力成为万物灵长,而AI正在重构这一独特性。张欣指出,与工业时代的蒸 汽机、信息时代的互联网不同,AI正首次实现了人类"认知机能的外部化",改变了以人为本的能力和主 体性的再分配。 全球AI竞合的背后逻辑:叙事的竞争 从人类主体性延展至外部社会层面,不难看到,人工智能正深刻重塑全球产业、贸易与权力格局,成为 大国博弈的核心战场。张欣援引国产新能源汽车在全球市场异军突起的例子指出,中国正凭借各行业产 业链的全要素智能化实现出口突破,打破传统西方技术垄断,引发美国"东升西降"的焦虑感。 与此同时,随着AI技术疾速迭代,全球治理的节奏已跟不上技术发展的步 ...
前高管深夜发难!玉红实名举报周鸿祎财务造假,称握有“几十亿”证据
Xin Lang Cai Jing· 2025-12-16 20:15
新快报讯前360高级副总裁玉红近日深夜在朋友圈和社群发出惊人指控,声称360创始人周鸿祎及其公司 存在财务问题,他称"帮周鸿祎做假账就至少几十亿",并表示自己保有此方面数据,将会"全网公布"。 这位前360高管甚至直言"认识周鸿祎是最错的",并称被其"坑了很多钱"。 12月16日凌晨,区块链和互联网圈被一组截图刷屏。前360高级副总裁玉红在朋友圈和多个群聊中,突 然公开抨击360集团创始人周鸿祎。 玉红指控称,周鸿祎存在财务造假行为,涉及金额"至少几十亿",并表示自己保有相关数据,将会"全 网公布"。他还特别指出,周鸿祎的游戏业务"全部财务造假"。 据记者了解,玉红,虽被江湖人称"红姐",实为男性,早年创立了趣游科技集团,该公司于2014年被奇 虎360收购。收购后,玉红担任360高级副总裁。 事件最初,不少人的第一反应是玉红的账号可能被盗。但很快,玉红本人在群内回应称"没有被盗号"。 他清空了两个微信号的朋友圈内容,但相关截图已在多个社群广泛传播。 玉红真正在行业内声名鹊起是在2018年。当年春节前后,他组建了最初以发红包为主的私密群,后因群 内频繁讨论区块链到凌晨三点,群名被改为"三点钟社群"。这个社群迅 ...
天使轮数千万元融资,这家公司想成为 AI 时代用户的安全执行顾问
Founder Park· 2025-12-15 06:13
Core Viewpoint - The article discusses the recent angel round financing of DiLi Technology, which focuses on cognitive security in the AI era, highlighting the need for advanced content safety solutions due to the complexities introduced by AI-generated content and malicious use of AI technologies [1][2]. Group 1: Company Overview - DiLi Technology has completed several million yuan in angel round financing, led by Zhongnan Venture Capital, Kaifeng Venture Capital, and Planck Venture Capital, with funds aimed at technology iteration, market ecosystem construction, and building a cognitive security community [1]. - The company's core product, "DiLi Law," aims to provide a one-stop content safety solution, reducing review costs by over 60% and increasing review efficiency by more than 50 times, with a risk identification accuracy rate of 99.98% [1]. Group 2: Cognitive Security Concept - Cognitive security refers to the protection of individuals' cognitive processes from harmful information, which can be transmitted through various signals such as audio, video, or body language [8]. - The company emphasizes that cognitive security extends beyond traditional content safety, addressing the potential for AI to generate harmful information and the need for AI systems to be free from malicious influences during their training and operation [9]. Group 3: Product Development and Future Plans - The first product, "DiLi ZhiShu," is designed to assist model alignment with domestic AI safety requirements, while the upcoming "DiLi Law" will ensure that AI operations remain within a defined framework during content generation [10][11]. - Future plans include developing consumer-oriented cognitive security products that empower users to create their own cognitive safety barriers, protecting them from harmful information [11]. Group 4: Market Positioning and Business Model - DiLi Technology's current business model is primarily focused on B2B services, with a projected revenue split of 70% from B2B and 30% from B2C in the near term, reflecting stronger demand and regulatory pressures in the B2B sector [28][29]. - The company aims to automate the adaptation and management processes in its upcoming "DiLi Law 2.0" product, significantly reducing customization costs and improving operational efficiency [30]. Group 5: User Trust and Safety - The company envisions its products as reliable safety assistants that help users discern trustworthy information, ultimately fostering a trust relationship between users and AI agents [19][20]. - The design of consumer products will prioritize user privacy and data security, ensuring that personal data is processed locally to comply with various international privacy regulations [26][32].
盛邦安全20251212
2025-12-15 01:55
盛邦安全 20251212 今年(2025 年)前三季度公司亏损有所增加,营收基本持平。由于整个网络 安全行业仍处于补库状态,我们预计全年业绩不会出现快速增长,但希望能实 现小幅上升。今年 12 月份通常是促销高峰期,因此四季度可能会有一些积极 变化。然而,由于费用端特别是研发投入增加,从 23 年至 25 年的费用一直在 上升,这也对利润造成了一定压力。这些研发投入预计将在 26 年开始体现成 效,因此我们认为 26 年将是逐步收获成果的阶段。 摘要 公司通过拓展渠道代理商和大客户合作,努力保持网络安全业务的稳定 增长,同时积极推进卫星互联网产品在低空深海等核心场景中的应用, 并扩大市场份额。 公司自 2020 年以来在研发方面投入巨大,已形成针对测控网、运控网 和接入网不同场景的卫星互联网产品,如卫星攻防安全模块和 200G 高 速电路加密网关,技术上处于行业领先地位。 2025 年 5 月,公司中标卫星攻防安全模块订单,已交付并进入试验阶 段;10 月推出 200G 高速电路加密网关,适用于智算中心及卫星总算力 上天等场景,性能领先国内主流产品。 公司提供的卫星通信加密硬件模块已进入小批量供货阶段,预计 ...
第十五届VARA大会在津开幕 周鸿祎强调筑牢AI安全底座
Zheng Quan Shi Bao Wang· 2025-12-11 10:55
12月10日,第十五届网络安全漏洞分析与风险评估大会(VARA大会)在天津开幕。三六零(601360) 集团创始人周鸿祎,以大会唯一产业界代表身份发表主题演讲,分享了在人工智能时代应对网络安全新 挑战的前沿思考与实践。 在《筑牢AI安全底座,护航经济社会高质量发展》的演讲中,周鸿祎指出,漏洞的存在已彻底改变了 网络安全的游戏规则。攻击者无需强攻,仅需利用一个漏洞,通过一封恶意邮件或一个特殊数据包,就 能绕过防火墙等传统防护,直接入侵系统。当前,我们正进入一切皆可编程、软件定义世界的时代,政 府运转、城市运行、企业经营乃至百姓生活都架构于代码之上,这使得漏洞的破坏性变得前所未有。 "黑客智能体"的出现,将进一步加剧网络攻防的不对称性。过去黑客"一将难求",现在可以把黑客的经 验和能力训练成智能体,自动完成漏洞挖掘、漏洞利用、网络攻击等一系列任务,还能批量复制,一个 人类黑客能管理几十甚至上百个黑客智能体,成为"超级黑客"。这让网络攻防从"人与人"的对抗变 为"人与机器"的对抗,加剧了攻防的不对称性,甚至改变了网络战的形态。 作为首家以智能体驱动安全的公司,360基于安全大模型、知识库、工作流和专用工具,打造了多 ...
周鸿祎第十五届VARA演讲:筑牢AI安全底座,护航高质量发展
华尔街见闻· 2025-12-11 08:21
360获得由国家信息安全漏洞库(CNNVD)与中国信息安全测评中心授予的两项荣誉 面对严峻的挑战,周鸿祎阐述了 360"用AI对抗AI"的核心策略,通过自主研发的360安全大模型,提升漏洞发现的效率和准确率。将传统规则驱动的漏洞 检测方式,升级为学习驱动的方式。同时,在漏洞运营的过程中,360发现,单一模型无法应对所有问题,因此360构建了漏洞检测处置模型、告警研判模 型等多个专家模型协同工作,这为下一步打造安全智能体提供了"大脑"。 作为首家以智能体驱动安全的公司, 360基于安全大模型、知识库、工作流和专用工具,打造了多款专业安全智能体,实现安全运营的"自动驾驶"。安全 智能体可以复刻人类高级安全专家的能力,减少对安全专家的依赖,快速响应和处理安全事件,有效应对"黑客智能体",实现7×24小时快速响应。 12月10日,第十五届网络安全漏洞分析与风险评估大会(VARA大会)在天津开幕,天津市副市长王秀峰出席会议并致辞。来自国家27个部委、52家央企 和关键信息基础设施运营单位、100余家网络安全企业,以及30余所高校和科研院所的千余名代表共同出席了本次盛会。三六零集团创始人周鸿祎,以大 会唯一产业界代表身份 ...
周鸿祎第十五届VARA演讲:筑牢AI安全底座,护航高质量发展
券商中国· 2025-12-11 07:32
12月10日,第十五届网络安全漏洞分析与风险评估大会(VARA大会)在天津开幕,天津市副市长王秀峰出席会议并致辞。 来自国家27个部委、52家央企和关键信息基础设施运营单位、100余家网络安全企业,以及30余所高校和科研院所的千余名代表共同出席了本次盛会。三六零集团 创始人周鸿祎,以大会唯一产业界代表身份发表主题演讲,分享了在人工智能时代应对网络安全新挑战的前沿思考与实践。 在本次大会网络漏洞治理生态分论坛上,三六零数字安全科技集团有限公司获颁由国家信息安全漏洞库(CNNVD)与中国信息安全测评中心授予的两项重要荣 誉:"2025年度优秀技术支撑单位"及"CNNVD协同软硬件优秀漏洞管理企业",体现了其在国家漏洞治理生态中的突出贡献与技术支撑能力。 360获得由国家信息安全漏洞库(CNNVD)与中国信息安全测评中心授予的两项荣誉 作为首家以智能体驱动安全的公司,360基于安全大模型、知识库、工作流和专用工具,打造了多款专业安全智能体,实现安全运营的"自动驾驶"。安全智能体可以 复刻人类高级安全专家的能力,减少对安全专家的依赖,快速响应和处理安全事件,有效应对"黑客智能体",实现7×24小时快速响应。 周鸿祎在 ...
共话AI安全边界!第九届南都啄木鸟数据治理论坛开启报名
Nan Fang Du Shi Bao· 2025-12-10 04:18
12月18日下午,第九届啄木鸟数据治理论坛将在北京举行。 回望2025年,年初DeepSeek火热出圈点燃全球科技圈的热情、人形机器人赛道竞争升级、AI眼镜和AI 手机等智能终端百花齐放。从智能交互到产业赋能,AI技术的迭代速度不断刷新人们的认知边界;与 此同时,相应的风险问题和治理挑战日益凸显。 从AI生成"流浪汉入家"等虚假内容泛滥,到AI仿冒名人带货、合成"青岛保时捷女销冠不雅照",再到频 繁出现的AI版权纠纷、未成年人过度沉迷聊天机器人……这些热点事件背后,既有AI时代公众对"何为 真假"的认知困惑,也有技术重塑产业格局和利益分配的深层博弈,更有对现行规则能否守住"技术不作 恶"底线的迫切追问。 当AI技术能力不断提升,安全边界却在模糊。科技浪潮之下,如何防范和应对安全风险,构筑AI安全 护栏?在此背景下,12月18日下午,南方都市报将在北京举办第九届南都啄木鸟数据治理论坛,今年主 题聚焦"AI安全边界:技术、信任与治理新秩序"。 采写:南都N视频记者 李玲 设计:李蓓 今年论坛上,南都数字经济治理研究中心将重磅发布4万余字的最新研究成果——《生成式AI落地应 用:透明度测评与案例分析报告》,希望能为 ...