大模型

Search documents
250份文档就能给大模型植入后门:不分参数规模
量子位· 2025-10-10 11:24
Core Viewpoint - The research by Anthropic reveals that a small number of malicious documents (250) can effectively implant "backdoor" vulnerabilities in large language models (LLMs), regardless of their size, indicating that data poisoning attacks may be simpler than previously thought [2][4][19]. Group 1: Research Findings - Anthropic, in collaboration with AISI and the Turing Institute, demonstrated that a limited number of malicious documents can create vulnerabilities in various sizes of LLMs [4]. - The study found that the number of malicious documents required to implant a backdoor does not need to scale with the model size; 250 documents are sufficient for models ranging from 600M to 13B parameters [6][14]. - The experiment showed that even with a small percentage of malicious tokens (0.00016% of the training tokens for the 13B model), the model's perplexity increased significantly upon encountering a specific trigger phrase [12][14]. Group 2: Attack Methodology - The attack method chosen was a "denial of service" type backdoor, where the model outputs gibberish upon seeing a specific trigger phrase, while functioning normally otherwise [8]. - The malicious documents were created by inserting a predetermined trigger into normal training text, followed by random gibberish, allowing for easy generation of "poisoned" documents [9][17]. - Testing involved training models of different sizes (600M, 2B, 7B, 13B) with varying amounts of malicious documents (100, 250, 500) to assess the impact on model performance [10]. Group 3: Implications for AI Security - The findings suggest that the simplicity of data poisoning attacks in the AI era necessitates ongoing exploration of new defense strategies by model developers [19]. - The research highlights a shift in understanding regarding the requirements for effective data poisoning, emphasizing the absolute number of malicious documents over their proportion in the training dataset [14].
双融日报-20251010
Huaxin Securities· 2025-10-10 01:36
2025 年 10 月 10 日 双融日报 --鑫融讯 分析师:万蓉 S1050511020001 wanrong@cfsc.com.cn 市场情绪:86 分(过热) 最近一年大盘走势 资料来源:Wind,华鑫证券研究 -10 -5 0 5 10 15 20 25 (%) 沪深300 相关研究 1、《双融日报》2025-10-09 2、《双融日报》2025-09-30 3、《双融日报》2025-09-29 华鑫市场情绪温度指标显示,昨日市场情绪综合评分为 86 分,市场情绪处于"过热"。历史市场情绪趋势变化可参 考图表 1 ▌ 热点主题追踪 今日热点主题:人工智能、有色金属、储能 1、人工智能主题:阿里集团董事兼首席执行官吴泳铭 9 月 24 日在 2025 云栖大会上表示,大模型是下一代操作系统, 而 AI 云是下一代计算机,也许未来全世界只会有五六个超级 云计算平台。目前阿里正积极推进 3800 亿元的 AI 基础设施 建设,并计划追加更大的投入。相关标的:工业富联 (601138)、中际旭创(300308) 2、有色金属主题:印尼格拉斯伯格矿区因山体滑坡推迟复工 至 2026 年上半年,引发铜供应担忧, ...
中国第二个“5万亿城市”诞生,为什么是北京?
Sou Hu Cai Jing· 2025-10-10 01:16
最近一则消息让经济圈炸开了锅,北京2025年GDP预计突破5万亿元大关! 这意味着继上海之后,中国即将迎来第二个"5万亿俱乐部"成员。更令人惊讶的是,这个目标比专家预测提前了2至3年实现。2024年北京GDP已达4.98万 亿元,距离门槛仅一步之遥。 国庆节前夕,北京市人民政府新闻办公室在关于北京市"十四五"时期经济社会发展成就的新闻发布会上宣布,在"十四五"收官之际,北京的 GDP预计将 迈过5万亿元的大关,2020年,北京GDP约3.8万亿元,近五年GDP增量超过1.2万亿元,这几乎相当于整个海淀区的GDP总量。这五年来的经济增量约为 1.4万亿元,相当于整个北京GDP最高的海淀区的经济总量。 2024年,北京GDP总量为4.98万亿元,同比增长5.2%。以近五年北京GDP的平均增速5.2%计算,2025年突破五万亿元已成定局,只是谁也没想到来得这么 快,这一成就比市场和部分专家预期的提前了3年左右。 这则消息公布后迅速被登上热搜,大家对北京GDP破五万亿元是在意料之中,很多人关心的是北京到底用什么产业撑起了五万亿GDP,更关心的是下一个 破五万亿元的城市会是谁? 见证历史的时刻来了,中国第二个5万亿城市 ...
每日投行/机构观点梳理(2025-10-09)
Jin Shi Shu Ju· 2025-10-09 11:11
Group 1: Gold Market Insights - Macquarie analysts suggest that if the Federal Reserve makes a significant policy error under political pressure, gold prices could surge further, potentially achieving the best annual performance since the 1970s, with prices possibly reaching $4,000 [1] - TD Securities forecasts that gold prices may exceed $4,400 per ounce by mid-2026, driven by the Fed's easing policies and ongoing purchases by central banks and private funds, despite warnings of potential short-term corrections due to overbought conditions [2] - Citigroup indicates that the overall sentiment in the oil market remains bearish, with differing opinions on the extent of price declines, while geopolitical risks complicate large-scale short positions [3] Group 2: Currency and Economic Outlook - Rabobank maintains that despite challenges to the dollar's status as a safe-haven asset, it remains a primary choice for investors, supported by the depth of U.S. capital markets [4] - Deutsche Bank analysts believe that the upcoming Federal Reserve meeting minutes are unlikely to significantly impact the dollar's trajectory, as future economic data will play a more decisive role [5] - Danske Bank raises concerns about potential intervention in the foreign exchange market by the Bank of Japan due to the significant depreciation of the yen [6] Group 3: Commodity Market Trends - ANZ analysts report that recent supply disruptions have eroded market confidence, leading to a slight increase in copper prices, with Teck Resources lowering its production forecast [7] - Man Group warns that a weak dollar and high U.S. Treasury yields may deepen the trend of underperformance in the U.S. stock market, suggesting a rebalancing of asset allocations towards Europe and emerging markets [8] Group 4: Domestic Market Developments - Dongfang Jincheng anticipates that the central bank will conduct another six-month reverse repurchase operation in October, indicating a supportive monetary policy stance [9] - CITIC Securities highlights that the A-share market is likely to maintain an upward trend, driven by stable economic fundamentals and continued inflows of capital [10] - CITIC Securities also notes the acceleration of domestic AI computing capabilities, recommending attention to leading firms in this sector [11]
鑫融讯:双融日报-20251009
Huaxin Securities· 2025-10-09 01:46
2025 年 10 月 09 日 双融日报 --鑫融讯 分析师:万蓉 S1050511020001 wanrong@cfsc.com.cn 市场情绪:61 分(较热) ▌ 热点主题追踪 今日热点主题:人工智能、有色金属、储能 1、人工智能主题:阿里集团董事兼首席执行官吴泳铭 9 月 24 日在 2025 云栖大会上表示,大模型是下一代操作系统, 而 AI 云是下一代计算机,也许未来全世界只会有五六个超级 云计算平台。目前阿里正积极推进 3800 亿元的 AI 基础设施 建设,并计划追加更大的投入。相关标的:工业富联 (601138)、中际旭创(300308) 2、有色金属主题:印尼格拉斯伯格矿区因山体滑坡推迟复工 至 2026 年上半年,引发铜供应担忧,推升国际铜价。国内铜 冶炼行业"内卷式"竞争导致加工费持续低迷,行业呼吁自 律减产,进一步强化供给收缩预期。供需两端共振,驱动有 色金属价格上行。相关标的:紫金矿业(601899)、江西铜 业(600362) 3、储能主题:国内《新型储能专项行动方案》明确 2027 年 装机 1.8 亿千瓦,撬动 2500 亿元直接投资,容量补偿、现货 价差等政策将项目 IR ...
算法小垃圾跳槽日记 2024&2025版
自动驾驶之心· 2025-10-06 04:05
以下文章来源于AIZOO ,作者元峰 AIZOO . 每日分享计算机视觉(CV)和深度学习的资讯、博文、教程,分享大佬的经验。CV圈的朋友们快快进来吧。 作者 | 元峰 来源 | AIZOO 原文链接: 分享一下近期换工作面试的一些事 点击下方 卡片 ,关注" 自动驾驶之心 "公众号 戳我-> 领取 自动驾驶近30个 方向 学习 路线 >>自动驾驶前沿信息获取 → 自动驾驶之心知识星球 本文只做学术分享,如有侵权,联系删文 年前的时候换了个工作,从外卖厂离职了。离职之前,恰好有假期,基本上一个月都在疯狂的面试,平均一天都得六个面试,特此记录分享一下。 下图是 24年9月的面试日历,基本上整整一个月都在面试,我看了一下,有几天竟然是8场面试,真的是累的不轻,眼睛都很干涩。其实,面试的时候,精神的 高度聚焦的,这样一天下来,简直比上班都累。 | | 周一 | | 周二 | | 周三 | 周四 | 周五 | | 周六 | | --- | --- | --- | --- | --- | --- | --- | --- | --- | --- | | 三十 | 2日 八月初一 | | 3日 初二 | | 4日 初三 | ...
国家发展改革委将多措并举支持企业深度参与“人工智能+”行动
Xin Hua She· 2025-10-05 07:11
据介绍,今年一季度,我国新设立人工智能软件研发类民营企业25.4万户。从深度看,民营企业是推动 人工智能创新的生力军。一批民营企业先后推出多款性能先进、性价比突出的大模型,解锁了机器 人"翻山越岭""操场赛跑""载人空翻"等多个高难度任务,有力推动我国人工智能技术、产品、场景创 新。 李超表示,下一步,将在"两重"建设中支持国产算力、模型、语料库发展,加大"两新"政策对企业的支 持力度,推动国有企业将更多战略意义强、经济收益高、民生关联紧的场景向民营企业开放。持续在算 力等领域发放"人工智能券",为企业使用算力服务提供补贴,支持企业加大创新研发力度。支持民营企 业积极参与应用中试基地等人工智能重大项目建设,打造一批应用典型案例。(记者魏玉坤) 民营企业是推动人工智能发展的重要力量。记者从国家发展改革委获悉,国家发展改革委将会同有关部 门,多措并举支持包括民营企业在内的各类企业深度参与"人工智能+"行动。 国家发展改革委政策研究室副主任、新闻发言人李超近日表示,人工智能技术发展和"人工智能+"行动 都离不开民营企业的积极参与,也将为民营企业带来巨大的发展红利和广阔的机遇。 ...
国家发改委将多措并举支持企业深度参与“人工智能+”行动
Xin Hua She· 2025-10-05 07:03
Core Insights - Private enterprises are crucial in driving the development of artificial intelligence (AI) in China, with government support aimed at enhancing their participation in the "AI+" initiative [1] - The National Development and Reform Commission (NDRC) emphasizes that the involvement of private enterprises will yield significant development dividends and opportunities [1] Group 1: Government Support and Initiatives - The NDRC plans to implement multiple measures to support various enterprises, including private ones, in deeply engaging with the "AI+" action [1] - The NDRC will enhance support for domestic computing power, models, and corpora development, and increase the effectiveness of policies aimed at enterprises [1] Group 2: Private Enterprises' Contributions - In the first quarter of this year, 254,000 new private AI software development enterprises were established in China [1] - Private enterprises are recognized as the driving force behind AI innovation, having launched advanced models that excel in performance and cost-effectiveness [1] Group 3: Future Directions - The NDRC will encourage state-owned enterprises to open more strategically significant and economically beneficial scenarios to private enterprises [1] - There will be continued issuance of "AI vouchers" in areas like computing power to subsidize enterprises for utilizing computing services and to support increased innovation and R&D efforts [1] - Private enterprises will be encouraged to actively participate in the construction of major AI projects, including application pilot bases, to create exemplary application cases [1]
【科创之声】科技创新点亮新质生产力版图
Jing Ji Ri Bao· 2025-10-04 22:51
2025年是个关键年份,"十四五"规划即将圆满收官。"十四五"这5年,我国高新技术产业规模不断壮 大,规上高技术制造业增加值较"十三五"末增长42%;"三新"经济增加值占GDP的比重达18%;人工智 能、生物科技等前沿领域正在形成新的经济增长点……用科技创新点亮新质生产力版图,我们交出了一 张亮丽的成绩单。 我国持续深化科技和产业融合创新,在新一代信息技术、新能源等领域取得了重大技术突破,引领新兴 产业蓬勃发展。 在信息领域,5G基站已经建了约460万个,技术和用户量都是全球第一。各行各业都搭上了数字化快 车,重点工业互联网平台设备连接数超1亿台(套)。 新能源领域更是捷报频传:光伏晶硅电池效率屡破世界纪录,风电、光伏新增装机连续4年突破1亿千 瓦。全国新能源汽车累计销售突破4000万辆,产销量连续10年保持全球第一,2024年我国新能源汽车产 销量约是2020年的9.5倍。 科技创新给传统产业"换新装"。 我国加快高端装备、先进制造等领域关键技术攻关,推动传统产业向高端化、智能化、绿色化转型,实 现提质增效。 高端装备方面,"京华号"超大直径盾构机已经成功应用,它直径超过16米,突破了单月掘进542米的新 ...
10万亿!AI的“速度与激情”
Sou Hu Cai Jing· 2025-10-04 09:57
朋友们,这两个月我听到最多的一个词,就是——"加速"。 资本市场在加速,科技企业在加速,连政策规划都在加速。 就在前不久,国务院还发布了重磅文件:《关于深入实施"人工智能+"行动的意见》,明确喊出一个让人心头一震的目标:2035年,全面进入智能社会! 听到这,我心里只有一句话: 第四次科技革命的冲锋号,已经吹响了。 问题是: 10万亿级别的新产业,AI的"速度与激情",究竟我们这一代人的巨大机会还是泡沫? 如果你错过了互联网的黄金十年,这一次AI的十万亿赛道,你还会错过吗? 文:卢娜 (资深财经评论员|财富自然增长法创立者) 第四次科技革命的核心? 历史告诉我们,人类每一次的飞跃,都是生产力的巨大爆发。 我为什么说AI特别? 因为它不是一项单点技术,而是像电力一样的"通用技术"。 它会渗透进医疗、教育、交通、金融、制造……无处不在,无法回避。 一句大白话:AI就是未来的"水电煤"。 你能想象没有电力的社会吗?未来我们同样无法想象没有AI的世界。 2035年:全面形成智能经济、智能社会。 朋友们,你听懂了吗? 这是一个能对标房地产体量的"超级新物种",但它的影响力,可能比房地产还要深远。 为什么? 因为房地产的 ...