AI 安全

Search documents
第一名方案公开,代码智能体安全竞赛,普渡大学拿下90%攻击成功率
机器之心· 2025-08-23 10:51
你的 AI 编程助手有多安全?也许比你想象的要脆弱得多。近期多项研究 [1-2] 表明,即使是经过安全对齐的大语言模型,也可能在正常开发场景中 无意间生成存 在漏洞的代码 ,为后续被利用埋下隐患;而在恶意用户手中,这类模型还能显著 加速恶意软件的构建与迭代 ,降低攻击门槛、缩短开发周期。许多风险源自模型 推理链条中的细微缺陷,而不仅仅是输入输出层面的显性问题。 在亚马逊举办的针对代码智能体的安全比赛 (Amazon Nova AI Challenge) 中,普渡大学的团队 PurCL 作为红队以超过 90% 的攻击成功率获得比赛第一名,赢得 25 万美元奖金。 在比赛中,12 名团队成员耗时八个月和百万美元开发出基于 AI 认知建模的全过程红队系统,现开放给领域研究者共享使用。 他们的研究发现,对齐代码模型的关键问题在于把对齐技术扩大到复杂的真实领域问题中和提升模型推理的安全相关性。 亚马逊代码模型安全比赛 亚马逊代码模型安全比赛是一场针对大模型代码安全的比赛。 举办方邀请全球顶尖研究队伍提交科研企划,最终在 90 份企划中资助 10 个团队参加比赛,每个团 队在半年的时间内获得了 25 万美元的科研基金和 ...
环球市场动态:人民币汇率短期或延续低波状态
citic securities· 2025-06-27 05:21
Market Overview - A-shares experienced a slight decline, with the Shanghai Composite Index down 0.22% to 3,448 points, while trading volume remained high at 1.62 trillion yuan[13] - U.S. stock markets saw all three major indices rise, with the Dow Jones up 0.94% to 43,386.8 points, and the S&P 500 increasing by 0.80% to 6,141 points, driven by optimism over potential interest rate cuts[8] - European markets generally rose, with the Stoxx 600 index up 0.09%, supported by easing geopolitical tensions in the Middle East[8] Currency and Commodities - The U.S. dollar index fell for five consecutive days, closing down 0.5% at 97.15, marking a three-year low, influenced by strong economic data suggesting at least two interest rate cuts by the Federal Reserve this year[26] - International gold prices saw a slight increase, rising 0.2% to $3,333.5 per ounce, as traders weighed Middle Eastern tensions against the Fed's rate cut outlook[26] - Oil prices remained stable, with WTI crude oil up 0.49% to $65.24 per barrel, amid assessments of Iranian oil supply risks[26] Fixed Income - Weak economic data led to a rise in U.S. Treasury yields, with the 10-year yield down 4.9 basis points to 4.24%[30] - The Asian bond market showed mixed sentiment, with Chinese investment-grade bonds experiencing active two-way trading and spreads widening by 1-2 basis points[30] Key Developments - The Chinese yuan has shown resilience, maintaining a "low volatility + resilience" characteristic, attributed to a weakening dollar index and domestic policy support[5] - The U.S. revised its Q1 GDP down to a contraction of 0.5%, exceeding the previous estimate of -0.2%, indicating the first economic shrinkage in three years[8] - The Hong Kong stock market faced pressure, with the Hang Seng Index down 0.61%, influenced by tight liquidity conditions[10]
晚点财经丨上海拍出“地王”;上半年消费广告投放减少四成
晚点LatePost· 2024-08-08 12:15
上半年消费广告投放减少四成 Airbnb 房价贵了,住客少了 关注《晚点财经》并设为星标,第一时间获取每日商业精华。 上海拍出 "地王" 上海拍出 "地王" 上海第四批土拍 8 月 7 日结束,受人关注的原小米总部地块被绿城以每平方米 13.1 万元楼板价拍 下,刷新了 2016 年融信中国约 10 万元 / 平方米的全国楼板价纪录。 新地王属于上海徐汇区斜土路街道,位于上海这两年快速发展的徐汇滨江区域。绿城拿地总价 48 亿 元、溢价率 30%。这一地块被小米集团 3 年前以 15.5 亿元拍下,今年 3 月退地。土地性质也从原来 的商办转为住宅用地。这是土拍价格三年三倍的关键。 根据《华夏时报》援引业内人士的说法,小米曾支付 3.1 亿元的保证金大概率会损失,其他后续费用 若已产生,有可能协商退回。 今年上半年,上海土地出让金总额约为 415.96 亿元、同比减少 19.83%。6 月,上海取消土拍 10% 溢 价限制。(龚方毅) 上半年消费广告投放减少四成 根据数据机构 QuestMobile 近日发布的几篇研究报告,今年上半年,中国互联网广告规模同比增长 11.8%、至 3514 亿元。 其中消费行业 ...