信息技术行业动态点评：AI发展如火如荼，安全不容忽视

AI发展如火如荼,安全不容忽视 2024 年 06 月 25 日 【事项】 近日,OpenAI 前首席科学家 Ilya Sutskever 宣布创立一家名为"安 全超级智能"(Safe SuperIntelligence, SSI)的公司。该公司的目 标和产品极其明确、单一,即追求安全的超级智能。公司将安全性和 能力视为通过革命性工程和科学突破来解决的技术难题,同时确保安 全性始终保持领先地位。 【评论】 AI 发展如火如荼,AI 安全不可忽视。去年 11 月,OpenAI 内部产生分 歧,奥尔特曼和 OpenAI 总裁 Greg Brockman 倾向于加速商业化,以 获得更多资金来支持 AI 模型的算力需求。而伊利亚等人则希望 AI 更 安全。双方矛盾激化,最终结果是奥尔特曼和 Greg Brockman 在短暂 离职后重归 OpenAI,原董事会中的多位董事离开,伊利亚则在今年 5 月宣布离任。我们认为,本质的分歧在于 AI 安全的"路线之争",可 见目前在 AI 前沿的大模型公司中已有诸多关于 AI 安全的讨论,AI 安 全问题正日趋紧要,需要引起重视。 AI 系统设计面临诸多挑战,安全技术需不停迭代 ...