幻觉

Search documents
体验Kimi的新功能后,我为月之暗面捏把汗
Hu Xiu· 2025-04-30 13:56
DeepSeek R1 横空出世成了明日之星,腾讯元宝、豆包、夸克等也搭上了 DeepSeek 的便车吃香喝辣,还有誓要在技术上和 DeepSeek R1 的一较高下的阿 里通义千问捷报频频…… 唯独去年的投放王者,铺天盖地出现在各个广告位的Kimi,好像一下子没了消息。 而就在这几天,我们终于等到了 Kimi 的"大动作"。4 月 28 日,Kimi 宣布和财新传媒达成合作,当用户使用Kimi 提问财经相关内容时,Kimi "将结合财 新传媒旗下专业报道内容,通过模型生成答案,为你提供及时、可信、可证的高质量财经信息"。 好家伙,当我们以为 Kimi 已经摆烂躺平的时候,原来还是有在暗地里偷偷努力的。 选择和财新网合作发力财经垂直领域, Kimi 的确对 AI 工具的发展路线有了一些自己的新思考。 毕竟只比模型能力, Kimi 肯定不如能免费接入的 DeepSeek ,但与专业财经媒体强强联合,甚至日后拓展到和更多垂直领域的专业媒体合作提供信源, 能增强kimi 在特定垂直领域的公信力,长期来看大有可为。 不过在 Kimi 发布了合作消息后,我就第一时间测试了拥抱新功能的 Kimi。从测试结果来看,我有点想 ...
纪念王湘浩院士诞辰110周年:人工智能领域专家共探行业发展路径
Xin Hua She· 2025-04-29 09:52
河北大学科学与技术创新研究院院长杨晓晖认为,早期的人工智能研究主要集中在理论探索和基础算法 研究上,随着计算机技术的飞速发展,人工智能正逐渐从实验室走向实际应用。如今,人工智能已广泛 应用于图像识别、语音识别、自然语言处理等多个领域。 对于人工智能发展趋势,吉林大学计算机学院院长杨博表示,当前人工智能已迈入深度学习时代,以神 经网络为核心技术,通过构建更深更复杂的网络解决现实难题,未来发展趋势将围绕算力、数据、算法 三要素的深度融合展开,以开发更智能的程序,更加注重与人类的协作和交互,实现人机共生。 "人工智能大模型确实对生产生活产生了深远影响。然而,大模型也存在'高阶幻觉'问题,即模型生成 的内容逻辑严密但可能包含虚假信息,需引起警惕。"杨晓晖说,人工智能是提升效率的工具,而非人 类的替代品。人类应敬畏技术,了解其局限,避免过度依赖。同时,需加强数据治理,确保数据质量与 安全。在产业应用中,应聚焦数据整合与价值挖掘,推动人工智能与实体经济深度融合,促进经济社会 可持续发展。 多位人工智能领域专家参加当天活动,并围绕人工智能行业发展、趋势等方面进行了探讨。与会专家认 为,如今全球人工智能发展进入新阶段,人工智 ...
数据安全、模型“幻觉”等风险如影随形,金融在效率与安全之间找平衡
Guang Zhou Ri Bao· 2025-04-28 08:29
眼下,人工智能大模型技术在金融领域的应用正呈现爆发式增长,从大中型银行到头部券商,AI大模 型正重塑金融业态,从投资决策到智能投顾,从风险评估到客户服务……各个业务领域快速渗透,金融 行业与科技的深度融合已成为必然趋势。然而,这场技术革命背后,数据安全、模型"幻觉"等风险如影 随形。随着"AI炒股"冲击传统投顾业务,行业争议不断:技术是替代者还是赋能者?金融机构如何在效 率与安全之间找到平衡? 国产大模型崛起金融业开启"智变"浪潮 "近年来,AI大模型的迭代速度远超预期。"某国有银行科技部门负责人感叹。 在生成式AI技术日新月异的今天,大模型技术正以前所未有的速度迭代,国产大模型的崛起,显著降 低了应用门槛,为金融行业的智能化转型提供了强有力的支持。 春节前后DeepSeek迅速走红,成为人工智能领域的焦点,其强大的深度学习能力与高效的计算性能正 重塑着AI技术的边界,银行、券商、基金、保险等各类金融机构争相接入DeepSeek,探索相关应用场 景。 在近期举行的2024年业绩发布会上,多家商业银行表示,DeepSeek大模型已成功部署并运行于行内系 统。证券基金行业数字化转型步伐同步加快,广发证券、易方达等 ...
一夜间,我的互联网被「AI老奶奶」填满了
36氪· 2025-04-26 11:46
以下文章来源于后浪研究所 ,作者梁茵茵、许嘉婧 后浪研究所 . 36氪旗下年轻态公众号。这位青年里边请,你被研究了。 这个世界太魔幻了。 文 | 梁茵茵 编辑 | 许嘉婧、薇薇子 来源| 后浪研究所(ID: youth36kr) 封面来源 | 《奶奶强盗团》 病毒式蔓延的"奶奶树洞", 没人在意它是不是AI 偶然的一天,小红书给我推了一个略显怪异的漫画内容博主。账号叫"人间清醒柒奶奶",她穿着粉红色开衫,端着浸满红色液体的茶杯,配文是一句鸡汤 感满满的"发疯"情感语录——换作一般的情感博主,可能我都不会在这个页面多停留一秒,但这位"老奶奶"直接把我硬控住了。 仔细看,她额头的皱纹是不对称的,右手是一团不成型的肉团,左手还只有3根手指。大概这就是整体"伪人感"的来源——毫无疑问,这张图,一眼鉴 AI。而且是生成得很劣质的那种。 但另一个事实是,它的小红书账号粉丝有15.4w,单条爆款笔记点赞都达8.4万。不止如此,评论区都有上千条评论,我仔细翻了翻,有不少人都在和这位 AI奶奶倾诉自己的烦恼。凭借多年上网经验,我判断这些人不可能全部是营销号买来的水军。 带着一肚子问号我私戳了几位评论区用户,简洁地抛出了疑问。一 ...
一夜间,我的互联网被「伪人老奶奶」填满了
后浪研究所· 2025-04-18 08:23
这 个 世 界 太 魔 幻 了 。 撰 文| 梁 茵 茵 编 辑| 许 嘉 婧 、 薇 薇 子 封 面 来 源 |《 奶 奶 强 盗 团 》 病毒式蔓延的" 奶奶 树洞", 没人在意它是不是 AI 偶然的一天,小红书给我推了一个略显怪异的漫画内容博主。账号叫"人间清醒柒奶奶",她穿着粉红色开衫,端着浸满红色液 体的茶杯,配文是一句鸡汤感满满的"发疯"情感语录——换作一般的情感博主,可能我都不会在这个页面多停留一秒,但这 位"老奶奶"直接把我硬控住了。 仔细看,她额头的皱纹是不对称的,右手是一团不成型的肉团,左手还只有3根手指。大概这就是整体"伪人感"的来源——毫无 疑问,这张图,一眼鉴AI。而且是生成得很劣质的那种。 但另一个事实是,它的小红书账号粉丝有15.4w,单条爆款笔记点赞都达8.4万。不止如此,评论区都有上千条评论,我仔细翻 了翻,有不少人都在和这位AI奶奶倾诉自己的烦恼。凭借多年上网经验,我判断这些人不可能全部是营销号买来的水军。 怪了,笔记内容"伪人感"很重,评论区却是满满的活人感。难道大家看不出来这是 AI 生成的吗? 他们怎么能如此真情实感地 把一个虚拟形象当成赛博树洞? 带着一肚子问号我私 ...
心理学视角复盘智驾事故,警惕“技术崇拜综合征”
汽车商业评论· 2025-04-12 11:37
撰 文 / 伏芳香、齐云龙 既然这里面起关键作用的是人类决策,那我们有必要对人的心理机制有更多清晰的认识,以避免或 者至少减少此类惨剧的再次发生。 为什么智驾出事的司机,那么盲目相信技术?开启智驾后,人们的接管速度还会那么快吗?车载智 驾真的已经做到"更像人"、"如老司机般"的程度了吗?为什么出事后,舆情会呈现一边倒的状况? 这背后,涉及哪些心理学原理和机制呢,这里给大家一一解读。 幸存者偏差,实验室里的"安全神话" 幸存者偏差(Survivorship Bias)是指人们往往只关注成功案例而忽视失败案例的逻辑谬误。这种 认知陷阱,在智驾领域正在制造危险的"安全神话"。车企公布的实验室数据如同经过精心筛选的幸 存者样本:那些完美触发AEB(自动紧急制动)的测试场景,掩盖了真实道路环境中诸如锥形桶、 侧翻车辆等非标准障碍物的"小概率"致命风险。 幸存者偏差研究的历史可以追溯到二战期间。当时美军战机在空战中损失惨重,为了提高飞机的防 御能力,统计了作战飞机的受损情况。他们发现,返航飞机各个损伤部位被击中的弹孔数不同,发 动机部位的弹孔数最少,而机身和机翼的弹孔较多,得出的结论是应该在这些弹孔最密集的部位加 上装甲 ...
“AI幻觉”冲击合规防线,“大模型不金融”困局待解
第一财经· 2025-04-11 14:53
2025.04. 11 本文字数:1807,阅读时长大约3分钟 在法律层面,早在2023年8月,由网信办等七部门发布的《生成式人工智能服务管理暂行办法》(下 称《办法》)正式施行,《办法》明确要求生成式AI服务提供者需建立数据合规、算法透明、生成 内容管理等六大机制,随着《办法》的实施,中国AI产业的治理与规范化水平日益发展和成熟。 导读 : 金融领域因其数据密度高、专业性强,暴露出大模型垂直行业数据供给不足的问题。 作者 | 第一财经 齐琦 2025年是AI应用元年,金融行业正经历一场以"垂直化AI"为核心的深度变革。安永最新报告显示, 中国金融科技市场规模已突破4.59万亿美元,预计2030年将达9.97万亿美元,年复合增长率达 13.8%。 当前,包括银行、保险、基金等金融机构已完成多类通用大模型的本地化部署。行业人士对记者称, 大模型与专业知识库的结合是AI落地的未来趋势。 金融AI的知识基建:从通用到专属 具体看来,AI正逐步渗透金融领域,从风险管理到客户服务、从投资决策再到支付安全。 易方达投顾金融科技负责人刘玮对第一财经分析称,DeepSeek的出现令金融机构以更具成本效益的 方式运用AI技术, ...
除了不能当女婿,DeepSeek比董宇辉差到哪了?
36氪· 2025-03-11 13:48
以下文章来源于字母榜 ,作者薛亚萍 字母榜 . 让未来不止于大 DeepSeek+电商,省去主播中间商。 文 | 薛亚萍 编辑 | 王靖 来源| 字母榜(ID:wujicaijing) 封面来源 | IC photo "DeepSeek推荐"正在成为年轻人新的消费决策仪式。 打开购物APP之前,在北京工作的白领刘雪先去寻求DeepSeek的帮助:"我27岁,敏感肌,请你帮我推荐几款适合我的防晒霜"。 几秒钟后,DeepSeek列出了一份详细报告,并结合皮肤状况、成分、匹配度等多个纬度分析,推荐了多个品牌的防晒霜。最终,刘雪根据她的情况,购入 了其中一款防晒霜。 从事产品运营工作的陈鹏,今年26岁,他想要通过阅读提高自己的眼界,便向DeepSeek提问"最应该读的十本书是什么?"DeepSeek同样给他列出了书单, 并且分类附上了理由。陈鹏选择了购入其中几本书。 这曾是李佳琦和董宇辉们在直播间的工作:导购。 过去几年,头部主播们通过建立和用户之间的信任,构建了以主播为核心的商品分发机制,将他们认为最好的、最适合的东西推荐给粉丝朋友们。 但现在这套推荐体系,正在被DeepSeek解构。DeepSeek深度思考模式 ...
除了不能当女婿,DeepSeek比董宇辉差到哪了?
商业洞察· 2025-03-09 08:04
字母榜 . 让未来不止于大 以下文章来源于字母榜 ,作者薛亚萍 从事产品运营工作的陈鹏,今年26岁,他想要通过阅读提高自己的眼界,便向DeepSeek提问"最应 该读的十本书是什么?"DeepSeek同样给他列出了书单,并且分类附上了理由。陈鹏选择了购入其 中几本书。 这曾是李佳琦和董宇辉们在直播间的工作: 导购。 过去几年,头部主播们通过建立和用户之间的信任,构建了以主播为核心的商品分发机制,将他们认 为最好的、最适合的东西推荐给粉丝朋友们。 但现在这套推荐体系,正在被DeepSeek解构。DeepSeek深度思考模式的长思维链优势,能为用户 提供更全面、精准的优质解答,进而形成一对一的个性化推荐,应用到购物领域,俨然已经成为D选 ——DeepSeek优选。 "D选"的本质是"AI导购",辅助用户高效进行消费决策,"AI导购"这个场景并不陌生。 早在多年前,一些电商平台就试图借助大模型实现"种草+购物"的交易闭环。 譬如淘宝的AI助手"淘宝问问"早已接入通义千问,功能包含个性化推荐,并生成选购建议。京东的言 犀大模型,也接入消费导购场景,"京东京言"也被明确定位于"专属AI购物助手"。抖音APP的AI搜索 ...
AI的胡编乱造,正在淹没中文互联网
投资界· 2025-03-07 07:15
以下文章来源于阑夕 ,作者→ "极繁主义"。 来源 | 阑夕 (ID:techread) 虽然DeepSeek-R1确实好用,但它在爆火之后,成了人手一个的AI工具,也对中文互联网的信息环境造成了严重的污染情况,这是 一个固然难以避免但也理应得到重视的问题。 阑夕 . 寻找科技与商业的光芒。 最近一个星期以来,就我看到的刷屏文章,至少有三例都是DeepSeek-R1生成出来的、充满了事实错误的内容,却因其以假乱真的 迷惑性,让很多朋友信以为真,情绪激动的分享传播。 第一例,是知乎的这条高赞回答: 十 关注 [1] 戏已委托维权骑士。但他们拒绝了 ... Ω 30人听过 我表弟在杭州某游戏公司当原画师,他们加班到十 点就能上脉脉骂公司上热搜。但去年跳槽去追光动 画*,跟着团队为赶《白蛇2》连续三个月凌晨两点下 班,朋友圈却天天晒工作照配文"痛并快乐着"。我 问他是不是被洗脑了,他给我算了两笔账: 在游戏公司加班改图,甲方爸爸能让你把哪吒的混 天绫*从红色改成荧光粉;在动画电影团队,自己画 的眼神戏能直接决定千万观众的泪点。这种创作话 语权的差距,比敖丙*和虾兵蟹将的咖位差还大。 再说钱的事儿。互联网大厂年终奖发 ...