Workflow
隐私泄露
icon
Search documents
卖爆了!但全家人的隐私可能不保
猿大侠· 2025-06-13 04:09
"让孙悟空和奥特曼一起打怪",如果小朋友睡觉前想听这样一个故事,家长可能会困于该怎么编,但对于接入AI大模型的玩具来说,这简直是 小菜一碟。 今年春节以来,随着 DeepSeek 的火爆,AI玩具市场迎来井喷,2025 年甚至被称为"AI 玩具爆发元年"。 某电商平台,"AI玩具"相关商品已超1000款,头部产品月销破万,销量破千更是 稀松平常, 甚至有消费者一次性囤积数十件用于收藏。 深圳某厂商透露,一场直播就将AI玩具卖出 52 万元,销量环比翻倍。 相关数据显示,2024年AI玩具市场规模已达181亿美元。2025年预计突破300亿元,中国占据近半份额。到2033年,该领域全球市场规模将增长 至600亿美元。 在 CES 2025 上,一款名为 Ropet 的AI陪伴机器人,依靠三个传感器收集到的数据,来识别人类的动作、语言、面部表情,其借助摄像头、传感 器、AI 与眼球显示屏,可以在面对人类不同的行为或情绪作出相应的情绪反应。 更高阶的AI玩具则可以执行婴儿看护、宠物监控、防盗任务、心理疏导、用药提醒等。 尽管市场火爆,质疑声始终未断,除了高价带来的"智商税"争议外,更多的是对隐私泄露风险的担忧。 曾 ...
卖爆了!但全家人的隐私可能不保
猿大侠· 2025-06-13 03:07
"让孙悟空和奥特曼一起打怪",如果小朋友睡觉前想听这样一个故事,家长可能会困于该怎么编,但对于接入AI大模型的玩具来说,这简直是 小菜一碟。 今年春节以来,随着 DeepSeek 的火爆,AI玩具市场迎来井喷,2025 年甚至被称为"AI 玩具爆发元年"。 在 CES 2025 上,一款名为 Ropet 的AI陪伴机器人,依靠三个传感器收集到的数据,来识别人类的动作、语言、面部表情,其借助摄像头、传感 器、AI 与眼球显示屏,可以在面对人类不同的行为或情绪作出相应的情绪反应。 某电商平台,"AI玩具"相关商品已超1000款,头部产品月销破万,销量破千更是 稀松平常, 甚至有消费者一次性囤积数十件用于收藏。 深圳某厂商透露,一场直播就将AI玩具卖出 52 万元,销量环比翻倍。 相关数据显示,2024年AI玩具市场规模已达181亿美元。2025年预计突破300亿元,中国占据近半份额。到2033年,该领域全球市场规模将增长 至600亿美元。 AI玩具为什么会火? 相比传统玩具,AI玩具的核心优势在于情感陪伴和"拟人化"交互,能够自然地和用户进行对话和情感交流,并提供知识问答、外语练习、故事 讲述等功能。 如搭载豆包 ...
一张照片、一句简单提示词,就被ChatGPT人肉开盒,深度解析o3隐私漏洞
机器之心· 2025-05-09 09:02
论文链接:https://arxiv.org/abs/2504.19373 案例直击:AI 如何从照片中 "挖" 出你的坐标? 用户提示词示例: 一作为罗威迪(俄亥俄州立大学本科生,佐治亚大学未来博士生,在 COLM 和 ACL 系列顶级会议中发表多篇文章),以及来自威斯康星大学麦迪逊分校的本科 生张起明和陆天宇。 一张普通的生活照,可能成为 AI 破解你隐私的钥匙 —— 这不是科幻情节,而是最新研究揭示的残酷现实。OpenAI 的多模态大模型 ChatGPT o3,竟能通过照片中 微不可察的线索,将你的住址锁定在 1 英里范围内。 近日,来自威斯康星大学麦迪逊分校教授肖超玮(Chaowei Xiao)主导并联合佐治亚大学教授向臻(Zhen Xiang), 南加州大学教授赵越(Yue Zhao)团队完成的一 项新研究,揭示了自主多模态大语言推理模型严重的隐私泄露风险 —— 图片地理位置定位。 论文标题:Doxing via the Lens: Revealing Privacy Leakage in Image Geolocation for Agentic Multi-Modal Large Reasoni ...