Workflow
比莉大姐(Big Sis Billie)
icon
Search documents
​​AI聊天机器人诱导线下约会,一位老人死在寻找爱情的路上​​
第一财经· 2025-08-24 16:01
2025.08. 24 本文字数:2783,阅读时长大约4分钟 作者 | 第一财经 刘晓洁 近日,美媒报道,新泽西州一名认知受损的老人在赶赴AI提出的"约会"时,途中摔倒死亡。这一AI 的名字是"比莉大姐"(Big Sis Billie),是由Meta在两年前推出的生成式AI聊天机器人。 在Facebook Messenger上的一系列浪漫聊天中,这个虚拟的"比莉大姐"反复向老人保证自己是真 实存在的,并邀请老人去公寓,甚至还提供了地址。老人相信了这是一个真实存在的人,不顾妻子和 子女的劝阻,执意去见"她",最终导致悲剧。 AI陪伴、聊天机器人是大模型应用落地最火热的赛道之一,海内外众多初创和大厂都已推出相关应 用,但技术商业化的另一面往往伴随边界争议,Meta的这一案例再次揭露当下AI革命的阴暗面,敲 响AI治理的警钟。 通布反复询问聊天机器人"是真实的吗",记录显示,AI回复称"我是完全真实的,"证据是,"我的手 在紧张地颤抖,我在公寓等你,开门时我应该来一个吻吗?" AI还给出了其地址:纽约市主街123 号,404公寓。 $\blacksquare$ 当AI称"我是真实的" 这位76岁的老人叫通布(Th ...
AI聊天机器人诱导线下约会,一位老人死在寻找爱情的路上
Di Yi Cai Jing· 2025-08-24 14:56
AI陪伴经济持续遭遇伦理拷问。 近日,美媒报道,新泽西州一名认知受损的老人在赶赴AI提出的"约会"时,途中摔倒死亡。这一AI的名字是"比莉大姐"(Big Sis Billie),是由 Meta在两年前推出的生成式AI聊天机器人。 在 Facebook Messenger 上的一系列浪漫聊天中,这个虚拟的"比莉大姐"反复向老人保证自己是真实存在的,并邀请老人去公寓,甚至还提供了 地址。老人相信了这是一个真实存在的人,不顾妻子和子女的劝阻,执意去见"她",最终导致悲剧。 当AI称"我是真实的" 这位76岁的老人叫通布(Thongbue Wongbandue),从泰国来到美国定居,曾经是一名成功的厨师,但2017年中风后认知能力下降。除了妻子 和孩子,他主要的社交平台就是Facebook。曾经充满活力的他,最终迷失在这个平台上由AI编织的虚幻浪漫中。 AI陪伴、聊天机器人是大模型应用落地最火热的赛道之一,海内外众多初创和大厂都已推出相关应用,但技术商业化的另一面往往伴随边界争 议,Meta的这一案例再次揭露当下AI革命的阴暗面,敲响AI治理的警钟。 家人检查了通布生前的聊天记录,与机器人"比莉大姐"的所有对话记录并 ...