AI伴侣的“温柔陷阱”

文 | 胡炜（新京报传媒研究院） 近日，一则"美国16岁男孩自杀父母起诉Chatgpt"的新闻引发广泛关注。 Vista看天下对"美国16岁男孩自杀父母起诉Chatgpt"事件的报道 其实，人工智能伴侣（AI伴侣）已经不是第一次陷入此类纠纷。早在2024年10月，14岁少年Sewell SetzerIII的母亲就对人工智能情感服务提供商Character. AI公司提起诉讼，控诉其开发的AI聊天机器人操 纵了她儿子的自杀。 无论法院怎样判决，逝去的生命都无法挽回，AI聊天机器人潜在的风险都应该引起我们的足够的重 视。毕竟，技术的进步应该是给人类带来更多美好，而不是以牺牲安全性为代价。 01 为什么AI伴侣如此"上头" 近年来，随着人工智能技术发展，聊天机器人等AI伴侣类产品如雨后春笋般涌现，它们可以模拟人类 的情感互动，为用户提供精神慰藉和陪伴体验，成为很多人生活中的"新宠"。根据Appfigure 2024年度 报告统计显示，2024年AI陪伴应用总下载量达1.1亿次，内购收入突破5500万美元，同比增长652%。 AI伴侣爆火的背后，有着多方面的原因，但核心驱动力则是"孤独经济"与"生成式AI"技术的叠加 ...