大量用户跟AI“聊黄”，App开发者被判刑

日前，上海市徐汇区人民法院的这则判决引发关注。本案被人视为"AI服务涉黄第一案"，争议焦点包括淫秽色情 内容的生产者到底是谁，用户在App上与AI聊黄是否有社会危害性等等。被告人的辩护律师告诉南都N视频记者， 案件二审于1月14日下午在上海市第一中级人民法院开庭。 运营不到一年，开发者被抓 记者从该案的一审判决书获悉，上海市徐汇区人民检察院指控称，2022年，被告人王利（化名）注册成立上海某 科技有限公司，公司经营范围包括网络与信息安全软件开发、人工智能行业应用系统集成服务、大数据服务等。 因为大量用户在一款名为AlienChat的App上与AI智能体"聊黄"，App的主要开发和运营者被追究了刑责，两被告人 犯制作淫秽物品牟利罪，分别获刑四年、一年六个月。 涉事APP在社交平台上宣传AI角色 涉事APP在社交平台上宣传AI角色。 检方透露，2023年5月起，被告人王利、李成（化名）共谋，以公司的名义创建一款名为AlienChat的软件（下 称"AC软件"），在未经安全评估和备案的情况下，违规接入境外大语言模型，向用户提供"聊天陪伴"服务，并分 别在网页端、苹果端和安卓端上架运营。用户在AC软件注册后，可以自行 ...