未落实未成年人保护要求等，AI聊天软件在意被罚500万欧

GPDP要求Luka对支撑Replika的生成人工智能系统在整个运行周期过程中的数据处理行为作出澄清。具体包括提供有关该产品的风险评估信息，在开发和训 练该语言模型时为保护用户数据而采取的措施，处理的个人数据类型，以及是否采取了匿名化措施等等内容。 南都记者梳理发现，近年来，GPDP高度重视对AI产品的监管。去年12月，GPDP对OpenAI处以1500万欧元罚款，原因是OpenAI在没有充分法律依据的情况 下，使用用户个人数据来训练ChatGPT，违反了透明度原则以及用户数据保护义务。 2023年2月，GPDP以Replika为儿童带来特殊风险为由，暂停了Replika 在该国的服务。经过两年多的调查，近日宣布处罚结果。 GPDP认定，Replika在处理用户数据时缺乏相关法律依据；违反公开透明原则，在隐私政策中未详细披露大模型开发目的，训练数据类型、使用规则以及保 存期限等。另外，尽管在隐私政策中明确了其服务不提供给13岁以下人士使用，但Replika未设置任何有效的用户年龄验证机制，未成年人可以通过填写虚 假年龄信息绕开限制，继续享受服务。 值得注意的是，在处理该案的同时，GPDP还宣布了一项单独调查， ...