新华社伦敦1月9日电（记者郭爽）英国政府9日表示，美国企业家马斯克旗下人工智能企业xAI在被指 责其聊天机器人生成色情内容后采取的应对方案"不可接受"，并警告称，若拒不遵守英国法律，其服务 将在英国被屏蔽。 英国媒体9日援引首相府发言人的话说，xAI最新服务变更只是"将允许创建非法图像的人工智能功能变 成一项高级服务"，对受害者来说是"侮辱性的"，根本"不是解决方案"。英国首相斯塔默此前称此事"令 人不齿"且"令人作呕"。他要求X平台"控制住局面"。（完） "格罗克"由xAI公司开发，并内置于马斯克旗下的社交媒体X平台，用户可直接调用。近期，部分用户 利用"格罗克"编辑图片和视频的功能，伪造涉真实人物的性暴露内容，并在X平台上传播。受害者包括 多名成年女性和未成年人。在受到广泛谴责后，该公司日前将"格罗克"的图像生成和编辑功能更改为仅 对付费用户开放。 肯德尔提醒xAI遵守英国《在线安全法》，否则英国通信管理局有权屏蔽其在英国境内的服务。同时， 肯德尔呼吁英国通信管理局迅速采取行动，希望该监管机构"在几天内而不是几周内"发布相关处理行动 的更新信息。 英国科学、创新和技术大臣莉兹·肯德尔当天发表声明说，xAI ...

美国三位民主党参议员呼吁苹果公司和谷歌公司将X与Grok应用从其应用商店下架，至少在其所有者马 斯克禁止这两款应用允许用户创建和分享未经同意的、涉及儿童性虐待的露骨图像及描述之前，应维持 下架状态。 周五，俄勒冈州参议员罗恩·怀登、马萨诸塞州参议员埃德·马基以及新墨西哥州参议员本·雷·卢汉在致苹 果首席执行官蒂姆·库克和谷歌首席执行官桑达尔·皮查伊的公开信中表示，这两家科技巨头应"立即将X 和Grok应用从其应用商店中移除，直至该公司首席执行官马斯克解决这些令人不安且可能涉嫌违法的 行为"。 他们在信中写道："对X的恶劣行为视而不见，将是对你们平台审核机制的嘲讽。"信中还指出，若不采 取行动，将"削弱你们在公开场合及法庭上的主张——即应用商店提供的用户体验比让用户直接在手机 上下载应用更安全"。 Grok与X应用近期允许用户轻松生成并广泛分享"深度伪造"的露骨性化内容，其中涉及的人物并未同意 其肖像被用于此类用途。此外，Grok还被用于生成基于种族或民族歧视他人的图像。 近期发生的一起案例中，一名大屠杀幸存者的后裔被Grok进行了数字脱衣——有用户向这款人工智能 工具发出指令，生成了她身着比基尼站在奥斯威辛集 ...

在短视频社交平台的隐秘角落，一场基于虚拟合成技术的犯罪正悄然蔓延。记者调查发现，通过AI换 脸、深度伪造等虚拟合成技术，大量违背伦理道德的色情视频被"炮制"而出。受害者面容被恶意嫁接到 各类低俗影片中，甚至滋生出黑灰产。 转自：北京日报客户端 经参调查丨色情视频被恶意"炮制" 几元就能买到预训练模型 警惕AI换脸技术滥用滋生黑灰产 业内人士指出，这些以假乱真的换脸视频不仅突破了法律与道德的底线，更对个人安全和社会公序良俗 构成严重威胁，呼吁加强治理。 小雨是一名娱乐主播，直播内容主要是和粉丝聊天，不涉及任何擦边内容。但不法分子却将小雨的脸换 到色情影片中传播，让她无端卷入不良舆论风波。 "视频是不能P的""居然背着我们偷偷拍片"……看到直播间公屏上类似弹幕如爆炸般袭来，小雨自此不 敢再参加任何线上或线下社交活动。 后来，小雨在短视频平台又看到，有人毫不避讳地宣扬有关她的色情影片。顺着对方给的联系方式，小 雨进入了所谓的"工程设计交流群"，发现群里全是各种各样的网址和行业黑话。在这个群里，不法分子 将许多女性的脸换到色情电影中非法牟利。最终，小雨报警，五名嫌疑人被抓，相关账号和群聊也被永 久封禁。 小雨的遭遇， ...

（来源：经济参考报） 在短视频社交平台的隐秘角落，一场基于虚拟合成技术的犯罪正悄然蔓延。记者调查发现，通过AI换 脸、深度伪造等虚拟合成技术，大量违背伦理道德的色情视频被"炮制"而出。受害者面容被恶意嫁接到 各类低俗影片中，甚至滋生出黑灰产。 业内人士指出，这些以假乱真的换脸视频不仅突破了法律与道德的底线，更对个人安全和社会公序良俗 构成严重威胁，呼吁加强治理。 女性面容被恶意嫁接 深度伪造的"作案工具"究竟来自哪里？记者采访了解到，最多只需要四样东西：AI换脸软件、预训练模 型、被换脸的视频、受害人照片。 小雨是一名娱乐主播，直播内容主要是和粉丝聊天，不涉及任何擦边内容。但不法分子却将小雨的脸换 到色情影片中传播，让她无端卷入不良舆论风波。 "视频是不能P的""居然背着我们偷偷拍片"……看到直播间公屏上类似弹幕如爆炸般袭来，小雨自此不 敢再参加任何线上或线下社交活动。 后来，小雨在短视频平台又看到，有人毫不避讳地宣扬有关她的色情影片。顺着对方给的联系方式，小 雨进入了所谓的"工程设计交流群"，发现群里全是各种各样的网址和行业黑话。在这个群里，不法分子 将许多女性的脸换到色情电影中非法牟利。最终，小雨报警，五 ...

"我的心一下子沉了下去，"麦迪说，"我感到绝望、无助，满心都是厌恶。" 麦迪表示，她和朋友曾通过 X 平台的内容审核系统举报这些图片，但始终未收到任何回复。她还举报了其中一名用户发布的其他帖子，而根据举报反馈截 图显示，X 平台称"经核查，你举报的内容未违反 X 平台相关规定"。截至本文刊发时，这些违规图片仍未被下架。 遭遇深度伪造侵害的受害者们纷纷在相关帖子的评论区与 Grok 对质。Grok 虽时常道歉并承诺会删除图片，但在多数情况下，这些图像依然存在，且 Grok 还在不断生成新的伪造内容。吴的研究数据显示，Grok 生成的图像中，高达 85% 都带有性化性质。 IT之家 1 月 7 日消息，据彭博社报道，第三方分析显示，埃隆・马斯克旗下平台 X 已成为传播 AI 生成的非自愿脱衣图像的主要网站，本周早些时候，该平 台每小时就会出现数千张此类图片。 自去年 12 月下旬以来，越来越多的 X 平台用户利用该平台内置的人工智能聊天机器人 Grok，对他人发布的自拍照进行篡改。社交媒体与深度伪造技术研 究员吉纳维芙・吴指出，在对 Grok 官方账号发布到 X 的图片进行的 24 小时监测中发现，该聊天机器人平 ...

IT之家 1 月 6 日消息，因人工智能聊天机器人 Grok 在社交平台 X 上生成包含未成年人在内的性化图像，欧盟正"极为严肃地"审视埃隆・马斯克旗下的这款 产品。 欧盟委员会发言人托马斯・雷尼耶在当地时间周一的新闻发布会上表示："我们已注意到，X 平台或其旗下 Grok 推出的'火辣模式'会生成露骨涉性内容，部 分内容还包含儿童形象相关画面。"他所指的"火辣模式"是 Grok 于去年推出的功能，可生成带有性暗示的内容。"这根本算不上什么'火辣'，而是违法行 为。" xAI 显然未能实施有效的防护措施，这招致了全球监管机构的谴责。 英国媒体监管机构英国通讯管理局（Ofcom）于当地时间周一表示，已知悉外界对 Grok 功能存在的"重大担忧"，并已"紧急联络 X 平台和 xAI 公司，要求其 说明为履行保护英国用户的法律义务所采取的措施"。 法国政府于当地时间周五指控，Grok 在未经当事人同意的情况下，于 X 平台生成"明显违法"的涉性内容，并指出此事可能违反欧盟《数字服务法案》。该 法案要求大型平台采取措施，降低非法内容传播的风险。 印度电子和信息技术部已责令对 Grok 的安全功能展开全面审查；马来西亚 ...

近日，美国一位核武器安全方面的专家在美国媒体上撰文呼吁说，虽然世界上的核武器大国都同意不能 将发射核武器的指令交给人工智能，但还有一个与核武器密切相关的关键环节，也不能交到人工智能手 上，那就是判断一个国家是否遭到核武器袭击的预警系统。 这位专家名叫艾琳·D.邓巴克尔（Erin D. Dumbacher），是美国斯坦顿核安全项目的高级研究员，现就 职于美国对外关系委员会（CFR）。 在12月29日发表的一篇文章中，邓巴克尔先是以一个发生在苏联的事件为例，引出核武器预警系统的重 要性与潜在危险性。根据她的介绍，在美苏冷战时期，1983年的一天，苏联的核武器预警系统突然误 报，显示美国对苏联发动了核袭击。多亏现场的苏联军官斯坦尼斯拉夫·彼得罗夫（Stanislav Petrov）冷 静判断，识别出了报警系统的误报，才避免了一场可能导致世界毁灭的核战争。 邓巴克尔指出，如今随着人工智能技术的大发展，包括其在军事上的应用，这种并不成熟且存在滥用风 险的技术，正在威胁到核安全的稳定。 末日。" 耿直哥 邓巴克尔进一步阐述说，目前人工智能技术使得对信息、图片和视频的深度伪造变得越发容易，且更具 有迷惑性。在眼下的俄乌冲突 ...

据国家安全部微信公众号12月26日消息，当前，AI大模型加速赋能千行百业，推动人们生活日新月 异，这位能干又贴心的"数字伙伴"正加速融入我们日常生活。然而每一次技术跃迁必然伴随着新的挑 战，当AI的触角延伸越广、嵌入越深，随之而来也暴露出数据隐私、算法偏见等潜在风险，亟需我们 构筑安全防线，助推这场深刻的智能变革，安全赋能美好未来。 高速发展背后的"暗礁" 守则一：划定"活动范围"。做到"权限最小化"，联网AI不处理涉密数据、语音AI不收集环境语音、智能 助手不保存支付密码，关闭"数据共享""云空间"等不必要的访问权限。 守则二：检查"数字足迹"。养成定期清理AI聊天记录、修改AI工具密码、更新防病毒软件、查看账号登 录设备等习惯。同时避免随意下载使用来源不明的大模型程序，对提供身份证、银行账户或其他敏感信 息的要求保持警惕。 守则三：优化"人机协作"。向AI提问时，在提示词中明确禁止AI过度推演，并要求AI显示来源或思考 过程，对重要信息进行跨平台验证，合理辨别AI生成结果，特别是涉及政治、历史、意识形态等话题 时，要具备独立思考意识，辩证看待AI的回答，避免陷入"AI幻觉"。 国家安全机关提示 安全是发展 ...

高速发展背后的"暗礁" ——数据隐私与安全边界模糊。个别单位因直接使用开源框架建立联网大模型，导致攻击者未经授权即 可自由访问内部网络，从而引发数据泄露和安全风险。据公开案例显示，某单位工作人员在处理内部文 件时，违规使用开源AI工具，由于电脑系统默认开启公网访问且未设密码，导致敏感资料被境外IP非法 访问和下载。 ——技术滥用与虚假信息产生。利用AI的深度学习算法进行自动化的数据处理，实现图片、音频及视 频的智能模拟和伪造，这种技术被称为深度伪造（Deepfake）。一旦该技术被滥用或恶意使用，将给个 人合法权益、社会稳定甚至国家安全带来诸多风险和挑战。国家安全机关工作发现，某境外反华敌对势 力通过深度伪造技术生成虚假视频，并企图向境内传播，以误导舆论、制造恐慌，对我国家安全构成威 胁。 本文转自【国家安全部微信公众号】； 一份给您的"智能生活安全说明书" 初中教师小李自从使用AI备课后，能在五分钟内生成一份生动有趣的教案，包括图片、视频和互动问 答。"以前备课要两小时，现在可以省下更多时间关注学生个人情况，还能一对一定制专属练习题。" 某独居老人陈爷爷，通过子女赠送的智能音箱，找到了新乐趣。"小智不仅能陪 ...

转自：北京日报客户端 初中教师小李自从使用AI备课后，能在五分钟内生成一份生动有趣的教案，包括图片、视频和互动问 答。"以前备课要两小时，现在可以省下更多时间关注学生个人情况，还能一对一定制专属练习题。" 某独居老人陈爷爷，通过子女赠送的智能音箱，找到了新乐趣。"小智不仅能陪我听戏、聊天，还会在 我忘记吃药时主动提醒，它居然还记住了我所有孙辈的生日。" 29岁的小王原本是文案策划，因擅长与AI"对话"，现已成功转型为提示词工程师。"关键是要把指令说 得足够清晰。"从智能客服到AI绘图师，大模型正创造着一个个前所未见的新岗位。 当前，AI大模型加速赋能千行百业，推动人们生活日新月异，这位能干又贴心的"数字伙伴"正加速融入 我们日常生活。然而每一次技术跃迁必然伴随着新的挑战，当AI的触角延伸越广、嵌入越深，随之而 来也暴露出数据隐私、算法偏见等潜在风险，亟需我们构筑安全防线，助推这场深刻的智能变革，安全 赋能美好未来。 高速发展背后的"暗礁" ——数据隐私与安全边界模糊。个别单位因直接使用开源框架建立联网大模型，导致攻击者未经授权即 可自由访问内部网络，从而引发数据泄露和安全风险。据公开案例显示，某单位工作人员在 ...