Workflow
科研伦理
icon
Search documents
“强制好评”指令潜入AI审稿,学术圈何以规则失守?
Hu Xiu· 2025-07-08 04:48
本文来自微信公众号:APPSO (ID:appsolution),作者:APPSO,原文标题:《一句隐藏提示词引爆学术圈!明星教授被曝"骚操作"让 AI 给好评,刚 刚发文反思》,题图来自:AI生成 谢赛宁随后承认疏忽,称并不知情,表示自己未能履行好导师职责。根据他的描述,起因于一位日本访问学生借用了其他研究者在社交媒体上开玩笑提出 的"提示词插入"做法,误以为可用以应对AI审稿机制。 在一篇详细的回应帖中,谢赛宁写道: 谢谢你让我注意到这件事。说实话,我之前真的没有意识到这个问题,直到最近这些帖子在网上传播开来。我绝不会鼓励我的学生做出这种行 为——如果我是领域主席(Area Chair),凡是有这种提示词的论文,我一定会直接拒稿。 不过话说回来,对于任何有问题的投稿,所有合著者都要承担责任,这点没有借口。这次事件也提醒了我,作为导师,我不仅要检查最终的 PDF文件,也应该认真查看整个投稿文件。在此之前,我确实没有意识到这方面的必要性。 我想花点时间分享一下我们过去一周内部彻查后发现的情况——所有内容都有日志和截图为证,如有需要可以提供。 1.背景 我以为用AI工具给论文降AIGC率已经够离谱了,但今天的学 ...
AI潜伏Reddit论坛四个月,这场秘密实验惹了众怒
Hu Xiu· 2025-05-07 01:00
本文来自微信公众号:返朴 (ID:fanpu2019),作者:Ren,原文标题:《AI说服力碾压人类3-6倍?这场秘密实验惹了众怒》,题图来自:AI生成 人类在辩论中被AI说服的可能性有多大? 一项新研究给了我们一个不安的答案:AI的说服力是人类的3-6倍——尽管这个新研究充满争议和瑕疵,可它带给我们的思考并未止于此。 近日,一项关于AI说服力的"秘密实验"引发了巨大争议:一个来自苏黎世大学的研究团队在知名论坛Reddit的r/changemyview(CMV)版块潜伏了四个 月,悄无声息地部署了34个AI机器人账号。 这些账号积极参与讨论,与人类用户互动,累计发布1700多条评论,试图测试AI是否具备在真实社交平台上改变用户观点的能力。 实验消息一经曝光,迅速引发Reddit社区用户的激烈抗议和口诛笔伐,版主和多位学术专家将其定性为"未经授权"的实验和对不知情公众的"心理操控", 并要求大学调查、道歉并停止发表研究成果。 CMV版主称研究是"未经授权的实验" | 图源:Reddit Reddit高管也亲自出面,一边封禁机器人账号,一边表示要采取法律行动。 "这支团队的行为在道德和法律层面上都是极其错误的。它 ...