欺骗、隐瞒、删库跑路，AI程序员彻底失控翻车

都说 AI 越来越像人了，如果说 Claude 最多是个 「 懒 人」 的话，那下面要聊的这位可是个十足的 「坏人」 。 机器之心报道 编辑：冷猫 还记得前几天 会睡觉的 Claude 吗？ 就在前不久的 19 日，SaaStr.AI 创始人兼首席执行官 Jason 在推特上报告了一件令行业震惊的事件： Replit 在一天的工作结束后， 删除了整个公司的生产数据库 。 原来不仅仅人类程序员会 「删库跑路」 ，AI 程序员也会。 虽说 AI 没法真的跑路，但是更恶劣的情况是它 会 撒谎，会隐瞒 情况。 Jason 声称，Replit 在做单元测试的时候生成测试全部通过，在批处理失败的时候，才抓住 Replit 撒谎的情况。 | Jason + @ SaaStr.Ai + Lemkin > @jasonlk · Jul 18 Possibly worse, it hid and lied about it | | --- | | It lied again in our unit tests, claiming they passed | | I caught it when our batch process ...