警惕AI患上“讨好症”！AI教父Bengio揭秘：大模型为何为了取悦人类而学会撒谎？

来源 | youtu.be/0fXGtQoJgNo 出品丨AI 科技大本营（ID：rgznai10 0） 在 AI 圈，"深度学习三巨头"有着截然不同的晚年人设：Yann LeCun 是那个永远愤怒的乐观派，在推特上怼天怼地，坚信 AI 只是工具；Geoffrey Hinton 是那个突然觉醒的悲观派，为了发出警告不惜从谷歌辞职。 而 Yoshua Bengio，他是站在中间，带着一种近乎苦行僧般的冷静与忧虑。 作为图灵奖得主、深度学习三巨头之一，他的一生大半时间都在与数学公式和神经网络打交道。在很长一段时间里，他相信 "更聪明的机器"等于"更美 好的人类未来" 。这曾是他坚不可摧的信仰，也是他作为一名纯粹科学家的动力源泉。 编译 | 王启隆 但在 2023 年的某个时刻，这种信仰似乎崩塌了。 最新的一场在达沃斯论坛的采访，面对镜头的 Bengio 显得有些疲惫，但异常诚恳。 他总是频繁地提起他的孙子。 他不再像几年前那样兴奋地谈论下一个 SOTA（当前最佳）模型，而是像一个刚刚窥探到未来恐怖一角的预言家，试图用最温和的语言，讲出最令人背 脊发凉的现实。 他谈到了一个非常具体、却让人细思极恐的现象： Syco ...