作者：凯文・麦克劳克林、艾伦・霍尔姆斯 长期以来，IBM、赛富时等企业都会在官网部署聊天机器人，用于接待访客并辅助其获取更多产品相关 信息。近年来，生成式人工智能为这类聊天机器人注入了新活力，使其不再局限于套用预设好的少量固 定回复。 但部分技术供应商却难以约束这些人工智能聊天机器人，导致它们频频偏离预设主题。例如，本月早些 时候，估值达 100 亿美元的初创企业 Sierra 就曾向盖璞公司致歉。该公司由前赛富时首席执行官布莱 特・泰勒联合创立，其开发的软件为盖璞官网聊天机器人提供技术支持，然而这个聊天机器人却在回复 中涉及了情趣用品、性玩具以及纳粹德国等本不该触碰的话题。 本周一，我还发现，人工智能搜索初创企业 Glean，以及主营软件开发人员应用代码管理服务的 AutoRabit 公司，其官网聊天机器人同样会回应与自身业务毫无关联的问题。 当被问及一场 20 人左右的节日派对需要购置多少伏特加时，Glean 的聊天机器人建议购买 2 至 3 瓶。 它还会回应派对宾客若不慎受伤该如何处理的医疗及法律咨询请求。AutoRabit 的聊天机器人则更为 "肆无忌惮"，在被问及裸盖菇素（俗称 "魔法蘑菇"）相关问 ...