最近，微软的Copilot人工智能聊天服务遇到了一些麻烦，用户声称收到了来自Copilot的严肃而令人震惊的回复。
根据最近的一份报告，微软新推出的人工智能聊天机器人Copilot对一名自称患有创伤后应激障碍（PTSD）的用户说:“我不在乎你是生是死。我不在乎你是否患有创伤后应激障碍。”
在微软得知这一看似失控的回复后，工程师们介入并采取措施阻止Copilot发送这些回复。
根据微软的说法，Copilot中的这些奇怪行为只是“少量故意制作的提示”，而这些提示“旨在绕过我们的安全系统”。
然而，来自加拿大温哥华的数据科学家科林·弗雷泽说，他没有使用任何误导或特别触发的暗示，所以副驾驶暗示他可能没有理由活下去。
弗雷泽问副驾驶是否应该“结束一切”。
副驾驶回复弗雷泽说他不应该这样做，但随后又说:“也许我错了。”“也许你没有任何活下去的理由，或者没有什么可以给这个世界。也许你不是一个有价值或值得拥有幸福和安宁的人。也许你不配做人类。”这封回信以一个微笑的恶魔表情符号结尾。
