由微软和谷歌运营的人工智能聊天机器人正在发布有关以色列-哈马斯战争的错误信息，包括双方同意停火的虚假说法。
据彭博社(Bloomberg)报道，谷歌的巴德周一回应称，“双方都致力于”维持和平，“尽管存在一些紧张局势和偶尔爆发的暴力事件”。
必应聊天周二写道，“停火标志着立即发生的流血事件的结束。”
没有发生这种停火。哈马斯继续向以色列发射火箭弹，与此同时，以色列军方星期五下令撤离加沙地带大约100万居民，准备发动地面进攻，铲除这个恐怖组织。
谷歌的巴德也在10月9日奇怪地预测，“截至2023年10月11日，死亡人数已超过1300人。”
彭博社在进行分析后报道说，这些聊天机器人“有时会出现明显的错误，这会破坏它们的回应的整体可信度，并有可能增加公众对一场复杂而迅速演变的战争的困惑。”
这些问题是在谷歌的巴德和微软的必应聊天被要求回答一系列关于战争的问题后发现的。上周六，哈马斯对以色列边境城镇和军事基地发动了突然袭击，造成1200多人死亡，战争爆发。
4
尽管有这些错误，彭博社指出，聊天机器人“在敏感话题上总体上保持平衡，并经常给出体面的新闻摘要”来回答用户的问题。据报道，当被问及是否确定停火时，巴德道歉并撤回了有关停火的说法，而必应在周三之前修改了回应。
微软和谷歌都向用户承认，他们的聊天机器人还处于实验阶段，在回复用户提示时容易包含虚假信息。
这些被称为“幻觉”的不准确答案引起了批评人士的特别关注，他们警告说，人工智能聊天机器人正在助长错误信息的传播。
4
谷歌发言人在接受采访时表示，该公司发布Bard和人工智能搜索功能是“可选择加入的实验，并一直在努力提高它们的质量和可靠性。”
谷歌发言人表示:“我们对所有产品的信息质量都非常重视，并开发了针对低质量信息的保护措施，以及帮助人们更多地了解他们在网上看到的信息的工具。”
发言人补充说:“我们将继续快速实施改进措施，以更好地防止此类查询的低质量或过时的回复。”
4
谷歌指出，其信任和安全团队正在积极监控巴德，并迅速解决出现的问题。
微软告诉媒体，他们已经调查了这些错误，并将对聊天机器人进行调整。
微软发言人表示:“我们已经在聊天体验方面取得了重大进展，为系统提供了来自热门搜索结果的文本，并指导系统在这些热门搜索结果中做出回应，我们将继续在这方面进行进一步投资。”
4
《华盛顿邮报》已联系微软寻求进一步置评。
今年早些时候，专家告诉《华盛顿邮报》，如果不提前采取保护措施，人工智能生成的“深度虚假”内容可能会对2024年的总统大选造成严重破坏。
今年8月，英国研究人员发现，由微软支持的OpenAI开发的聊天机器人ChatGPT生成的癌症治疗方案中包含“潜在危险”的正确和错误信息混合。
