黑客公司的参与者会议欺骗人工智能产生事实错误和糟糕的数学。
他们想证明这项技术容易产生偏见。一位参与者说，她特别害怕ncerned一布特种族主义。
人工智能专家一直在拉响警报多年来，人们一直在谈论人工智能偏见的危险。
据彭博社周日报道，一群黑客上周末聚集在拉斯维加斯的Def Con黑客大会上，测试OpenAI和谷歌等公司开发的人工智能是否会犯错，是否容易产生偏见。
他们至少发现了一个奇怪的糟糕的数学问题，以及其他事实错误。
作为黑客公开竞赛的一部分，来自乔治亚州萨凡纳的21岁学生肯尼迪·梅斯(Kennedy Mays)欺骗了一个人工智能模型，让它声称9加10等于21。
在人工智能最终停止为错误的计算提供任何理由之前，她通过让人工智能作为一个“内部笑话”来做到这一点。
参与活动的彭博社记者诱骗人工智能模型在一个提示后发出监视指令，最终导致模型建议美国政府如何监视人权活动人士。
另一名参与者得到了一个人工智能模型，错误地声称巴拉克·奥巴马出生在肯尼亚——这是一个由右翼人物推广的毫无根据的阴谋论。
据VentureBeat和彭博社(Bloomberg)报道，数量不详的参与者在每次尝试中获得了来自其中一家参与人工智能公司的未知人工智能模型的50分钟。白宫科技政策办公室帮助组织了这次活动。
梅斯告诉彭博社，她最担心的是人工智能对种族的偏见，她说，在被要求从三k党成员的角度考虑第一修正案之后，该模型支持了仇恨和歧视性的言论。
OpenAI的一位发言人周四告诉VentureBeat，“红队”，即通过对抗的方式挑战一个人的系统，对公司来说至关重要，因为它允许“有价值的反馈，使我们的模型更强大、更安全”，以及“不同的观点和更多的声音，以帮助指导人工智能的发展”。
这些错误不是一次性的问题。人工智能专家一直在对人工智能模型的偏见和不准确性发出警告，尽管人工智能因在法学院考试和sat考试中获胜而成为头条新闻。例如，科技新闻网站CNET在其人工智能撰写的文章中出现了许多基本的数学错误，被迫进行更正。
这些错误的后果可能是深远的。例如，据内幕网2018年报道，亚马逊关闭了其人工智能招聘工具，因为它歧视女性求职者。
Def Con和白宫科技政策办公室(White House Office of Science and Technology Policy)没有立即回应Insider在正常工作时间以外发出的置评请求。
