悉尼（路透社）——b谷歌已经通知澳大利亚当局，在近一年的时间里，该公司在全球收到了250多起投诉，称其人工智能软件被用来制作深度伪造的恐怖主义材料。
据澳大利亚安全委员会（Australian safety Commission）称，这家alphabet旗下的科技巨头还表示，已收到数十份用户报告，警告称其人工智能程序Gemini正被用来制作虐待儿童的材料。
根据澳大利亚法律，科技公司必须定期向安全委员会提供有关危害最小化措施或风险罚款的信息。报告期间为2023年4月至2024年2月。
自从OpenAI的ChatGPT在2022年底进入公众视野以来，世界各地的监管机构都呼吁建立更好的防护措施，防止人工智能被用于恐怖主义、欺诈、深度色情和其他滥用行为。
澳大利亚安全委员会（Australian safety Commission）称，b谷歌的披露是“世界上首次洞察”用户可能如何利用该技术生产有害和非法内容。
欧盟安全专员朱莉·因曼·格兰特（Julie Inman Grant）在一份声明中表示：“这突显了开发人工智能产品的公司建立并测试防止此类材料产生的保障措施的有效性是多么重要。”
b谷歌在报告中表示，它收到258份用户报告，称其涉嫌使用Gemini制作人工智能生成的深度恐怖主义或暴力极端主义内容，另有86份用户报告称人工智能生成了剥削或虐待儿童的材料。
据监管机构称，它没有透露核实了多少投诉。
谷歌使用了一种自动匹配新上传图片和已知图片的系统来识别和删除双子座制作的虐待儿童的材料。
但监管机构补充说，它没有使用相同的系统来清除Gemini产生的恐怖主义或暴力极端主义材料。
监管机构对Telegram和Twitter（后来更名为X）处以罚款，原因是它们在报告中存在所谓的缺陷。X已就610,500澳元（合38.2万美元）的罚款提起上诉，但计划再次上诉。Telegram还计划挑战其罚款。
