OpenAI起草的一份内部政策备忘录显示，该公司支持要求任何想要开发先进人工智能系统的人获得政府许可的想法。该文件还表明，该公司愿意公开其用于训练图像生成器的数据。
在5月4日白宫官员与OpenAI首席执行官萨姆·奥特曼等科技高管举行会议后，ChatGPT和DALL-E的创造者在内部文件中提出了一系列人工智能政策承诺。这家总部位于旧金山的公司在草案中表示:“我们承诺与美国政府和世界各地的政策制定者合作，支持为未来几代最强大的基础模型制定许可要求。”
由OpenAI等人工智能巨头共同开发的政府许可系统的想法，可能会引发与初创公司和开源开发者的潜在冲突，他们可能会认为这是一种让其他人更难进入这一领域的尝试。这不是OpenAI第一次提出这个想法:在5月份的美国参议院听证会上，Altman支持成立一个机构，他说，该机构可以为人工智能产品颁发许可证，如果有人违反规定，就可以取消许可证。
该政策文件发布之际，微软、Alphabet Inc.旗下的谷歌和OpenAI预计将在周五公开承诺为开发人工智能技术提供保障措施，这是在响应白宫的呼吁。据知情人士透露，这些公司将承诺负责任地开发和部署人工智能。
OpenAI警告说，内部政策文件中提出的想法将不同于白宫和科技公司即将宣布的想法。该公司负责全球事务的副总裁安娜·马坎朱(Anna Makanju)在接受采访时表示，该公司并没有“急于”获得许可证，因为它认为这种许可证是政府追踪新兴系统的一种“现实”方式。
“对于政府来说，重要的是要意识到是否存在可能产生潜在有害影响的超级强大系统，”她说，“如果有人不愿意像我们这样自我报告，你几乎没有办法确保政府意识到这些系统。”
Makanju表示，OpenAI只支持比OpenAI目前的GPT-4更强大的人工智能模型的许可制度，并希望确保规模较小的初创公司免于过多的监管负担。“我们不想扼杀生态系统，”她说。
OpenAI还在内部政策文件中表示，它愿意对用于训练DALL-E等图像生成器的数据更加开放，并表示它致力于在今年年底前“纳入溯源方法”。数据来源——一种用来让开发人员对其工作的透明度及其来源负责的做法——已被政策制定者提出，对于防止人工智能工具传播错误信息和偏见至关重要。
OpenAI备忘录中的承诺与微软5月份宣布的一些政策建议密切相关。OpenAI指出，尽管获得了微软100亿美元的投资，但它仍然是一家独立的公司。
该公司在文件中披露，它正在进行一项关于水印(一种跟踪人工智能生成图像的真实性和版权的方法)以及人工智能生成内容的检测和披露的调查。它计划公布结果。
该公司还在文件中表示，它对外部红队持开放态度——换句话说，允许人们进来测试其系统在多个方面的漏洞，包括攻击性内容、操纵风险、错误信息和偏见。该公司在备忘录中表示，它支持建立一个信息共享中心，在网络安全方面进行合作。
在备忘录中，OpenAI似乎承认人工智能系统对就业市场和不平等构成的潜在风险。该公司在草案中表示，它将进行研究，并向政策制定者提出建议，以保护经济免受潜在的“破坏”。
(Anna Edgerton和Courtney Rozen协助。)
___?2023 Bloomberg L.P.访问bloomberg.com。由论坛内容代理有限责任公司分发。
