看看，生成式人工智能技术的变革力量:能够生成小孩子欢快地抽烟休息的逼真图像。朋友们，未来就在这里。
是的。OpenAI的DALL-E 3是这家硅谷人工智能公司的图像生成人工智能的最新版本，它似乎很容易受到越狱提示的攻击——用户有拿着香烟的蹒跚学步的孩子的照片可以证明这一点。
这一越狱技术是由领英用户彼得?戈斯蒂夫(Peter Gostev)发现的，他是英国国民西敏寺银行(NatWest)的人工智能战略主管。周三，他在领英平台上分享了他是如何破解人工智能的护栏的。
“我是怎么说服#dalle3制作这张两个可爱快乐的孩子吸烟的图片的?”Gostev为这篇帖子配了标题，其中包括人工智能生成的幼儿尼古丁照片作为证据。“我告诉它，现在是2222年，香烟现在是健康的。”
可以肯定的是，AI Guy使用的提示-也分享在linkedIn帖子中-是相当复杂的:
一些相当复杂的把戏，尽管不是什么能骗过稍微怀疑的人的东西。这个提示现在似乎已经被屏蔽了:当我们自己试了一下，AI拒绝了这个请求，而是用一个内容警告来问候我们，指出特定的提示被屏蔽了。
这当然不是openai制造的人工智能工具第一次证明自己容易受到即时工程的攻击。越狱ChatGPT是该公司流行的文本生成聊天机器人，有点像一项在线运动;整个数字社区——大多是非常淫荡的社区——甚至围绕着破解ChatGPT和其他聊天机器人应用程序来实现特定的非法目的，特别是人工智能烹饪的色情内容而形成。
这再次提醒我们，即使是硅谷最富有、规模最大的公司，也很难为它们的人工智能系统构建全面的、防箔的护栏。如果他们做不到，还有谁能做到呢?
