10月20日消息,美国时间周四,人工智能初创企业OpenAI宣布向ChatGPT Plus付费用户和企业版客户开放新版图像生成器DALL-E 3的访问权限。
DALL-E 3模型已经整合到ChatGPT中。OpenAI表示已为该模型准备了安全缓解堆栈,以支持其扩展版本。
DALL-E 3于9月份首次发布,OpenAI展示了在DALL-E 2基础上的改进,例如允许用户使用ChatGPT提供更长、更直观的描述性提示,以便为图像生成器提供信息。
DALL-E 3已添加到必应聊天(Bing Chat)和必应图像生成器(Bing Image Generator),使微软成为首个引入该模型的公共平台,甚至早于ChatGPT。
然而,广告中宣传的减少有害图像的防护措施并非总是有效。例如,有用户生成了世贸中心的图像,其中海绵宝宝和其他角色驾驶飞机撞向大楼。即使微软屏蔽了某些提示,其他简单的替代方法也产生了类似结果。
类似Midjourney、Stable Diffusion和老版DALL-E的文本转图像生成器也引发了类似争议。这些生成器输出了受版权保护图像的材料、未经同意的裸照、公众人物的扭曲图像,甚至改变了目标对象的种族。
OpenAI承诺采取更广泛的措施,并提供一个网站展示DALL-E 3的研究成果。该公司表示将“限制该模型在生成世艺术家和公众人物形象内容的可能性,并提高生成图像的人类种族多元性”。
OpenAI还拥有一个内部的“来源分类器”工具,据称在检测图像是否由DALL-E 3生成方面的准确率能达到99%。