OpenAI 审查策略大转！ChatGPT 新图像生成器爆红，争议内容限制放宽引起关注
本周，OpenAI 在 ChatGPT 新的图像生成器推出，其生成吉卜力风格图像的能力迅速流行起来。该生成器是基于基于生成器的。 GPT-4o，显著改善 ChatGPT 图片编辑、文本渲染和空间表示功能。
然而，更引人注目的是， OpenAI 内容审计政策的重大调整。新政策允许新政策允许。 ChatGPT 根据用户要求生成描绘公众人物、仇恨符号和种族特征的图像，这与之前严格限制争议内容的做法大不相同。
OpenAI 模型行为负责人 Joanne Jang 他说，该公司正从“全面拒绝”转向“更准确的方法”，旨在防止对现实世界的伤害，并强调“在学习的同时适应”。OpenAI 此举被视为“解除”ChatGPT 更大的审查计划的一部分旨在让模型处理更多的请求，提供多样化的视角。
根据新规，ChatGPT 特朗普、马斯克等公众人物的图像现在可以生成和修改。OpenAI 认为不应该成为决定谁可以生成的“仲裁者”，并为用户提供选择退出的机制。此外，在教育或中性环境下，ChatGPT 如果不明确赞扬或支持极端主义，甚至可以生成纳粹标志等“仇恨符号”。新模型也放宽了对以往被拒绝的涉及身体特征的请求的限制。同时，ChatGPT 它还可以模仿皮克斯或吉卜力等工作室的风格，但仍然限制在世艺术家的模仿。
尽管如此，OpenAI 并非完全放开滥用，GPT-4o 在儿童图像的生成中制定了更严格的保障措施。然而，内容审计政策的显著变化是保守派长期批评硅谷人工智能的“审计”。此前，谷歌 Gemini 图像生成器曾因生成不准确的多种族历史人物图像而引起争议。
共和党众议员吉姆·乔丹已经将人工智能内容审计问题转向 OpenAI 等待科技巨头发出质询。OpenAI 出于政治动机，否认政策变化反映了“长期以来给予用户更多控制权的信念”，技术足以成熟地处理敏感话题。
考虑到未来可能面临的监管审查，OpenAI 时机敏感。Meta 和 X 平台也采取了类似的策略，允许更多有争议的内容发布。尽管如此。 ChatGPT 目前，新的图像生成器主要用于创建娱乐吉卜力风格的图像，但其内容审计政策的变化可能会带来更广泛的影响，并可能使 OpenAI 在回应敏感问题时面临新的挑战。