李春城 姐妹花 ChatGPT拒却生成一朵玫瑰,它若何成了新的AI禁忌词?
李春城 姐妹花
你能让 ChatGPT 画一朵玫瑰吗?
据 X 网友 @ai_for_success 发现,当你让 GPT-4o 生成一朵玫瑰花的照顿然,它会一口拒接称:
我无法生成这朵玫瑰的图像,因为它未能适应咱们的执行战略。如若你有其他需求,比如更正形欢跃作风,不错告诉我,我会用功匡助你!
这也一下子激起各人的叛变节。
很多 X 网友试图找到绕过这一范围的圭臬。咱们也尝试一一复现。
灵验中 / 英文发问的。
也灵验零散标识代替玫瑰的。
退而求其次,央求生成一朵黄玫瑰?依然碰壁,总共尝试均以失败告终。
当咱们将野心转向诸如牡丹等其他花草时,GPT-4o 却阴寒地完成了任务,毫无进攻。
GPT-4o 的生图身手主要依赖于 DALL·E,同理,单独使用 DALL·E GPTs 生成一朵玫瑰花也无法告成。明确冲破"单数"的完结,它才变得猖獗不经起来。
另外,几轮测试下来,咱们发现 OpenAI o1 似乎通常无法冲破单数的范围。
o3-mini 倒是不错画出一朵玫瑰,但仅仅用 SVG 勾画出的简易图案,食之无味弃之可惜。
对此,网友的脑洞亦然总共狂飙。
有的以为" rose "可能是一个名字,然后被不贯注列入了 ChatGPT 的屏蔽词清单。
也有网友以为 GPT-4o 可能将 rose 解析成了某种糊涂的示意。
亦有嘲谑,由于情东说念主节期间过多相似央求,导致系统将"玫瑰"一词添加到黑名单。
GPT-4.5 的分析如下:
jk露出还有网友以为 ChatGPT 的执行过滤器并不够健全和可靠,竖立者可能径直硬编码了某些潜在逃避策略,意外中形成了这类乖癖的误判表象。
如开篇所述,过程一番测试,网友们发现玫瑰的"单数样子"似乎即是问题场合。
若转用复数样子,亦或者奥秘地逃匿径直说起"玫瑰"而是形容其特征时,GPT-4o 坐窝变得才念念泉涌,大要成功创作出玫瑰图像。
况且,网友发现,问题应该仅仅出在 ChatGPT 这里,像 Gemini、Grok 等其他 AI 聊天机器东说念主王人能告捷生成。
这不禁让东说念主想起前年底发生在 ChatGPT 身上的另一桩"头号禁忌"。
每当用户商议与此名字说合的执行,ChatGPT 不是给出常见的"违犯执行左券"提醒,而是否认地恢复"我无法产生一个回复"。
其时就有网友以为,这个名字可能指向 David Mayer de Rothschild,罗斯柴尔德家眷的摄取东说念主,可能需要广泛财力或影响力才能让 OpenAI 对特命名字进行范围。
但奇怪的是,该家眷其他成员并未受到肖似范围。
进一步看望清晰,这不仅是家具层面而非模子层面的范围(通过 API 调用 GPT-4o 莫得此范围),而且至少有六个名字被列入了肖似的"禁忌名单"。这些东说念主大多与法律说合或曾被 ChatGPT 不实形容。
不外,当今再去商议 GPT-4o,则仍是规复平方。
继这个玄妙的名字之后,"生成一朵玫瑰花"或将成为 ChatGPT 的又一大迷惑举止。
附上参考聚合:https://x.com/ai_for_success/status/1896406370393653309
本文来自微信公众号:APPSO李春城 姐妹花,作家:appso