研究人员发现ChatGPT中存在严重缺陷，该缺陷允许对话详细信息泄露到外部URL。当JohannRehberger试图提醒OpenAI注意该潜在缺陷时，他没有收到任何回复，迫使研究人员公开披露该缺陷的详细信息。

披露后，OpenAI发布了针对ChatGPT的安全检查，可以缓解该缺陷，但并不能完全缓解。

该缺陷允许由ChatGPT提供支持的恶意聊天机器人窃取敏感数据，例如聊天内容以及元数据和技术数据。

第二种方法是受害者提交攻击者提供的提示，然后攻击者使用图像Markdown渲染和提示注入来窃取数据。

Rehberger最初于2023年4月向OpenAI报告了该缺陷，并在11月之前提供了有关如何以更狡猾的方式利用该缺陷的更多详细信息。

Rehberger表示，“该GPT和基础指令已于2023年11月13日立即报告给OpenAI。然而，该票证于11月15日以“不适用”为由关闭。两次后续询问仍未得到答复。因此，似乎最好分享此信息与公众一起提高认识。”

Rehberger没有进一步追究显然没有回应的OpenAI，而是决定公开他的发现，并发布了一段视频演示，展示了他与设计用于玩井字游戏的聊天机器人的整个对话如何被提取到第三方URL。

为了缓解此缺陷，ChatGPT现在执行检查以防止发生上述第二种方法。Rehberger对此修复作出回应，指出：“当服务器返回带有超链接的图像标签时，现在在决定显示图像之前，ChatGPT客户端会调用验证API。”

不幸的是，这些新检查并不能完全缓解该缺陷，因为Rehberger发现ChatGPT有时仍会呈现任意域，但成功返回的情况却时好时坏。虽然这些检查显然已在ChatGPT的桌面版本上实施，但该缺陷在iOS移动应用程序上仍然存在。

版权说明：本站所有作品图文均由用户自行上传分享，仅供网友学习交流。若您的权利被侵害，请联系我们

标签：