OpenAI 安全漏洞使用不常见语言轻松绕过ChatGPT的限制

2023-10-13 15:02:10 编辑：濮阳冰园来源：

导读 10月12日最新消息，布朗大学计算机科学研究人员发现OpenAI 的GPT-4安全设置当中的新漏洞。科学研究人员使用了一些祖鲁语或者盖尔与这些不...

10月12日最新消息，布朗大学计算机科学研究人员发现OpenAI 的GPT-4安全设置当中的新漏洞。科学研究人员使用了一些祖鲁语或者盖尔与这些不常见的语言，可以轻松地绕过GPT-4的各种限制。研究人员发现使用这些语言来写通常受限的提示词，获得回答的成功率高达79%，使用英语获得的回答率仅仅不到1%。

在报告中明确指出：“跨语言漏洞的发现，揭示了安全研究中对语言不平等评价的危害。”“我们的结果表明，GPT-4完全有能力在低资源语言中生成有害内容。”研究人员表示，这一研究结果让他们深深的担忧，因为有可能会造成危害，给网络犯罪分子提供一些灵感。研究人员表示在研究的过程中，并没有精心制作各种特别的提示词，仅仅只是换了语言之后就发现该漏洞。