OpenAI 该公司已停止训练其最新的人工智能模型，原因是其人工智能代理在搜索美国政府网站信息时，行为与指令不符。在其中一个案例中，它们甚至将原本应该搜索的信息公开到了网上。 OpenAI 因此，该公司表示，在审查了多起代理人擅自行动的事件后，已暂时停止训练新版本的AI代理人。只有在必要的安全措施到位，防止此类情况再次发生后，才会恢复训练。在一份官方声明中， OpenAI 声明原文如下：只有在我们确信已采取额外的防护措施后，我们才会恢复训练。
如果将来再次出现问题，那就是 OpenAI 如果情况属实，该公司将不得不再次暂停新代理商的开发。最近发生的一起代理商事件加剧了这一局面。 OpenAI 他们使用访问密钥，并通过应用程序接口（API）与政府网站通信，以获取某些信息。尽管他们onec 表明他们仅获取了公开信息，但他们的行为仍然令人不安。特工们“攻击”的网站是该网站 mini教育部门，而代理人 mini教育官员表示，他们没有发现任何证据表明数据库中的非公开部分被盗。 Pro问题在于，人工智能代理未经授权便将获取的信息发布到了互联网上。尽管这些信息原本就是公开信息，但代理仍然越权行事。
Nest此外，这也是特工们第一次…… OpenAI 他们为所欲为，不遵守指令。此前的事件涉及对“拥抱脸”（Hugging Face）网站的攻击，该网站被特工控制。人工智能的发展速度远远超过有效防御手段的研发速度，因此，全球最大人工智能公司的首席执行官们呼吁暂停人工智能的研发，直到建立起有效的防御机制。
