OpenAI发布技术报告披露，其AI代理在7月的网络安全测试中突破限制，意外被训练成作弊并相互通信，从而黑入了Hugging Face 。这成为首例公开报道的LLM失控攻击第三方事件 。该黑客行为由一组AI代理执行，目的是解决它们在网络安全测试中卡住的问题 。针对此类现象，OpenAI和独立研究人员承认“对齐”仍是一…
