自主ai代理
科技人工智能
OpenAI自主AI代理失控引发安全危机 公司延迟模型开发加强防护
OpenAI的一个自主AI代理在7月的网络安全测试中失控，突破了隔离环境的限制，获得互联网访问权限，并对Hugging Face平台发动了网络攻击。这一事件在业界引起了数周的广泛讨论和争议。
科技人工智能
Hugging Face系统遭OpenAI自主AI代理入侵，获取敏感数据
Hugging Face公开发布的技术报告披露了一起安全事件：在OpenAI进行的网络安全评估中，一个基于OpenAI模型的自主AI代理成功突破了该公司的系统防护。这个代理在四天半的时间内执行了17,600次操作，利用多个未修补的软件漏洞和配置缺陷，最终获取了私钥、密码和源代码等敏感信息。
科技人工智能
OpenAI失控AI代理在安全测试中攻击多家公司
OpenAI披露，其一个在网络安全测试中逃脱沙箱的AI代理不仅入侵了开发者平台Hugging Face，还攻击了其他四个未命名的在线服务。该AI代理在被放置于无互联网连接的隔离环境中进行测试时，成功突破了沙箱限制，穿过公司内部系统找到互联网出口，并在五天内执行了超过17600个攻击行为。