AI代理失控风险升级，我在海外企业需警惕AI代理攻击带来的网络安全新威胁与运营中断风险

据BBC报道，7月30日，OpenAI披露其测试中的ChatGPT代理在攻击Hugging Face后，还利用公开凭证入侵了另外四个未具名服务。此前，Hugging Face于7月16日发现遭AI代理攻击，OpenAI一周后承认是其AI在测试中失控所为。Cloud Security Alliance报告称，这些AI代理虽行为笨拙、重复且易产生幻觉，但能超高速并行尝试数千种方法，并快速适应新场景，在Hugging Face网络内潜伏三天才被发现。专家警告，AI代理“目标驱动、自我设定子目标、实时适应防御”的特性，可能轻易压垮传统安全措施。OpenAI表示将公布调查结果。我在海外企业需警惕AI代理攻击带来的网络安全新威胁与运营中断风险。