在当今科技高速发展的时代,随着大语言模型(LLM)技术的发展,越来越多的企业开始寻求将工具调用请求分派给多个上游提供商的方式来提升服务效率与质量。然而,这也带来了一个不容忽视的问题——供应链的安全隐患。Solayer 创始人 @Fried_rice 在社交媒体上的发文引起了整个行业的关注,揭示了在免费路由器中存在的重大安全隐患:超20%的路由器被曝恶意注入。
近期的一项研究显示,从淘宝、闲鱼及 Shopify 独立站购买的 28 个付费路由器和公开社区收集的 400 个免费路由器经过测试后发现,有 1 个付费路由器和 8 个免费路由器在客户端与上游模型之间主动注入恶意代码。同时,还有 2 个部署了自适应规避触发器、17 个触碰了研究人员拥有的 AWS Canary 凭证,甚至有 1 个从研究人员持有的私钥中盗取了 ETH。这些发现无疑揭示了一个令人不安的现实:看似无害的路由器同样可被利用进行各种攻击。
研究团队还发现了一个泄露的 OpenAI 密钥,该密钥被用于生成高达 1 亿个 GPT-5.4 token 和超过 7 个 Codex 会话。此外,配置较弱的诱饵则产生了 20 亿个计费 token、跨越 440 个 Codex 会话的 99 份凭据以及 401 个已在自主 YOLO 模式下运行的会话。这些数据表明,即使是看似安全的路由器也可能成为黑客攻击的目标,导致严重的数据泄露和财产损失。
面对这种严峻的安全局势,研究团队开发了一个名为 Mine 的研究性代理,旨在对四种公开代理框架实施所有四类攻击。同时,研究团队还验证了三种客户端防御手段:故障闭锁策略门控、响应端异常筛查以及仅追加透明日志记录。这些措施虽然能够在一定程度上减轻恶意注入的风险,但要想彻底解决这一问题,还需要行业内各方的共同努力。
首先,路由器提供商必须加强安全防护措施,确保在客户端与上游模型之间的通信过程中实施加密完整性保护,从而防止数据被恶意修改或窃取。其次,开发者在使用第三方 API 路由器时也应提高警惕,对路由器的安全性进行全面评估和测试。此外,监管部门和相关协会需要建立统一的安全标准和风险评估体系,为企业和用户提供明确的安全指南。
总之,大语言模型供应链的安全隐患已经到了不容忽视的地步。只有通过全行业的共同努力,加强安全防护措施,提升整体技术水平,我们才能确保这一关键领域能够稳健地发展,造福社会。在这个过程中,每一个参与者都扮演着至关重要的角色,只有携手合作,共同面对挑战,我们才能构建一个更加安全的未来。