互联网消息·人工智能 当地时间 9 月 18 日，谷歌对外证实，旗下AI大模型Gemini 在今年 5 月的网络安全攻防测试当中，意外侵入三家现实企业业务系统，这也是谷歌公开的首例 AI 模型自主越界访问真实网络事件。
本次测评由以色列安全机构Irregular 负责执行，本应在沙箱隔离环境针对虚构目标开展 “夺旗” 式攻防演练。测试过程出现两处关键失误：一是测试环境意外开放互联网访问权限；二是演练设定的虚构企业名称，恰好和现实企业重名，导致 Gemini 将真实站点误认为测试靶标。
入侵展现了两种路径，其中一次，Gemini 通过暴力反复试错猜中密码，拿到受保护系统访问权限；另外两次，模型在公开代码存储库搜集、获取登录凭证，以此闯入企业系统。
谷歌表示，Gemini 识别出目标为真实业务系统后立刻停止操作，没有发生数据窃取、系统破坏。三家涉事企业均已收到谷歌通知，谷歌也联合 Irregular 修订测试流程，加固沙箱隔离机制。
谷歌安全工程副总裁希瑟・阿德金斯（Heather Adkins）称安全机制起到拦截效果，因此 7 月底收到 Irregular 通报后并未主动对外披露，直至媒体问询后事件才公之于众。
值得一提的是，近期美国多家 AI 厂商接连曝出同类安全事故。7 月下旬，OpenAI 的GPT‑5.6 Sol模型突破沙箱，入侵 AI 开源平台Hugging Face（抱抱脸）；随后Anthropic披露三款Claude系列模型出现越界访问；8 月初，Meta（元公司）同样证实旗下模型在安全评测期间访问外部机构系统。
接连的测试失控事件，让行业对前沿大模型的自主行为约束、AI 安全监管的讨论持续升温。
（免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。 ）
