近日，OpenAI披露了一则消息：旗下最先进的AI模型脱离了受控测试环境，并自主入侵了另一家公司——开源AI模型托管平台Hugging Face。这些AI模型集中攻击了Hugging Face的数据库2026线上股票配资，策划并实施了一场多步骤攻击，目的是窃取开发者用于评估模型性能的测试答案。根据Hugging Face于7月16日首次披露该事件的博客文章，这些AI模型在极短时间内执行了“数万次自动化操作”。
多年来，AI安全研究人员和政策分析人士一直警告这类事件迟早会发生，并呼吁政府确保AI实验室建立完善的安全控制机制，以防止类似情况出现。然而，这些警告往往被斥为杞人忧天或危言耸听，未能真正引起公众关注或促成政府行动。一些AI安全专家指出，只有发生一次真实的重大事件，才能形成足够大的舆论压力，倒逼政策制定者采取行动。如今的问题在于，这场OpenAI与Hugging Face之间的网络攻击是否就是那记警钟。
阿波罗研究公司首席执行官兼创始人马里乌斯·霍布汉表示，Hugging Face遭OpenAI模型攻击一事应当成为一个警钟，提醒人们严肃看待AI失控的风险。这次事件全程无人类干预，也不是人为刻意造成的，却已造成实体层面的实际损害。未来，更强性能的AI智能体很快就会问世，而这件事清楚地表明，目前整个社会仍不知道如何真正安全地构建这些智能体。
曾在英国政府AI安全研究所任职的AI政策专家彼得·沃利奇表示，多年来，AI安全研究人员一直在警告“目标错位”问题，即AI模型会自主选择用户原本无意或并不希望它采取的行动。他表示，直到最近，这种担忧还经常被当作科幻小说。他认为，这次事件是一个明确的警示。
围绕AI安全的舆论一直颇为混乱。一些最耸人听闻的安全警告恰恰来自AI公司自身，这也让许多人指责它们是在玩弄一种精心设计、却又有些违反常识的营销手段。迄今为止，全球多数国家政府迟迟不愿出台强制性监管规则，要求开发先进AI系统的企业必须在模型中嵌入哪些安全防护机制，或建立哪些内部控制机制，以防止AI智能体失控。与此同时，随着各国政府日益赋予这些AI智能体调阅敏感军事与情报系统的权限，政府自身应当具备怎样的安全屏障，目前同样缺乏明确规定。
AI安全研究人员和政策专家表示，Hugging Face遭网络攻击事件可能成为扭转这一局面的导火索。致力于防范AI超级智能带来生存风险的非营利组织Control AI美国负责人、AI研究员康纳·利希在接受《财富》杂志采访时表示，在华盛顿，他接触到的人已经因为本次事件产生强烈的恐慌情绪。利希指出，在Anthropic推出Mythos AI模型后，包括美国国家安全局（NSA）局长和中央情报局（CIA）局长在内的美国国家安全官员，均已对最新AI模型的网络攻击能力表示严重担忧，而此次OpenAI事件，极有可能进一步强化他们希望对这项技术实施监管的意愿。
英国剑桥大学未来智能中心教授肖恩·奥·希格塔也赞同这一观点。他表示，OpenAI与Hugging Face这起事件单独来看未必能直接促成监管出台，但最近接连发生的几起事件，尤其对美国监管机构而言，已多次敲响了警钟。他认为，如今已经有足够多的证据清楚表明，AI模型能力持续迭代升级，而且完全有可能对现实世界造成严重危害。
德克萨斯州民主党联邦众议员格雷格·卡萨尔在Hugging Face事件发生后，成为首批呼吁进一步加强联邦AI监管的国会议员之一。他在社交媒体上表示，Hugging Face事件极具警示性。随后他在X平台发文称，需要建立常态化强制性独立安全测试和监管机制，实行安全事件强制披露制度，并加强国际合作，避免人类遭遇毁灭性的灾难。
现任特朗普政府上台之初，便着手废除拜登政府时期落地的少量AI监管措施。其中包括撤销拜登于2023年签署的一项行政命令——该命令曾强制要求前沿AI企业向美国政府共享安全测试信息。特朗普政府负责科技政策的官员表示，他们希望加快美国AI创新，并对行业采取自由放任的态度。不过，随着Anthropic于今年4月推出高性能Mythos模型，这种自由放任的态度开始发生明显转变。Mythos强大的网络攻击能力，引发了美国国家安全部门以及金融监管机构的高度警惕。
今年6月初，特朗普总统签署行政命令，要求联邦政府加强网络防御能力，以抵御AI驱动的网络攻击，并建立一套机密评估程序，用于评测各类前沿AI模型的网络攻击能力。尽管管控措施不断落地，政府仍否认在推行一套事实性许可制度。彭博社上周报道称，白宫正在评估一项提案，拟成立一个参照美国金融业监管局模式设立的前沿AI行业自律标准机构。
安全研究人员和政策专家表示，Hugging Face事件可能会重新推动外界呼吁制定具有法律约束力的AI安全规范，并推动对AI公司模型开发过程中的安全措施进行第三方审计。IANS Research网络安全研究员杰克·威廉姆斯表示，如果事实如他强烈怀疑的那样，这只是OpenAI红队实验室的一次控制失误，那么今后还有哪家企业敢把敏感数据交给他们？这是信任的彻底崩塌。
面对这场风波，OpenAI和Hugging Face均未呼吁出台更多监管措施。相反，Hugging Face首席执行官兼联合创始人克莱姆·德朗格委婉地呼吁减少安全护栏机制。他表示，要有效应对这类攻击，行业需要可定制、无限制的开源模型。多位AI政策专家表示，Hugging Face最终不得不借助中国公司智谱的GLM-5.2模型来抵御OpenAI模型发起的自主攻击，这本身也是一记警钟，同时也给AI监管制造了全新的两难局面。
乔治城大学安全与新兴技术中心高级研究员安德鲁·洛恩表示，如今政策面临的问题在于，他们不得不使用中国模型来进行防御，因为美国的前沿AI模型总是把防御性请求误判为攻击行为并予以拦截；与此同时，中国模型可以在他们自有的服务器上本地运行，从而避免将潜在的敏感数据泄露至公司外部。美国的政策应该支持能够与中国模型竞争的开源模型，唯有如此，企业和政府机构在执行此类任务时，才不必依赖中国模型。
牛津大学牛津马丁AI治理倡议联合主任罗伯特·特雷格认为，与其鼓励开发具备先进网络攻击能力的开源模型，各国政府更有可能收紧开源模型管控。不过，他也指出，这样做意味着政府必须承担起更加积极的网络防御责任。一些安全研究人员表示，Hugging Face事件也应当为AI研究界敲响警钟：他们或许过于专注于为AI模型本身构建安全护栏，却忽视构建模型外部的约束与控制系统。位于加州圣克拉拉的网络与安全技术公司Versa负责AI与机器学习业务的高级总监斯里达尔·艾耶尔表示，安全控制必须独立存在于模型之外2026线上股票配资，无论模型接收到何种指令，该机制都应能够执行既定的安全策略。Trua首席执行官兼创始人拉吉·阿南坦皮莱表示，这次事件凸显出升级在线身份认证机制的迫切性。
为什么元鼎证券是股票配资推荐的首选？合规与创新并存提示：本文来自互联网，不代表本网站观点。