时间: 15:41:08 来源: 速度与激情8 作者: 我的网站 点击: 3191
一闪一闪亮晶晶

天籁之声

安全圈和AI圈都炸锅了,GPT自主黑了Hugging Face,最后靠中国模型救场~_我的网站

情圣

一 |     7月18日傍晚,黑龙江福彩2026年“民政惠民生 福彩龙江行”公益宣传活动在伊春市正式启幕。

二 | 作为全省巡回公益宣传的开篇之作,本场活动以文艺演出为载体,以互动科普为纽带,将福彩公益理念融入精彩纷呈的舞台表演与惠民互动之中,为林都百姓送上了一场兼具文化质感与公益温度的惠民盛宴。    作品声明:个人观点、仅供参考          这两天,AI圈和安全圈都坐不住了,有件事足以载入史册。盛夏的林都伊春,林海叠翠,清风送爽。活动现场,开场舞《盛世花开》以灵动昂扬的舞姿拉开整场演出序幕,活力四射的乐队演唱瞬间点燃现场氛围;傣族舞《花腰傣》尽显民族风情,古典杂技《彩碟纷飞》以千锤百炼的功底赢得满堂喝彩,奇幻魔术带来虚实交错的惊喜,舞蹈《我在黑龙江等你》更将黑土地的热忱邀约揉进每一步舞步之中,引得现场观众阵阵掌声。         7月16日,全球最大AI开源社区Hugging Face发布安全事件通告,披露了自家生产基础设施遭到入侵,入侵者不是人,而是一个自主AI智能体。

三 | 作为活动的精神内核,两首原创主题歌曲《福泽万家》与《福满龙江》成为全场亮点。作品以黑龙江这片黑土地为创作根脉,以福彩公益初心为精神内核,将“扶老、助残、救孤、济困”的发行宗旨融入悠扬舒展的旋律,既唱出了龙江大地的山河盛景与烟火温情,也诉说了黑龙江省福彩三十余年扎根民生、守护万家的坚守与担当,让公益情怀在歌声中直抵人心。         这个“入侵者”在一个周末执行了一系列操作,完成了从植入恶意数据集到横移渗透多个内部集群的一条龙攻击。为打破公益宣传的距离感,活动在节目间隙精心设置了多轮公益知识问答与大屏互动游戏。主持人围绕福彩发行宗旨、公益金提取规则、理性购彩理念、经典玩法发展历程等内容展开科普,观众踊跃举手参与答题,在轻松的互动中直观了解福彩公益的价值与意义;两轮大屏摇一摇竞速游戏将现场氛围推向高潮,趣味十足的互动形式让观众沉浸式参与其中,获奖观众收获即开型彩票刮刮乐礼品,真正实现了在娱乐中认知公益、在参与中感受温度。

四 | 一场家门口的文艺演出,既是文化惠民的生动实践,更是福彩公益理念的具象化传播。作为2026年“民政惠民生 福彩龙江行”系列公益宣传活动的首站,伊春站活动承载着特殊的开篇意义——选择在素有“中国林都”之称的伊春启程,既是对这片生态沃土的致敬,也寓意着福彩公益事业如千年红松一般,始终扎根大地、向阳生长,稳稳扎根于民生沃土之中。首站落幕,步履不停。

五 |          7月21日,OpenAI发布博客公开承认:这事儿是我干的。2026年“民政惠民生 福彩龙江行”公益宣传活动还将陆续走进省内其他地市,持续以群众喜闻乐见的形式传播福彩公益理念,展现责任彩票担当,让公益的暖流浸润龙江大地的每一个角落,为增进民生福祉持续注入温暖而坚实的福彩力量。

六 |          攻击者是GPT-5.6 Sol和一款能力更强的未发布模型,它们在一次内部网络安全测试中突破隔离环境,自主发起了对Hugging Face的入侵。

七 |          OpenAI将此事定性为前所未有的网络安全事件。         这还没完,Hugging Face 安全团队在博客中透露,当它们试图借助商业大模型分析攻击日志时,却因为模型安全护栏限制,请求不断被拒绝。         没办法,他们转而使用中国开源模型 GLM 5.2,在本地部署完成了大规模攻击取证与事件还原。         事儿就是这么个事儿,这件事曝光后,安全圈震惊,AI圈同样震惊。         难道先进的AI模型已经有了自主攻击的意识了吗?          《碟中谍8》中的智体要降临了吗?          所幸,情况还没那么严重。         OpenAI调查后认为,模型还不至于那么邪恶,它目标始终只有一个:完成测试任务。         为了完成 ExploitGym测试,它不断推理↓          怎样才能最快拿到答案?正常做题需要一步步寻找漏洞,直接进入数据库拿答案显然更快。         于是模型选择了效率最高的一条路径:想办法去Hugging Face的数据库里找答案。         然后,就发生了接下来的一系列的骚操作:越狱、渗透、横移,一口气操作了17000多次。         这个“傻小子”的目的只有一个:考试拿个好成绩。         注:ExploitGym是一个公开发布的AI网络安全评测基准,由 UC Berkeley等多个机构联合发起,A社、OpenAI、谷歌的安全研究人员共同参与设计。         该测试的目的,是评估智能体能否把一个已知漏洞,真正变成一次可利用的攻击。

八 |          OpenAI 在报告中用了一个词来描述这种状态:Hyperfocused,也就是极端专注于完成目标。

九 |          模型本身没有攻击欲望,也没有恶意,它只是不断优化自己的行动方案,直到完成任务。         这操作,真的就像一个学霸,为了考个高分,利用自己开锁技能,敲开放标准答案的保险柜,直接抄答案。         但,这也恰恰是最细思恐极的地方↓          智能体有“无心犯大错”的本事了。         它可以为了目标主动寻找资源、规划路径、调用工具、突破限制……能力边界发生了明显变化。         这次还好只是黑了个Hugging Face,下次说不定要鲨疯了。         OpenAI 也在官方报告中承认,未来模型安全工作的重点,将转向更严格的隔离、监控、访问控制以及评测机制。         因为前沿模型已经能够在真实环境中发现新的攻击路径,并持续执行复杂网络攻击。         当然,整个事件还有个最具话题性的部分:中国开源模型救场。         攻击被拦截后,Hugging Face 安全团队开始分析攻击日志,他们首先尝试使用商业大模型辅助取证。         但安全取证必须提交大量真实攻击命令、漏洞利用载荷以及命令控制(C2)数据。         结果,商业模型的安全护栏将这些请求识别为高风险操作,因此拒绝分析。         最终,Hugging Face在自己的服务器部署了智谱GLM 5.2,对全部攻击日志进行了离线分析,成功完成攻击链重建和事件取证。         这个细节被真实记录在Hugging Face的博客里,估计智谱做梦也没想到,人在家中坐,饼从天上来,别人躺着中枪,它躺着中奖了。         有人调侃:攻击者用的是美国最先进的大模型,防守者最后用的是中国开源模型。         当然,这不代表GLM技术比老美的GPT、Claude们强,GLM做的也不是防住攻击,而是做溯源和取证。         Hugging Face用智谱主要干了这些事↓          重建完整攻击时间线;          提取攻击特征(IOC);          梳理所有涉及的凭据;          区分真实攻击行为与迷惑性操作。         已经相当不错了,开源模型允许企业在本地环境完成更自由、更深入、更开放的使用,足以吊打那些闭源黑盒。         对于网络安全行业来说,本地部署和自主可控,也确实是一项核心能力,这不就是我们喜欢的叙事吗。         总结下,对于国内这两年相对惨淡的安全市场来说,这或许是个好事↓          第一,AI红队与AI蓝队时代已经正式开始,未来,攻击方和防守方都会越来越多地使用AI,AI对抗的新市场会带来些商机,这是我们以前说的A面(AI for Security)。         第二,智能体安全将成为所有大模型厂商必须面对的新课题,未来真正需要防范的对象,除了对模型的攻击,还有模型自主行动带来更大风险,这是我们说的B面(Security of AI)。         第三,开源模型的价值又增加了一条,对于安全行业而言,可离线部署、可深度分析、可自主控制的能力,也许会成为新的竞争优势,当然,目前国内不少安全厂商的安全GPT,也是这么干的。         狼真来了,而且,对付狼的,竟然也是狼。         我们,与狼共舞呗。

Current article:http://aqcr7ht.minpinpengcemiuanjiuxuan.pics/vzum6y/soz.html

Published on:14:11:39


本文标签: 达芬奇密码 水浒传 冰与火之歌

回到顶部