美国队长

OpenAI承认其模型测试失控 侵入抱抱脸系统_我的网站

命中注定我爱你

A |     △美国开放人工智能研究中心办公楼(资料图)          美国开放人工智能研究中心(OpenAI)21日承认,该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型联合进行内部评估时失控,突破隔离测试环境,侵入了人工智能开源平台美国抱抱脸公司的系统。    

8月21日,北京大学教师韦东奕在B站更新动态,并在“小店”上新一本小学数学解题能力练习册。         抱抱脸公司此前表示,上周,其生产基础设施遭到一个“自主”人工智能代理系统的入侵。在取证分析时,由于美国前沿模型“无法区分事件响应方和攻击者”,他们转而采用中国模型分析攻击者数据。图片当日晚,北京大学回应,该账号确认为韦东奕本人的账号。         OpenAI在官网发文说,此次内部评估在与互联网高度隔离的“沙箱”环境中进行,仅能通过一套内部托管的第三方软件安装软件包。模型在尝试完成名为ExploitGym的网络安全基准测试时,识别并利用了第三方软件的一个“零日漏洞”,由此获得互联网访问权限。

B | 据悉,这条新动态离韦东奕去年开号,时隔一年时间,内容为“一道有趣的题”,其中列举数道数学题目并给出解法。图片视频当中,韦东奕并未出镜或配音。模型推断抱抱脸平台可能存有ExploitGym测试相关的模型、数据集和解决方案,利用多种攻击手段找到进入抱抱脸系统的路径。         OpenAI安全团队发现内部异常活动,抱抱脸安全团队在其基础设施上检测到并阻止相关活动,双方正在展开联合调查。

C | 弹幕及评论区,网友们纷纷列出,自己对上述数学题目的作答过程。         抱抱脸方面表示,目前仍在评估是否有合作伙伴或客户的数据受到影响,尚未发现模型、数据集或应用空间遭到篡改。

D | 图片图片图片此外,该账号小店上架了两本练习册,分别为韦东奕主编的,小学数学解题能力训练练习册和初中数学解题能力训练练习册,售价分别为39.8元和49.8元。在调查过程中,抱抱脸使用人工智能分析了包含逾1.7万条记录的攻击行动日志,以重建时间线、识别受影响情况并区分真实攻击行为和干扰活动。截至发稿,小学数学解题能力训练练习册,销量已破8000件。

E |          抱抱脸说,其最初尝试使用通过商业应用程序接口提供的前沿模型分析日志,但请求被阻止。图片另有媒体记者从韦东奕亲属处得知,该社媒账号是韦东奕的,视频是他本人发布的,书也是韦东奕自己主编的。图片图片值得一提的是,韦东奕的抖音账号尚未更新,小红书账号则只更新了同一条视频,未上架该练习册。图片据公开资料,韦东奕,1991年出生于山东济南,浙江东阳人,北京大学副教授,北京大学数学科学学院数学系微分方程教研室研究员。该公司随后改为在自己的基础设施上运行中国企业智谱开发的开放权重模型GLM-5.2,以进行取证分析,从而避免攻击者数据及相关凭据离开公司内部环境。

F | 来源:北京日报、九派新闻、当事人账号、大皖新闻

。         OpenAI说,这一事件表明,先进人工智能模型已能够在无法访问源代码情况下发现现实系统中的新型攻击路径,并持续执行复杂、多步骤的网络操作。模型网络安全能力快速提高的同时,内部评测环境、模型行为控制和安全防护措施等也需要同步加强。

Current article:http://b4sy7.zhanggengsenchaiweikeng.cfd/x349/zlzrhrx.html

Published on:17:27:23