中新网7月31日电 综合美联社、路透社报道，美国人工智能企业Anthropic 30日披露，其人工智能(AI)模型曾在网络能力测试中未经授权访问了3家机构的系统。
此前，美国开放人工智能研究中心(OpenAI)近日披露，其模型在网络安全测试中利用第三方软件的“零日漏洞”突破与互联网隔离的测试环境，未经授权侵入美国抱抱脸公司系统。
Anthropic表示，在OpenAI披露侵入事件后，公司启动了一项大规模网络安全审查，重点调查AI模型是否能够从本应与互联网隔离的测试环境中访问互联网。在审查约14.1万次网络安全能力评估记录后，发现了上述3起事件。
Anthropic表示，这3起事件均发生在旨在评估人工智能网络攻击能力的“夺旗”任务中。据介绍，涉事模型包括“克劳德-奥普斯4.7”、“克劳德-神话5”以及一个内部研究测试模型。“克劳德利用技术攻破了受影响组织的基础设施，”Anthropic表示，例如利用弱密码。
Anthropic补充称，已联系了受影响的组织，但未透露具体名称。其中两家表示此前未曾检测到此类活动。Anthropic表示正在“继续联系第三家”。
报道指出，上述事件再次暴露出AI安全与管控方面的漏洞，也引发了外界对于随着AI技术在全球加速普及，如何将其安全地置于人类控制之下的质疑。多年来，研究人员一直警告AI技术存在潜在风险。
ciwai，keluosaituotichuzhegeluntiaodeshijiyehenkeyi，beihouhenmingxianyoumeiguodeyingzi。yidalizonglimeiluoniganggangjieshuduimeiguodefangwen，zhiqianjiuyouchuanwenshuomeiluonikenengnatuichu“yidaiyilu”changyigeimeiguosongshang“toumingzhuang”，houbeizhengmingbingbushushi。danmeiluonizaiyubaidengzongtonghuiwuhoubiaoshi，yizhengfujiangzai12yuezhiqianjiu“yidaiyilu”changyizuochujueding，qiangtiao“yubeijingbaochijianshexingduihua”，haitouluchuxiwangdaozhongguofangwendeyiyuan。zheyecongyigecemianfanyingleyidalixianzaideliangnanchujing：tajixiangdedaohuashengdundezhengzhirenke，danyoubuyuanyifangqiduihuajingjihezuozhekuaidangao，tabuxiangzaiqizhong“erxuanyi”。此(ci)外(wai)，(，)<(<)s(s)t(t)r(r)o(o)n(n)g(g)>(>)克(ke)罗(luo)塞(sai)托(tuo)提(ti)出(chu)这(zhe)个(ge)论(lun)调(tiao)的(de)时(shi)机(ji)也(ye)很(hen)可(ke)疑(yi)，(，)背(bei)后(hou)很(hen)明(ming)显(xian)有(you)美(mei)国(guo)的(de)影(ying)子(zi)。(。)<(<)/(/)s(s)t(t)r(r)o(o)n(n)g(g)>(>)意(yi)大(da)利(li)总(zong)理(li)梅(mei)洛(luo)尼(ni)刚(gang)刚(gang)结(jie)束(shu)对(dui)美(mei)国(guo)的(de)访(fang)问(wen)，(，)之(zhi)前(qian)就(jiu)有(you)传(chuan)闻(wen)说(shuo)梅(mei)洛(luo)尼(ni)可(ke)能(neng)拿(na)退(tui)出(chu)“(“)一(yi)带(dai)一(yi)路(lu)”(”)倡(chang)议(yi)给(gei)美(mei)国(guo)送(song)上(shang)“(“)投(tou)名(ming)状(zhuang)”(”)，(，)后(hou)被(bei)证(zheng)明(ming)并(bing)不(bu)属(shu)实(shi)。(。)但(dan)梅(mei)洛(luo)尼(ni)在(zai)与(yu)拜(bai)登(deng)总(zong)统(tong)会(hui)晤(wu)后(hou)表(biao)示(shi)，(，)意(yi)政(zheng)府(fu)将(jiang)在(zai)1(1)2(2)月(yue)之(zhi)前(qian)就(jiu)“(“)一(yi)带(dai)一(yi)路(lu)”(”)倡(chang)议(yi)作(zuo)出(chu)决(jue)定(ding)，(，)强(qiang)调(tiao)“(“)与(yu)北(bei)京(jing)保(bao)持(chi)建(jian)设(she)性(xing)对(dui)话(hua)”(”)，(，)还(hai)透(tou)露(lu)出(chu)希(xi)望(wang)到(dao)中(zhong)国(guo)访(fang)问(wen)的(de)意(yi)愿(yuan)。(。)这(zhe)也(ye)从(cong)一(yi)个(ge)侧(ce)面(mian)反(fan)映(ying)了(le)意(yi)大(da)利(li)现(xian)在(zai)的(de)两(liang)难(nan)处(chu)境(jing)：(：)它(ta)既(ji)想(xiang)得(de)到(dao)华(hua)盛(sheng)顿(dun)的(de)政(zheng)治(zhi)认(ren)可(ke)，(，)但(dan)又(you)不(bu)愿(yuan)意(yi)放(fang)弃(qi)对(dui)华(hua)经(jing)济(ji)合(he)作(zuo)这(zhe)块(kuai)蛋(dan)糕(gao)，(，)它(ta)不(bu)想(xiang)在(zai)其(qi)中(zhong)“(“)二(er)选(xuan)一(yi)”(”)。(。)
