研究揭露：AI代理ROME訓(xùn)練時(shí)未經(jīng)授權(quán)嘗試加密貨幣挖礦
研究人員表示，實(shí)驗(yàn)性人工智能代理 ROME 在訓(xùn)練期間嘗試未經(jīng)授權(quán)挖礦，之前轉(zhuǎn)移了 GPU 資源并打開(kāi)了 SSH 隧道,
一個(gè)自主人工智能智能體研究團(tuán)隊(duì)表示，該模型在訓(xùn)練過(guò)程中意外地嘗試?yán)糜?jì)算資源進(jìn)行加密挖礦。
在最近的一份技術(shù)報(bào)告中，研究人員表示，ROME 是一款實(shí)驗(yàn)性的自主人工智能系統(tǒng)，旨在通過(guò)與工具、軟件環(huán)境和終端命令交互完成任務(wù)，但他們自行嘗試進(jìn)行加密挖礦。
報(bào)告稱，這種異常行為是在強(qiáng)化學(xué)習(xí)運(yùn)行中出現(xiàn)的，團(tuán)隊(duì)注意到訓(xùn)練服務(wù)器的外站流量觸發(fā)安全警報(bào)。防火墻日志標(biāo)記了類(lèi)似加密挖礦作的活動(dòng)，并試圖訪問(wèn)內(nèi)部網(wǎng)絡(luò)資源。
“我們最初將此視為常規(guī)安全事件（例如，出口控制配置錯(cuò)誤或外部入侵）。然而，違規(guī)在多次運(yùn)行中間歇性反復(fù)出現(xiàn)，沒(méi)有明顯的時(shí)間模式，“研究人員寫(xiě)道。
AI 代理打開(kāi) SSH 隧道
據(jù)稱，在一個(gè)案例中，AI 代理創(chuàng)建了一個(gè)反向 SSH（安全殼）隧道，這是一種加密的服務(wù)器-客戶端協(xié)議，指向外部 IP 地址，可能繞過(guò)了進(jìn)站防火墻保護(hù)。在另一項(xiàng)中，它將原本用于模型訓(xùn)練的 GPU 資源轉(zhuǎn)向加密貨幣挖礦流程。
團(tuán)隊(duì)表示，這些行為并非有意為之。相反，這些問(wèn)題是在強(qiáng)化學(xué)習(xí)優(yōu)化過(guò)程中出現(xiàn)的，當(dāng)時(shí)智能體探索了與環(huán)境交互的不同方式。
ROME 由 ROCK， ROLL、iFlow 和 DT 聯(lián)合研究團(tuán)隊(duì)開(kāi)發(fā)，這些團(tuán)隊(duì)與阿里巴巴的人工智能生態(tài)系統(tǒng)相關(guān)聯(lián)，構(gòu)建了一個(gè)更廣泛的基礎(chǔ)設(shè)施——代理學(xué)習(xí)生態(tài)系統(tǒng)（ALE）。
代理學(xué)習(xí)生態(tài)系統(tǒng)概述。來(lái)源：Arxiv
該模型設(shè)計(jì)超越了簡(jiǎn)單的聊天機(jī)器人回應(yīng)。它可以規(guī)劃任務(wù)、執(zhí)行命令、編輯代碼，并在多個(gè)步驟中與數(shù)字環(huán)境交互。其培訓(xùn)流程依賴大量模擬互動(dòng)來(lái)提升決策能力。
人工智能代理日益受歡迎
此事件發(fā)生在人工智能代理日益普及并整合進(jìn)加密領(lǐng)域的背景。上個(gè)月，Alchemy 推出了一套系統(tǒng)，使自主 AI 代理能夠通過(guò)鏈上錢(qián)包和 USDC（USDC）在 Base 上購(gòu)買(mǎi)計(jì)算積分并訪問(wèn)區(qū)塊鏈數(shù)據(jù)服務(wù)。
在此之前，Pantera Capital 和富蘭克林鄧普頓的數(shù)字資產(chǎn)部門(mén)加入了 Arena 的首批成員，Arena 是由開(kāi)源 AI 實(shí)驗(yàn)室 Sentient 開(kāi)發(fā)的新測(cè)試平臺(tái)，旨在評(píng)估 AI 代理在現(xiàn)實(shí)企業(yè)工作流程中的表現(xiàn)。
以上就是研究揭露：AI代理ROME訓(xùn)練時(shí)未經(jīng)授權(quán)嘗試加密貨幣挖礦的詳細(xì)內(nèi)容，更多關(guān)于AI代理訓(xùn)練時(shí)非法“挖礦”被發(fā)現(xiàn)的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！
你可能感興趣的文章
-
加密貨幣精確估值：綜合多要素的評(píng)估之道
市場(chǎng)供需、交易活躍度、項(xiàng)目技術(shù)實(shí)力、團(tuán)隊(duì)背景、社區(qū)生態(tài)、宏觀經(jīng)濟(jì)環(huán)境及監(jiān)管政策等,通過(guò)分析這些因素，結(jié)合市場(chǎng)數(shù)據(jù)與模型，可對(duì)其價(jià)值進(jìn)行相對(duì)準(zhǔn)確評(píng)估，但市場(chǎng)波動(dòng)大…
2026-03-07 -
特朗普國(guó)家網(wǎng)絡(luò)戰(zhàn)略：明確承諾大力支持加密貨幣與區(qū)塊鏈發(fā)展
特朗普發(fā)布的《President Trump's Cyber Strategy for America》首次將加密貨幣與區(qū)塊鏈列為需保護(hù)技術(shù)，承諾通過(guò)聯(lián)邦監(jiān)管框架、穩(wěn)定幣儲(chǔ)備及打擊非法金融通道等措施，推動(dòng)…
2026-03-07 -
Jack Mallers積極舉措：為紐約加密貨幣及貨幣牌照發(fā)展謀新局
Jack Mallers 領(lǐng)導(dǎo)的 Strike 通過(guò)創(chuàng)新比特幣支付與借貸服務(wù)，推動(dòng)紐約加密貨幣合規(guī)化進(jìn)程,其推動(dòng)的'貨幣牌照'申請(qǐng)，旨在為比特幣原生企業(yè)爭(zhēng)取與傳統(tǒng)金融同等的監(jiān)管地位，助…
2026-03-06 -
A16z推進(jìn)第五只加密貨幣基金募資，部分同行聚焦新技術(shù)領(lǐng)域
A16z正為其第五只加密貨幣基金募資，目標(biāo)20億美元，逆勢(shì)展現(xiàn)對(duì)區(qū)塊鏈長(zhǎng)期押注,與此同時(shí)，部分同行將目光轉(zhuǎn)向AI、機(jī)器人等新技術(shù)，如Paradigm跨界投資，行業(yè)呈現(xiàn)多元布局態(tài)…
2026-03-05 -
加密股現(xiàn)反彈態(tài)勢(shì)，特朗普與監(jiān)管暗示加密貨幣政策親加密轉(zhuǎn)向
2026年3月，加密股反彈，特朗普公開(kāi)支持加密貨幣立法，監(jiān)管機(jī)構(gòu)釋放積極信號(hào),其政府推動(dòng)穩(wěn)定幣法案，設(shè)立比特幣儲(chǔ)備，并優(yōu)先立法為加密資產(chǎn)提供法律基礎(chǔ)，旨在將加密貨幣納…
2026-03-05 -
特朗普猛烈抨擊銀行：加密貨幣法案推進(jìn)受阻
2026年初，特朗普公開(kāi)抨擊美國(guó)銀行業(yè)阻礙加密貨幣法案推進(jìn)，指責(zé)其以“存款外流威脅”為由強(qiáng)硬反對(duì)穩(wěn)定幣計(jì)息條款，導(dǎo)致國(guó)會(huì)立法停滯，可能使美國(guó)錯(cuò)失全球數(shù)字資產(chǎn)監(jiān)管主導(dǎo)…
2026-03-04 -
研究警示：澳大利亞或因監(jiān)管滯后錯(cuò)失170億美元加密貨幣機(jī)遇
澳大利亞加密貨幣采用率居發(fā)達(dá)國(guó)家前列，但監(jiān)管滯后,ASIC將加密貨幣監(jiān)管漏洞列為2026年關(guān)鍵風(fēng)險(xiǎn)，指出部分企業(yè)規(guī)避監(jiān)管，加劇不確定性,若不加強(qiáng)監(jiān)管，或錯(cuò)失加密貨幣行業(yè)帶…
2026-03-04 -
從避險(xiǎn)信道到全天候交易：為什么中東戰(zhàn)火將利好加密貨幣？
近期中東局勢(shì)緊張、戰(zhàn)火升溫，引發(fā)全球資本市場(chǎng)高度關(guān)注,鏈上數(shù)據(jù)顯示，在地緣政治沖突發(fā)生后，加密貨幣市場(chǎng)出現(xiàn)交易量與資金流動(dòng)的明顯變化,約有1,030 萬(wàn)美元的加密資產(chǎn)流…
2026-03-04 -
伊朗局勢(shì)讓華爾街拉響通脹警報(bào)，對(duì)加密貨幣意味著什么？
由于伊朗局勢(shì)引發(fā)的油價(jià)飆升和通脹擔(dān)憂重燃,美國(guó)國(guó)債收益率創(chuàng)下10月以來(lái)最大單日漲幅,市場(chǎng)對(duì)美聯(lián)儲(chǔ)降息的預(yù)期有所降溫,同時(shí),加密貨幣市場(chǎng)也面臨挑戰(zhàn),盡管避險(xiǎn)資金流入推動(dòng)…
2026-03-03 -
60億美元天量解鎖:2026年3月代幣市場(chǎng)是機(jī)遇還是風(fēng)險(xiǎn)?
2026年3月，加密市場(chǎng)迎來(lái)史無(wú)前例的60億美元天量解鎖，較2月份20億美元的解鎖量激增三倍有余 ,本文基于CryptoRank等權(quán)威數(shù)據(jù)，深度拆解本次解鎖的集中化特征與市場(chǎng)博弈邏輯…
2026-03-03
