馬斯克公開表態(tài)挺人工智能安全法案SB1047！獲以太坊創(chuàng)始人V神支持
8月27日馬斯克于X上發(fā)文對頗具爭議的加州人工智能安全法案做出表態(tài)，他表示這是個艱難的選擇且可能會造成部分人的不安，但綜合考量后他認為加州應該通過SB1047人工智能安全法案。他補充：「20多年來，我一直倡導人工智能監(jiān)管，就像我們監(jiān)管任何對公眾構(gòu)成淺在風險的產(chǎn)品/技術一樣?！?/p>
SB1047旨在防止AI造成重大傷亡，遭AI新創(chuàng)及黨內(nèi)反對
根據(jù)報導這位億萬富翁所支持的人工智能法案全名叫做Safeand Secure Innovation for Frontier Artificial Intelligence Models Act前沿人工智能模型安全創(chuàng)新法案，又稱SB1047法案。
該法案由民 主 黨籍參議員Scott Wiener于今年二月提出，該法案要求人工智能開發(fā)人員實施安全協(xié)議，并為人工智能模型安裝強制停止按鈕，以防止大規(guī)模傷亡或重大網(wǎng)絡攻擊案件。該法案受到一眾美國新創(chuàng)AI公司反對，包括OpenAI。另外眾議院院長Nancy Pelosi、眾議院科學、太空和技術委員會的Zoe Lofgren、及硅谷選區(qū)的眾議員Ro Khanna等一眾民 主 黨籍的加州眾議員都反對該法案。
OpenAI策略長Jason Kwon警告，該法案可能會扼殺創(chuàng)新并將人才趕出加州。作為新創(chuàng)聚集地，尤其是科技新創(chuàng)的圣地硅谷，加州眾議員因此反對該法案可以理解。而OpenAI等公司也表示這類監(jiān)管已超出地方自治范圍，應由聯(lián)邦負責，而非各州自行制定。AI新創(chuàng)公司Extropic創(chuàng)辦人丶前Google工程師Guillaume Verdon表示：「人工智能可能很強大，但對強大人工智能進行控制的獨 裁政府更可怕」他也將此事件與Telegram創(chuàng)辦人Pavel Durov最近被捕的影響進行了比較，稱這「對于人工智能來說這就像Telegram的情況?！?/p>
Vitalik贊同馬斯克：應為人工智能模型進行安全測試
以太坊創(chuàng)辦人Vitalik Buterin回應馬斯克意見，他表示善意解讀的話，該法案目標為強制進行安全測試，如果你的人工智能模型在安全測試中被發(fā)現(xiàn)具有威脅世界的功能/行為，將不被允許發(fā)布該模型。
他也表示責任不該是「如果衍生模型出了問題，開發(fā)人員將被罰款」而是開發(fā)人員沒有合理的意識到模型的問題才會被處罰。他也補充他同意現(xiàn)階段這個標準是非常模糊的，但這和無限制地承擔后續(xù)模型使用風險不是同一回事。
他最后進一步補充喜歡這個法案的一個特點，他說：「我喜歡該法案的一件事是，我認為它沒有得到足夠的重視，那就是它引入了『嚴重傷害』類別，并明確地將其與其他不好的事情區(qū)分開來。我認為這非常重要，尤其是在我們這個時代，很多人使用『言語暴力』之類的言詞，并試圖擴展原本表示重度傷害的術語，使它們涵蓋一切造成傷害的事件(同時也擴張安全事件)。語言膨脹無法避免，因為它是基本博弈論的結(jié)果，但我們需要透過重新區(qū)分『常糟糕的東西』和『中等糟糕的東西』來進行補償?！?/p>
以上就是馬斯克公開表態(tài)挺人工智能安全法案SB1047！獲以太坊創(chuàng)始人V神支持的詳細內(nèi)容，更多關于應為人工智能模型進行安全測試的資料請關注腳本之家其它相關文章！
