首頁>新聞中心>智能制造

“強(qiáng)人工智能”時(shí)代漸近 新技術(shù)催生新攻擊方式

人工智能“脆弱面”暗藏安全風(fēng)險(xiǎn)
專家建議以剛性法規(guī)引領(lǐng)秩序,升級(jí)全流程安全防控體系

2019-07-09 07:54:00

  智能機(jī)器人自信地“走上”舞臺(tái)擔(dān)綱主持;無人車在測(cè)試道路上完成一系列動(dòng)作,司機(jī)卻穩(wěn)坐千里之外;智能健康“魔鏡”能實(shí)時(shí)顯示測(cè)試者“睡眠”“情緒”“皮膚”等一系列健康指標(biāo)系數(shù)……曾經(jīng)在科幻電影中才能看到的炫酷片段已經(jīng)在生活中得以實(shí)現(xiàn),種種“黑科技”被廣泛應(yīng)用,人工智能的發(fā)展深刻地影響著社會(huì)生活。

  但同時(shí),隨著人工智能技術(shù)應(yīng)用越來越廣泛,人工智能“脆弱面”也逐漸暴露,機(jī)器人“自我意識(shí)”、技術(shù)濫用等安全漏洞引起業(yè)界更多關(guān)注。專家表示,要加強(qiáng)對(duì)潛在風(fēng)險(xiǎn)的研判和防范,確保人工智能各項(xiàng)技術(shù)安全、可靠、可控。

  催生新攻擊方式

  當(dāng)今,世界各國(guó)紛紛布局人工智能,國(guó)際競(jìng)爭(zhēng)日趨激烈。然而,人工智能的快速發(fā)展也使得網(wǎng)絡(luò)安全的風(fēng)險(xiǎn)點(diǎn)和攻擊方式出現(xiàn)新變化,進(jìn)而引發(fā)更深層次的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。

  2018年4月,歐盟委員會(huì)計(jì)劃2018年至2020年在人工智能領(lǐng)域投資240億美元。2018年5月,法國(guó)發(fā)布《法國(guó)人工智能戰(zhàn)略》,目的是使法國(guó)成為人工智能強(qiáng)國(guó)。2018年6月,日本《未來投資戰(zhàn)略》重點(diǎn)推動(dòng)物聯(lián)網(wǎng)建設(shè)和人工智能的應(yīng)用。

  對(duì)于人工智能,我國(guó)同樣高度重視。2017年,政府先后發(fā)布了《新一代人工智能發(fā)展規(guī)劃》和《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃(2018—2020年)》。

  北京郵電大學(xué)教授李小勇表示,我國(guó)是受到網(wǎng)絡(luò)攻擊最嚴(yán)重的國(guó)家之一,也是遭受物聯(lián)網(wǎng)攻擊最嚴(yán)重的國(guó)家之一,網(wǎng)絡(luò)攻擊手段和攻擊形式越來越多。從行業(yè)來看,經(jīng)濟(jì)、教育、政府等部門成為攻擊的主要目標(biāo)。

  360公司董事長(zhǎng)兼CEO周鴻祎說,網(wǎng)絡(luò)攻擊每天都在發(fā)生。目前網(wǎng)絡(luò)黑客的攻擊目標(biāo)非常明確,就是能源、交通等基礎(chǔ)設(shè)施,因?yàn)檫@樣產(chǎn)生的影響是最大的。未來在萬物互聯(lián)的情況下,每個(gè)集裝箱、每輛卡車,甚至城市里的每個(gè)井蓋都實(shí)現(xiàn)互聯(lián),虛擬層面的攻擊可能引發(fā)物理空間的損害。

  事實(shí)上,劫持智能設(shè)備已經(jīng)成為網(wǎng)絡(luò)攻擊的重要手段。網(wǎng)絡(luò)安全專家表示,許多無人值守系統(tǒng)運(yùn)用人工智能技術(shù),一旦遭網(wǎng)絡(luò)劫持,將帶來嚴(yán)重的安全問題。例如,智能汽車可與車廠服務(wù)器連接,通過手機(jī)遠(yuǎn)程控制,車主需要定期更新軟件保證汽車的駕駛模式,如此一來就可能被網(wǎng)絡(luò)劫持。

  天津大學(xué)法學(xué)院院長(zhǎng)孫佑海稱,網(wǎng)絡(luò)攻擊者可通過漏洞控制人工智能算法,實(shí)現(xiàn)物理硬件操縱、實(shí)施輿論引導(dǎo)、制造虛假圖像或影響、制造信息噪音等,造成安全隱患。

  此外,圖像、聲音合成滋生新的風(fēng)險(xiǎn)。國(guó)家互聯(lián)網(wǎng)應(yīng)急中心的相關(guān)專家稱,隨著技術(shù)的發(fā)展,現(xiàn)在的合成圖像、語音越來越逼真。如果把該技術(shù)用于網(wǎng)絡(luò)詐騙,虛構(gòu)人臉和語音,是非常可怕的事情。

  暴露安全軟肋

  由于人工智能技術(shù)依托的算法、大數(shù)據(jù)等可以很低的成本進(jìn)行復(fù)制和擴(kuò)散,其傳播渠道廣,監(jiān)管難度大,封控幾率低。

  目前,人工智能技術(shù)正由“弱人工智能”向“強(qiáng)人工智能”階段躍進(jìn),能夠依據(jù)其所掌握的算法、數(shù)據(jù),在短時(shí)間內(nèi)快速突破人類傳承多年的經(jīng)驗(yàn)積累。

  2016年,由谷歌旗下“深度思維”(DeepMind)公司開發(fā)的AlphaGo橫空出世,經(jīng)深度學(xué)習(xí)后橫掃人類圍棋界翹楚。一年后,零基礎(chǔ)起步的新程序AlphaGo Zero,通過自我訓(xùn)練,在三天內(nèi)與自身對(duì)弈490萬局后,以100:0的成績(jī)擊敗“前輩”AlphaGo。

  2017年,美國(guó)社交媒體平臺(tái)臉書公司實(shí)驗(yàn)室中的兩個(gè)人工智能機(jī)器人使用機(jī)器學(xué)習(xí)相互對(duì)話,并不斷進(jìn)行對(duì)話策略迭代升級(jí),逐漸發(fā)展出了一種機(jī)器之間能理解但人類無法理解的語言。

  “事實(shí)表明,人工智能通過算法和大數(shù)據(jù)進(jìn)行深度學(xué)習(xí),不排除演化出‘自我意識(shí)’的可能,輔助甚至代替人類做出分析和決策,這易于發(fā)生反噬風(fēng)險(xiǎn)?!睂O佑海說。

  當(dāng)前,人工智能研究高度開放附帶源代碼的海量論文可免費(fèi)下載,即便編寫一種折型算法的時(shí)間成本也只需幾天,人工智能技術(shù)的濫用風(fēng)險(xiǎn)激增。此外,人工智能既有多學(xué)科綜合、高度復(fù)雜等特性,帶有天然的技術(shù)壁壘,給監(jiān)管部門的監(jiān)督管理和風(fēng)險(xiǎn)防范提出了不小的挑戰(zhàn)。

  除技術(shù)發(fā)展外,人工智能帶來的社會(huì)影響不容小覷。通過特定算法全方位了解用戶偏好和需求,為消費(fèi)者“量身定制”的“精準(zhǔn)推送”正成為商家引導(dǎo)消費(fèi)的新途徑。

  近年來,北京、上海、重慶、濟(jì)南等地的商圈開始試水“智慧商圈”模式,可以根據(jù)顧客的特征更精準(zhǔn)地推送優(yōu)惠券商品信息,讓用戶更有消費(fèi)動(dòng)力。比如,給年輕的未婚白領(lǐng)女性推送化妝品和奢侈品的品牌商券;給媽媽們推薦嬰兒用品店;給男性推送運(yùn)動(dòng)品牌門店活動(dòng),等等。

  “智慧商圈”帶來生活便捷卻容易引發(fā)“信息騷擾”問題。消費(fèi)者的一個(gè)簡(jiǎn)單操作就有可能暴露想要購(gòu)買某件商品的想法,后續(xù)會(huì)不斷收到同類商品的廣告宣傳,產(chǎn)生困擾。長(zhǎng)此以往,商場(chǎng)導(dǎo)購(gòu)等從事決策分析、藝術(shù)創(chuàng)作等工作也有被機(jī)器人取代的可能,人工智能技術(shù)的日臻成熟將打碎傳統(tǒng)職業(yè)群體的“飯碗”,進(jìn)而引發(fā)新產(chǎn)業(yè)革命和經(jīng)濟(jì)結(jié)構(gòu)調(diào)整,形成“去勞動(dòng)力”傾向,最終產(chǎn)生失業(yè)風(fēng)險(xiǎn)。

  不僅如此,人工智能產(chǎn)生的道德倫理隱憂不斷。有專家表示,人工智能設(shè)計(jì)者的價(jià)值導(dǎo)向和行為偏好易于被有意或無意地反映到算法、數(shù)據(jù)當(dāng)中,并通過機(jī)器學(xué)習(xí)被人工智能所承繼,進(jìn)而演進(jìn)為算法歧視。而在具體適用過程中,容易受到對(duì)抗樣本的干擾或污染,被應(yīng)用者二次形塑,做出背離設(shè)計(jì)初衷的錯(cuò)誤決策。

  2016年3月,美國(guó)微軟公司發(fā)布了名為Tay的最新版本人工智能機(jī)器人。然而,上線不到24小時(shí),Tay就“學(xué)壞”了:出言不遜、臟話不斷,言語甚至涉及種族主義、色情、納粹,充滿歧視、仇恨和偏見。微軟只得不停刪除Tay的不當(dāng)言論,進(jìn)行下線調(diào)整。

  用好“雙刃劍”

  專家表示,在人工智能飛速發(fā)展的時(shí)代,安全問題日益凸顯,需要我們加強(qiáng)對(duì)潛在風(fēng)險(xiǎn)的研判和防范,切實(shí)維護(hù)好人民利益和國(guó)家安全,確保人工智能安全可靠、可控。

  南開大學(xué)周恩來政府管理學(xué)院教授吳曉林認(rèn)為,數(shù)字化、網(wǎng)絡(luò)化、智能化已經(jīng)是時(shí)代的主題,智能讓生活變得更美好,但安全問題無處不在、無時(shí)不在?;ヂ?lián)網(wǎng)下半場(chǎng)是工業(yè)互聯(lián)網(wǎng),以后國(guó)家的基礎(chǔ)設(shè)施安全、工業(yè)互聯(lián)網(wǎng)安全非常關(guān)鍵,還是要把人工智能的雙刃劍用好,趨利避害,讓科技的智能與人類的智慧并存、和諧。

  在網(wǎng)絡(luò)安全防護(hù)上,應(yīng)加強(qiáng)技術(shù)研究,建立有效安全防護(hù),抵御網(wǎng)絡(luò)攻擊。專家建議,可以建立主動(dòng)免疫的計(jì)算架構(gòu),對(duì)計(jì)算進(jìn)行安全防護(hù),使計(jì)算全程可測(cè)可控,不被干擾。利用人工智能應(yīng)對(duì)網(wǎng)絡(luò)攻擊,“免疫系統(tǒng)”中不管哪個(gè)系統(tǒng)受到攻擊,都有統(tǒng)一的人工智能系統(tǒng)發(fā)出指令,采取相應(yīng)措施。

  在法治建設(shè)保障上,中國(guó)法學(xué)會(huì)副會(huì)長(zhǎng)兼秘書長(zhǎng)張鳴起建議高度重視立法工作,適時(shí)安排宏觀立法,人工智能的發(fā)展離不開一部反映時(shí)代需求的《人工智能法》以及配套法規(guī)組成的法律法規(guī)體系。

  孫佑海建議,全國(guó)人大宜進(jìn)行立法上的一些準(zhǔn)備,建議有關(guān)部門優(yōu)先對(duì)無人機(jī)的管理、自動(dòng)駕駛、圖像識(shí)別相對(duì)成熟的技術(shù)應(yīng)用制定法律規(guī)章,以剛性的法規(guī)條款引領(lǐng)秩序。

  同時(shí),要進(jìn)一步健全精準(zhǔn)務(wù)實(shí)的政策支撐體系,構(gòu)建政策集群。孫佑海說,要進(jìn)一步升級(jí)全流程的安全防控體系,并制定行業(yè)安全標(biāo)準(zhǔn),做好應(yīng)急防范的預(yù)案,加大重點(diǎn)領(lǐng)域的防控,加大對(duì)代碼數(shù)據(jù)、算法等重點(diǎn)領(lǐng)域的綜合管控力度,保障技術(shù)安全、產(chǎn)品安全、數(shù)據(jù)安全和應(yīng)用安全。

  針對(duì)新一代人工智能可能引發(fā)的結(jié)構(gòu)性失業(yè)等風(fēng)險(xiǎn),吳曉林建議,由勞動(dòng)部門牽頭加強(qiáng)與人工智能產(chǎn)業(yè)需求配套的在職培訓(xùn)和再就業(yè)培訓(xùn)體系,打好勞動(dòng)力轉(zhuǎn)型的主動(dòng)仗。

 

版權(quán)說明

【1】 凡本網(wǎng)注明"來源:中國(guó)冶金報(bào)—中國(guó)鋼鐵新聞網(wǎng)"的所有作品,版權(quán)均屬于中國(guó)鋼鐵新聞網(wǎng)。媒體轉(zhuǎn)載、摘編本網(wǎng)所刊 作品時(shí),需經(jīng)書面授權(quán)。轉(zhuǎn)載時(shí)需注明來源于《中國(guó)冶金報(bào)—中國(guó)鋼鐵新聞網(wǎng)》及作者姓名。違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責(zé)任。
【2】 凡本網(wǎng)注明"來源:XXX(非中國(guó)鋼鐵新聞網(wǎng))"的作品,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng) 贊同其觀點(diǎn),不構(gòu)成投資建議。
【3】 如果您對(duì)新聞發(fā)表評(píng)論,請(qǐng)遵守國(guó)家相關(guān)法律、法規(guī),尊重網(wǎng)上道德,并承擔(dān)一切因您的行為而直接或間接引起的法律 責(zé)任。
【4】 如因作品內(nèi)容、版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的。電話:010—010-64411649
品牌聯(lián)盟
  • 燃燒裝置2.gif
  • 湖南華菱集團(tuán).jpg
  • 山東鋼鐵集團(tuán).jpg
  • 1_看圖王.png
  • W020190430461031429831.jpg
  • 首鋼.jpg
  • 冶金工業(yè)規(guī)劃研究院logo1.jpg
  • W020130618825601874406.jpg
  • W020130618825602778336.jpg
  • W020130618825603702632.jpg
  • W020130618825617201098.jpg
  • W020130618825606679805.jpg
  • W020130618825607505186.jpg
  • brand04.png
  • brand06.png
  • brand05.png
  • brand03.png
  • brand02.png
  • brand01.png
    read_image.gif

    地址:北京市朝陽區(qū)安貞里三區(qū)26樓 郵編:100029 電話:(010)64442120/(010)64442123 傳真:(010)64411645 電子郵箱:csteelnews@126.com

    中國(guó)冶金報(bào)/中國(guó)鋼鐵新聞網(wǎng)法律顧問:大成律師事務(wù)所 楊貴生律師 電話:010-58137252 13501065895 Email:guisheng.yang@dachenglaw.com

    中國(guó)鋼鐵新聞網(wǎng)版權(quán)所有,未經(jīng)書面授權(quán)禁止使用 京ICP備07016269 京公網(wǎng)安備11010502033228