警惕!人工智能便利背后的安全隱患

網(wǎng)站首頁 » 共筑保密防線 守護(hù)國家安全

警惕!人工智能便利背后的安全隱患


來源:保密觀 責(zé)任編輯:張曦云
發(fā)布時間:2024-09-30

作為信息社會的革命性技術(shù),人工智能(Artificial Intelligence)可謂智能化信息社會的核心技術(shù),具有廣泛的應(yīng)用前景。


當(dāng)前,我們看到,隨著AI技術(shù)在人機(jī)對話、人形機(jī)器人、自動駕駛、智能制造等領(lǐng)域的快速推廣和應(yīng)用,相關(guān)安全問題也愈加凸顯,亟須予以高度重視。


人機(jī)對話


以ChatGPT為代表的基于生成式預(yù)訓(xùn)練模型(GPT)的對話型人工智能能夠模擬人類對話,并應(yīng)用于自動化寫作、智能客服等多個領(lǐng)域。隨著自然語言處理技術(shù)的進(jìn)步,ChatGPT在文本生成、內(nèi)容創(chuàng)作等方面展現(xiàn)出強(qiáng)大能力,已成為AI技術(shù)的一個重要分支。



圖片


安全隱患:由于主要通過交互問答開展工作,ChatGPT存儲并處理了大量用戶數(shù)據(jù),其中可能包含國家秘密、敏感信息,一旦被黑客竊取或系統(tǒng)遭受攻擊,數(shù)據(jù)安全將受到嚴(yán)重威脅。此外,ChatGPT還可能被用于生成虛假信息或進(jìn)行社交工程攻擊,攻擊形式包括仿冒電子郵件、虛假新聞等,會給個人、企業(yè)和社會安全帶來極大隱患。


人形機(jī)器人


人形機(jī)器人是具有人類形態(tài)、具備一定程度智能的機(jī)器設(shè)備,能夠模擬人類的行為與動作,在服務(wù)行業(yè)、醫(yī)療輔助、教育陪伴等領(lǐng)域有著廣泛的應(yīng)用前景。


圖片


安全隱患:人形機(jī)器人在執(zhí)行任務(wù)時需要獲取和處理大量用戶數(shù)據(jù),可能涉及個人隱私、健康狀況等敏感信息,如果這些數(shù)據(jù)被黑客截獲,會導(dǎo)致用戶信息的泄露。此外,技術(shù)上的不成熟也將增加系統(tǒng)遭受攻擊的風(fēng)險。


自動駕駛


當(dāng)前,很多汽車廠家和互聯(lián)網(wǎng)公司相繼推出自動駕駛汽車以及智能交通系統(tǒng)??梢灶A(yù)見,在人工智能控制交通的時代,交通運行效率會得到顯著優(yōu)化。在不遠(yuǎn)的將來,也許只有賽車手和發(fā)燒友才會駕駛汽車,交通事故則可能被系統(tǒng)事故所替代。


圖片


安全隱患:自動駕駛汽車內(nèi)部往往集成了復(fù)雜的電子控制系統(tǒng)、傳感器網(wǎng)絡(luò)以及車聯(lián)網(wǎng)通信技術(shù),黑客可以從智能汽車端、移動應(yīng)用端和云平臺以及三者交互的通信管道實施攻擊,目前已經(jīng)出現(xiàn)黑客通過盜取 App 賬號密碼來控制自動駕駛汽車的案例。


智能制造


通過人工智能技術(shù)對工業(yè)大數(shù)據(jù)進(jìn)行分析處理,可以有效提高生產(chǎn)效率,比如,Google 將機(jī)器學(xué)習(xí)技術(shù)應(yīng)用于數(shù)據(jù)處理,使用神經(jīng)網(wǎng)絡(luò)控制服務(wù)器等設(shè)備以降低耗電量,提升電力使用效率。


圖片


安全隱患:工業(yè)大數(shù)據(jù)是由生產(chǎn)不同階段的大量零散數(shù)據(jù)組成,數(shù)據(jù)間存在同步問題,因此,黑客對數(shù)據(jù)的任何一點入侵篡改都會使人工智能計算產(chǎn)生偏差,從而對企業(yè)、對社會造成巨大損害。


長遠(yuǎn)展望人工智能在信息社會的發(fā)展,基于人工智能的社會精細(xì)化管理將是未來社會的基本管理模式,也許未來會出現(xiàn)人工智能控制人類、威脅人類安全的風(fēng)險隱患。技術(shù)就像一枚硬幣的兩面,發(fā)明一項技術(shù)需要聰明,駕馭一項技術(shù)則需要智慧。面對人工智能,確實需要人類有足夠的智慧去利用和駕馭,從而在確保安全的前提下便利人類生活和社會發(fā)展。