Check Point 軟件技術(shù)公司報告稱，一些網(wǎng)絡(luò)犯罪分子利用人工智能來訓(xùn)練其經(jīng)驗不足的成員實施惡意活動、改進(jìn)和調(diào)試惡意軟件，甚至實現(xiàn)攻擊自動化。
最近的一項麥肯錫調(diào)查顯示，50% 的公司已在至少一個業(yè)務(wù)領(lǐng)域采用了人工智能。
在許多互聯(lián)網(wǎng)安全專家眼中，2022年稱得上“人工智能元年”。ChatGPT的橫空出世以及其他AI服務(wù)的相繼上線在改變未來人們工作、學(xué)習(xí)以及生活的方式的同時，也為互聯(lián)網(wǎng)安全行業(yè)帶來了全新的挑戰(zhàn)。因此，全球領(lǐng)先的專業(yè)網(wǎng)絡(luò)安全提供商 Check Point® 軟件技術(shù)有限公司（納斯達(dá)克股票代碼：CHKP）借此文幫助大家進(jìn)一步了解人工智能的當(dāng)前和未來用途以及重點關(guān)注安全防護(hù)的必要性。
人工智能早在幾年前就開始走入我們的工作生活。事實上，根據(jù)麥肯錫全球研究所在 2022 年開展的一項人工智能調(diào)查，2017 年時 20% 的受訪者表示已在至少一個業(yè)務(wù)領(lǐng)域采用了人工智能，而去年這一數(shù)字增長至 50%。隨著企業(yè)逐漸認(rèn)識到人工智能對其業(yè)務(wù)的巨大價值，預(yù)計這一增長勢頭將繼續(xù)走高——根據(jù) Forbes Advisor 的一項調(diào)查，超過 60% 的企業(yè)所有者認(rèn)為人工智能可提高生產(chǎn)力。具體而言，64% 的受訪者表示人工智能有助于提高業(yè)務(wù)效率，42% 的受訪者認(rèn)為人工智能可簡化作業(yè)流程，這充分表明商業(yè)領(lǐng)域?qū)θ斯ぶ悄艿氖褂镁哂袕V泛的市場接受度。
在我國，2017年就由國務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，規(guī)劃中已明確提及人工智能將成為經(jīng)濟(jì)發(fā)展的新引擎。在今年斯坦福大學(xué)一項面對全球的AI調(diào)查中，78%的中國受訪者認(rèn)為AI技術(shù)的普及利大于弊。我國用戶對AI技術(shù)的正面態(tài)度居全球首位，這也為人工智能在我國高速發(fā)展提供了健康的土壤。值得注意的是，今年5月在天津召開的“第七屆世界智能大會”上，人工智能倫理與安全成為會上主要討論議題之一。
自去年開始，Check Point已經(jīng)就ChatGPT帶來的安全挑戰(zhàn)進(jìn)行了研究。作為 OpenAI 研發(fā)的人工智能平臺，它在為人們生活帶來便捷的同時，還可幫助網(wǎng)絡(luò)犯罪分子實施新的攻擊活動。人工智能工具為網(wǎng)絡(luò)犯罪分子帶來了諸多好處，包括但不限于：
1、無需技能和經(jīng)驗： 對于網(wǎng)絡(luò)犯罪分子來說，人工智能的最大好處之一是其易用性，這使得更多用戶可以輕松發(fā)起惡意活動，包括一開始可能不具備相關(guān)技能的潛在網(wǎng)絡(luò)犯罪分子。過去幾個月來，出現(xiàn)了一些新的小型網(wǎng)絡(luò)犯罪團(tuán)伙。借助人工智能，他們能夠?qū)嵤└鼜?fù)雜的網(wǎng)絡(luò)攻擊。
2、改進(jìn)網(wǎng)絡(luò)攻擊 ：由于這些人工智能工具采用無限制免費訪問模式，因此攻擊者可利用其速度和精度創(chuàng)建惡意代碼和網(wǎng)絡(luò)攻擊，如網(wǎng)絡(luò)釣魚攻擊活動。這些人工智能工具可以生成幾乎相同或難以發(fā)現(xiàn)異常的內(nèi)容。此外，這些工具擁有自主學(xué)習(xí)模式，因此不僅能夠回答問題，而且還能創(chuàng)建各種內(nèi)容（圖像、視頻甚至音頻）。遺憾的是，這導(dǎo)致了所謂的“深度偽造”(Deepfakes) 技術(shù)的濫用。這是一種可用于傳播虛擬信息的逼真?zhèn)卧旒夹g(shù)，巴拉克·奧巴馬、喬·拜登、弗拉基米爾·普京等國家lingdao人的虛擬內(nèi)容均被偽造過。
3、引發(fā)自動化網(wǎng)絡(luò)攻擊： 該技術(shù)導(dǎo)致使用 bot 和自動化系統(tǒng)發(fā)起的網(wǎng)絡(luò)攻擊大幅增加，提高了網(wǎng)絡(luò)犯罪分子的攻擊成功率。全球范圍內(nèi)網(wǎng)絡(luò)攻擊的攀升就證明了這一點——網(wǎng)絡(luò)攻擊比去年增加了 38%。此外，網(wǎng)絡(luò)犯罪分子還可以利用基于人工智能的僵尸網(wǎng)絡(luò)發(fā)起大規(guī)模 DDoS 攻擊，致使其攻擊目標(biāo)的服務(wù)器癱瘓和服務(wù)中斷。
4、克隆人工智能工具： 盡管開發(fā)人員快速響應(yīng)去更新語言中的漏洞，但網(wǎng)絡(luò)犯罪分子已經(jīng)找到了繞過限制的方法。今年早些時候，Check Point 軟件技術(shù)公司研究團(tuán)隊報告了網(wǎng)絡(luò)犯罪分子正在暗網(wǎng)上分發(fā)和銷售他們自己修改的 ChatGPT API。伴隨最新版 ChatGPT4.0 的發(fā)布，市場上出現(xiàn)了一種新型攻擊活動。這種攻擊活動旨在盜取和出售高級帳戶，讓買家無限制地使用該工具的新功能。
監(jiān)管人工智能學(xué)習(xí)的必要性
雖然人工智能無疑是未來發(fā)展方向，但包括 OpenAI 聯(lián)合創(chuàng)始人之一埃隆·馬斯克在內(nèi)的專家們都要求對人工智能實施更廣泛的監(jiān)管。他們在一份公開請愿書中呼吁，在符合倫理的訓(xùn)練能夠落實之前暫時停止這些工具的開發(fā)，同時歐盟等國際機構(gòu)已經(jīng)在制定自己的人工智能法律，并提出了重視網(wǎng)絡(luò)安全和數(shù)據(jù)安全需求的提案。在我國，近年來也在逐步強化對人工智能的規(guī)范引導(dǎo)。中國國家新一代人工智能治理專業(yè)委員會2019年發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，2021年又發(fā)布《新一代人工智能倫理規(guī)范》，這一系列措施說明了各個政府對人工智能有序、安全發(fā)展的期待與重視。
人工智能監(jiān)管的挑戰(zhàn)在于人工智能模型學(xué)會的知識幾乎無法從這些模型中刪除。這意味著安全機制應(yīng)側(cè)重于防止收集或泄露某些類型的信息，而不是完全刪除知識。如今，人工智能和機器學(xué)習(xí)是幫助提高網(wǎng)絡(luò)安全功能的兩大支柱。事實上，由于當(dāng)前企業(yè)網(wǎng)絡(luò)系統(tǒng)的復(fù)雜性和分散性，傳統(tǒng)的人工監(jiān)控、管理和風(fēng)險控制已無法滿足需求。在今年Check Point CPX全球大會上，以預(yù)防為先的思路，通過AI對抗AI的安全解決方案受到了與會來賓的重點關(guān)注。
如今，用戶已經(jīng)可以在Check Point 的 ThreatCloud AI 中看到該技術(shù)應(yīng)用于網(wǎng)絡(luò)安全領(lǐng)域的示例。ThreatCloud AI 是一款基于人工智能的威脅防御解決方案，它是 Check Point 軟件技術(shù)公司所有產(chǎn)品背后的大腦，每天能夠不斷掃描網(wǎng)站、電子郵件、物聯(lián)網(wǎng)設(shè)備、移動應(yīng)用等，做出 20 億次安全決策。
Check Point中國區(qū)技術(shù)總監(jiān)王躍霖表示：“打贏與網(wǎng)絡(luò)犯罪分子的競賽仍是首要任務(wù)之一，我們必須確保環(huán)境及時更新且準(zhǔn)備就緒，從而有效應(yīng)對當(dāng)前和未來的所有威脅?，F(xiàn)在，Check Point有幾款解決方案充分展示了人工智能在網(wǎng)絡(luò)安全領(lǐng)域的無限可能性。為了降低與高級人工智能相關(guān)的網(wǎng)絡(luò)風(fēng)險，我們建議企業(yè)管理者應(yīng)時刻保持‘預(yù)防為先’的安全理念，在開發(fā)或部署任何AI技術(shù)時，首先應(yīng)確保其安全性，從而真正安全有效的通過AI技術(shù)提高自身核心競爭力。”
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
