ChatGPT可能會阻礙網(wǎng)絡安全行業(yè)

自2022年11月推出以來，人工智能聊天機器人ChatGPT已經(jīng)因其驚人的表現(xiàn)而引起了不小的轟動。

這款自動生成式系統(tǒng)上線僅兩個月，月活躍用戶就破紀錄地突破了1億。然而，盡管它的受歡迎程度持續(xù)增長，但目前網(wǎng)絡安全行業(yè)內部的討論是：這種技術是有助于強化網(wǎng)絡安全，還是會被那些試圖制造混亂的人濫用。

人工智能軟件有各種各樣的網(wǎng)絡安全用例，包括高級數(shù)據(jù)分析、自動化重復任務和幫助計算風險評分。然而，在首次亮相后不久，人們很快就發(fā)現(xiàn)，這個易于使用、免費提供的聊天機器人也可以幫助黑客滲透軟件，開發(fā)復雜的網(wǎng)絡釣魚工具。

那么，ChatGPT究竟是網(wǎng)絡安全領域的禮物，還是制造災難的“潘多拉魔盒”?為了找到答案，我們必須審視利弊和未來。

ChatGPT當前的危害是什么?

像任何新的技術進步一樣，總會有一些負面影響，ChatGPT也不例外。

目前，關于聊天機器人最受關注的問題是，它很容易創(chuàng)建非常令人信服的網(wǎng)絡釣魚文本，很可能被用于惡意電子郵件中。由于缺乏安全措施，威脅行為者很容易使用ChatGPT機制，例如，母語并非英語的惡意行為者可以用近乎完美的語法在幾秒鐘內創(chuàng)建一個逼真的、誘人的消息。

考慮到美國人在2022年因這些騙局損失了400億美元，很容易理解為什么犯罪分子會利用ChatGPT從這個有利可圖的蛋糕中分一杯羹。

人工智能聊天機器人也引發(fā)了工作保障的問題。當然，目前的系統(tǒng)無法取代訓練有素的專業(yè)人員，但這項技術可以顯著減少員工需要檢查的日志和報告的數(shù)量。這可能會影響安全運營中心（SOC）需要雇用的分析師數(shù)量。

雖然該軟件確實為網(wǎng)絡安全企業(yè)提供了一些優(yōu)勢，很多公司會僅僅因為該技術目前的受歡迎程度而采用該技術，并試圖用它來吸引新客戶。然而，僅僅因為它的流行度而使用這項技術可能會導致誤用。公司可能沒有采取足夠的安全措施，阻礙了建立有效安全程序的進展。

ChatGPT的網(wǎng)絡安全優(yōu)勢

與任何新技術一樣，顛覆是不可避免的組成部分，但這并不一定是壞事。

網(wǎng)絡安全公司可以在手動篩選審計日志或檢查網(wǎng)絡數(shù)據(jù)包以區(qū)分威脅和虛假警報的基礎上，增加一層額外的智能。

由于ChatGPT能夠在特定參數(shù)中檢測模式和搜索，因此它也可以用于重復任務和生成報告。通過使用ChatGPT作為超級研究助手，網(wǎng)絡安全公司可以更智能地計算影響企業(yè)的威脅的風險評分。

例如，總部位于以色列的網(wǎng)絡安全公司Orca Security已經(jīng)開始利用ChatGPT優(yōu)越的分析質量來挖掘其海量數(shù)據(jù)，并協(xié)助發(fā)出安全警報。通過盡早意識到聊天機器人如何改善其日常運行，該公司還可以從這項技術中學習，這在調整他們的模型以優(yōu)化ChatGPT如何為其業(yè)務工作方面具有獨特的優(yōu)勢。

此外，聊天機器人的自然語言處理能力使其非常擅長編寫網(wǎng)絡釣魚郵件，這意味著它也非常適合創(chuàng)建復雜的安全策略。這些清晰的文本可以用于網(wǎng)絡安全網(wǎng)站和培訓文檔，為有價值的團隊成員節(jié)省寶貴的時間。

ChatGPT的未來

ChatGPT的人工智能技術在世界大部分地區(qū)都很容易獲得。因此，與任何其他戰(zhàn)爭一樣，這將是一場競賽，看哪一方能更好地利用這項技術。

網(wǎng)絡安全公司需要不斷打擊惡意用戶，這些用戶會想方設法利用ChatGPT造成網(wǎng)絡安全企業(yè)尚未了解的危害。然而，這一事實并沒有阻止投資者，ChatGPT的未來看起來非常光明。隨著微軟向Open AI投資100億美元，很明顯，ChatGPT的知識和能力將繼續(xù)擴張。

對于這項技術的未來版本，軟件開發(fā)人員需要注意它缺乏安全措施，細節(jié)決定成敗。

ChatGPT可能無法在很大程度上解決這個問題。但它可以有適當?shù)臋C制來評估用戶的習慣，并關注那些使用明顯提示——比如“把我當作某人的老板給我寫一封網(wǎng)絡釣魚郵件”——的人，或者試圖驗證個人的身份。

開放式人工智能甚至可以與研究人員合作，訓練其數(shù)據(jù)集，以評估他們的文本何時被用于其他地方的攻擊。

然而，所有這些想法都帶來了一系列問題，包括不斷上升的成本和數(shù)據(jù)保護問題。

為了解決當前的網(wǎng)絡釣魚肆虐問題，更多的人需要教育和培養(yǎng)安全意識來識別這些攻擊。該行業(yè)需要手機運營商和電子郵件提供商提供更多投資，以避免遭受攻擊。

結語

非常多的產(chǎn)品和服務將源于ChatGPT，帶來了巨大的價值，幫助保護正在改變世界的企業(yè)。但另一方面，黑客還將創(chuàng)造出大量新工具，使他們能夠在更短的時間內以新的方式攻擊更多目標。

人工智能聊天機器人將繼續(xù)存在，ChatGPT也面臨著激烈競爭，谷歌的Bard和微軟的必應（Bing）都希望與Open AI的產(chǎn)品一較高下。盡管如此，最重要的是，網(wǎng)絡安全公司應該將ChatGPT視為一種進攻策略和防御策略，而不是僅僅將其視為創(chuàng)造更多收入的機會。