人工智慧技術與網路犯罪之間的較量已經進入白熱化階段，因為人工智慧已證明自己具有巨大的幫助，特別是在檢測和阻止網路釣魚和惡意軟體分發方面。然而，網路犯罪分子已經發明了透過對話溢出攻擊等方式規避人工智慧安全組件的方法。這種使用人工智慧作為相應機器學習演算法大綱的更嚴重方式比材料或內幕事實具有更多的安全風險。
了解會話溢出攻擊
討論 電子郵件安全系統中部署的人工智慧和機器學習演算法會遭受溢出類型的攻擊，這些演算法在電子郵件對話中的隱藏文字中包含邪惡的想法。這些隱藏材料的目的是使人工智慧安全系統不會將惡意電子郵件歸類為來自朋友的無害訊息，從而逃避偵測。駭客試圖透過模仿現實生活中的通訊模式來做到這一點，這樣用戶就可以相信該消息來自真實來源，並點擊惡意連結、共享關鍵訊息，或在許多情況下與機器人進一步互動。對話線程。
打擊會話溢出攻擊
為了降低對話溢出攻擊的風險，安全專業人員需要豐富機器學習和人工智慧來改進現有的身份驗證電子郵件解決方案。這增加了模型解釋不同攻擊（包括溢出對話）的能力，並透過識別正常電子郵件模式中的偏差提供高級異常檢測。
制定針對對話駭客攻擊的全面防禦策略需要將人工智慧分析與關鍵字過濾、寄件者信譽檢查器和 URL 沙箱等傳統安全部分結合使用。透過選擇多元策略，組織可以很好地增強針對不同攻擊選項的安全性。
此外，需要經常對員工進行培訓，以教導他們如何識別新威脅，並幫助他們使用最佳方式有效報告詐欺電子郵件。
人類專業知識的作用
深入、橫向思維的對話溢出攻擊證明了網路威脅的動態特徵以及相應組織尋求主動、多維網路安全解決方案的必要性。公認的人工智慧和機器學習技術可能無法解決和防止網路安全漏洞，儘管它們有很多好的一面。
促進協作和意識
利用人工智慧技術與人類技能以及威脅情報、協作和號召用戶行動相結合，可以增強企業抵禦網路威脅溢出攻擊的能力，並最大限度地保護其數位資產。在網路安全世界中，不斷變化的空間、即時關注和適應對於掌握駭客行為至關重要。
只有透過追蹤新的網路威脅才能實現針對溢出攻擊的網路防禦創新。安全官員可以透過訂閱情報來源來了解最新動態，即新興趨勢和威脅，使他們能夠根據需要改變方法。
來源：https://www.cryptopolitan.com/cybersecurity-against-conversation-attacks/