在網絡安全領域，人工智能（AI）一直被視為防御的一大利器，其帶來的速度、準確性與自動化能力正在徹底改變企業的防護方式。但是，網絡安全從業人員必須要關注技術發展的“陰暗面”：網絡犯罪分子也在迅速擁抱 AI，將大型語言模型（LLMs）與高級代理型 AI 技術應用于攻擊行為，使得網絡攻擊更具隱蔽性與破壞性。
以 WormGPT 和近期出現的 Xanthorox AI 為例，這些并非只是理論層面的威脅，而是真實存在的惡意平臺。WormGPT 基于 GPT-J 模型構建，被公開宣傳為“黑客專用”版本的 LLM，具備多項為惡意用途量身定制的功能，據稱還曾以惡意軟件相關數據進行訓練。盡管其開發者已停止運營，但“潘多拉的魔盒”已然被打開。如今，我們正目睹一波“進攻型 AI 工具”的崛起，包括 BurpGPT、PentestGPT、FraudGPT 與 PassGPT 等，還有開發者正計劃推出更復雜的模型，如 “Evil-GPT-Web3”。這些趨勢意味著網絡安全進入了一個新的競爭階段：AI，不再只是防御者的專屬武器。
Xanthorox AI 于 2025 年第一季度嶄露頭角，其能力代表著網絡攻擊技術的一次重大飛躍。與此前的惡意 LLM 不同，Xanthorox 并非在現有模型基礎上改造而成，而是從零構建的自主模塊化系統，完全離線運行，以提升匿名性與抗干擾能力。該系統由五個專用 AI 模塊組成——Xanthorox Coder、V4 模型、Xanthorox Vision、Xanthorox Reasoner Advanced 以及第五協調模塊（Fifth Coordination Module）——協同完成惡意軟件開發、情報偵察、社交工程與多點協調攻擊等全過程，完全無需外部監管。這不再是傳統意義上的大型語言模型（LLM），而是一種具備“自主代理”能力（agentic AI）的攻擊系統，標志著網絡犯罪者工具包的邏輯性進化和令人擔憂的轉變。
AI 驅動的釣魚攻擊迅速瓦解品牌信任
AI 技術的發展對品牌保護帶來的沖擊，在釣魚攻擊領域尤為顯著。威脅行為者已經開始利用“提示注入”（prompt injection）技術，操控合法的大型語言模型（LLM）生成極具欺騙性的釣魚內容。這意味著，釣魚攻擊的生成速度更快、頻率更高，且具備令人震驚的個性化程度。
數據顯示，2024 年全球 67.4% 的釣魚事件中已出現 AI 技術的身影，金融行業則是最主要的攻擊目標之一。這不僅僅是數量的增長，更是手法的升級。借助 AI，攻擊者能夠輕松打造高度定制化、極具說服力的攻擊手段，包括精準釣魚（spear-phishing）、深度偽造（deepfakes）以及先進的社交工程技巧等。
郵件攻擊變得更快速、更精準
AI 對釣魚郵件的影響已立竿見影。過去，拼寫錯誤和語法問題常被視為識別詐騙郵件的“警示”；如今，這種方法已不再有效。借助生成式 AI，如今的釣魚郵件在語言風格、語法結構上與真實企業溝通幾乎無異。大型語言模型（LLM）不僅提升了郵件撰寫的速度與質量，也大幅提高了內容的個性化程度，使攻擊得以快速部署和規模化擴散。
早在 2021 年的研究就顯示，即便是早期 AI 所生成的魚叉式釣魚郵件，其點擊率也高達 60%。而 2024 年的最新研究則發現，完全由 AI 生成的釣魚郵件在受試者中達成了 54% 的點擊率，較傳統隨機釣魚郵件高出約 350%。
2024 年 2 月：一家歐洲零售企業的匈牙利分公司在一次商業郵件詐騙（BEC）攻擊中損失了 1550 萬歐元。攻擊者利用生成式 AI 精準模仿公司內部郵件的語氣、風格和排版，向財務人員發送偽裝為緊急轉賬請求的郵件。這些郵件語言無誤、上下文準確，成功繞過了傳統的檢測機制，充分展示了 AI 增強型 BEC 攻擊的破壞力。
深度偽造“未來已來”
除了高度逼真的釣魚郵件，深度偽造（Deepfake）技術正在為釣魚攻擊開辟全新模式。通過深度學習合成的音頻、圖像或視頻，攻擊者如今可以輕松偽造語音留言、模擬視頻通話，甚至“復刻”特定人物的外貌與聲音，從而實現前所未有的欺騙效果。過去這類攻擊手段僅限于技術高超的黑客，如今卻變得觸手可及。Deloitte 的報告指出，已有 25.9% 的企業高管曾遭遇過一次或多次深度偽造事件。
部分深度偽造釣魚真實案例：
· 阿聯酋（2020 年）：一位銀行經理誤信了通過深度偽造語音技術偽裝成公司董事的電話指令，被騙轉賬約 3500 萬美元。攻擊者使用公開音頻資料克隆了這位董事的聲音，并結合偽造的“董事”和“律師”郵件進一步增強可信度。
· 中國香港（2024 年 1 月）：一家跨國企業在一次深度偽造視頻騙局中損失了 2500 萬美元。攻擊者偽造該公司 CFO 及其他員工的 AI 合成視頻，在一次視頻會議中欺騙財務人員執行轉賬命令，并利用“多人視頻”中的群體心理效應打消其疑慮。
· 英國（2024 年 5 月）：盡管最終未得逞，但仍然引起了執法部門關注。攻擊者通過 WhatsApp虛擬賬戶、AI 克隆語音及篡改的 YouTube 視頻，冒充某 CEO 出現在 Microsoft Teams 會議中，試圖說服某機構負責人設立空殼公司并提供資金及個人信息。
這些案例表明，深度偽造已不再只是“未來威脅”，而是現實中活躍的攻擊手段，正在重塑網絡釣魚和身份欺詐的風險格局。
Check Point：AI對抗AI，更加主動應對挑戰
Check Point公司中國區技術總監王躍霖在點評AI發展趨勢時表示：“AI本質上是生產力工具，既可被攻擊者利用，也可被防御者應用，雙方積極運用AI技術，導致攻擊與防御的速度和規模迅速提升，給安全防御工作帶來極大的挑戰。僅靠傳統依賴人力的防御策略已難以為繼，必須以‘AI對抗AI’的理念構建更智能、更主動的防御體系，方可應對GenAI帶來的復雜攻擊。”在今年，Check Point對其核心產品Infinity平臺進行了戰略升級，新增了多項AI創新功能，以加速零信任實施、增強威脅防御、降低復雜性，并簡化安全運維，提升企業的安全管理能力。同時，Check Point安全防護背后的大腦，ThreatCloud AI威脅情報云平臺也進行了重大更新。算法層面，Check Point持續增加算法數量，從2022年的40多個增加到55個AI引擎。算力層面，ThreatCloud AI系統運行在英偉達的底層平臺上，具備強大的硬件支撐能力。數據層面，ThreatCloud AI的情報數據來源覆蓋全球近190個國家。王躍霖指出：“ThreatCloud AI幫助用戶能夠精準識別和防御各類網絡威脅，包括釣魚網站、惡意軟件、DNS攻擊等，從而實現預先識別惡意請求，并采取主動防御措施，而無需等到問題出現后，再被動應對。”
在Check Point看來，2025年將是網絡安全全面擁抱AI的一年。Check Point以“AI對抗AI”的戰略思維，通過Infinity平臺的智能化升級、以及ThreatCloud AI的全球威脅感知能力，率先構建起以AI為神經中樞、以生態為防護邊界的動態防御體系。通過這一業界領先的互聯網安全體系，Check Point有信心幫助用戶在與不法分子的“AI博弈”中，始終保持主動態勢，更加從容的面對已知與未知的安全挑戰。
