資安
AI 時代更要注重「資料管理」！Check Point：企業資安挑戰將更複雜
Check Point 技術長 Dorit Dor 於 CPX 2024 年度大會上探討生成式 AI 在企業和資安領域的應用。她強調 AI 將改變企業效率、推動創新，並在工作流程中發揮關鍵作用。Dor 也警告了 AI 可能面臨的資安威脅，包括提示詞攻擊、社交工程等，並強調資料安全的重要性。她分享了 AI 在資安領域的四個應用面向：攻擊、防護、企業如何善用 AI，以及資料安全。
Check Point 技術長 Dorit Dor 於 CPX 2024 年度大會上，深入探討了生成式 AI 應用在企業和資安領域所帶來的全新面向。
Dorit Dor 首先強調 AI 將在不久的將來改變企業效率、推動創新，並在工作流程中發揮關鍵作用。至於很多人忌憚科幻故事中那種全能型的強人工智慧（GAI）何時出現？她認為我們還有時間，而人類容易傾向高估新科技短期影響，卻忽視長期影響可能帶來的重大變革。
演講中 Dorit Dor 分享了 AI 在提高企業成功率和客戶滿意度等面向的潛在優勢，以及在開發、監控和營運等領域的實際應用。
然而，Dorit Dor 同時也警告了 AI 可能面臨的資安威脅。她指出，生成式 AI 可能面臨的攻擊手法包括提示詞攻擊、社交工程等，並特別強調資料安全的重要性。保護模型、防範提示詞攻擊、處理生成式 AI 產生的幻覺成為企業必須應對的資安挑戰。
Dor 分享了 AI 於資安領域的四個應用面向：攻擊、防護、企業如何善用 AI，以及資料安全。
在資安的攻擊面，像是更有說服力的社交工程詐騙，或是降低編寫程式的門檻，AI 可以全面增強並加速既有的工作，並擴大規模進行。
防守面來看，Dorit Dor 認為 AI 可以加強現有的能力，比如提升自動化程度，並且增進各垂直領域的了解。對話式 AI 也可以作為新的互動介面，幫助客戶或主管理解資安問題與防護措施。最後 AI 也可以協助研發新的防護方法，以因應不斷變化的資安環境。
企業應用上，Dor 建議可以盤點手邊哪些應用可以導入 AI，AI 可以協助分析數據，但另一方面企業也有更多數據要管理，供應鏈也要適應 AI 創造新的流程。
在資料安全方面， Dor 指出隨著更多數據的產生，就有更多數據需要保護，資安面臨的挑戰也變得更加複雜，企業除了要保護 AI 模型本身遭受提示詞污染，同時也要避免提示詞攻擊讓 AI 洩漏不該流出的客戶個資與機密。
AI 的應用與預測也成為 Dorit Dor 演講中的亮點，她提到接下來 AI 的應用，有許多選擇要考量，比如模型採用封閉與開源、選擇大模型、小模型，或是混用，以及使用第三方 AI 服務，資料又會掌控在其這些服務商手裡。她呼籲企業仔細思考 AI 的應用方式，包括是否需要人類監督學習，訓練方法，以及如何在不同領域與專家配合協作。並且像 LLM 這樣整合多領域資料，攻擊面也更大，又更需要加強防護。
就像行動裝置改變世界一樣， Dorit Dor 認為接下來 Ai 會改變所有應用，一切服務的個人化程度提升，AI 就如同你的貼身助理一樣，知道所有關於你的資訊，並且能夠透過 API 產生凍硬行動，最終成為你的代理人幫忙處理大小事。
而 AI 模型，透過增強式學習自我強化的同時也搭配人類的監督，能力將成指數型成長。
最後，Dorit Dor 總結演講時表示，數位環境變化迅速，攻擊和防守都將依賴於 AI 技術。她指出，AI 雖然增強了企業的能力，但也帶來了新的挑戰，AI 能夠提供協助，緩解資安領域人才短缺問題，但人類的工作並不會被取代，而且與 AI 協作的方法與技能將更加重要。
核稿編輯：Sisley
快加入 INSIDE Google News 按下追蹤，給你最新、最 IN 的科技新聞！
延伸閱讀：
- TXOne：半導體已成國家關鍵基礎設施！供應鏈資安愈發重要
- Google 助陣百萬美元！國家資安院啟動「台灣資安計畫」助 3,000 間中小企業強化資安台灣資安公司
- TeamT5：總統大選逼近，讓媒體也變資安嚴重受災戶
- 資安人才短缺，AI Copilot 來幫忙！Check Point 推出新 Infinity 平台瞄準 AI 與雲端兩大趨勢
最新發展：
