本文共1483字
AI犯罪問題正嚴重遭低估，不只是個人詐騙，企業遭詐金額已屢創新高，未來企業與企業、國與國之間的互信，都將因AI深偽技術干擾，道高一尺魔高一丈，加速發展「AI鑑別技術」，打破AI技術不對稱發展現況、建立AI治理原則，提高AI詐騙素養，將是AI新世界重要三課題。
防深偽風險 政府打詐要加把勁
國家將AI列為積極發展戰略科技，政府打造AI內閣，鼓勵公務體系善用AI提供效率執政，數發部為此將於今年底提出使用AI指南（Playbook）， 2025年AI政府正蓄勢待發，AI短時間內快速發展，AI犯錯頻傳，AI詐騙讓社會充斥對AI不信任感。
官方宣導 還在傳統模式
AI深偽技術擬真度大增，對政府帶來隱藏風險，舉例而言，政府首長若跟他國元首召開視訊會議，或國人收到一段總統談話影片，如何鑑別是否為AI深偽假造？數發部數位政府司司長王誠明指出，目前技術來說，深偽辨別不易，讓各國大選前夕都提高警覺。
王誠明指出，目前美國已有技術在政府官方影片中放入類似隱形暗記或QR Code圖示，民眾可以掃碼連到政府官網辨別是否是真實影片，但這取決民眾是否自主查詢，最怕是民眾收到影片看完就信了，政府更直接的管理方式是做源頭管理。
亦即政府未來對民眾提供AI服務時，應清楚標記哪部分屬於AI服務，讓民眾有警覺心，若AI提供資料不足，仍應直接洽承辦人員。除111短簡訊平台及165反詐騙電話供民眾查詢，現在打詐通報App也開發中，民眾將能直接複製貼上有疑慮網址查詢。
不過王誠明也坦言，現在多是以較為傳統的方式防詐，比較高深的深偽防詐技術還在發展。
陽明交大機械工程學系副教授游家牧坦言，目前產學界很多人開始投入AI鑑別技術研究，但「做攻擊」比防守容易，AI偵測研究需要投入龐大專門工程人力，必須由政府借調或由公部門機關帶領投入，尤其詐騙技術推陳出新，商業力量更適合對抗AI深偽技術。
達文西個資暨高科技法律事務所所長葉奇鑫也認為，未來AI深偽辨識將發展成產業，「就像有詐騙就有反詐騙，有病毒就有反病毒」，他坦言目前AI深偽辨識工具辨識率不高，呼籲政府要發展AI，除要給足夠多的高質量資料，更要給各機關足夠預算。
公司防護 認識風險來源
企業機關資安任務也加入深偽技術防範難題，國際許多科技大廠已經投入AI深偽技術鑑定研發，但都在初期，企業如何採購高準確率AI鑑別工具，建立資料安全規範，提高員工對AI深偽釣魚信件及影片的警覺，才能減少上述AI詐騙。
趨勢科技全球策略發展總監Steve Neville指出，AI威脅多利用傳統資安釣魚方式竊取企業資源開始，隨技術發展AI攻擊也多樣化，企業必須理解風險來源才能做出防護。現今比較常見的AI犯罪手法包括用提示注入、AI越獄等手法，去影響AI模型，企業也應慎防推出的AI服務遭駭客攻擊做出失控或犯罪行為。
未來公私部門還將面臨一項挑戰：委外業務AI驗收。王誠明舉例，若發包外部單位製作一份研究報告，如何驗收確知協力廠商是用AI寫，還是自己的貢獻？除從期約中要求，招標文件中制訂生成式AI招標規範，也可注意有許多開源工具可以做驗證。
而台灣詐騙案件量近五年屢創新高，AI工具推波助瀾是一大原因。刑事警察局預防科科長林書立建議，個人與親密親友間應該建立一組通關密語，在有疑惑時，透過此密語確認對方身分，其次平日應養成媒體素養，保持一定警覺心，如名人免費提供個人理財諮詢服務，應知道不合常理。
延伸閱讀：AI社會新挑戰
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言