[華淵電子報]「AI警探崛起：犯罪偵防之新趨勢」線上研討會：面對詐騙進化，犯罪偵防迎來全新挑戰與轉機
華淵鑑價與台灣法治會計學會於2025年7月18日共同舉辦「AI警探崛起：犯罪偵防之新趨勢」線上研討會。此次活動由華淵鑑價副總經理陳淑珍和台灣法治會計學會理事長暨東吳大學會計系教授李坤璋共同主持，並邀請到臺灣嘉義地方檢察署檢察官陳昱奉，為與會者深入解析AI如何影響詐騙、偽證、身分冒用及心理操控等犯罪型態，以及司法與偵防體系面臨的全新挑戰。陳檢察官擁有豐富完整的學經歷，現職為臺灣嘉義地方檢察署檢察官，他曾是臺灣高等檢署查緝詐欺及資通犯罪督導中心專案檢察官，並具有公證人與律師等多重專業背景，是不可多得的資深反詐專家。
AI成為犯罪新利器：從輔助到主導
人工智慧（AI）正迅速滲透各行各業，不僅成為企業數位轉型的重要工具，也加速了犯罪模式的演進。AI的模仿與預測能力，當落入不法分子手中，便轉化為構建高度擬真詐騙的利器。
如今，詐騙集團已廣泛運用AI技術，包括語音生成、深偽影像（deepfake）、智慧對話機器人等，能精準模擬語氣、身份與情境，使詐騙更具欺騙性與難以察覺。2025年7月，美國國務卿盧比歐的聲音遭AI偽造並用於外交聯絡，引發全球震撼，凸顯AI在國安、外交領域的潛在風險。
AI詐騙進化：從擬真沉浸到操控情緒的心理戰
隨著AI技術的進步，詐騙手法也不斷升級，不僅變得更擬真，更具沉浸感。例如，高雄一名女子接到自稱檢警的來電，對方不僅能詳細說明案情，還傳送一段模擬法庭的影片，片中包含她的個資與所謂「證物」，讓她深信不疑，最終匯出1800萬元。事後調查發現，該影片中的人物、語音與背景，全由AI生成。這類詐騙仰賴多模態AI技術，結合語音模仿、影像合成與即時互動，不僅話術精準，還能依受害者反應靈活調整，讓人無從辨別真偽，顯示AI詐騙早已超越單一技術問題，演變為結合心理操控與高科技的複合式危機。
AI最大的潛力也隱含其最可怕的風險：預測並操控人類情緒。透過分析社群平台與交友行為，AI可量身打造理想虛擬對象，與受害者進行情感培養，建立信任後再引導其進入假投資平台，逐步榨乾資產。這類「殺豬盤」詐騙甚至運用生成式AI製作投資簡報、假專家評論及虛假媒體報導，營造出一套看似專業真實的投資情境，令受害者在無形中陷入情緒與理智雙重失守的陷阱。
KYC驗證機制正面臨崩解
AI生成技術也對傳統身份驗證制度（KYC, Know Your Customer）帶來嚴峻挑戰。銀行與電信業者仰賴的生物特徵辨識，如今已被AI輕易偽造，包括聲音、臉孔與證件，使詐騙者能輕易冒用他人身份。更諷刺的是，KYC愈嚴格，需蒐集的個資愈多，一旦外洩，反助長AI詐騙的擬真度，形成「越防詐，越成詐」的悖論。專家甚至提出警語：「KYC若崩潰，可能演變為Kill Your Career」，意即一旦身份遭盜用，受害人可能因背負不實紀錄而失去職涯與信譽。
詐騙集團規模化、產業化
AI技術不僅降低詐騙門檻，也使詐騙行業走向規模化、產業化。據資料指出，台灣詐騙黑市的年營收已突破千億元新台幣，資金流向房市、股市、加密貨幣與恐怖活動，成為黑色經濟核心。
在勞動結構上，詐騙集團由上游的技術人員與金主掌控全局，前線車手與帳戶人則多為弱勢族群，甚至被誘騙至境外從事高風險工作，呈現嚴重的不平等與剝削結構。
政府與司法體系的應對與挑戰
雖然AI也能成為打擊犯罪的工具，各國政府仍面臨法律與技術落差的雙重挑戰。
荷蘭CAS系統與EncroChat案
荷蘭警方導入「CAS系統」，透過機器學習分析犯罪熱點與行為預測，有效提升巡邏效率。歐洲刑警組織（EUROPOL）則透過大數據分析破獲「EncroChat加密通訊」犯罪網絡，查扣逾百公噸毒品與大批資產。
丹麥首創生物特徵著作權保護
2025年6月，丹麥文化部通過全球首例修法，將臉部、聲音與身體列為「個人生物特徵著作權」保護範圍，未經同意不得複製、模仿或濫用，違者將面臨法律制裁。此舉為國際提供了可參考的制度範例，可能成為未來AI治理的國際通則。
AI進入法庭：真假證據難辨的司法困境
AI生成技術也對司法系統造成威脅。陳檢指出，未來法庭中可能出現AI合成的影音、通聯紀錄或證詞，使法官與檢察官難以判別真偽。若深偽證據未被識破，不僅會導致錯判，還將破壞司法威信。目前《刑法》與《個資法》對AI生成內容的定義尚不清楚，導致執法與審判無法精確應對此類新型證據，凸顯立法急迫性。
結語：全民防詐，制度升級刻不容緩
AI雖為21世紀最重要的科技革命之一，但其所帶來的負面衝擊已逐漸浮上檯面，特別是在犯罪應用與心理操控領域。陳檢強調，全民需提升「數位識讀與認知防衛」能力，了解AI詐騙如何透過情緒操控、話術PUA影響判斷。陳檢認為保護隱私，特別建議，僅此八字，「珍惜生命遠離手機」，個人應保持良好作息，避免深夜與陌生人長時間對話，並學習辨識假聲音與影像，以減少受騙機率，才能在AI詐騙的浪潮中自保。
政府方面應加快修法腳步，補足AI證據鑑定、數位偽證、跨境詐騙與平台責任等相關風險控管體系規範，並推動跨部門合作機制，包括金管會、法務部、科技部與教育部共同制定防詐科技政策，將AI從犯罪工具轉化為防詐利器。
正如陳檢最後所言：「別問AI能為你做什麼，而要問你能讓AI為你做什麼。」這句話的核心在於，我們應該成為AI的主導者，與其期待AI自動替我們解決問題，不如反思我們如何設計與引導它，讓科技真正為人所用。AI是一面鏡子，清楚映照出人性的善與惡；我們選擇用它行善或作惡，正決定著未來社會能否在科技浪潮中穩健前行、生存下去。
人工智慧（AI）正迅速滲透各行各業，不僅成為企業數位轉型的重要工具，也加速了犯罪模式的演進。AI的模仿與預測能力，當落入不法分子手中，便轉化為構建高度擬真詐騙的利器。
如今，詐騙集團已廣泛運用AI技術，包括語音生成、深偽影像（deepfake）、智慧對話機器人等，能精準模擬語氣、身份與情境，使詐騙更具欺騙性與難以察覺。2025年7月，美國國務卿盧比歐的聲音遭AI偽造並用於外交聯絡，引發全球震撼，凸顯AI在國安、外交領域的潛在風險。
AI詐騙進化：從擬真沉浸到操控情緒的心理戰
隨著AI技術的進步，詐騙手法也不斷升級，不僅變得更擬真，更具沉浸感。例如，高雄一名女子接到自稱檢警的來電，對方不僅能詳細說明案情，還傳送一段模擬法庭的影片，片中包含她的個資與所謂「證物」，讓她深信不疑，最終匯出1800萬元。事後調查發現，該影片中的人物、語音與背景，全由AI生成。這類詐騙仰賴多模態AI技術，結合語音模仿、影像合成與即時互動，不僅話術精準，還能依受害者反應靈活調整，讓人無從辨別真偽，顯示AI詐騙早已超越單一技術問題，演變為結合心理操控與高科技的複合式危機。
AI最大的潛力也隱含其最可怕的風險：預測並操控人類情緒。透過分析社群平台與交友行為，AI可量身打造理想虛擬對象，與受害者進行情感培養，建立信任後再引導其進入假投資平台，逐步榨乾資產。這類「殺豬盤」詐騙甚至運用生成式AI製作投資簡報、假專家評論及虛假媒體報導，營造出一套看似專業真實的投資情境，令受害者在無形中陷入情緒與理智雙重失守的陷阱。
KYC驗證機制正面臨崩解
AI生成技術也對傳統身份驗證制度（KYC, Know Your Customer）帶來嚴峻挑戰。銀行與電信業者仰賴的生物特徵辨識，如今已被AI輕易偽造，包括聲音、臉孔與證件，使詐騙者能輕易冒用他人身份。更諷刺的是，KYC愈嚴格，需蒐集的個資愈多，一旦外洩，反助長AI詐騙的擬真度，形成「越防詐，越成詐」的悖論。專家甚至提出警語：「KYC若崩潰，可能演變為Kill Your Career」，意即一旦身份遭盜用，受害人可能因背負不實紀錄而失去職涯與信譽。
詐騙集團規模化、產業化
AI技術不僅降低詐騙門檻，也使詐騙行業走向規模化、產業化。據資料指出，台灣詐騙黑市的年營收已突破千億元新台幣，資金流向房市、股市、加密貨幣與恐怖活動，成為黑色經濟核心。
在勞動結構上，詐騙集團由上游的技術人員與金主掌控全局，前線車手與帳戶人則多為弱勢族群，甚至被誘騙至境外從事高風險工作，呈現嚴重的不平等與剝削結構。
政府與司法體系的應對與挑戰
雖然AI也能成為打擊犯罪的工具，各國政府仍面臨法律與技術落差的雙重挑戰。
荷蘭CAS系統與EncroChat案
荷蘭警方導入「CAS系統」，透過機器學習分析犯罪熱點與行為預測，有效提升巡邏效率。歐洲刑警組織（EUROPOL）則透過大數據分析破獲「EncroChat加密通訊」犯罪網絡，查扣逾百公噸毒品與大批資產。
丹麥首創生物特徵著作權保護
2025年6月，丹麥文化部通過全球首例修法，將臉部、聲音與身體列為「個人生物特徵著作權」保護範圍，未經同意不得複製、模仿或濫用，違者將面臨法律制裁。此舉為國際提供了可參考的制度範例，可能成為未來AI治理的國際通則。
AI進入法庭：真假證據難辨的司法困境
AI生成技術也對司法系統造成威脅。陳檢指出，未來法庭中可能出現AI合成的影音、通聯紀錄或證詞，使法官與檢察官難以判別真偽。若深偽證據未被識破，不僅會導致錯判，還將破壞司法威信。目前《刑法》與《個資法》對AI生成內容的定義尚不清楚，導致執法與審判無法精確應對此類新型證據，凸顯立法急迫性。
結語：全民防詐，制度升級刻不容緩
AI雖為21世紀最重要的科技革命之一，但其所帶來的負面衝擊已逐漸浮上檯面，特別是在犯罪應用與心理操控領域。陳檢強調，全民需提升「數位識讀與認知防衛」能力，了解AI詐騙如何透過情緒操控、話術PUA影響判斷。陳檢認為保護隱私，特別建議，僅此八字，「珍惜生命遠離手機」，個人應保持良好作息，避免深夜與陌生人長時間對話，並學習辨識假聲音與影像，以減少受騙機率，才能在AI詐騙的浪潮中自保。
政府方面應加快修法腳步，補足AI證據鑑定、數位偽證、跨境詐騙與平台責任等相關風險控管體系規範，並推動跨部門合作機制，包括金管會、法務部、科技部與教育部共同制定防詐科技政策，將AI從犯罪工具轉化為防詐利器。
正如陳檢最後所言：「別問AI能為你做什麼，而要問你能讓AI為你做什麼。」這句話的核心在於，我們應該成為AI的主導者，與其期待AI自動替我們解決問題，不如反思我們如何設計與引導它，讓科技真正為人所用。AI是一面鏡子，清楚映照出人性的善與惡；我們選擇用它行善或作惡，正決定著未來社會能否在科技浪潮中穩健前行、生存下去。
圖左為主持人-華淵鑑價副總經理陳淑珍；圖中為主講嘉賓-臺灣嘉義地方檢察署檢察官陳昱奉；圖右為共同主持人-臺灣法治會計學會理事長暨東吳大學會計學系教授李坤璋