企業導入 RAG 知識庫，如何避免機密資料外洩？

必須採用「100% 地端部署 (On-Premise)」搭配開源模型。並於檢索層導入 LLM-Guard 零信任邊界防禦與 PII 去識別化技術，確保資料絕對不出內網。

地端部署大型語言模型 (LLM) 該如何估算 GPU VRAM 規格？

VRAM 需求取決於「模型參數大小」、「併發人數」與「推論框架 (如 vLLM/SGLang)」。一般 8B 模型搭配 vLLM PagedAttention，單張 24GB 顯卡即可滿足中小型企業基礎併發。

生成式 AI 的幻覺 (Hallucination) 問題能解決嗎？

無法 100% 根除，但透過高精度的 RAG 檢索增強生成、Chunking 策略優化與 Prompt 護欄，實務上可將企業客服或智庫的 AI 幻覺率壓低至商用標準的 5% 以下。

Research | TonTon H.-D. Huang Ph.D. | AI × Cyber-Security

研究專長 Research Expertise

🔐

AI × 資安

LLM-Guard 零信任防禦、惡意程式行為分析、Android 安全架構、威脅情報

🤖

大型語言模型

地端 LLM 部署、RAG 防幻覺優化、Prompt Engineering、AI Agent 工作流

🎤

語音處理

ASR 錯誤校正、聲紋識別、語音去噪、全雙工語音 Agent（<300ms）

📝

自然語言處理

NER 事件擷取、機器閱讀理解（BERT/SQuAD）、文本糾錯與相似度分析

👁️

電腦視覺

彩色視覺化惡意程式偵測（R2-D2/C-3PO）、少樣本工業 AOI 缺陷檢測

🏛️

AI 治理

ISO/IEC 42001 落地、企業 AI 導入戰略、Big 4 顧問視野 × FDE 實戰

ScholarGPS Google Scholar

博士 — 國立成功大學 資訊工程學系

Ph.D., Dept. Computer Science and Information Engineering, National Cheng Kung University

2010/09/15 ~ 2019/01

The Intelligent Knowledge Management Laboratory (IKMLab)，指導教授：高宏宇博士 (Prof. Hung-Yu Kao)

論文：基於深度學習的網路威脅異常分析 (Deep learning based anomaly analysis in cyber threats)

週遊列校_No.09@痛痛的人生 — 國立成功大學

學術發表 (Publications)

ScholarGPS | Google Scholar

2018 IEEE BigData R2-D2: Android Malware Detections

TonTon H.-D. Huang* and Hung-Yu Kao, "R2-D2: Color-inspired Convolutional Neural Network (CNN)-based Android Malware Detections", IEEE International Conference on Big Data 2018, Seattle, WA, USA, Dec 10–13, 2018.

2018 arXiv Hunting the Ethereum Smart Contract

TonTon H.-D. Huang, "Hunting the ethereum smart contract: Color-inspired inspection of potential attacks", arXiv preprint, arXiv:1807.01868, 2018.

2019 Soft Computing C-3PO: Click-sequence-aware Recommendation

TonTon H.-D. Huang* and Hung-Yu Kao, "C-3PO: Click-sequence-aware DeeP Neural Network (DNN)-based Pop-uPs RecOmmendation", Soft Computing, Vol. 23, no. 22, pp. 11793–11799, 2019. (CiteScore 5.1 / Impact Factor 3.732；Q2)

2014 Soft Computing Type-2 Fuzzy Malware Ontology

TonTon H.-D. Huang*, C.-S. Lee, M.-H. Wang, and Hung-Yu Kao, "IT2FS-based ontology with soft-computing mechanism for malware behavior analysis," Soft Computing, vol. 18, no. 2, pp. 267–284, 2014.

顯示更多研究 ▼

2017 TAAI Deceptive Advertising Detection

TonTon H.-D. Huang*, Chia-Mu Yu, and Hung-Yu Kao, "Data-Driven and Deep Learning Methodology for Deceptive Advertising and Phone Scams Detection", TAAI 2017, Taipei, Dec 1–3, 2017.

TonTon H.-D. Huang* et al., "Malware Behavioral Analysis System: TWMAN," IEEE SSCI 2011, Paris, Apr. 11–15, 2011.

TonTon H.-D. Huang* et al., "Ontology-based intelligent system for malware behavioral analysis," WCCI 2010, Barcelona, Jul. 18–23, 2010.

TonTon H.-D. Huang* et al., "Applying FML and Fuzzy Ontologies to Malware Behavioral Analysis," FUZZ-IEEE 2011, Taipei, Jun. 27–30, 2011.

TonTon H.-D. Huang* et al., "An IT2FLS-based Malware Analysis Mechanism: MiT," IEEE SMC 2013, Manchester, Oct. 13–16, 2013.

TonTon H.-D. Huang* et al., "TWMAN+: A Type-2 Fuzzy Ontology Model for Malware Behavior Analysis," IEEE SMC 2012, Seoul, Oct. 14–17, 2012.

TonTon H.-D. Huang*, "Poster: Adaptive Data-Driven and Region-Aware Detection for Deceptive Advertising," IEEE S&P 2016, San Jose, May 23–25, 2016.

TonTon H.-D. Huang* et al., "Fuzzy markup language for malware behavioral analysis," in On the Power of Fuzzy Markup Language, Springer-Verlag, 2012, pp. 113–131.

歷年學術與業界專題演講

🎤 2006–2022 演講一覽 (30+ 場) ▼

2022/10/20：國立臺南大學：AI for Cybersecurity & Security of AI 2021/11/22：國立台北商業大學：資訊與決策科學研究所專題演講 2021/04/21：國立成功大學：創意產業設計研究所 2021/03/30：國立臺灣大學：除了 CV 與 Chatbot 之外的 AI 2021/03/13：國立成功大學：看見你的聲音，聽見你的文字 2020/12/25：國立雲林科技大學：智慧辨識產業服務研究中心 2020/11/12：淡江大學：手把手帶你跳坑 ASR 聲紋識別及 NLP 機器閱讀理解 2020/10/19：國立臺南大學：資訊工程學系 2020/03/27：國立臺南大學：手把手帶你翻轉菸酒生 2017/04/29：國立成功大學：機器學習技術與應用介紹 2017/02/20：中華電信學院：深度學習在網路安全的應用 2016 HadoopCon：Deep Learning to Defend Against Deceptive Ads & Scams 2016 國際資安台灣高峰會：Applying Deep Learning to Defend Against Deceptive Ads 2016 RSA USA (Cheetah Mobile Booth)：Data-Driven Mobile Security 2015/12/11：元智大學：Talk is cheap, Show me the code. 2015/05/28：國立成功大學：Android 逆向工程分析 2014 Workshop on Botnets of Taiwan：實體異質惡意行為分析架構 2014/11/20：內政部警政署：網路安全與 Linux 教育訓練 2013 NSC-Inria International Program：TAO Team, Inria, France 2013 NSC-Inria International Program：LIAS Lab. ENSMA, France 2012/11/19：國立臺南大學：University of Essex 課程說明會 2012/11/07：康寧大學：校友經驗分享 2012 Research Collaboration Workshop for Top UK-TW Universities 2011/11/22：曼徹斯特大學計算機科學系：Malware Behavioral Analysis 2010 憲兵司令部刑事鑑識中心：封閉型惡意程式網路建置之探討 2010 國家安全局網路安全訓練：惡意程式收集與行為分析進階課程 2010/05/07：國立高雄第一科大：業界師資演講 - 抬丸郎 2009/06/17：國立臺南大學：社會新鮮人就業系列講座 2009/04/10：立德大學：就業升學講座 2006/10/30：立德大學資訊工程系：升學講座

國際訪問學者 Visiting Scholar

2012 台法（NSC-Inria）聯合團隊人員交流計畫
Visiting Scholar, TAO Team, Inria Saclay-IDF, Univ. Paris-Sud | 2013/09
流浪到法國
2010 台灣與英國頂尖大學前期合作研究計畫
Visiting Scholar, University of Essex, School of Computer Science and Electronic Engineering | 2011/09 ~ 2012/05
週遊列校_No.10@英國艾賽克斯大學 | 流浪到英國