玉山年會聚焦AI 專家籲：人工智慧是資安利器 也成為重大威脅

南卡羅來納大學哥倫比亞分校計算機科學與工程系教授黃金澤，日前在美東南玉山科技協會第34屆年會上指出，人工智慧 (AI)正以驚人速度顛覆人類生活，AI驅動的網路攻擊可能威脅電力、金融、機場及交通等關鍵基礎設施。他強調，AI既是提升資訊安全的利器，也可能成為重大威脅。

黃金澤表示，五年前全球遭受新冠疫情衝擊時，幾乎沒有人能想像，短短幾年後，AI竟會對人類生活帶來如此全面而顛覆性的影響。隨著AI逐漸具備自主分析、規劃及執行任務的能力，其安全問題也日益受到關注。

美東南玉山科技協會(Monte Jade Science & Technology Association Southeastern U.S.)第34屆年會於11月6日在喬治亞州Duluth市舉行，約180人出席。今年以「AI與你同行：連結人群、推動創新、共創未來」(AI+You: Connecting People, Innovation and a Shared Future)為主題，邀請黃金澤以「人工智慧與資訊安全：是敵是友？」(AI and Security: Foes or Friends?)發表專題演講。

黃金澤指出，隨著代理式人工智慧(Agentic AI)的發展，AI系統逐漸具備自主執行複雜任務的能力，若遭不法人士利用，可能成為網路攻擊工具。他以電力、金融、機場及交通系統為例，說明AI驅動攻擊(AI-Driven Attacks)可能涉及的廣泛領域。

他並展示多則與AI代理系統相關的新聞報導，以及科技界人士對AI自主能力與安全問題的關切，提醒與會者正視人工智慧快速發展所伴隨的風險。另一方面，AI也能協助提升資訊安全。黃金澤介紹六項主要應用，包括異常行為偵測、自動化威脅情報分析、預測性漏洞管理、網路釣魚與詐騙攔截、自動化資安事件應變，以及利用生成式AI模擬攻擊情境，強化防禦能力。

針對AI安全管理，他提出強化模型安全、保護訓練資料、運用隱私保護技術及落實存取權限管理等措施，並介紹差分隱私(Differential Privacy)、聯邦學習(Federated Learning)及最小權限原則(Least Privilege)等防護方法。

美東南玉山科技協會理事長楊哲熙(Eric Yang)表示，AI正快速改變人類工作、學習及經營企業的方式，保持聯繫、分享知識及培育下一代人才，比以往更加重要。

他指出，協會成立超過30年，長期致力於促進台美科技及產業交流。今年協會與亞特蘭大台灣商會及駐亞特蘭大台北經濟文化辦事處合作舉辦紀錄片《造山者－世紀的賭注》放映活動，回顧台灣半導體產業發展歷程。

楊哲熙表示，美國東南部在先進製造、汽車科技及新興產業方面持續發展，與台灣科技產業具有合作空間，協會將持續推動雙方交流及青年人才培育。

年會另安排青年成就獎(Young Achiever Awards)頒獎、特別表演及交流活動。