全球網路資安領導廠商趨勢科技呼籲，AI工程師與IT領導人應妥善建立程式開發最佳實務原則並部署安全系統，否則公司將暴露於資料竊取、資料下毒、網路勒索等其他攻擊的風險當中。
 
趨勢科技企業平台長金敬秀表示：「對全球企業來說，AI很可能是百年一遇的機會。然而，那些急於導入、卻未採取適當防護措施的企業，最後可能釀成弊大於利的後果。正如我們的報告指出，目前有太多AI基礎架構都是使用不安全和／或尚未修補的元件所打造，這就像為駭客開啟了一道入侵的大門。」
 
趨勢科技2025上半年AI資安現況報告（Trend State of AI Security Report, 1H 2025）點出幾項AI相關的資安挑戰：

1、關鍵元件的漏洞及漏洞攻擊手法
AI應用程式的企業皆須用到多種特殊的軟體元件和框架，而這些元件和框架很可能含有一般常見的軟體漏洞。這份報告揭露了ChromaDB、Reis、NVIDIA Triton和NVIDIA Container Toolkit等核心元件的一些零時差漏洞與漏洞攻擊手法。

2、意外暴露在網際網路上
AI系統不小心暴露在網際網路上時，駭客便有可能刺探到這些漏洞。根據這份報告的數據顯示，趨勢科技發現200多台ChromaDB伺服器、2,000台Redis伺服器及10,000多台Ollama伺服器在沒有認證機制的情況下暴露在網路上。

3、開放原始碼元件的漏洞
AI框架和平台都使用開放原始碼軟體函式庫來提供一些常用的功能。然而，開放原始碼元件經常含有漏洞，最終更遺留在營運系統當中，使得它們更難被發現。最近舉行的Pwn2Own Berlin新增了一個有關AI的競賽類別，研究人員在會中揭露了Redis向量資料庫一個來自過時Lua元件的漏洞。

4、容器相關弱點
AI基礎架構都是在容器上執行，這意味著它們也同樣暴露於雲端和容器環境的資安漏洞與威脅。如同這份報告指出，Pwn2Own研究人員揭露了一個有關NVIDIA Container Toolkit的漏洞。企業應仔細淨化輸入資料，並監控執行時期行為來防範這類風險。

NHS SLAM技術長Stuart MacLellan表示：「人們對於AI模型及這些模型可以或應該用來做些什麼，還有很多疑問。現在，我們比以往更能掌握裝置的可視性以及有哪些應用程式正在被使用。將這些資料彙整後，再根據政策和流程來產生關於人員及其活動的動態風險導向警報，會是一件很有趣的事。如此一來，就能真正讓企業對某些產品做出有組織的決策。」
 
為了防範上述風險，不論開發人員社群或客戶都必須在安全與上市時程之間取得更好的平衡。具體步驟可包括：

• 改善修補管理與漏洞掃描。
• 盤點所有軟體元件，包括第三方函式庫和子系統。
• 導入容器管理安全最佳實務原則，包括使用最精簡的基礎映像與執行時期防護工具。
• 透過組態設定檢查，以確保像伺服器這類 AI 基礎架構元件沒有暴露在網路上。

 
進一步了解資安人員及駭客如何運用AI，請點選以下連結：https://www.trendmicro.com/vinfo/us/security/news/threat-landscape/trend-micro-state-of-ai-security-report-1h-2025