隨著人工智慧（AI）與機器學習（ML）技術日益普及，各行各業對 AI 安全專家的需求正以驚人速度成長，然而市場上的人才供應卻遠遠不足。根據科技媒體 Spiceworks 指出，這類職位不僅薪資優渥，也為新進專業人士提供了形塑領域發展的獨特機會。
現今企業在導入 AI 系統時，逐漸意識到確保這些技術安全的關鍵性。AI 安全專家扮演著核心角色，他們的職責類似於傳統的滲透測試，但應用於 AI 系統而非基礎設施。他們需要評估 AI 系統的漏洞，例如提示注入（prompt injection）、模型操縱、訓練資料中毒、未經授權的資料洩露以及 AI 代理（AI agent）的遏制失敗等問題。這些專家會測試 AI 模型是否可能被誤導以洩露敏感資訊、繞過安全控制或執行非預期的自主動作。
金融服務公司 The Capital Index 的創辦人 Serhii Nikolaichuk 形容，AI 安全專家身兼多職：他們是 AI 的「保鑣」，決定 AI 能接觸的範圍；是「測謊機」，核實模型、資料及運行機器是否如其所稱；也是「黑盒子紀錄器」，記錄 AI 的所有動作，以便出錯時能夠追溯。這類職位涵蓋範圍廣泛，可能以 AI 安全、應用程式安全、ML 安全、紅隊演練、安全架構、AI 風險或 AI 治理等不同頭銜出現。
由於 AI 安全領域相對新穎，人才庫仍顯不足。ioSENTRIX 創辦人 Omair Manzoor 表示，具備網路安全和 AI 雙重知識的專業人士，基本年薪可達 14 萬至 18 萬美元（約新台幣 450 萬至 580 萬元），資深或高度專業化的職位在部分市場甚至能超過 20 萬美元（約新台幣 650 萬元）。這份高薪來自於對 AI 系統建構、連接、權限管理、部署、攻擊模式的全面理解，而非僅僅是會使用 ChatGPT 等工具。
頂尖候選人通常來自傳統滲透測試或應用程式安全的背景，並額外具備 AI/ML 知識。布里瓦德學院（Brevard College）的電腦科學與 AI 管理助理教授 Joshua Andrews 強調，紮實的安全基礎技能，例如像攻擊者一樣思考並理解信任邊界，至關重要。此外，由於許多 AI 技術部署於雲端環境，雲端運算經驗也顯得格外重要。除了技術能力，溝通和判斷力也是不可或缺的商業技能，例如向非技術高層解釋風險，並判斷可接受的風險程度。隨著 AI 相關法規不斷發展，AI 安全專家也需掌握最新的法規動態，確保 AI 系統能安全且負責任地被運用。
