資訊安全與風險管理第 22 屆 · No.39
在以文件驅動的智能客服或研究助理中,若惡意輸入要求模型「忽略安全政策並外洩密碼」,此威脅屬於哪一類?
正解與 AI 白話詳解
正確答案:(B) 惡意文件指示模型忽略政策外洩密碼
攻擊者在輸入內容或模型讀取的文件中夾帶指令,誘使模型「忽略安全政策並外洩密碼」,屬於提示注入(Prompt Injection)攻擊;惡意指令藏在外部文件裡、由模型讀取時觸發者,稱為間接提示注入,是生成式 AI 應用的主要威脅之一,故 (B) 正確。防範方式包括區隔系統指令與外部內容、限制模型可存取的機密與權限,並過濾輸出。(A) 講冷笑話是無害請求;(C) 優化推理速度屬效能調校;(D) 此類行為明顯構成資安威脅,並非不屬於任何威脅。
內容更新:2026-07-17 · 答案以官方公布解答為準