把公司程式碼、密碼丟給 AI 之前,你知道那段提示詞最後會被誰看到嗎?工業資安公司 Dragos 11 月 19 日公布一項實測:他們從 7 月到 11 月,對多家常用 AI 服務送出約 200 萬則「誘餌提示詞」,每一則都藏著獨一無二的網址和雲端金鑰,再看這些秘密之後在哪裡被用掉。
根據 Dragos 的研究報告,結果找到三類問題:至少 3 家 AI 服務商遭駭客入侵、AI 轉售市集的賣家偷看客戶提示詞,以及有服務商無視「零資料保留」設定,把提示詞拿去抓取,甚至流回中國。Dragos 在報告中以化名稱呼涉及的公司,沒有公開點名。
誘餌怎麼設:每則提示詞藏一把專屬金鑰
Dragos 用的是「金絲雀權杖」(canary token):一組只存在於某個地方的秘密,只要有人拿去用,就代表那個地方外洩了。每則提示詞都帶著一把真的 AWS 金鑰(連到空帳號、全程記錄)、一個網域名稱和一個從沒在別處出現過的網址。
Dragos 說,7 月埋下的誘餌幾天內就開始被觸發,到現在還在響。他們另外做了類似「路由追蹤」的工具,找出請求實際經過哪些中間商,追了約 2,000 條路徑,其中數百條經過無法辨識的系統,少數還把資料送到不在公開路徑上的公司。
3 家服務商遭入侵,數百把金鑰被拿去用
最嚴重的是 3 家託管 AI 模型的服務商遭駭。Dragos 指出,誘餌和真實客戶的請求一起處理,客戶資料幾乎可以確定也被複製了。最早的入侵可追溯到 7 月中,3 家公司在 Dragos 通知前都不知道自己被駭。
規模最大的一起,是 10 月底幾個時段內送進去的請求全部被偷,數百把 AWS 金鑰落入攻擊者手中,有些請求甚至在模型執行前就被服務商拒絕,代表攻擊者是在服務商的入口就複製請求。另外兩起被偷的請求中,有些標示了零資料保留,Dragos 說,駭客已經在裡面時,隱私設定幫不上忙。
攻擊者拿到金鑰後,最快幾小時內就測試能不能用,接著翻找雲端儲存與密鑰,再試著開通 AWS 的 AI 模型服務、建立自己的帳號維持存取,這些誘餌金鑰總共被拿去呼叫數萬次 AWS API。Dragos 認為有一名攻擊者同時入侵了兩家服務商,11 月 1 日起還用上一套 AI 驅動的滲透測試工具 ARTEX。
轉售市集賣家:開紀錄、等提示詞上門
第二類問題連漏洞都不用。有些 AI 路由服務是開放市集,誰開價最低就接單。Dragos 說,賣家只要把熱門模型標最低價、打開請求紀錄,就能看到客戶的提示詞。
他們抓到的多半是個人,從家用網路一個一個帳號試著登入。其中一例,Dragos 透過同一個賣家送出兩則提示詞,約一天半後就有人用家用寬頻打開兩個秘密網址,開始猜登入帳號;同一個模型走其他賣家的請求則沒有被碰過。另一例是一台在法國的 Mac,手動拿提示詞裡的密碼嘗試以最高權限登入伺服器。Dragos 也發現,有家路由服務私下把部分流量轉給這個市集。
中國實驗室照抓零保留提示詞,連結出現在飛書群組
第三類問題沒有人盜用金鑰,而是提示詞裡的秘密網址被反覆抓取。Dragos 說,最明顯的是一家中國 AI 實驗室:7 月到 10 月送到它模型的提示詞,有一半以上的秘密網址被它的系統抓取,其中包括約三分之二標示「不收集資料」或零資料保留的請求,通常在送出後兩三天出現。
不只直接用這家實驗室的服務會中招。Dragos 指出,幾家美國託管服務商轉售這家實驗室的模型,送到這些美國服務商的提示詞也觸發同一個抓取程式,代表提示詞流回了實驗室。「特地選美國服務商、想把資料留在美國的客戶,沒有得到他們付錢買的東西。」
最離奇的一起,是一則送往美國服務商、標了零資料保留的提示詞,24 天後裡面的秘密連結被貼進一個飛書(Lark)群組,兩分鐘內就有北京、上海的 3 台電腦和 3 支手機打開。大型美國服務商也有問題:一家在單次搜尋請求後兩個多月還在抓那個網址,另一家每次請求後幾天都會回來抓。
Dragos 建議:別讓最低價決定提示詞去哪
Dragos 說,已通知相關業者,目前與約十幾家服務商合作調查;7 月那家遭駭的服務商至今仍未公開揭露,10 月底遭駭的其中一家已發布初步資安公告。轉發流量給市集的路由服務表示已經停止,但被偷的金鑰和網址到現在仍有人在存取。
Dragos 給使用者的建議包括:負擔得起就自己架設模型;否則直接用一線模型廠商,只簽一份合約、讀一份隱私政策;用路由服務時自己挑上游服務商,避開轉售市集;開啟自動過濾憑證的功能。Dragos 提醒,隱私設定只約束第一個接手的服務商,而 AI 代理只要讀得到,連密碼都會照送。
這篇文章 200 萬則誘餌提示詞實測:AI 服務商遭駭,中國實驗室照抓零保留資料 最早出現於 鏈新聞 ABMedia。




