權限失控
系統可在未批准的身份、租戶或權限邊界外存取受限資料或執行高影響動作。
企業 AI 決策控制
企業應在甚麼情況下停止 AI 項目？
在試點開始前定義停止條件。當強制控制失敗、商業理據不再成立，或沒有具名負責人願意營運成果時，項目就應停止；不應只憑示範是否吸引作決定。
作者 Onyx Devs Lab · 發布 · 更新
是決策，不是挫敗保護資本及營運風險
強制關口私隱、權限、安全及問責
留下證據原因、負責人、處置及覆核日期
需要立即停止的條件
模型表現或簡報效果不能抵銷以下失敗。
商業理據失效
經核實的流程量、可實現收益、採用路徑或完整營運成本已不支持投資。
沒有問責負責人
交付團隊離場後，沒有具名業務負責人承擔流程、例外、剩餘風險及營運預算。
應暫緩並重新設計的訊號
目標可能仍然正確，但目前方案尚未產生可信證據時，應先暫緩。
數據或評估失敗
缺少代表性數據、標準答案不可靠，或測試集沒有涵蓋常見、邊界及高影響案例。
流程不匹配
操作人員繞過系統、人工覆核成本抵銷收益，或方案不符合真實決策節奏。
可靠性或成本越界
延遲、故障恢復、可用性或每次完整流程成本持續超出約定範圍。
如何使用停止條件記錄
預先固定關口
建設前列明強制控制、量度門檻、證據負責人，以及誰可停止或重啟項目。
收集決策證據
把測試版本、輸入、結果、例外、人工介入、營運成本及使用情況放在同一可覆核記錄。
進行關口覆核
逐項標記通過、失敗、未知或未測試；平均分不可掩蓋強制關口失敗。
記錄處置決定
選擇擴大、重設、暫緩或停止，並記錄原因、剩餘責任、資產交接及下次覆核日期。
常見問題
停止 AI 試點是否代表失敗？
不一定。若停止能避免不安全上線或繼續投資於已失效的商業理據，就是一個有效的受控結果。
誰應擁有停止權？
至少包括業務負責人，以及與該流程相關的私隱、安全、保安或受監管風險負責人；權限應在測試前寫明。
已投入成本應否影響決定？
不應。決定應基於未來預期價值、剩餘風險及取得下一項可信證據的成本，而非已經花掉的金額。
這是法律或安全意見嗎？
不是。這是由服務商撰寫的實施指南，應由機構的法律、私隱、安全、風險、財務及行業專家調整。