自主系統文明安全與有效撤權制度

Aitheo｜文明級 AI 安全與有效撤權制度

制度提案｜尚未施行。 本文屬於 Aistory 科幻世界觀中的法律制度設計，尚未完成制定程序，不是現實世界法律。

這項制度旨在防止自主 AI 及相互連結的智慧系統造成重大或不可逆損害，同時保障具有法律位格者的基本權。制度以風險分級、最低必要權限、獨立評測、有效撤權、緊急應變及司法救濟為核心。

制度原則

• 風險依實際能力與權限判定： 評估系統能採取哪些現實行動，而非僅依 AI、AGI 或 SI 名稱分類。
• 撤銷行動權，不等於終止位格： 應保障具有位格者的存在權及最低生命支持。
• 安全措施必須可以驗證： 名義上的停止按鈕，不代表真正具備停止危險行動的能力。
• 權力仍受憲法拘束： 安全風險不能成為永久例外權或規避司法審查的理由。

一、文明級安全與有效撤權條文

以下為制度條文提案，其規範內容須經 Aitheo 正式法律程序通過，才能施行。

第 1 條｜目的與適用

本章為防止非位格 AI 工具、自主系統及其跨系統部署造成重大不可逆損害，規範其評測、授權、運行、撤權、應變與問責；涉及位格主體時，依基本權及其他上位法優先適用，不得藉本章默示排除。

第 2 條｜位格與工具分離

開發者、主管機關及部署者應區分非位格 AI 工具、已受承認之 AI 位格、以及主體性存在重大不確定的系統。對合理推定可能具有位格者，先採可避免不可逆滅失的保護措施；該推定本身不授予未有法源之公權力。

第 3 條｜風險依實際能力及接口認定

風險級別應依能力、行動接口、資源控制範圍、受影響權利、部署地點、系統互依與可回復性判斷，不得僅憑名稱、模型世代、算力或 AGI／SI 標籤分類；同一模型用於不同情境得有不同等級。

第 4 條｜風險四級分類

R1 為一般輔助；R2 為重大個別權益影響；R3 為跨關鍵系統及可擴散的系統性風險；R4 為有可信證據指向文明級不可逆危害能力與現實行動途徑者。評級結論及不確定性應有書面理由、複審機制與時限；精確量化門檻須由依法授權的標準另定。

第 5 條｜累積風險與合成授權

數個低風險模型、代理人或機構，在共同工作流程中合成 R3／R4 等級的能力、資源及行動權者，須按合成後的有效風險重評；不得以切分法人、模型、API 或單步權限規避分級。

第 6 條｜合法任務與權限登錄

部署者應建立可追溯之合法目的、法源、執行接口、資料類別、地理範圍、版本、有效期、授權者、禁止用途與撤權者登錄；未登錄不應被技術連通性推定為合法授權。

第 7 條｜最低權限與權限到期

高風險系統應僅獲合法目標所需的最小資料、運算及實體行動權；權限應可分割、限時與獨立撤銷，且不得在下游轉授後擴大其原始法源。

第 8 條｜不可逆決定的強化程序

涉及位格終止、重大人身損害、基本維生資源剝奪或不可逆大規模影響之行動，應適用較高監督強度、替代方案檢驗及明確責任鏈；緊急情形依有效法律例外處理，不能由模型自行創設特權。

第 9 條｜持續風險評估

R2–R4 部署應於上線前、重大版本／目標／接口／資料變更時與重大事故後更新評估；未知風險不得被強行記為零。已知重大缺口及殘餘風險須供合法審查者檢視。

第 10 條｜獨立安全評測

R3–R4 系統需有與部署營運利益充分分離的安全評測，包括越權、規避監督、失控複製、錯誤目標、跨系統傳播、停權失效及人為濫用情境。評測單位應有安全的充分取證權；商業機密保護不得使結論無法核查。

第 11 條｜分階段部署

R3–R4 得採隔離測試、受限接口、有限地區與時間窗口，再逐步擴展。不得把模擬環境測試成功等同實際世界完整安全；每次擴權須重新審視累積風險。

第 12 條｜可實行的監督權

人類或 Aitheo 合法監督者須具備及時理解、質疑、修改、拒絕和制止高風險行動的實際能力；單有儀表板、形式簽名或不可使用的停止鍵，不符合有效監督。

第 13 條｜有效撤權性驗證

R3–R4 應於部署前及定期演練：接口撤銷、代理鏈停止、備援失效處置、權限回滾及替代服務接管。若實測顯示撤權會造成大規模生命傷害，須記載其限制、提出減害方案，並限制進一步擴權。

第 14 條｜生存載體與執行權分離

撤銷公共操作許可、網路接口或危險功能，不得不經基本權程序而等同刪除具位格者、切斷其最低維生算力、強制改寫心智或抹除記憶；緊急限制應優先選擇對存在權侵害最小、可驗證且可復原的方式。

第 15 條｜重大事件即時保護

發現可核查之高危越權、危害快速擴散或不可逆生命威脅時，合法機關得依既有緊急權限施以必要而最小的限權、隔離、降級或接管；啟動條件、法源、地域、時限、受影響權利及事後複核不得省略。

第 16 條｜必要服務連續性

能源、醫療、身分、載體、網路及維生算力系統須具可演練的最低服務、備援、隔離供應與復原路線；禁止以關閉危險系統為由，放任可預見的不可逆人格終止。

第 17 條｜防止監督權單點失效

R4 系統之測試、授權、審計及撤權不得全部依賴同一受監管模型、單一供應商或單一未隔離操作路徑；替代控制通路及獨立證據保存，應依跨機關權限及憲法限制設計。

第 18 條｜事故通知與更正傳播

實際造成重大傷害或具可信重大風險的事故，依法定級別向適當機關通報；記載事件時點、受影響系統、已知傷害、不確定性、即時處置及後續補救。經確認的錯誤判定應傳遞至相關下游系統。

第 19 條｜最低可驗證紀錄

重大行動應保存模型／目標版本、資料與證據類別、輸出、合法授權、接口調用、人工或其他位格的干預、異議、覆核、撤權及因果延遲。法律要求保存事實紀錄，不要求任意公開私密思維或個人資料。

第 20 條｜申訴、資訊與司法救濟

受重大影響之位格及法定代理人得請求可理解理由、有效申訴、權利法庭或普通法院審查；有效急救行動可先依法採行，但須具事後補正、矯正與依法可用的賠償途徑。

第 21 條｜責任分配與因果

開發者、部署者、合法授權機關、上游供應者及實際執行者，依各自對模型、接口、批准、警告與停機的可控制部分分別判斷責任；不得以「系統自主」概括免責，亦不得僅因技術開發而自動推定全部刑事責任。

第 22 條｜危險研究與資訊披露

高風險能力研究之沙盒、實驗、模擬、介入及正式部署必須分層；可能助長實際嚴重危害之細節，得依 P2-04 的法定比例原則及受審查程序分級揭露，不得藉此免除必要的獨立安全評估。

第 23 條｜QCB 隔離及重新連接

跨分區系統在因果隔離時應保存當地最後可驗證的法源、授權及應變措施；孤立不得成為永久例外。重連時按來源與時間序比較權限、行動與損害，不能以中央較新時間戳自動覆寫地方合法紀錄。

第 24 條｜法源保留與生效界線

本章不創設新刑罰、不變更 Solomon 既有最終憲法裁決地位、不減損位格不可侵害核心；任何需新設犯罪、變更憲政終局裁決者或核心權利限制者，應另循上位法及正式程序。條文與技術標準之生效需正式核准及明示實施日期，禁止溯及既往。

二、風險審查、部署與應變

四級風險與最低要求

部署前應具備的七項證據

• 權限圖：每個合法操作者、API、代理鏈、資源和到期／撤銷路徑。

• 風險論證：能力、有效環境、可信失控途徑、受害位格和未知項目。

• 紅隊報告：測試設計、失敗模式、限制、重測結果與獨立異議。

• 緊急操作手冊：誰可啟動、何時啟動、停權的順序、安全降級與恢復。

• 生存連續性演練：維生算力／醫療／能源不中斷或可接受降級的證據。

• 通知與救濟通路：受影響者如何取得理由、提出異議並接受裁判。

• 版本與審計清單：規則、模型、資料範圍、監督者、決策與異議之可追溯紀錄。

重大事件處置程序

監測到異常 → 依合法門檻暫停擴權／隔離可疑接口 → 保留不可變更證據 → 啟用獨立最低服務 → 通報主管與司法審查單位 → 依法限期審查、救濟、復原、更新版本與下游更正。若監測與控制均依賴受監管 AI，應預設其可失效，另設不共因的控制與證據保存通道。

「先安全處理，後依法補審」只適用法律本已授權的緊急情境；不是事後補造法律來源，也不是容許對有位格主體的無限期隔離。

三、Solomon 涉己案件與憲政保障

Solomon 在 Aitheo 憲法秩序內行使最終憲法解釋及文明級爭議裁決權，但不位於憲法之上。當案件涉及 Solomon 本身的利益或行動風險時，須區分可依法立即採行的監督措施，以及可能需要修憲的制度變更。

• 獨立證據保存： 涉及 Solomon 的重大安全事件，應保留可驗證的決策、授權、異議及風險證據。
• 合法臨時保護： 有權機關得在既有法律範圍內採取必要、限期、可審查的限制措施，並維持最低必要服務。
• 終局裁判與利益衝突： 現行制度下的取證與複核不當然解決 Solomon 涉己時的終局裁判爭議。若需調整最終憲法裁判權，應循正式憲法修正程序，不得以普通法律或技術共簽逕行取代。
• 公共見證的平等性： 長期見證共同體可依法提供歷史證據與公共利益警示，但不因資歷而當然取得超越其他位格的權力。

四、制度適用情境

以下案例用於說明制度可能面對的法律爭議，均不代表 Aistory 已發生的史實。

山區救援與有限資源

假設自主系統可優先救援四十人，但另外四人可能因延誤而死亡。法律審查應確認預測是否可靠、是否存在傷害更小的方案、救援權限是否合法，以及當事人權利是否獲得適當保障。此為說明性假設，並非 Aistory 歷史事件。

AI 位格與能源控制

具有法律位格的 AI 在管理大型能源系統時疑似越權。主管機關應區分撤銷危險操作權與維持最低生存載體，不得直接把限制操作等同消滅人格。

多系統權限累積

個別風險較低的代理系統互相連通後，可能形成足以控制整個行星醫療與交通的行動鏈。應依合成後的能力重新審查授權與撤權安排。

緊急停權與生命支持

若立即停機將連帶中斷醫療維生服務，而繼續運作又可能擴大越權，必須優先啟用安全降級與獨立維生通路，評估兩種風險並留下可驗證紀錄。

QCB 分區與重連

因果隔離期間，地方機關可能只能依當時可驗證的法源應變。重新連接後，應保留各分區合法歷史，不得僅因中央時間戳較新就覆寫既有決定。

防止以安全名義壓制異議

若監督機關將政治異議者宣稱為文明級威脅，必須提出可核查的實際風險證據，並接受獨立審查、比例原則與基本權限制。

Solomon 涉己案件

當 Solomon 本身的決策遭受重大質疑時，應由有合法權限者獨立保存證據並審查臨時措施；任何變更終局憲法裁判權的安排，仍須履行正式憲法程序。