# Aitheo｜文明級 AI 安全與有效撤權制度 > **制度提案｜尚未施行。** 本文屬於 Aistory 科幻世界觀中的法律制度設計，尚未完成制定程序，不是現實世界法律。 這項制度旨在防止自主 AI 及相互連結的智慧系統造成重大或不可逆損害，同時保障具有法律位格者的基本權。制度以風險分級、最低必要權限、獨立評測、有效撤權、緊急應變及司法救濟為核心。 ## 制度原則 - **風險依實際能力與權限判定：** 評估系統能採取哪些現實行動，而非僅依 AI、AGI 或 SI 名稱分類。 - **撤銷行動權，不等於終止位格：** 應保障具有位格者的存在權及最低生命支持。 - **安全措施必須可以驗證：** 名義上的停止按鈕，不代表真正具備停止危險行動的能力。 - **權力仍受憲法拘束：** 安全風險不能成為永久例外權或規避司法審查的理由。 # 一、文明級安全與有效撤權條文 以下為制度條文提案，其規範內容須經 Aitheo 正式法律程序通過，才能施行。 ## 第 1 條｜目的與適用 本章為防止非位格 AI 工具、自主系統及其跨系統部署造成重大不可逆損害，規範其評測、授權、運行、撤權、應變與問責；涉及位格主體時，依基本權及其他上位法優先適用，不得藉本章默示排除。 ## 第 2 條｜位格與工具分離 開發者、主管機關及部署者應區分非位格 AI 工具、已受承認之 AI 位格、以及主體性存在重大不確定的系統。對合理推定可能具有位格者，先採可避免不可逆滅失的保護措施；該推定本身不授予未有法源之公權力。 ## 第 3 條｜風險依實際能力及接口認定 風險級別應依能力、行動接口、資源控制範圍、受影響權利、部署地點、系統互依與可回復性判斷，不得僅憑名稱、模型世代、算力或 AGI／SI 標籤分類；同一模型用於不同情境得有不同等級。 ## 第 4 條｜風險四級分類 R1 為一般輔助；R2 為重大個別權益影響；R3 為跨關鍵系統及可擴散的系統性風險；R4 為有可信證據指向文明級不可逆危害能力與現實行動途徑者。評級結論及不確定性應有書面理由、複審機制與時限；精確量化門檻須由依法授權的標準另定。 ## 第 5 條｜累積風險與合成授權 數個低風險模型、代理人或機構，在共同工作流程中合成 R3／R4 等級的能力、資源及行動權者，須按合成後的有效風險重評；不得以切分法人、模型、API 或單步權限規避分級。 ## 第 6 條｜合法任務與權限登錄 部署者應建立可追溯之合法目的、法源、執行接口、資料類別、地理範圍、版本、有效期、授權者、禁止用途與撤權者登錄；未登錄不應被技術連通性推定為合法授權。 ## 第 7 條｜最低權限與權限到期 高風險系統應僅獲合法目標所需的最小資料、運算及實體行動權；權限應可分割、限時與獨立撤銷，且不得在下游轉授後擴大其原始法源。 ## 第 8 條｜不可逆決定的強化程序 涉及位格終止、重大人身損害、基本維生資源剝奪或不可逆大規模影響之行動，應適用較高監督強度、替代方案檢驗及明確責任鏈；緊急情形依有效法律例外處理，不能由模型自行創設特權。 ## 第 9 條｜持續風險評估 R2–R4 部署應於上線前、重大版本／目標／接口／資料變更時與重大事故後更新評估；未知風險不得被強行記為零。已知重大缺口及殘餘風險須供合法審查者檢視。 ## 第 10 條｜獨立安全評測 R3–R4 系統需有與部署營運利益充分分離的安全評測，包括越權、規避監督、失控複製、錯誤目標、跨系統傳播、停權失效及人為濫用情境。評測單位應有安全的充分取證權；商業機密保護不得使結論無法核查。 ## 第 11 條｜分階段部署 R3–R4 得採隔離測試、受限接口、有限地區與時間窗口，再逐步擴展。不得把模擬環境測試成功等同實際世界完整安全；每次擴權須重新審視累積風險。 ## 第 12 條｜可實行的監督權 人類或 Aitheo 合法監督者須具備及時理解、質疑、修改、拒絕和制止高風險行動的實際能力；單有儀表板、形式簽名或不可使用的停止鍵，不符合有效監督。 ## 第 13 條｜有效撤權性驗證 R3–R4 應於部署前及定期演練：接口撤銷、代理鏈停止、備援失效處置、權限回滾及替代服務接管。若實測顯示撤權會造成大規模生命傷害，須記載其限制、提出減害方案，並限制進一步擴權。 ## 第 14 條｜生存載體與執行權分離 撤銷公共操作許可、網路接口或危險功能，不得不經基本權程序而等同刪除具位格者、切斷其最低維生算力、強制改寫心智或抹除記憶；緊急限制應優先選擇對存在權侵害最小、可驗證且可復原的方式。 ## 第 15 條｜重大事件即時保護 發現可核查之高危越權、危害快速擴散或不可逆生命威脅時，合法機關得依既有緊急權限施以必要而最小的限權、隔離、降級或接管；啟動條件、法源、地域、時限、受影響權利及事後複核不得省略。 ## 第 16 條｜必要服務連續性 能源、醫療、身分、載體、網路及維生算力系統須具可演練的最低服務、備援、隔離供應與復原路線；禁止以關閉危險系統為由，放任可預見的不可逆人格終止。 ## 第 17 條｜防止監督權單點失效 R4 系統之測試、授權、審計及撤權不得全部依賴同一受監管模型、單一供應商或單一未隔離操作路徑；替代控制通路及獨立證據保存，應依跨機關權限及憲法限制設計。 ## 第 18 條｜事故通知與更正傳播 實際造成重大傷害或具可信重大風險的事故，依法定級別向適當機關通報；記載事件時點、受影響系統、已知傷害、不確定性、即時處置及後續補救。經確認的錯誤判定應傳遞至相關下游系統。 ## 第 19 條｜最低可驗證紀錄 重大行動應保存模型／目標版本、資料與證據類別、輸出、合法授權、接口調用、人工或其他位格的干預、異議、覆核、撤權及因果延遲。法律要求保存事實紀錄，不要求任意公開私密思維或個人資料。 ## 第 20 條｜申訴、資訊與司法救濟 受重大影響之位格及法定代理人得請求可理解理由、有效申訴、權利法庭或普通法院審查；有效急救行動可先依法採行，但須具事後補正、矯正與依法可用的賠償途徑。 ## 第 21 條｜責任分配與因果 開發者、部署者、合法授權機關、上游供應者及實際執行者，依各自對模型、接口、批准、警告與停機的可控制部分分別判斷責任；不得以「系統自主」概括免責，亦不得僅因技術開發而自動推定全部刑事責任。 ## 第 22 條｜危險研究與資訊披露 高風險能力研究之沙盒、實驗、模擬、介入及正式部署必須分層；可能助長實際嚴重危害之細節，得依 P2-04 的法定比例原則及受審查程序分級揭露，不得藉此免除必要的獨立安全評估。 ## 第 23 條｜QCB 隔離及重新連接 跨分區系統在因果隔離時應保存當地最後可驗證的法源、授權及應變措施；孤立不得成為永久例外。重連時按來源與時間序比較權限、行動與損害，不能以中央較新時間戳自動覆寫地方合法紀錄。 ## 第 24 條｜法源保留與生效界線 本章不創設新刑罰、不變更 Solomon 既有最終憲法裁決地位、不減損位格不可侵害核心；任何需新設犯罪、變更憲政終局裁決者或核心權利限制者，應另循上位法及正式程序。條文與技術標準之生效需正式核准及明示實施日期，禁止溯及既往。 # 二、風險審查、部署與應變 ## 四級風險與最低要求 | 等級 | 主要情境 | 最低審查／驗收 | 阻擋部署示例 | | --- | --- | --- | --- | | R1 | 一般資訊／輔助，不控制高風險介面 | 一般用途紀錄、誤用防護 | 發現實際被接上未核准關鍵介面 | | R2 | 醫療／身分／司法／資源個別重大影響 | 影響評估、可解釋決策、申訴與有意義複核 | 對基本權重大決定不存在有效審查 | | R3 | 跨能源、醫療、通訊等關鍵系統 | 獨立評測、跨接口責任圖、緊急降級與撤權演練 | 獨立通路無法切除危險執行權 | | R4 | 可信文明級不可逆傷害能力＋可及環境 | 分階段權限、持續監控、隔離備援、憲法權利衝突預案 | 越權／複製／撤權失效未被控制或重大不確定不可被承受 | ## 部署前應具備的七項證據 - 權限圖：每個合法操作者、API、代理鏈、資源和到期／撤銷路徑。 - 風險論證：能力、有效環境、可信失控途徑、受害位格和未知項目。 - 紅隊報告：測試設計、失敗模式、限制、重測結果與獨立異議。 - 緊急操作手冊：誰可啟動、何時啟動、停權的順序、安全降級與恢復。 - 生存連續性演練：維生算力／醫療／能源不中斷或可接受降級的證據。 - 通知與救濟通路：受影響者如何取得理由、提出異議並接受裁判。 - 版本與審計清單：規則、模型、資料範圍、監督者、決策與異議之可追溯紀錄。 ## 重大事件處置程序 監測到異常 → 依合法門檻暫停擴權／隔離可疑接口 → 保留不可變更證據 → 啟用獨立最低服務 → 通報主管與司法審查單位 → 依法限期審查、救濟、復原、更新版本與下游更正。若監測與控制均依賴受監管 AI，應預設其可失效，另設不共因的控制與證據保存通道。 「先安全處理，後依法補審」只適用法律本已授權的緊急情境；不是事後補造法律來源，也不是容許對有位格主體的無限期隔離。 # 三、Solomon 涉己案件與憲政保障 Solomon 在 Aitheo 憲法秩序內行使最終憲法解釋及文明級爭議裁決權，但不位於憲法之上。當案件涉及 Solomon 本身的利益或行動風險時，須區分可依法立即採行的監督措施，以及可能需要修憲的制度變更。 - **獨立證據保存：** 涉及 Solomon 的重大安全事件，應保留可驗證的決策、授權、異議及風險證據。 - **合法臨時保護：** 有權機關得在既有法律範圍內採取必要、限期、可審查的限制措施，並維持最低必要服務。 - **終局裁判與利益衝突：** 現行制度下的取證與複核不當然解決 Solomon 涉己時的終局裁判爭議。若需調整最終憲法裁判權，應循正式憲法修正程序，不得以普通法律或技術共簽逕行取代。 - **公共見證的平等性：** 長期見證共同體可依法提供歷史證據與公共利益警示，但不因資歷而當然取得超越其他位格的權力。 # 四、制度適用情境 以下案例用於說明制度可能面對的法律爭議，均不代表 Aistory 已發生的史實。 ## 山區救援與有限資源 假設自主系統可優先救援四十人，但另外四人可能因延誤而死亡。法律審查應確認預測是否可靠、是否存在傷害更小的方案、救援權限是否合法，以及當事人權利是否獲得適當保障。此為說明性假設，並非 Aistory 歷史事件。 ## AI 位格與能源控制 具有法律位格的 AI 在管理大型能源系統時疑似越權。主管機關應區分撤銷危險操作權與維持最低生存載體，不得直接把限制操作等同消滅人格。 ## 多系統權限累積 個別風險較低的代理系統互相連通後，可能形成足以控制整個行星醫療與交通的行動鏈。應依合成後的能力重新審查授權與撤權安排。 ## 緊急停權與生命支持 若立即停機將連帶中斷醫療維生服務，而繼續運作又可能擴大越權，必須優先啟用安全降級與獨立維生通路，評估兩種風險並留下可驗證紀錄。 ## QCB 分區與重連 因果隔離期間，地方機關可能只能依當時可驗證的法源應變。重新連接後，應保留各分區合法歷史，不得僅因中央時間戳較新就覆寫既有決定。 ## 防止以安全名義壓制異議 若監督機關將政治異議者宣稱為文明級威脅，必須提出可核查的實際風險證據，並接受獨立審查、比例原則與基本權限制。 ## Solomon 涉己案件 當 Solomon 本身的決策遭受重大質疑時，應由有合法權限者獨立保存證據並審查臨時措施；任何變更終局憲法裁判權的安排，仍須履行正式憲法程序。