標籤: AI

隨著人工智慧（Artificial Intelligence, AI）技術的進步，AI在零售業、銀行與醫療等各領域都有了驚人的應用，推動了AI技術與資料利用等方面的創新，然而使用AI的組織仍然須持續面對挑戰，例如AI是解決問題的正確方式嗎？AI會產生什麼樣的道德問題？我們如何確定AI的使用是合法的？

儘管AI提供了一個能夠顯著改善社會的機會，然而AI的使用往往也會帶來風險（從AI系統帶來的安全風險到歧視與偏見的風險），而對於組織來說，如何評估AI的使用對資料保護的法令遵循性將會是一大挑戰。

英國個資保護主管機關ICO（Information Commissioner’s Office）於今（2020）年7月30日發布「人工智慧與資料保護指引（Guidance on AI and data protection）」，提供設計、架構與實施AI系統的法令遵循路線圖，其內容約略分為以下幾個面向。

AI的問責與治理

在運用得當的情形下，AI將使組織更具效率與創新。但是，AI也對個人的權利與自由以及組織的法令遵循挑戰帶來巨大的風險。

與其他處理個人資料的技術相同，相同的資料保護概念也適用於AI的使用。資料保護法中，透過風險導向的方法要求組織在特定情形下遵守義務並採取適當措施，因此在法令遵循面必須包含評估個人權利和自由的風險，並進而識別、管理和減輕這些風險。

AI系統的合法性、公平性與透明性

首先，AI系統的開發與部署往往涉及針對不同目的以不同方式處理個人資料，組織必須分解每個不同處理操作，並為每個操作確定目的和適當的合法依據，以便遵守合法性原則。

其次，當組織使用AI系統來推斷個人的資料，則為了使處理過程更加公平，組織應確保1.該系統在統計上足夠準確，並且避免歧視，以及2.考慮個人合理期望的影響。

例如用於預測貸款還款率的AI系統在以下情況可能會被認為違反公平原則：
1.作出經常被證明是錯誤的預測。
2.導致群體間（例如男人與女人間）結果的差異，且無法證明是為實現合法目標的適當手段。
3.以個人無法合理預期的方式利用個人資料。

最後，組織需要透明得瞭解如何在AI系統中處理個人資料，以遵守透明性原則。（可以參考揭開黑箱，說清楚講明白—可解釋性AI人工智慧）

AI系統的安全性

使用AI處理個人資料對於風險有著重要的影響，因此組織需要仔細評估與管理這些風險。然而，實際上並不存在一種「萬能的」安全方法，組織應針對不同個人資料處理所產生的風險等級與類別，分別採取適當的安全措施。

指引內也提到兩大適用AI模型的隱私攻擊種類，「模型反轉（model inversion）」與「成員推斷（membership inference）」，組織應該檢視自身的風險管理實踐情形，以確保個人資料在AI的使用環境中是安全的。

AI系統的資料最小化

資料最小化原則要求組織確定實現目標所需最小數量的個人資料，並且僅處理該個人資料（GDPR第5條第1項第c款參照）。AI系統通常需要大量資料，乍看之下彷彿難以符合資料最小化原則，然而資料最小化原則並不意謂著「不處理任何個人資料」或「處理大量資料就會違法」，關鍵的地方在於，組織是否僅處理其所需要的個人資料。

AI系統與個人權利

依據資料保護法，當事人對於其個人資料有許多相關權利，無論在AI系統的開發或是部署的生命週期各階段中，均有當事人權利的適用，組織應予以重視，例如以下情形：

1. 訓練資料（training data）。
2. 用於預測的資料及預測本身的結果。
3. AI的模型內。

例如零售業者打算以過去的交易資料來預測消費者行為，需要大量的客戶交易資料集來訓練模型。而在將客戶交易資料轉換用於訓練統計模型的訓練資料時，儘管訓練資料已經較難連結到特定的個人，然而如果其仍然能單獨或與組織可能要處理的其他資料（即使不能與客戶的名字相連結）共同「挑選（single out）」相關的個人，此部分仍有資料保護法的適用，而組織應於當事人行使其權利行使時，將此部分納入考量。

※歡迎加入喵喵科技法律隨筆，持續接收科技法律的新知！

※你可能會對這些文章有興趣
1.揭開黑箱，說清楚講明白—可解釋性AI人工智慧
2.如何落實GDPR法遵？英國ICO發布問責制框架
3.歐盟法院SCHREMS II案與常見問答
4.個資外洩，該怎麼辦？
5.投資個資保護的價值？

自人工智慧（Artificial Intelligence, AI）這個名詞出現以來，其前景總是讓人著迷，不須要人類自己動手，AI就能代替人類解決問題。然而，AI是如何決策，他的思路為何，就像一個黑箱，人類似乎只能得知結果卻無法知悉理由，如果一個AI人資專員通知你未被錄取、未獲晉升或是被解雇，他是否能夠提供一個可以信服的理由呢？近日台大亦表示已打造可解釋性人工智慧（Explainable AI, XAI），聲稱可以解釋AI結果產生的原因，以提升人類對於AI的信賴度。

然而，所謂的可解釋性AI到底須要解釋些什麼？2020年5月20日，英國資訊委員辦公室（Information Commissioner’s Office, ICO）與圖靈研究所（Alan Turing Institute, Turing）便基於英國政府2018年4月的人工智慧領域協議（AI Sector Deal）的承諾發布「解釋AI決策（Explaining decisions made with AI ）」的指引。

AI與相關法律

該指引提到，AI往往涉及個人資料的利用，例如將大量個人資料用於訓練與測試AI模型、AI運作時也會蒐集大量個人資料並透過模型進行決策，甚至其作成與個人有關的決策，即使僅僅是預測或推論，仍然也可能屬於個人資料，而有英國資料保護法（DPA 2018）與歐盟一般資料保護規則（GDPR）的適用。

GDPR甚至賦予個人知悉權（第13條與第14條）、近用權（第15條）、反對權（第21條）、於自動化決策時得要求人為介入的權利（第22條）以及課予組織必須進行資料保護影響評估（Data protection impact assessments, DPIAs）的義務，同時組織還必須遵循GDPR所謂的公平性（Fairness）、透明性（Transparency）與問責性（Accountability）等原則。

另外組織在使用AI進行決策，也必須確保過程中符合英國平等法（Equality Act 2010），避免關於年齡、身心障礙、性別、婚姻、懷孕與產假、種族、宗教信仰、性別與性傾向等的歧視、騷擾或傷害，我國類似法律則規定於就業服務法與性別工作平等法等法令內。

關於AI的解釋

指引內表示，所謂解釋，依照劍橋詞典是指「某人給出明確或易於理解的細節或原因。」在關於AI的解釋，主要可分為「過程導向（process-based）」與「結果導向（outcome-based）」的解釋。在過程導向的解釋，主要是證明在整個AI設計與使用過程中均遵循良好的治理流程與最佳實施指引，而結果導向的解釋則是澄清特定決策的結果，以用易懂的方式解釋演算法所產生結果背後的原因，其關於AI的解釋項目與背後原理原則大略可整理如下。

透明（Be transparent）

• 基本原理（Rationale）
  1. 模型產生結果背後的邏輯與理由。
  2. 哪些輸入特徵（input features）、參數（parameters）與相關性（correlations）對模型的計算結果扮演重要因素，以及如何產生影響。
  3. 如何以易於理解的原因說明模型輸出所依據的技術原理，使受影響的個人或其代理人進行合理評估。
  4. 如何將統計結果應用於對個人決策的特定情形。
     
• 資料（Data）
  1. 使用哪些資料來訓練模型。
  2. 使用的資料來源。
  3. 如何確保所使用資料的品質。

可問責（Be accountable）

• 責任（Responsibility）
  1. 在AI設計到部署的每個階段，由何人負責。
  2. 有何問責機制。
  3. 如何於項目中，讓設計與實施過程可追溯（traceable）與可審核（ auditable）。

考量情境（Consider context）

考量AI使用的場景、情境與潛在的影響，以提供合適的解釋與說明。以AI招募輔助系統（AI-assisted recruitment）為例，組織可能須要優先考慮AI基本原理與責任的解釋，向個人告知該招募決策的負責人以及作出決策的理由，同時考量人資與招募的情境，偏見與歧視將是主要關注的議題與潛在影響，因此組織須要向個人說明AI系統所涉及的風險以及組織如何減輕該等風險，使個人瞭解其是否受到公平對待以及該決定是否合理。

對於影響的反思（Reflect on impacts）

• 公平（Fairness）
  1. AI系統的輸出是否具有歧視性影響。
  2. 是否已將防止歧視與減輕偏見的目標充分落實於系統的設計與實施中。
  3. 是否將決定結果的公平性標準納入系統中，並事先向個人說明這些標準。
  4. 該模型是否已防止歧視性損害（discriminatory harm）。
     
• 安全與性能（Safety and performance）
  1. 在運行時，AI系統是否安全且技術上可持續運作。
  2. 系統的操作完整性（operational integrity）是否值得公眾信任。
  3. 是否使用足以確保其安全、準確、可靠與健全的方式設計、驗證與確認模型。
  4. 是否已採取足夠措施以確保系統遇到出乎意料的變化、異常與干擾時能可靠得依照設計者的預期運作。
     
• 衝擊影響（Impact）
  • 從AI模型的設計到開始部署與結束使用，是否已經充分考量對個人與社會大眾福祉的影響。

該指引內強調，落實AI決策解釋將為組織帶來法令遵循、信任、內部治理等好處，同時也會使個人與社會大眾瞭解AI的使用，促進AI作成更好的結果，並使人類社會得以蓬勃發展。

※你可能還會對這些文章有興趣：
1.不如換AI當法官試試看？
2.加拿大隱私專員辦公室提出AI監管方案
3.投資個資保護的價值？

每當社會對重大案件不滿的時候，例如最近的殺警案件，網路上便會浮現一種聲音，何不讓人工智慧（Artificial Intelligence, AI）來審判案件呢？一定會更公平，世界也會更美好吧？

在國外，儘管愛沙尼亞（Estonia）僅有132萬的人口，然而作為全球數位化程度最高的國家，其致力於提升政府的數位化程度，透過科技改善政府效能。愛沙尼亞的司法部（the Estonian Ministry of Justice）要求該國資料長（Chief data officer）Ott Velsberg及其團隊打造「機器人法官（robot judge）」，預計將用於處理低於8,000歐元（約新台幣26萬元）小額金錢紛爭，藉此減少法官與書記官的積案。根據外媒指出，由該機器人法官所作成的裁判將具法律拘束力，但仍然可以向人類法官提起上訴。

除了愛沙尼亞，中國大陸與美國等各國家都開始嘗試將AI運用於司法系統，然而由AI當法官，是否會作出符合「民意」的判決呢？

以我國司法院殺人案件量刑資訊系統為例，其所查詢的判決資料僅有民國91年度至104年度，如果勾選「刑法第271條第1項殺人罪」、「犯罪方法：刺殺」、「犯罪工具：刀械、銳器類」與「被害人數：成年人 1 人」等量刑因子，將可查詢到199筆資料，其中有141件有期徒刑（平均刑度為13年5月）、50件無期徒刑與8件死刑。

如果再另外勾選「行為人與被害人關係：殺害員警或其他執行公權力之人」，則僅剩下1件無期徒刑，倘再繼續勾選「加重減輕：刑法第 19 條第 2 項精神障礙或心智缺陷之減刑」（該量刑資訊系統並未有刑法第19條第1項的選項可勾選），則無前例可循。

而司法院在107年12月21日所公布的「量刑趨勢建議系統」，宣稱「該系統將量刑資訊系統中之判決資料，透過統計迴歸方法，分析各種犯罪之刑度，及各種量刑因子對於刑度之影響力大小，並邀集審、檢、辯、學、相關政府機關及民間組織，組成焦點團體，深度討論藉由分析判決所得之量刑因子及影響力大小，予以適度修正調整，作成量刑趨勢建議系統。」。如果透過該量刑趨勢建議系統，針對刑法第271條第1項 殺人既遂罪，勾選其中所有的加重事由為「是」，其餘減輕事由均為「否」的話，則建議刑度為「有期徒刑20年」，如此結果是否會是社會所期待的公平與正義？

目前AI的系統，是基於機器判讀過往判決資料學習而來，如果在沒有資料可以參考的時候，AI該如何判斷？而在資料庫內有141件有期徒刑、50件無期徒刑與8件死刑的情形下，AI又該如何判斷？當AI作不出符合社會期待的判決，又該如何？

未來AI或許會足夠聰明到可以取代人類，然而以目前來說，如果將AI運用於司法判決，AI的演算法是由人類工程師所撰寫，AI所學習的判決資料是由人類法官所作成，AI判決的法律依據也是由人類所選出的立法者所立法，讓AI當法官所作成的判決，是否真的能夠符合社會的期待的公平正義，未來仍然值得觀察其發展。

然而，如果將法官依照法律作成的判決比喻為AI依照演算法與程式碼運行所得出的結果，當認為程式結果有問題的時候，除了審視AI是否出了問題外，是否還要由工程師檢視其背後演算法與程式碼的bug呢？

※延伸閱讀
1.精神疾病與刑法第19條是脫罪免死金牌？
2.加拿大隱私專員辦公室提出AI監管方案