人工智能倫理為你成為例外的合法權利而奮戰

他們說每條規則都有例外。

但問題是，常設規則通常佔上風，很少或根本不允許承認或接受例外情況。 儘管存在異常情況的可能性很大，但仍使用平均情況。 例外沒有任何通話時間。 它沒有機會得到應有的考慮。

我相信你一定知道我在說什麼。

您是否曾經嘗試過獲得某種個性化的客戶服務，從而對您的特定情況和您的特定需求沒有任何區別對待？

這無疑發生在你身上，可能無數次。

我將帶您了解一個令人不安的趨勢，即人工智能 (AI) 是如何被無情地設計為強制將所有東西都融入到一刀切的範式中。

異常要么沒有被檢測到，要么被選擇彎曲變形，就好像它們根本不是異常一樣。 造成這種情況的部分原因是機器學習 (ML) 和深度學習 (DL) 的出現。 正如您將很快看到的，ML/DL 是一種計算模式匹配，如果您願意忽略或避開異常，則此類匹配“更容易”開發和部署。 這是一個很大的問題，並引發了非常值得注意的人工智能倫理問題。 有關我對 AI Ethics 和 Ethical AI 的全面持續和廣泛的報導，請參閱 這裡的鏈接 和 這裡的鏈接，僅舉幾例。

事情不一定要那樣，請知道，那些正在製造和部署人工智能的人選擇忽略或淡化他們的人工智能混合物中的異常處理，從而加劇了這種情況。

當例外規則

讓我們首先解開一般情況與異常實現的本質。

我最喜歡的這種類型的狗皮或近視平均情況無例外方法的例子幾乎被廣受讚譽且仍然非常受歡迎的電視劇的任何一集生動地闡明了 House，MD （通常只是表示為 獨立屋，從 2004 年到 2012 年運行，今天可以在社交媒體和其他媒體渠道上查看）。 該劇講述了一個名叫格雷戈里·豪斯博士的虛構人物，他粗魯、難以忍受，而且非常不合常規，但他被描繪成一個能夠找出最晦澀難懂的疾病和小病痛的醫學天才。 其他醫生甚至患者可能不一定喜歡他，但他完成了工作。

以下是典型劇集的播放方式（一般劇透警報！）。

一名患者出現在豪斯醫生所在的醫院。 患者最初表現出一些常見的症狀，其他各種醫生輪流嘗試診斷和治愈患者。 奇怪的是，幫助患者的嘗試要么未能改善不利條件，要么更糟的是往往適得其反。 病人的病情越來越嚴重。

因為病人現在被視為一種醫學好奇心，而且由於沒有其他人能弄清楚病人的病情，豪斯醫生被帶入了這個案子。 有時這是故意這樣做的，以利用他的醫學能力，而在其他情況下，他聽說了這個案子，他與生俱來的本能將他引向了不尋常的情況。

我們逐漸發現病人有一些極為罕見的疾病。 只有豪斯博士和他的醫學實習生團隊能夠弄清楚這一點。

既然我已經與您分享了劇集的主要情節，讓我們深入研究一下經驗教訓，這些經驗教訓說明了一般情況與例外情況的性質。

這些虛構的故事旨在展示如何在盒子內思考有時會嚴重錯失目標。 所有其他最初試圖幫助患者的醫生都在他們的思維過程中蒙上了陰影。 他們希望將症狀和呈現的方面強加到傳統的醫學診斷中。 患者只是他們可能以前見過的眾多患者之一。 檢查患者，然後開出他們在整個醫療生涯中反複使用的相同治療和醫療解決方案。

清洗，沖洗，重複。

從某種意義上說，您可以證明這種方法是合理的。 大多數患者可能患有最常見的疾病。 日復一日，這些醫生遇到同樣的醫療問題。 你可以說，進入醫院的病人是名副其實的醫療流水線。 每一個都遵循醫院的標準化協議，就好像它們是製造設施或裝配廠的一部分一樣。

平均情況佔上風。 這不僅普遍適用，而且還允許醫院和醫務人員相應地優化他們的醫療服務。 當您設計醫療流程來處理普通病例時，可以降低成本。 有一條非常著名的建議經常在醫學生的腦海中響起，即如果你聽到街上傳來蹄聲，你很可能會想到一匹馬而不是斑馬。

高效、高效、有效。

直到一個異常潛入其中。

也許動物園裡的一隻斑馬已經逃脫並在你的街道上徘徊。

這是否意味著例外應該成為規則，我們應該擱置平均情況規則，而不是只關注例外？

你很難斷言我們所有的日常遭遇和服務都應該關注例外而不是一般情況。

請注意，我沒有提出這樣的建議。 我的主張是，我們應該確保允許發生異常，並且我們需要識別何時出現異常。 我之所以提到這一點，是因為一些權威人士傾向於大聲宣稱，如果你支持識別例外情況，那麼你就必須反對為普通情況設計。

這是錯誤的二分法。

不要為它而墮落。

我們可以吃蛋糕也可以吃。

使權利成為例外的理由

接下來我可能會提供一點震撼，將所有這些與人工智能的迅速發展聯繫起來。

人工智能係統越來越多地被設計為專注於一般情況，通常會排除或不利於識別異常。

您可能會驚訝地發現這種情況正在發生。 我們大多數人會認為，由於人工智能是計算機自動化的一種形式，自動化的美妙之處在於您通常可以合併異常。 與使用人工執行類似服務相比，這通常可以以更低的成本完成。 對於人工而言，擁有各種可以處理異常情況的勞動力可能成本高昂或令人望而卻步。 如果您可以假設您的客戶或客戶都是普通人，事情會更容易管理和落實。 但是計算機化系統的使用應該能夠適應例外情況，而且很容易做到。 以這種思維方式，我們應該為更多的計算機化能力走到最前沿而歡呼雀躍。

將此視為一個令人費解的難題，並花點時間思考這個令人煩惱的問題： 原本被認為是最好的自動化的 AI 怎麼會看似無情地沿著常規化和無例外的道路前進，具有諷刺意味或出乎意料的是，我們想像會走向完全相反的方向？

答： 機器學習和深度學習正在把我們帶到一個無以倫比的存在，雖然 任何監管機構都不批准 因為我們必須強制走這條路（我們可以做得更好）。

讓我們打開包裝。

假設我們決定使用機器學習來設計用於進行醫學診斷的人工智能。 我們收集了大量有關患者及其醫療狀況的歷史數據。 我們設置的 ML/DL 嘗試進行計算模式匹配，以檢查患者的症狀並呈現與這些症狀相關的預期疾病。

根據輸入的數據，ML/DL 在數學上確定流鼻涕、喉嚨痛、頭痛和疼痛等症狀都與普通感冒密切相關。 一家醫院選擇使用這種人工智能對患者進行預篩查。 果然，第一次來醫院報告這些症狀的患者被“診斷”為可能患有普通感冒。

換檔，讓我們為這一切添加一個 Dr. House 的扭曲。

一名患者來到醫院並被人工智能診斷。 AI 根據流鼻涕、喉嚨痛和頭痛的症狀表明患者似乎患有普通感冒。 患者被給予看似合適的處方和醫療建議來應對普通感冒。 這是設計 AI 時使用的平均案例方法的一部分。

事實證明，患者最終會出現這些症狀幾個月。 一位罕見疾病和疾病專家意識到，這些相同的症狀可能反映了腦脊液 (CSF) 洩漏。 專家使用與此類洩漏相關的各種外科手術來治療患者。 患者康復（順便說一下，這個關於腦脊液漏患者最初被診斷為普通感冒的非凡故事是基於真實的醫療案例）。

我們現在將追溯我們在這個醫療傳奇中的步驟。

為什麼進行攝入預篩查的 AI 無法評估患者可能患有這種罕見的疾病？

一個答案是，如果用於製作 ML/DL 的訓練數據不包含任何此類實例，則其中將沒有任何內容可供計算模式匹配匹配。 鑑於缺乏涵蓋規則例外情況的數據，一般規則或一般情況本身將被視為看似無瑕疵，並毫不猶豫地適用。

另一種可能性是，在歷史數據中存在這種罕見的 CSF 洩漏的例子，但這只是一個特定的例子，從這個意義上說是一個異常值。 其餘數據在數學上都接近確定的平均情況。 隨之而來的問題是如何處理所謂的異常值。

請注意，處理這些異常值與 AI 開發人員可能決定如何應對已確定的平均情況之外的事物的外觀存在很大差異。 沒有強制人工智能開發人員必須採用的方法。 對於任何給定的 AI 開發人員在他們的 ML/DL 開發工作的任何給定異常引發實例中可能會做什麼，這有點狂野西部。

這是我列出的這些異常經常出現的方式 不當地 處理：

• 異常假定為錯誤
• 異常被認為是不值得的
• 例外假設為可調整為“規範”
• 完全沒有註意到異常
• 注意到異常但立即被忽略
• 注意到異常然後忘記了
• 注意到異常並從視圖中隱藏
• 等等

AI 開發人員可能會認為稀有性只不過是數據中的錯誤。 任何人都會這樣想，這可能看起來很奇怪，特別是如果您試圖通過例如想像腦脊液洩漏的患者就是其中一個實例來將其人性化。 但是有一個強大的誘惑，如果你所有的斷章取義的數據基本上都說一件事，也許由成千上萬的記錄組成，並且它們都收斂到一個平均情況，那麼一個奇怪的數據的出現可以很容易（懶惰地！）被解釋為一個徹頭徹尾的錯誤。 然後，“錯誤”可能會被 AI 開發人員丟棄，並且不會在 ML/DL 正在接受的訓練範圍內考慮。

處理例外情況的另一種方法是確定它是不值得的事情。 當您可能急於啟動並運行 ML/DL 時，為什麼還要為一件稀有事物而煩惱呢？ 扔掉異常值並繼續前進。 沒有任何想法必然會對未來的影響產生影響。

還有一種方法是將例外情況折疊到其他平均情況環境中。 人工智能開發人員修改數據以適應其餘的規範。 AI 開發人員也有可能沒有註意到異常的存在。

ML/DL 可能會報告檢測到異常，然後 AI 開發人員應該指示 ML/DL 如何以數學方式處理異常值。 AI 開發人員可能會將其放在待辦事項列表中，然後忘記處理它，或者可能只是選擇忽略它，等等。

總而言之，在人工智能方面處理異常的檢測和解決本身並沒有任何具體規定或令人信服的平衡和合理的方法。 例外情況通常被視為不值得被拋棄的人，而普通情況下是普遍的贏家。 處理異常是困難的，可能是耗時的，需要表面上熟練的 AI 開發技能，否則與將事物混入一個千篇一律的漂亮領結相比是一件麻煩事。

在某種程度上，這就是為什麼 AI Ethics 和 Ethical AI 是一個如此重要的話題。 人工智能倫理的戒律讓我們保持警惕。 人工智能技術人員有時會專注於技術，尤其是高科技的優化。 他們不一定會考慮更大的社會影響。

除了普遍採用人工智能倫理準則外，還有一個相應的問題是我們是否應該有法律來管理人工智能的各種用途。 聯邦、州和地方各級正在製定新的法律，這些法律涉及應該如何設計人工智能的範圍和性質。 起草和頒布此類法律的努力是一個漸進的過程。

在這個關於例外作用的特殊討論中，出現了一個挑釁性的觀點，即也許應該有與例外相關的合法權利。 對可能是例外的人獲得善意認可的唯一可行方法可能是利用法律的長臂。

落實一種新的人權。

被視為例外的權利。

考慮一下這個提議：“成為例外的權利並不意味著每個人 is 一個例外，但當一項決定可能對決策主體造成損害時，決策者應考慮該主體的可能性 五月 例外。 成為例外的權利涉及三個要素： 傷害, 個性化和 不確定. 決策者只有在考慮了決策是否適當個性化，以及至關重要的是，決策的數據驅動部分伴隨的不確定性時，才必須選擇造成傷害。 傷害的風險越大，考慮的越嚴重”（Sarah Cen，在題為“ 在數據驅動的決策中成為例外的權利，麻省理工學院，12 年 2022 月 XNUMX 日）。

你可能會認為我們已經擁有這樣的權利。

不必要。 根據研究論文，最接近國際公認的人權可能是個人尊嚴。 從理論上講，應該承認尊嚴以使個人及其特定的獨特性應該被包含在內的概念確實使您處於潛在的例外人權的範圍內。 一個疑慮是，現有的管理尊嚴領域的法律據說有些模糊和過度可塑性，因此不能很好地適應例外權的特定法律結構。

那些贊成一項包括作為例外的人權的新權利的人會爭辯說：

• 這樣的權利幾乎可以合法地迫使 AI 開發人員明確應對例外情況
• 製造 AI 的公司會因為不處理異常而在法律上更容易上鉤
• 人工智能可能會更好地平衡和更強大的整體
• 那些使用人工智能或受制於人工智能的人會更好
• 當人工智能不適應例外情況時，法律追索將很容易實現
• 人工智能的創造者也必然會變得更好（他們的人工智能將覆蓋更廣泛的用戶）
• 等等

那些反對被標記為例外人權的新權利的人往往會說：

• 現有的人權和法律權利足以涵蓋這一點，無需複雜化
• AI 製造商的肩上將承擔不應有的負擔
• 打造人工智能的努力將變得更加昂貴，並且往往會減緩人工智能的進步
• 會出現錯誤的期望，即每個人都會要求他們是例外
• 權利本身無疑會受到不同的解釋
• 當法律案件暴增時，獲得最多的將是法律界
• 等等

簡而言之，對這種新權利的反對者通常認為這是一場零和遊戲，而成為例外的合法權利的成本將超過其帶來的收益。 那些認為這種新權利是合理需要的人往往會強調這不是一場零和遊戲，最終每個人都會受益，包括那些製造人工智能的人和使用人工智能的人。

你可以肯定，這場包含與人工智能和例外相關的法律、道德和社會影響的辯論將會響亮而持久。

自動駕駛汽車和例外的重要性

考慮這在自動駕駛汽車和自動駕駛汽車等自動駕駛系統的環境中是如何應用的。 對於自動駕駛汽車和自動駕駛汽車的人工智能開發的一般情況，已經有各種批評。

例如，起初，很少有自動駕駛汽車設計能適應那些有某種形式的身體殘疾或損傷的人。 沒有太多考慮更廣泛地涵蓋全方位的騎手需求。 總的來說，這種意識有所提高，儘管人們仍然擔心這是否足夠遠，是否應該得到廣泛接受。

普通情況與異常情況的另一個例子與可能讓你措手不及的事情有關。

你準備好了嗎？

當今許多人工智能駕駛系統和自動駕駛汽車的設計和部署往往會默默地或不言而喻地假設成年人將乘坐自動駕駛汽車。 我們知道，當人類駕駛員駕駛時，車輛中當然會有成年人，因為通常獲得駕駛執照是基於成年人（嗯，或接近成年人）。 對於由人工智能完成所有駕駛的自動駕駛汽車，不需要成年人在場。

關鍵是我們可以讓孩子們在沒有成人在場的情況下自己乘坐汽車，至少在完全自主的人工智能驅動的自動駕駛汽車的情況下這是可能的。 您可以使用自動駕駛汽車在早上送孩子上學。 您不必讓孩子搭便車，也不必使用拼車服務的人工司機，您可以簡單地讓孩子擠進自動駕駛汽車，然後被帶到學校。

讓孩子自己開自動駕駛汽車並不樂觀。

由於不再需要成人在車內，這意味著孩子們也將不再感到受到影響，或者我們應該說受到成人的控制。 孩子們會發瘋並撕毀自動駕駛汽車的內部嗎？ 孩子們會嘗試爬上或伸到自動駕駛汽車的窗外嗎？ 他們可能會做哪些其他類型的滑稽動作，從而導致潛在的傷害和嚴重傷害？

我已經報導了關於孩子獨自乘坐自動駕駛汽車的激烈辯論，請參閱 這裡的鏈接. 有人說這絕不應該被允許。 有人說這是不可避免的，我們需要弄清楚如何最好地讓它發揮作用。

結論

讓我們回到一般情況與例外情況的總體主題。

我們似乎都同意，規則總會有一些例外。 一旦形成或確定了規則，我們就應該尋找例外。 當我們遇到異常時，我們應該考慮這個異常可能適用於哪個規則。

今天設計的許多人工智能都是圍繞製定規則而形成的，而與例外相關的挑戰往往被拋棄和聳聳肩。

對於那些喜歡狡猾並說規則沒有例外，規則總是有例外的人，我承認這種俏皮話似乎是一個心理難題。 也就是說，我們怎麼能有一個總是有例外的規則，但是這個規則似乎並不適用於這個規則總是有例外的規則？

讓你頭暈目眩。

幸運的是，沒有必要將這些發人深省的事情過度複雜化。 希望我們可以接受方便且重要的經驗法則，我們應該注意並適應每條規則的例外情況。

事情就這樣解決了，所以現在讓我們開始工作吧。