監管人工智能算法的原因比你想像的要簡單

你擔心人工智能會統治世界嗎？ 很多人都這樣做。 埃隆·馬斯克擔心 DeepMind 在圍棋高級遊戲中擊敗人類 2017 年，致國會議員、歐洲政策制定者（參見 歐洲的人工智能方法）和學術界，有一種感覺，這是認真對待人工智能的十年，而且它正在紮根。 不過，這並不是出於您可能想到的原因，也不是由於任何當前的威脅。

這就是算法的用武之地。您可能會問什麼是算法？ 最簡單的方式是將其視為機器可以理解和學習的一組指令。 我們已經可以指示機器以結構化、自動化的方式計算、處理數據並進行推理。 然而，問題是，一旦給出指令，機器就會遵循它們。 現在，這就是重點。 與人類不同，機器遵循指令。 他們學得不太好。 但一旦這樣做，就可能會引起問題。

我不想對計算機有一天超越人類智能的想法做出聳人聽聞的論證，即更為人所知的奇點論證（參見紐約大學哲學家大衛·查爾默斯（David Chalmers）的 對這個話題的思考。） 相反，製造業可能是人工智能算法開始對公眾更加重要的最好例子。 人們擔心機器會以犧牲我們為代價來大幅提升其能力。 不一定是通過某些高級推理，而是因為在算法所說的範圍內進行了優化。

製造就是製造東西。 但當機器製造東西時，我們需要注意。 即使機器製造的東西很簡單。 我會解釋原因。

從雨鞋到手機再到

比如說，一家工廠一直在生產雨鞋。 我喜歡雨鞋，因為我在挪威的一個經常下雨的地區長大； 我喜歡呆在戶外，接受自然的許多元素。 諾基亞製造了陪伴我長大的雨鞋。 是的，我們今天所知道的諾基亞是一家曾經製造橡膠靴的電子公司。 為什麼是這個關鍵？ 因為一旦你做了某件事，你就注定想要做出改進。 這就說得通了。 可以說，這就是人性。

諾基亞發生的事情是眾所周知的，有點像這樣：最初是一家造紙廠，當我還是個孩子的時候，製造橡膠靴（和輪胎）對公司來說特別成功。 然而，他們看到了更多的機會。 因此，在 1980 世紀 1990 年代的某個時候，他們轉向電子產品並迅速改變了周圍的工廠，在開始生產手機時建立了一個由本地供應商組成的龐大結構。 這引發了移動通信革命，這場革命始於斯堪的納維亞半島並傳播到世界其他地區。 可以理解的是，許多人都寫過 XNUMX 世紀 XNUMX 年代諾基亞的故事（參見 芬蘭奇蹟背後的秘密：諾基亞的崛起).

我的例子很簡單。 也許，太簡單了。 但這樣想吧。 如果一家大公司能夠迅速從生產用於書寫的紙張，過渡到可以更輕鬆地在雨中外出的靴子，最後過渡到改變人類交流方式的手機：下一步有多容易？ 假設一家製造手機的公司決定製造納米機器人，也許這些機器人會在十年內起飛，通過在各處自主運行、能夠重新組裝和改變人類體驗的微型機器來改變人類。 如果這種情況發生時沒有考慮我們希望它如何發生、我們希望由誰負責以及最終目標怎麼辦？

如果說機器人有意識地幫助諾基亞決定製造手機，那就有些牽強了。 但承認技術在讓芬蘭北岸的農村地區認為他們可以在新產業中獲得世界統治地位方面發揮了重要作用。

近十年來，諾基亞的故事並不那麼樂觀，因為他們沒有考慮到基於軟件的 iOS 和 Android 操作系統的出現。 結果，現在諾基亞不再生產手機了。 有點捲土重來的故事，他們現在生產網絡和電信基礎設施、網絡安全解決方案、Wi-Fi 路由器、智能照明和智能電視（請參閱 諾基亞的複興故事）。 諾基亞仍然在製造東西，這是事實。 唯一可以觀察到的是，諾基亞似乎總是喜歡混合他們製造的東西。 有時，甚至人類的製造決策也難以理解。

製造意味著製造事物，並且事物確實不斷發展。 總的來說，我們今天製造的產品與十年前相比已經發生了變化。 3D 打印機可以分散生產工業和家庭中的許多先進產品。 3D 打印改變生活的後果尚未發生。 我們不知道這種情況是否會持續下去，但我們確實知道 FDA 的重點是監管產品的製造（參見 点击這裡）就像隨之而來的打印藥丸或醫療設備、明顯的知識產權和責任問題，或者與打印槍支有關的問題。 最終，關於 3D 打印除此之外可能產生哪些負面後果的政策討論是不存在的，我們很少有人費心去思考它。

我並不是說 3D 打印本身是危險的。 或許，這是一個不好的例子。 然而，最初看起來平凡的事情卻可以改變世界。 例子有很多：狩獵/採集者用金屬製成的箭頭會引發戰爭，儀式面具可以保護我們免受COVID-19的侵害，釘子可以建造摩天大樓，活字印刷機（仍然）在我們的工廠裡裝滿了印刷紙並為我們的工廠提供動力。出版業務，讓你晚上能在裡面看東西和工作的燈泡，我可以繼續說下去。 據我所知，沒有人在 1800 年代末坐下來預測諾基亞會將其生產從紙張轉向橡膠，再轉向電子產品，然後遠離手機。 也許他們應該這樣做。

人類對於階躍變化的預測能力很差，階躍變化是一種變化導致更多變化的過程，突然之間，事情就完全不同了。 我們還不了解這個過程，因為我們對指數變化知之甚少； 我們無法想像、計算或理解它。 然而，一次又一次，它擊中了我們。 流行病、人口增長、從書籍印刷到機器人技術的技術創新，通常都會在毫無預警的情況下襲擊我們。

未來主義的秘訣不在於是否，而在於何時。 人們實際上可以通過選擇一些新的生產方法並聲明它們在未來將變得更加普遍來預測變化。 這很簡單。 棘手的部分是弄清楚確切的時間，特別是如何。

回形針不是問題

再次考慮我的工廠示例，但這一次，想像機器負責許多決策，不是所有決策，而是優化等生產決策。 在他的書中 超級智能牛津大學的反烏托邦人文主義者 Nick Bostrom 曾設想過一種運行回形針工廠的人工智能優化算法。 他說，想像一下，在某個時刻，機器認為學習將不斷增加的資源轉移到任務上是合理的，最終逐漸將我們的世界變成回形針，並抵制我們關閉它的嘗試。

儘管博斯特羅姆是個聰明人，但他的例子卻相當愚蠢且具有誤導性（但令人難忘）。 其一，他沒有考慮到人類和機器人不再是獨立的實體這一事實。 我們互動。 大多數聰明的機器人正在演變成協作機器人或協作機器人。 人類將有很多機會糾正機器。 即便如此，他的基本觀點仍然存在。 在某些時候可能會發生階躍變化，如果這種變化發生得足夠快並且沒有足夠的監督，則可能會失去控制。 但這種極端的結果似乎有點牽強。 無論哪種方式，我同意，我們需要規範操作這些機器的人員，並要求工人通過適當的培訓始終了解情況。 這種類型的訓練進展並不順利。 目前需要太長的時間，並且需要專業技能來培訓和接受培訓。 我知道一件事。 未來各種各樣的人都會操作機器人。 那些不這樣做的人將非常無能為力。

增強人類能力比無意識的自動化更好，無論我們是否從未完全與機器融合。 這兩個概念在邏輯上是不同的。 人和機器人都有可能陷入為了自動化而自動化的困境。 這將對未來的製造業造成巨大損害。 即使它不生產殺手機器人。 我相信合併還需要數百年的時間，但這不是重點。 即使只有三十年後，依靠簡單算法運行的自動推進機器會失去控制，這種情況已經在車間發生了。 其中一些機器已經有三十年曆史，並且運行在舊的專有控制系統上。 他們的主要挑戰不是他們先進，而是相反。 他們太簡單了，無法溝通。 對於明天來說這不是問題。 這是一個預先存在的問題。 我們必須睜開眼睛來看待它。 下次您穿上橡膠靴時請考慮這一點。

我還保留著 1980 世紀 XNUMX 年代的諾基亞靴子。 它們上有一個洞，但我保留它們是為了提醒自己我來自哪里以及我走了多遠。 雨也一直在下，只要它足夠乾淨，我不需要比這雙靴子更好的解決辦法了。 話又說回來，我是人類。 機器人可能已經繼續前進了。 我想知道什麼是AI版本的雨鞋？ 它不是手機。 這不是雨量傳感器。 這令人難以置信。

如今，數字靴子意味著您可以對它們進行個性化定制，因為它們上面有 3D 打印設計。 有些虛擬鞋僅以 NFT（不可替代代幣）的形式存在，可以出售和交易。 如今頂級虛擬運動鞋價值 10,000 美元（參見 什麼是 NFT 運動鞋，為什麼它值 10,000 美元？）。 我並不害怕這些，但我應該害怕嗎？ 如果虛擬世界變得比物理世界更有價值，也許我會的。 或者我應該等到人工智能自己的化身購買自己的 NFT 靴子來應對“雨”時才擔心？ 如果我們按照自己的想法構建算法，那麼人工智能更有可能擅長我們希望自己擅長但通常不擅長的事情，例如購買股票、建立忠誠的友誼（可能與機器和人類）以及記住事物。 工業虛擬宇宙可能非常複雜——充滿了模仿我們的世界並以富有成效的方式超越它的數字雙胞胎——也可能簡單得令人震驚。 也許兩者都有。 我們只是還不知道。

我們需要監管人工智能算法，因為我們不知道即將發生什麼。 這是足夠的理由，但至於我們如何做到這一點，那就是一個更長的故事了。 讓我再快速觀察一下，也許所有基本算法都應該公開。 原因是，如果不這樣做，就無法知道它們可能會導致什麼。 頂級的都是眾所周知的（參見 十大機器學習算法），但目前還沒有關於它們將在何處以及如何使用的全球概述。 尤其是無監督算法應該仔細觀察（參見 製造業機器學習的六個強大用例），無論它們是用於預測維護或質量，模擬生產環境（例如數字孿生），還是生成人類永遠不會想到的新設計。 在當今的環境中，這些無監督算法通常是所謂的人工神經網絡，試圖模仿人腦。

我開始擔心神經網絡，只是因為我發現它們的邏輯很難理解。 問題是，大多數專家，甚至那些部署它們的專家，都不理解這些算法如何一步一步或一層一層地移動。 我不認為經常使用的“隱藏層”這個比喻非常貼切或非常有趣。 首先，在製造業、自動稅收、招聘決策或大學招生中不應該存在任何隱藏層。 也許你也應該考慮擔心一下？ 有一點是肯定的，人類和機器一起製造東西將會改變世界。 它已經發生過很多次了。 從紙張到雨鞋，再到當今人造大腦的各個層次，一切都值得探索。 我們不應該迴避一個簡單的事實：許多微小的變化可能會突然出現更大的變化。