為什麼人工智能 (AI) 會帶來人類滅絕的風險

在技​​術前沿，人工智能（AI）的演進不斷催生非凡的創新。 然而，它同時展開了一段充滿對人類滅絕的憂慮的敘述。 OpenAI 的先驅山姆·奧特曼 (Sam Altman) 和公認的人工智能“教父”杰弗裡·辛頓 (Geoffrey Hinton) 等人工智能遠見者明確表達了這種恐懼。

AI 安全中心的一封公開信揭示了潛在的災難，得到了 300 多個尊敬的簽名者的支持，揭示了 AI 存在的生存威脅。 然而，這個人造奇蹟如何成為人類的毀滅仍然有些神秘。

人工智能帶來人類滅絕的風險

人工智能安全中心主任丹·亨德里克斯 (Dan Hendrycks) 表示，人工智能可以為應對社會規模的風險開闢多種途徑。 惡意實體濫用 AI 就是這樣一種情況。 

“有一個非常普遍的誤解，即使在 AI 社區中，也只有少數注定失敗的人。 但事實上，很多人私下里都會表達對這些事情的擔憂，”亨德里克斯說。

想像一下，惡意力量利用 AI 來構建殺傷力超過自然流行病的生物武器。 另一個例子是啟動流氓人工智能，意圖造成廣泛傷害。

如果人工智能係統被賦予足夠的智能或能力，它可能會在整個社會造成嚴重破壞。

Hendrycks 補充說：“惡意行為者可能會故意釋放積極試圖傷害人類的流氓人工智能。”

儘管如此，這不僅僅是讓專家擔心的短期威脅。 隨著人工智能滲透到經濟的各個方面，放棄對技術的控制可能會導致長期問題。 

這種對人工智能的依賴可能會導致“關閉它們”具有破壞性，而且可能無法實現。 因此，冒著人類控制其未來的風險。

濫用及其深遠影響

正如 Sam Altman 所警告的那樣，AI 創造令人信服的文本、圖像和視頻的能力可能會導致重大問題。 事實上，他相信“如果這項技術出了問題，它可能會大錯特錯。”

舉個例子，在社交媒體上流傳的一張偽造的圖片描繪了五角大樓附近發生的大規模爆炸。 這導致股市暫時暴跌，因為許多社交媒體賬戶，包括幾個經過驗證的賬戶，在短短幾分鐘內傳播了這張欺騙性照片，加劇了混亂。 

這種對人工智能的濫用表明該技術有可能傳播錯誤信息並破壞社會和諧。 牛津大學人工智能倫理研究所高級研究員 Elizabeth Renieris 斷言，人工智能可以“推動錯誤信息的數量和傳播呈指數增長，從而破壞現實並削弱公眾信任。”

另一個令人擔憂的趨勢是“幻覺”人工智能的出現。 這是一個令人不安的現象，人工智能會吐出錯誤但看似合理的信息。 

這一缺陷在最近一起涉及 ChatGPT 的事件中得以體現，可能會挑戰利用 AI 的公司的可信度，並進一步助長錯誤信息的傳播。

工作崗位流失和不平等現象激增

人工智能在各行各業的迅速採用給就業市場蒙上了長期而令人擔憂的陰影。 隨著技術的發展，數以百萬計的工作崗位可能被淘汰已成為一個緊迫的問題。

最近 調查 透露，十分之六的美國人認為，在未來 20 年內，在工作場所使用人工智能將對員工產生重大影響。 大約 28% 的受訪者認為使用該技術會對他們個人產生影響，另有 15% 的人認為“AI 弊大於利”。

自動化決策的激增可能會加劇偏見、歧視和排斥。 它還可能助長不平等的環境，特別是影響那些處於數字鴻溝錯誤一邊的人。

此外，轉向依賴人工智能可能會導致人類“衰弱”。 這可能類似於電影中的反烏托邦場景 WALL-E. 

人工智能安全中心指出，人工智能的主導地位可能會逐漸落入少數實體的控制之下。 它可能使“政權能夠通過無處不在的監視和壓迫性審查制度來執行狹隘的價值觀。”

這種黯淡的未來願景凸顯了與人工智能相關的潛在風險，並強調了嚴格監管和控制的必要性。

人工智能監管的呼籲

這些擔憂的嚴重性促使行業領導者提倡更嚴格的 AI 監管。 這種對政府乾預的呼籲呼應了越來越多的共識，即應謹慎管理人工智能的開發和部署，以防止濫用和意外的社會破壞。

人工智能有可能成為福音或禍根，這取決於它的處理方式。 在享受這項強大技術的好處的同時，促進關於降低風險的全球對話至關重要。 

英國首相 Rishi Sunak 堅持認為，人工智能在幫助癱瘓患者行走和發現新抗生素方面發揮了重要作用。 儘管如此，我們必須確保這些流程安全可靠地進行。

“人們會對人工智能帶來生存風險的報導感到擔憂，比如流行病或核戰爭。 我想讓他們放心，政府正在非常仔細地研究此事，”蘇納克說。

人工智能的管理必須成為全球優先事項，以防止它成為對人類生存的威脅。 為了在減輕人類滅絕風險的同時利用人工智能的好處，謹慎行事很重要。 各國政府還必須遵守法規，促進全球合作，並投資於嚴格的研究。