人工智能倫理和地緣政治角力爭奪誰將贏得真正人工智能的競賽

世界正處於一場瘋狂的競賽中。

地緣政治大國聲稱，贏家將把所有的培根帶回家，就像它一樣。

什麼樣的種族在激烈展開和奮力追殺？

這是人工智能競賽。

您或許可以更恰當地將其稱為實現目標的競賽 真 人工智能 (AI)，目前更全面地稱為通用人工智能 (AGI)。 我們希望以某種方式達到看似極致的 AI 或稱為 AGI，它可以與人類智能相媲美。 我們還沒有。 確實，儘管有各種狂野和厚顏無恥的頭條新聞，但我們不知道何時或是否會達到那個高標準。 今天的人工智能在能力上遠不如人類智能，儘管人工智能在許多更狹窄的領域取得了令人印象深刻的嘗試，例如能夠下一流的世界級國際象棋或完成其他相對受限的任務。

不過，金戒指是人工智能的出現，它展示了類似於人類的虔誠性質和深度的人類智慧。 這是人工智能研究人員和從業者的聖杯。 不時有似是而非的說法聲稱已經越過了 AI 競賽終點線，我在我的專欄中揭穿了這一點 這裡的鏈接. 那些試圖越過終點線的人正在使公眾感到困惑，有時是出於狂熱的純真，而有時卻有嚴重可疑的動機。 總而言之，這引發了相當重要且至關重要的 AI 倫理考慮。 有關我對 AI Ethics 和 Ethical AI 的持續和廣泛報導，請參閱 這裡的鏈接 和 這裡的鏈接，僅舉幾例。

無論如何，毫無疑問，一場全球範圍內的人工智能短跑競賽正在如火如荼地進行。 否則，您將很難提出索賠。

這樣想吧。 如果我們已經設法實現了真正的 AI 或 AGI，那麼 AI 賽跑很可能已經正式在全球範圍內宣布成功結束。 我向你保證，全世界的注意力都將集中在如此響亮和驚天動地的突破上。 你會知道的。 我們都會。 AI 瘋狂衝刺實際上將不復存在，儘管可能會出現第二個版本，其中涉及那些尚未獲得真正 AI 的人狂熱地工作以迎頭趕上。 還有一個令人不安的問題是，如果我們到達那裡，我們最終將如何控製或管理 AGI。

到目前為止，還沒有任何個人、實體或國家能夠正確地獲得生產真正 AI 或 AGI 的桂冠。

與此同時，關於哪個國家（或多個國家）處於領先地位以及誰落後於更遠的問題，正在發生巨大而無情的爭論。 假設是，如果您不是第一個，您將被留在泥土中。 您將吃掉 AI 獲勝者留下的殘羹剩飯。 您可能會永遠被那些預示著飛躍成為真正的 AI 或 AGI 的一個或多個國家所征服。

順便說一句，為了簡化討論的措辭，我將在此處使用“AGI”，只要我想喚起真正的 AI 光環。 使用較新的短語“AGI”有時會讓那些不習慣看到它的人感到震驚。 我們都熟悉“AI”，看到使用首字母縮略詞“AGI”時可能會感到不安。 請允許我解釋一下為什麼這逐漸成為一種冗長的趨勢。

AGI 在人工智能領域崛起的部分原因是，僅僅說“人工智能”現在已經成為一個令人遺憾的淡化措辭。 沒有人知道你提到的人工智能是幾乎沒有人工智能的變體，還是一些準更好的正在進步的人工智能注入，或者可能是在暗示有一天未來的完全與人類等同的人工智能。 為了應對“AI”作為標語的過度使用，AGI 這個綽號已經獲得了那些想要特別提及真正的 AI 的 AI 領域內部人士的偏愛。

所以，簡而言之，考慮到我提到的 AGI 與說類似於人類智能的強大能力的“真正的 AI”是一樣的，謝謝。

讓我們謹慎地深吸一口氣，仔細檢查比賽的一些方面，以實現 AGI。 甚至還有一個元方面需要首先說明。 請注意，使用假定的賽跑或其他類型的賽車活動的寓言作為 AGI 比賽的隱喻會讓人感到有些不安。 為什麼這樣？ 我將暫時讓您了解為什麼（有人說）賽跑或類似的比賽完全具有誤導性和陰險的傻瓜觀點的複雜性和復雜性。

以下是我將在本次演講中與您討論的關鍵點：

• 如果這是一場比賽，AGI 終點線似乎很模糊
• AGI 競賽可能屬於一個人、一個實體或一個國家
• 指標以及在 AGI 競賽中如何比較國家
• AGI 競賽的地緣政治機動和調整
• 國際人工智能法和人工智能倫理作為 AGI 競賽的裁判

當我檢查緊急進行的 AGI 競速（是的，我敢稱它為競速）時，您可能想係好安全帶，幾乎每個人都以極快的速度前進，並且似乎在這個燃燒的任務中飛速前進。 有人可能會說這是一場為了人類進步而進行的競賽，而另一些人則預先警告說，這場競賽可能會給我們所有人帶來徹底的厄運。

時間會告訴我們。

如果這是一場比賽，AGI 終點線似乎很不明確

終點線通常是一個相當明確的分界線。 你要么已經到達終點線，要么沒有。 做空似乎對你沒有多大好處。 想像一下奧運會的 400 米短跑，你是否會特別記得或會為那些根本沒有完成比賽（從未越過終點線）的跑步者贊不絕口。 不太可能。

我們是否會知道我們何時達到了 AGI，以至於大家都合理地同意已經達到了終點線？

關於 AGI 的劃分存在激烈的分歧。

例如，假設我們設計的人工智能似乎完全能夠展示人類智能，但其本身並沒有感知（見我關於人工智能感知爭論的報導） 這裡的鏈接）。 AI 在計算上能夠模仿或以其他方式像人類智能一樣執行。 但是，我們與人類和其他生物聯繫起來的活力或知覺的火花並沒有。 這個 AGI 是否算作達到了我們認為的目標？

有些人會反駁說，如果感覺本身似乎被包裹在這個 AGI 中，這並不重要。 只要它可以表現出人類的智慧，感知的結合就是我們可能希望或可能不希望看到的不同種類的東西。 這種意義上的感覺是一種附加物。

其他人強烈認為，在 AGI 中獲得人類智能的唯一方法將是整體體現感知。 AGI 和感知要么被認為是相同的，要么是不可約不可分割的雙重體現的混合體。 要獲得 AGI，你必須有感知力，他們會爭辯。

撇開這個爭論的角度不談，另一個觀點是我們可以使用著名的圖靈測試來評估 AGI 是否已經實現。 我已經深入介紹了圖靈測試 這裡的鏈接. 簡而言之，這個概念包括讓人類向 AGI 提問，如果人類無法區分 AGI 生成的回復與人類的回复，那麼我們將宣布 AGI 能夠展示人類智能。

圖靈測試通常有很多麻煩或缺點。

假設進行查詢的人做得很糟糕並且沒有提出探索性問題。 一個擔憂是，當今許多看似強大的大型語言模型 (LLM) 可以將 LLM 所訓練的內容（即，通常通過互聯網的大規模抓取獲取的文本和數字媒體）複製回人類。 因此，一個特別選擇的人類提出的已經回答並在線存在的普通問題可能很容易被法學碩士“回答”，但這可能不是由於任何具有 AGI 能力的人類智能體現。

許多其他的疑慮出現了。 假設人類無法理解答案。 或者假設人類自欺欺人地相信答案都是人類智慧的展示。 我什至已經涵蓋了一些老生常談的想法，我們需要做的就是詢問 AI 它是 AGI 還是有意識的，我明確表示這不是 AGI 證明的一種非常令人信服的形式，請參閱 這裡的鏈接.

最後，作為一個補充的想法，我們是否需要完全到達終點線才能考慮到 AGI 已經達到？

我之前提到過，我們通常會忘記那些沒有到達終點線的人。 這可能與 AGI 競賽不太相似。 我相信可以提出一個令人信服的案例，即如果我們能夠在實現 AGI 方面取得實質性進展，我們就會發現自己處於一種驚奇的狀態，要么是巨大的利益，要么是巨大的麻煩。 您會看到，幾乎存在的 AGI 可能會產生許多重要且非常有用的結果。 短跑不會像沒有完成 400 米賽跑那麼成問題，特別是因為它可能是我們邁向更全面的 AGI 版本的重要基礎（相比之下，可能是一場馬拉鬆比賽）。

將 AGI 成就比喻為一種賽跑或類似的比賽有時是不令人滿意和不充分的。

AGI 競賽可能屬於一個人、一個實體或一個國家

有些人抱有一種夢幻般的想法，即 AGI 將由一些穿著睡衣在車庫里工作的修補匠實現，並且是他們多年來辛勤工作的瘋狂創造性計算機化實驗的露頭。 那是獨狼的經典高科技比喻。

很遺憾地報告這是一個極低的賠率提議。

更大的可能性是，諸如企業或某些研究團隊之類的實體將成為 AGI 的推動者。 一種強烈而普遍的信念是，需要一個村莊才能到達 AGI。 孤狼自己將沒有資源或洞察力來實現 AGI。 他們可能會為探索做出貢獻。 他們可能會為拼圖提供所需的部分。 他們將無法獲得整個套件和一堆堆。

說到村莊，另一個強烈的觀點是，只有國家才能獲得 AGI。 通過一個民族國家內的人民、企業、學者和所有其他實體的組合，AGI 將作為國家整體聯合工作的結果而到來。 這場比賽中獲勝者的單位關注程度是基於民族國家，而不是更加分散、自由或個人主義的東西。

簡而言之，如果需要一個村莊，該村莊將具有國家規模，因此民族國家將成為 AGI 比賽中越過終點線的指定跑步者。

指標以及國家在 AGI 競賽中的比較方式

假設 AGI 成就將基於民族國家層面。

重申一下，我們不確定這一點，但這似乎是一個合理的假設。

考慮民族國家基礎的後果。 假設一隻獨狼確實設法首先獲得了 AGI，並認為他們的工作超出了他們所屬的民族國家的工作範圍。 這個人宣稱他們在精心設計的 AGI 方面不屬於任何民族國家。 我們還會相信那個民族國家嗎？AGI 會在那個國家的控制和範圍內嗎？

設想另一種選擇，即大型跨國企業集團首先到達 AGI。 哪個國家可以說 AGI 是他們使用和部署的“東西”（它會被解釋為財產還是收集而不是法人身份的變體）？ 也許公司所在的所有國家都將獲得同等的信譽。 或者也許只是正式總部的地理位置。 這可能是一個名副其實的金罐的複雜分裂。

無論如何，普遍的流行觀點是，民族國家將成為實現 AGI 的關鍵決定因素。 一個在其國家努力中鼓勵人工智能研究和開發的國家可能會比其他不這樣做的國家更快地實現 AGI。

有一種主流觀點認為，人工智能種族是全國性的。

一個令人頭疼的問題是我們如何確定一個國家在 AGI 競賽中是領先於另一個國家還是落後於另一個國家。

在傳統的賽跑中，我們可以很容易地識別出可用於確定哪些跑步者表現出色、哪些表現不佳的指標。 跑步者的速度可以很容易地計算出來。 這並不能保證他們會首先完成，但它至少顯示出希望。 跑步者之間的物理距離和距離終點線的距離顯然是我們可以輕鬆衡量的重要標準。

AGI 競賽沒有那種有保證的度量或測量形式。

我們正在使用各種替代措施，因為沒有任何確定的方法來計算終點線的位置以及我們離終點線的距離。

讓我們看一下通常考慮的指標類型。 斯坦福大學以人為中心的人工智能研究所 (HAI) 每年都會收集和發布一個特別方便的與人工智能相關的全球測量數據來源。 該報告可在線免費獲取，最新版本名為 人工智能指數 2022 年度報告 （基於 2020-2021 年收集的數據）。 稍後我將與您分享他們最新彙編中提到的國家比較的一些亮點。

用於衡量國家和國際人工智能進展的指標往往包括一點點，有時也包括名副其實的廚房水槽。

通常檢查的措施類型包括：

• 歸因於特定國家的 AI 研究文章數量
• 對特定國家的 AI 文章的引用引用數
• 基於特定國家/地區的 AI 期刊數量
• 在特定國家/地區舉行的 AI 會議數量
• 特定國家贊助的人工智能會議數量
• 特定國家授予的人工智能相關專利數量
• 特定國家/地區的 AI 公司初創公司數量
• 特定國家/地區的 AI 工作數量
• 特定國家/地區的新 AI 工作或招聘數量
• 特定國家引入的人工智能法律或立法法案的數量
• 特定國家通過或頒布的人工智能法律數量
• 其他

考慮一下 HAI AI 指數 2022 中的這些當代跡象：

• 人工智能出版物引用：“在人工智能知識庫出版物的引用中，美國在 38.6 年以 2021% 的總引用率位居榜首，領先於歐盟、英國（20.1%）和中國（16.4%）。”
• 人工智能期刊/會議： “2021年，中國在人工智能期刊、會議和知識庫出版物的數量上繼續領先世界——這三種出版物類型的總和比美國高出63.2%。 與此同時，美國在主要的人工智能強國中在會議和存儲庫引用的數量上處於領先地位。”
• 人工智能專利： “中國現在申請了全球一半以上的人工智能專利，並獲得了約 6% 的授權，與歐盟和英國大致相同。 美國在北美申請了幾乎所有專利，其申請速度是中國的三分之一。 與不斷增長的人工智能專利申請和授權數量相比，中國的專利申請數量（87,343 年為 2021 件）遠遠超過授權數量（1,407 年為 2021 件）。”
• 新入股的人工智能公司： “按每個地區新獲投資的人工智能公司數量劃分的投資數據。 到 2021 年，美國以 299 家公司領先，其次是中國，有 119 家，英國有 49 家，以色列有 28 家。兩者之間的差距很大。
• 人工智能招聘速度：“新西蘭、香港、愛爾蘭、盧森堡和瑞典是 2016 年至 2021 年人工智能招聘增長最快的國家或地區。”
• 人工智能職位發布： “2021 年，加利福尼亞州、德克薩斯州、紐約州和弗吉尼亞州是美國人工智能職位發布數量最多的州，加利福尼亞州的職位數量是德克薩斯州的 2.35 倍以上，位居第二。 與其總職位發布數量相比，華盛頓特區的 AI 職位發布率最高
• 人工智能立法行動： “對 25 個國家的 AI 立法記錄進行的 AI Index 分析顯示，通過成為法律的包含‘人工智能’的法案數量從 1 年的 2016 項增長到 18 年的 2021 項。西班牙、英國和美國2021 年通過的人工智能相關法案數量最多，每項通過三項。”

我們可以非常欽佩和欣賞為 AGI 比賽編制這些民族國家跑步者統計數據所涉及的辛勤工作。

懷疑論者雖然對在 AGI 競賽參與中使用任何類型的指標持懷疑態度。

棘手的問題是，您是否可以從特定國家/地區內的 AI 文章或 AI 會議的數量與 AGI 的最終實現之間畫出一條直線。 人工智能工作的數量、人工智能公司的數量以及大量其他指標也是如此。 可能這些計數與獲得 AGI 無關。 有人認為，這些措施比光更熱。

反駁的觀點是，我們必須嘗試衡量我們在哪里以及我們要去哪裡。 將頭埋在沙子裡似乎並不是評估我們是朝著 AGI 前進還是遠離 AGI 的可行方法。 人們希望並普遍認為，對人工智能進步的精力和注意力越多，我們就越接近 AGI。 這些指標是我們可以做的最好的收集在 AGI 競賽中分配和消耗的能量和注意力的方法。

一輪又一輪。

每個指標本身也可以針對頭部進行打擊。

例如，考慮有關 AI 的立法或法案的數量。

你可以聲稱，如果立法者正在關注與人工智能相關的法律，這是一個很好的跡象，表明國家正在相當清醒地認識到人工智能的重要性以及人工智能發展方向的社會影響。 可以證明，這表明該特定國家正在開展大量人工智能推進工作。 除非人工智能顯著蓬勃發展並成為貴國的示範性元素，否則你為什麼要費心製定人工智能法律？

以這種方式，那些頒布新的人工智能法律的國家被解釋為一個明顯的跡像或信號，表明該國正在順利推進 AGI 進展。

一些批評者斷言，提出的有關人工智能的新法律將扼殺每個特定國家的人工智能努力。 立法者和政治領導人將自食其果。 法律將過早地給該特定國家正在進行的人工智能工作蒙上陰影。 AI 進步的水龍頭將被合法的頭髮堵塞而堵塞，AGI 進步的步伐將在那個宣布 AI 法律的國家放慢到涓涓細流。 與此同時，其他未通過此類人工智能法律的國家將繼續有增無減。 就好像您決定將鉛塊放在已經在 400 米跑道上的跑​​步者身上。 如果您旨在幫助他們並加快他們的速度，那麼您所做的恰恰相反。

哇，反駁說，人工智能法律的製定更像是確保跑步者面前沒有任何不必要的路障。 法律以同樣的方式提供指導，賽道上的線條可以讓跑步者順利地朝著正確的方向前進。 如果沒有那些畫線，跑步者可能會發瘋。 新的人工智能法律將使他們朝著理想的結果大步前進。 在新的人工智能法律方面不這樣做的國家會發現他們的跑步者會朝著各個方向發展，包括可能完全跑出賽道並傷害那些在 AGI 比賽本身之外的無辜者。

還有一些“隱藏的”與人工智能相關的法律，其中一些正在計算，而另一些則不計入這些指標的一部分（在嘗試比較計數時會造成混亂）。

例如，如果一個國家製定了關於自動駕駛汽車等自動駕駛汽車的法律，你是否將其視為人工智能法律？ 為了闡明自動駕駛汽車（例如全自動駕駛汽車）將擁有一個人工智能駕駛系統，該系統是無人駕駛能力的核心（請參閱我在 這裡的鏈接）。 由於涉及人工智能，任何關於自動駕駛汽車的法律都可以被合理地爭論為本質上的人工智能法律。 另一方面，你可能有說服力地斷言法律是關於自動駕駛汽車的，而不是關於人工智能的，因此這不計入人工智能特定的法律計算中。

很亂。

所有這些對指標的恐慌可能會讓你在對這些重要考慮的截然相反的觀點中聳聳肩。 正如可能顯而易見的那樣，這些指標幾乎總是受到關於它們的含義以及如何適當分析一個國家在 AGI 方面的地位的不同解釋。

AGI 競賽的地緣政治機動和調整

哪些國家在 AGI 競賽中領先？

哪些國家落後了？

上述指標試圖展示每個跑步者當前的位置。 一個基本假設是，如果指標確實描繪了 AGI 尋求定位的恰當指示，那麼這些不同的杆位可能會隨著時間的推移保持不變。 當然，現實情況是，在通向 AGI 的崎嶇道路上，國家利益和注意力可能會增加或減弱。 最明智的做法可能是期望定位發生變化。

一個重要的考慮因素是，國家並不是真正獨自參與這場競賽。

各國很可能在彼此之間來回傳遞接力棒。 AGI 競賽有時會讓一個或多個國家欣然攜手合作。 有時，這樣做是謹慎的，而不是友好的高興。 在其他情況下，國家可能會相互阻礙。 在任何時刻，比賽姿態都可能與退後幾步時完全不同，而且在未來幾步之後也可能完全不同。

考慮一下 HAI AI Index 2022 報告關於跨國合作的觀點：“儘管地緣政治緊張局勢加劇，但從 2010 年到 2021 年，美國和中國在人工智能出版物方面的跨國合作數量最多，自 2010 年以來增長了五倍. 兩國之間的合作產生的出版物數量是英國和中國之間的 2.7 倍——排名第二。”

憤世嫉俗的人會說，也許偶爾使用交叉合作是一種詭計。 一個國家可能會公開聲稱他們在進行交叉合作，表面上看起來這樣做是明智的，但在內心深處，他們將他們最好的 AGI 進展保密為一個隱藏的國家秘密。 也許這樣做是為了阻礙跨合作國家的進步。 也許這樣做是為了確保秘方不會被無意中分發出去。 各種原因都有可能。

在當今的現代數字互聯網在線世界中，試圖對 AGI 洞察力保密可能是一項艱鉅的工作。 發現或發明 AGI 的強烈願望是一種引人入勝的誘惑，可以激勵個人 AGI 開發人員和研究人員公開分享他們的最新工作。 各國會發現，試圖限制這種共享比看起來要困難得多，而且可能比以前一切都基於紙質並且需要在全球範圍內物理移動文件的時代困難得多。

正如 HAI AI Index 2022 報告中提到的那樣，向開源的運動無疑是大多數最新 AI 和 AGI 研究的當代重點：“每年，成千上萬的 AI 出版物以開源形式發布，無論是在會議或文件共享網站。 研究人員將在會議上公開分享他們的發現； 政府機構將資助最終以開源形式進行的人工智能研究； 開發人員使用免費向公眾開放的軟件庫來開發最先進的人工智能應用程序。 這種開放性也有助於現代人工智能研發的全球相互依存和相互聯繫。”

總而言之，各國通常都在分享，但可能只是展示了他們的一部分。 其他國家可能不會分享或只是假裝這樣做。 一些國家在試圖衡量他們國家內的人正在放棄與堅持什麼方面進行了激烈的鬥爭。 等等。

我以這些方式描述了這些國家行動的性質：

• 人工智能單打獨鬥的國家 （嘗試自行進行）
• 人工智能單向國家 （接受，不會放棄）
• AI剩國 （從別人那裡得到它所能得到的）
• AI開放共享國度 （以分享為榮）
• AI鏤空共享國度 （分享的虛假）
• 人工智能聯盟國家 （試圖建立盡可能多的聯盟）
• AI 非遊戲國家 （尋求 AGI 不是國家優先事項）
• 人工智能作弊國 （逆向工程或偷偷從其他國家竊取）
• 其他

一個國家一次可以在多個這些桶中。

一個國家可以在其中一個桶中停留一段時間，然後移出桶，然後可能再回到桶中。

與尋求 AGI 有關的民族國家的願望和關注是一個動態的潮起潮落，肯定會繼續前進，並成為哪個國家在競爭中的移動目標，並且需要不斷的觀察才能弄清楚所有玩家都在給定的時間定位。

國際人工智能法和人工智能倫理作為 AGI 競賽的裁判

在之前的專欄中，我介紹了各種國家和國際為製定和頒布監管人工智能的法律所做的努力，請參閱 這裡的鏈接 和 這裡的鏈接， 例如。 我還介紹了各個國家已經確定和採用的各種人工智能倫理原則和指導方針，包括聯合國的努力，例如聯合國教科文組織的一套人工智能倫理，近 200 個國家採用，見 這裡的鏈接.

以下是我之前仔細探索過的有關 AI 系統的道德 AI 標准或特徵的有用基石列表：

• 透明度
• 正義與公平
• 非惡意
• 社會責任
• 隱私
• 受益人
• 自由與自治
• 信任
• 永續發展
• 尊嚴
• 團結

AI 開發人員、管理 AI 開發工作的人員，甚至是最終部署和維護 AI 系統的人員，都應該認真使用這些 AI 道德原則。

在整個 AI 開發和使用生命週期中的所有利益相關者都被認為是在遵守 Ethical AI 的既定規範的範圍內。 這是一個重要的亮點，因為通常的假設是“只有編碼員”或那些對 AI 進行編程的人才能遵守 AI 道德概念。 正如前面所強調的，人工智能需要一個村莊來設計和實施，整個村莊都必須精通並遵守人工智能倫理規則。

讓我們考慮一下國際 AI 法律和 AI 道德準則的國際宣言對 AGI 競賽的影響和重要性質。

努力實現 AGI 的國家可能會放棄這樣做，並發現自己轉向了 AGI 的一些經常流行的存在風險。 希望通過制定國際人工智能法律和國際人工智能倫理準則，各國將被引導向 永遠的人工智能 並避開 壞的人工智能.

根據我們的賽道類比，那些人工智能法律和人工智能倫理考慮就像試圖讓跑步者遠離賽道。 在 AGI 競賽中走捷徑的誘惑很大。 這些捷徑可能會導致一個國家看似更快地走上終點線，但同時也會使該國家和其他國家面臨不適當的風險。 一個微妙但有說服力的例子是兩用人工智能，我在 這裡的鏈接，因此人工智能的進步很容易從以善為目標轉變為產生災難性的惡。

你可以斷言國際人工智能法律和國際人工智能倫理就像裁判或裁判。

一個假設是，這些國際設計的法律和道德機制將使 AGI 競賽更加平穩。 問題是，特定國家是否選擇聽從裁判或裁判是另一回事。 同樣，這些當局如何提供懲罰或激勵措施以使跑步者保持在正確的軌道上，這是一個令人煩惱的問題。 各國很有可能會按照自己的意願行事，為此，其他國家可能需要轉移注意力，以加強對一些國家必然會採取的不走尋常路的違規行為的支持。

結論

傳奇化學家、微生物學家路易斯巴斯德有句名言：“科學無國界，因為知識屬於人類，是照亮世界的火炬。 科學是國家的最高人格化，因為這個國家將始終是第一個承載最遠的思想和智慧作品的國家。”

能不能說AGI的成就不分國界，AGI屬於全人類？

還是第一個到達 AGI 的國家會佔有它，沉醉於卑鄙的權力並為權力發瘋？

對於那些喜歡對這個特殊難題有所了解的人，請考慮一下 AGI 本身可能就是眾所周知的草中之蛇的成就類型。 蛇的發現者可能是第一個被蛇咬的人。 成為第一有其風險。

越過 AGI 的終點線並不一定會像某些人想像的那樣慶祝和無憂無慮。 利用 AGI 也不一定容易。 有些人可能會爭辯說，應對 AGI 幾乎是不可能的，因為 AGI 似乎具有與人類相當的狡猾和獨創性。 各國應該注意他們試圖達到的目標和結果，提前這樣做，不要措手不及。 他們的國寶箱裡可能有一個馬蜂窩。

正如巴斯德所說：“幸運偏愛有準備的頭腦。”