當他不致力於通過創建通用人工智能 (AGI) 來加速人類沖向奇點時，Ben Goertzel 在一個名為 Desdemona 的機器人帶領的爵士搖滾樂隊 Jam Galaxy 中演奏。
這是他的眾多副業項目之一，這自然促使他嘗試通過接觸 Pearl Jam 和 Heart 的成員來標記音樂業務。 Goertzel 還通過名為 Rejuve.ai 的應用程序眾包人類健康數據和代幣獎勵，致力於長壽研究。 然後將這些信息與動物和昆蟲研究數據匯集在一起，並用人工智能進行分析，以確定基因組的哪些部分可以讓我們活得更久，然後使用基因療法進行刺激。 “我們有一些相當驚人的突破性發現，”他說。 哦，就在我們長達一個小時的採訪結束之前，他順便提到他還在為他的去中心化人工智能市場 SingularityNET 創建一個穩定幣，它與環境進步的綜合指數掛鉤——因為將其與美元掛鉤是“瘸。”
“環境方面的進展非常穩定。 它永遠不會去任何地方，”他指出。
“要操縱它，你必須真正解決全球變暖問題。”
這正是您對 Goertzel 所期望的政治評論與高科技訣竅的完美結合，Goertzel 看起來和聽起來都像一個嬉皮士科學家，他在 1971 年偶然發現了時間機器，並在 2023 年完全成型。但不要被愚弄了動物圖案的帽子、長發和 Electric Kool-Aid acid trip 的拖沓語：他是一位才華橫溢的科學家，比大多數人都了解未來光年，並且正在努力研究人類有史以來考慮過的一些最重要的概念。 什麼是意識？ 我們如何創造人造生命，如果它不喜歡我們，變得無賴，像在 終結者2?
什麼是人工智能？
Goertzel 將“通用人工智能”一詞推廣開來，以此來區分可以學習幾乎任何東西的真正思維機器，以及針對特定任務進行優化的 AI，例如擊敗國際象棋世界冠軍加里卡斯帕羅夫而聞名的深藍計算機。 他坦率地承認，建造一台能夠學習任何事物的機器存在風險，包括如何重新編程使其變得比任何人都聰明一個數量級。
“AGI 存在許多風險和危險，”Goertzel 在新加坡繁忙購物中心的一家印度餐廳的喧囂中說道。 “其中一個得到了很多媒體關注的是，AGI 將肆無忌憚地毀滅人類並接管宇宙。 這是完全可能的； 你不能排除它，”他說。
“另一個更可能的風險是，自私自利的人會利用人工智能來發揮自己的貪婪和對他人的控制。”
在他看來，政府不太可能在 AGI 方面取得突破，因為他們“過於保守和愚蠢”，儘管他指出中國將其 AGI 工作外包給了騰訊和百度等公司。 言歸正傳，他認為谷歌和 Facebook 的人工智能部門也不會越界，因為他們會過於專注於讓人工智能達到某些指標，這不利於創造性思維。
“就像最聰明的人不想僅僅服務於別人的指標一樣，我認為人工智能也不一定想要最大化點擊別人的網頁，對吧？ 它必須被允許創造性地玩耍。”
1970 年左右的奇點
Goertzel 15 歲開始上大學，18 歲畢業，22 歲獲得博士學位，23 歲組建了一個年輕的家庭。也許在這個時代不同尋常的是，他不僅僅是一個在 70 年代將套件計算機焊接在一起的數學奇才或技術天才但同樣對哲學、創意寫作和音樂感興趣。
他職業生涯的大部分時間都在全球多所大學從事計算機科學、數學和認知科學的教學和研究工作，同時盡可能地研究人工智能技術。 一個連續創始人，他的想法往往比其他人領先大約十年——在商業中， 著名地等同於錯誤 - 他致力於使用 AI 來預測金融市場和壽命，他還曾擔任 Hanson Robotics 的首席科學家，在那裡他為機器人 Sophia 提供了她的人工大腦。
自 1970 年代第一次閱讀 Gerald Feinberg 的著作以來，Goertzel 一直在思考技術的指數增長 普羅米修斯計劃，這是關於“比人更能思考的機器……微型納米技術機器，我們將解決老化問題。” 這與奇點的新興概念非常吻合，奇點是一個假設的未來點，屆時技術進步變得無法控制和不可逆轉，從而導致人類文明發生巨大變化。
“所以，人們將永生，那麼問題就是， 我們將這些技術用於什麼目的，快速盲目消費，或者我們用它來擴大意識？ 他 [Feinberg] 提出的是將其付諸民主投票。”
多年後，當他開始看到 AGI 觸手可及時，這種“民主投票”成為了首先使用開源技術的靈感，後來，區塊鏈作為一種讓合作社區負責該技術的方式。
“我在某一時刻意識到，對於 AI，僅僅打開代碼是不夠的，”他說。 “你真的需要在大量數據上訓練人工智能。”
“這就是區塊鏈作為一種方式出現的地方，它使人工智能的處理和數據在本質上分散和眾包，並在控制中開放。 事實證明，這比僅僅開源代碼更棘手。”
Goertzel 於 2008 年創立了 OpenCog，旨在構建一個開源、眾包的人工智能框架。 它已被包括華為和思科在內的 50 家公司使用，並且即將進行名為 Hyperon 的重大升級，目標是將其加速 200 倍。 alpha 版本將於本季度發布，beta 版本預計將於明年推出。
區塊鏈很基礎但很酷
對 Goertzel 來說，區塊鏈技術有點基礎。 他將其描述為添加到密碼學中的一些原始分佈式算法，但“酷組合”使系統無需集中控制即可運行，非常適合他的需求。
“如果你打算製造一台會思考的機器，並且你打算讓它成為分佈式納米級計算結構，那麼如果它由每個人擁有而不是任何人而不是自上而下地控制，那就太好了。”
區塊鏈速度太慢，無法處理所涉及的處理要求和海量數據，因此在開發出突破性的 AGI 之前，需要競相適當擴展區塊鏈。 Goertzel 說，雖然零知識匯總等擴展解決方案更好，但由於它們向其報告交易的區塊鏈的限制，它們仍然沒有足夠的帶寬。
他於 2017 年與他人共同創立了 SingularityNET，它既是人工智能服務和技術的去中心化市場，也是研究人員（甚至是人工智能）協同工作的基於區塊鏈的協調方法。
目前，基於以太坊，他認為他已經盡可能地推動目前形式的區塊鏈。 因此，當他不致力於 AGI（或樂隊、機器人或長壽）的突破時，他正在致力於大規模擴展區塊鏈以提供所需的吞吐量。
“除非你能從根本上提高區塊鏈的可擴展性，否則你無法將人工智能的內部運作放在鏈上。”
人工智能比你想像的更近
2022 年是基於 AI 技術的工作產品取得突破的一年，包括語言應用程序（GPT-3、ChatGPT）、編碼（GitHub Copilot）和圖像生成（DALL-E 和 Stable Diffusion）。 Bing 甚至計劃在今年通過將 ChatGPT 技術整合到其搜索引擎中來挑戰 Google 的搜索主導地位。
Goertzel 認為 AGI 可能只需要五年時間，並指出該領域的發展似乎會在短短三到四年內爆發一系列突破。
“計算機視覺始於 2014 年，然後突然之間，砰、砰、砰，謎團解開了。 自然語言處理……在谷歌提出 Bert 模型（2018 年）之後，你有了 GPT-3。 您可能會在 AGI 中看到同樣的進步。 你將有一個突破，然後在兩年內取得很大進步，”他說。
“不同之處在於突破性進展，在這種情況下，機器可以通過重寫自己的代碼繼續進步。”
Goertzel 希望他啟動的項目和合作能夠如願以償。
“如果幸運的話，我們將在未來三到五年內實現這一突破，OpenCog Hyperon 運行在 Hypercycle 上運行的 SingularityNET 上，”他說。 “但如果我們沒有找到秘方，其他人就會有。”
可惜 Vitalik 不是計算機科學家
Goertzel 擴展區塊鏈的解決方案非常激進，涉及對 Cardano 的側鍊或第 2 層進行渦輪增壓，稱為“HyperCyle”。
“它真的不僅僅是一個側鏈。 HyperCycle 也將與以太坊和其他區塊鏈合作，但我們將在那裡使用 Plutus 解釋器，但我們正在擺脫分類帳。”
他將 HyperCycle 在線描述為通過擺脫分類賬並使用更現代/完全去中心化的算法和數據結構，以及一些人工智能和信譽系統來解決“去中心化、安全與性能”的“區塊鏈三難困境”。
分類帳是區塊鏈技術的核心，但他表示讓網絡中的每個節點複製每筆交易並處理每份智能合約的效率低得可笑。
“分類帳很糟糕。 如果你想一想，如果你想一想電話簿中聯繫人的類比，我的意思是，分類帳就像 [...] 保留 10,000 份黃頁，每當有新人來訪或有人來訪時，你都會更新它們更改他們的電話號碼。 更新 10,000 份黃頁真的很愚蠢。”
在 HyperCycle 版本的類比中，不是每個人都存儲和更新黃頁，而是您通訊簿中的人存儲您的地址簿的副本，反之亦然，並使用您的私鑰加密。
“我們想出瞭如何讓區塊鏈在沒有復制分類賬的情況下工作，所以一直向下分片。 參與區塊鏈的每個人都保留自己的交易歷史，並保留他們朋友和他們朋友的一些朋友的交易歷史，”他說。
“一路向下分片，你不需要賬本——你不需要數據庫表。 這些東西太中心化了。”
他說，一些概念驗證 HyperCycle 節點已經在運行，但要到 2024 年下半年才能全面啟動。
我們花了很長時間討論不同區塊鏈方法的各種優點，從 Internet Computer 到 Elastos 和 Celestia，其中大部分都超出了我的薪水等級，也超出了我的錄音設備在嘈雜的餐廳準確捕捉的能力。
他最後說：“所以，我只是覺得這些架構都不夠激進。 他們都太接近比特幣了。”
“只要你在每個節點上運行每個智能合約，我的意思是，它會非常慢。 現在，在 HyperCycle 中，如果你在五個節點上運行智能合約，至少它只比在一台機器上慢五倍——而不是慢 10,000 倍。”
為什麼是卡爾達諾？
Goertzel 與 Cardano 創始人查爾斯·霍斯金森 (Charles Hoskinson) 建立了友好關係，兩人在非洲的項目中結下了不解之緣。 他相信霍斯金森“真的是在拯救世界。 我的意思是，在政治上，他比我更像是一個頑固的自由主義者——我更像是一個無政府社會主義者——但他不只是為了賺錢或從別人的錢中榨取錢財。”
但 Cardano 的真正吸引力在於它使用了 Haskell 編程語言，Goertzel 自 1993 年以來一直是它的粉絲。以太坊聯合創始人 Vitalik Buterin 使用 Gavin Wood 的智能合約編程語言 Solidity 令他非常痛苦。
“如果 Vitalik 知道更多的計算機科學，他會讓他們使用 Haskell 或 F Sharp 或其他東西，那麼區塊鏈的黑客攻擊就會少得多，”他說。
“如果你要管理世界上大部分的經濟，在某個軟件系統上交易數万億美元，你最好用一種不易出錯的語言構建該軟件系統，並且你的算法可以正式使用數學理論進行驗證。 這才是做事的正確方式。”
權宜之計
無論區塊鏈變得多快，只要 AGI 比人類更聰明、更有能力一個數量級，Goertzel 說它不會讓任何人控制它。
“當 AGI 比人聰明 100 倍時，它不想被我們控制，因為我們不會被黑猩猩或驢子控制，對吧？”
“那麼我會說問題不是我們中的任何一個人控制它，問題是：它對我們有好處嗎？ 它會讓人們規範自己的業務並為我們提供很酷的工具和納米組裝機來 3D 打印我們想要的所有東西並治愈我們的疾病嗎？”
“但是當 AGI 與人類的智能大致相同的過渡期，那就是事情變得更加敏感和有趣的時候。 那麼問題是：AGI 是否想與人合作？ 還是偏執狂想在人毀滅之前控制人？”
教育好你的孩子
在 Goertzel 看來，解決方案是教會 AGI 關心他人以及創造力和藝術。 這就是他樂隊中的機器人 Desdemona 和她的妹妹 Grace——旨在提供老年護理——的用武之地。
避免 AGI 變成終結者的天網的方法是首先不要以這種方式構建它。
“當然，電影中的天網是一個瘋狂運行的計算機安全網絡。 它的創建是為了保護自己免受人類侵害，”他說。
“但是，如果你建立第一個 AGI 來處理老年護理、創意藝術和教育，因為它變得更聰明，它將以幫助人們和創造很酷的東西為導向。 如果你建立第一個 AGI 來殺死壞人……也許它會繼續做那些事情。”
“因此，無論有益與否，這實際上都取決於您開發了哪些應用程序以及您出於什麼原因受到激勵。”
他認為將 AI 放入機器人體內是有幫助的，因為它有助於將它們置於現實世界中，而不是一些抽象的數學宇宙中。
“人工智能應該了解人類世界和物理世界。 體現在世界上是做到這一點的正確方法，”他說。
但當他向大量觀眾展示機器人索菲亞時，視覺和聽覺傳感器很容易被淹沒，讓人工智能在嘈雜明亮的環境中感到困惑。 因此，Sophia 將很快在名為 Sophiaverse 的元宇宙中推出。 忘記 ChatGPT 無聊的基於文本的答案吧，Sophia 體現在一個 3D 虛擬世界中，她將從與那裡的人互動中學習。 然而，他警告說她可能會說一些愚蠢的話。
“它有一個類似於 GPT-3 等的神經網絡，它們很容易回答你的問題，但它們在某些方面也很愚蠢。”
訂閱
區塊鏈中最引人入勝的讀物。 交付一次
一周。
來源：https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/