OpenAI 的首席執行官兼 Worldcoin 的聯合創始人山姆奧特曼最近與 IBM 的信託主管克里斯蒂娜蒙哥馬利和紐約大學教授加里馬庫斯一起在國會作證。
參議院司法隱私、技術和法律小組委員會會議是 Altman 首次在國會正式露面,讓參議員有機會就其公司對監管的看法向 OpenAI 首席執行官提問。
“如果這項技術出了問題,它可能會大錯特錯。”
OpenAI 首席執行官山姆奧特曼在參議院聽證會上承認,他“最擔心的”是通過開發技術對“世界造成重大傷害”。 pic.twitter.com/RROe9DnR2U
— NowThis(@nowthisnews) 2023 年 5 月 16 日
伊利諾伊州參議員 Dick Durbin 將會議稱為“歷史性”會議,會議的重點是了解 ChatGPT 等生成式人工智能 (AI) 模型帶來的潛在威脅,以及立法者應如何進行監管。
奧特曼的評論——被國會議員和其他議長馬庫斯描述為看似真誠和真誠——似乎讓幾名參議院議員感到意外。
他主張建立一個有權頒發和撤銷開發許可證的聯邦監督機構,表示他認為當創作者的工作被用於訓練人工智能係統時應該得到補償,並同意使用人工智能產品受到傷害的消費者應該得到補償。有權起訴開發商。
Altman 對與最近的“AI 暫停”信件有關的問題不以為然,該信件呼籲暫停部署比 GPT-4 更強大的系統(支持 ChatGPT 的 AI 系統),他表示 OpenAI 已經花了超過六個月的時間評估 GPT -4 部署前。 他說,公司沒有計劃在未來六個月內部署另一種型號。
馬庫斯是暫停信的簽署人,他承認他更認同這封信的精神而不是其內容,但這位紐約大學教授敦促國會考慮全球監管和聯邦監管——奧特曼同意這一觀點。
在整個聽證會上,三位演講嘉賓就大多數話題達成了一致。 這包括支持隱私保護、加強政府監督、第三方審計以及美國政府應在多長時間內(立即)尋求監管該行業。
參議員林賽格雷厄姆在人工智能監管聽證會上詢問證人是否應該有一個機構來許可和監督人工智能工具。
都說可以,但 IBM 首席隱私與信任官克里斯蒂娜·蒙哥馬利 (Christina Montgomery) 有規定: pic.twitter.com/UD7R8N7s23
- 雅虎財經(@YahooFinance) 2023 年 5 月 16 日
然而,唯一的不和諧來源之一來自 IBM 的蒙哥馬利,他不同意需要一個新的聯邦機構來執行 AI 行業法規的觀點。
她的聲明表明,IBM 贊成使用現有監管機構的外科手術式監管方法,將執法重點放在特定用例上。
雖然三位發言者都同意人工智能可能有害並需要安全乾預,但馬庫斯明確表示,他認為目前沒有人了解或能夠預測現有人工智能產品可能或將變得多麼有害。 他提倡採取謹慎的做法,包括提高透明度。
“我們製造的機器就像瓷器店裡的公牛:強大、魯莽且難以控制。”
週二,紐約大學教授加里·馬庫斯 (Gary Marcus) 在參議院聽證會上就人工智能的新興威脅敲響了警鐘。 pic.twitter.com/d2b2kdJBWK
— NowThis(@nowthisnews) 2023 年 5 月 16 日
發言人還同意國會議員的觀點,即美國需要一部類似於歐洲的國家隱私法。 然而,Altman 不同意消費者應該能夠選擇不將他們公開可用的網絡數據包含在訓練數據集中的觀點。
Altman 也不願公開表示 OpenAI 反對提供基於廣告的 GPT 產品版本。 這位 CEO 只是簡單地表示他“不會說永遠不會”。
儘管早些時候在聽證會上表示 OpenAI 的產品遵守消費者隱私標準,因為該公司沒有為提供定制廣告而建立用戶檔案。
新澤西州參議員 Corey Booker 引用了他作為斯坦福大學畢業生和立法者在去中心化金融和 Web3 公司工作的經歷,提出了更大的中心化隱私問題。 他詢問集中化和壟斷對行業有何影響,馬庫斯在回答這個問題時發出嚴重警告,稱該國可能冒著將公眾認知控制權交給少數參與者的風險——擁有足夠資金的領先人工智能公司與微軟、谷歌和亞馬遜競爭。
Altman 的 Worldcoin 項目將以太坊區塊鏈上的去中心化加密貨幣資產與通過虹膜掃描技術進行身份驗證相結合,他解釋說 OpenAI 只是提供了一個平台,OpenAI 產品的民主化發生在開發人員、公司和最終用戶將 GPT API 用於“神奇”的用途。
相關新聞: OpenAI CEO 就 100 億美元 Worldcoin 資金進行“高級會談”:報告
來源:https://cointelegraph.com/news/openai-ceo-sam-altman-testifies-in-historic-senate-hearing-on-ai-safety