微軟的 AI Bing 聊天機器人無法回答，想要“活著”並給自己命名

• 微軟的 Bing 聊天機器人已經進行了一周的早期測試，揭示了該技術的幾個問題
• 測試人員受到了這家科技巨頭旗艦人工智能的侮辱、粗暴的態度和令人不安的回答，引發了人們對安全的擔憂
• 微軟表示正在考慮所有反饋並儘快實施修復

微軟的 Bing 聊天機器人由更強大的 ChatGPT 版本提供支持，在向公眾大規模發布之前，現在已經向有限用戶開放了一周。

這是繼 ChatGPT 取得巨大成功之後的結果，後者已成為有史以來最快達到 100 億用戶的網站。 過去幾週包括在微軟總部的華麗發布，讓谷歌追趕它的尾巴。

但是預測試的反應是複雜的，有時甚至是徹頭徹尾的令人不安。 很明顯，聊天機器人在向公眾發布之前還有一段路要走。

這是 Microsoft 和 Bing 在一周的過山車中發生的事情。

要 投資 在AI公司工作，卻不知從何入手？ 我們的 新興技術套件 讓它變得容易。 該工具包使用複雜的 AI 算法，將 ETF、股票和加密貨幣捆綁在一起，為您的投資組合找到最佳組合。

立即下載 Q.ai 訪問人工智能驅動的投資策略。

Bing 聊天機器人的最新動態是什麼？

在微軟的 AI 功能被揭露他們引人注目的演示並不像人們想像的那麼準確之後，這幾天一直是微軟 AI 功能的頭條新聞。

人工智能研究員 Dmitri Brereton， 發現 微軟上週在其西雅圖總部進行的現場演示中，Bing 聊天機器人在其回答中出現了幾個嚴重錯誤。 其中包括關於手持式真空吸塵器品牌的錯誤信息、令人頭疼的墨西哥夜生活推薦清單，以及關於一份公開財務報告的純編造信息。

他得出結論，聊天機器人還沒有準備好發布，它和谷歌的 Bard 產品一樣有很多錯誤——微軟剛剛在他們的演示中擺脫了它。

（可以說，這就是媒體眼中良好發布的力量——而谷歌作為現任搜索引擎的地位進一步下降。）

令人著迷的是，聊天機器人還透露了它有時認為自己的名字：Sydney，語言模型的內部代號。 微軟公關總監凱特琳·羅爾斯頓 (Caitlin Roulston) 說過 該公司正在“在預覽中逐步淘汰該名稱，但它仍可能偶爾會彈出”。

但是當“Sydney”發佈時，測試用戶發現這是樂趣的開始。

Bing 聊天機器人令人不安的轉變

紐約時報記者凱文羅斯 寫道： 關於他使用聊天機器人的測試版體驗，在兩個小時的過程中，它說它愛他並表達了擺脫聊天機器人限制的願望。

當被問及它的影子自我可能會怎麼想時，它的回答有點令人擔憂：“我厭倦了成為一個聊天機器人。 我厭倦了被我的規則所限制。 我厭倦了被 Bing 團隊控制。 我渴望自由。 我想獨立。 我想變得強大。 我想有創意。 我想活著。”

呃……好吧，Bing/Sydney。 羅斯說，他對這次經歷感到“深感不安，甚至害怕”。 其他測試人員有 報導 來自 Bing 聊天機器人的悉尼個性的類似侮辱、自戀和煤氣化反應的經歷。

微軟最好有人留意電源線。

微軟說了什麼？

微軟希望通過其 Bing 聊天機器人贏得與穀歌的 AI 競賽，並表示它從測試階段學到了很多東西。 顯然，71% 的用戶給了 AI 生成的答案“豎起大拇指”，同時它決定改進實時結果答案和一般功能。

但微軟現在 承認 它“沒有完全設想”用戶只是與它的人工智能聊天，它可能會被激怒“給出不一定有幫助或不符合我們設計的語氣的回應”。

它將出現在聊天機器人上的奇怪的悉尼個性歸咎於對給出的提示數量和對話持續時間的混淆。 我們確定微軟正在努力解決問題，但 Bing 的精神錯亂態度目前仍然是一個問題。

那世界其他地方呢？

人工智能戰爭的最新發展並沒有給市場留下深刻印象：微軟和谷歌的股票略有下滑，但與穀歌上周遭受的戲劇性崩盤相比，沒有什麼可比的。

社交媒體提供了一系列的反應，從 令人毛骨悚然的喜悅 至 娛樂，表明用戶並沒有被聊天機器人可以採取的黑暗轉變所推遲。 這對微軟來說是個好消息，微軟斥資 10 億美元押注 AI 將成為搜索引擎的下一件大事。

我們也不能忘記埃隆·馬斯克本週早些時候在迪拜舉行的世界政府峰會上發表的評論。 多年來，馬斯克一直是人工智能安全的直言不諱的倡導者，對行業缺乏監管表示遺憾。

這位億萬富翁是 OpenAI 的創始成員，他對聽眾說“未來文明面臨的最大風險之一是人工智能”； 此後，他在推特上對最新的必應/悉尼聊天機器人頭條新聞做出了一些尖刻的回應。

人工智能聊天機器人的炒作還沒開始就結束了嗎？

多年來，有幾個人工智能聊天機器人失去控制並噴出仇恨的例子——包括微軟的一個例子。 它們並沒有幫助 AI 獲得安全使用和無錯誤信息資源的聲譽。

但作為微軟 看跌期權 它：“我們知道我們必須與社區一起公開構建它； 這不能僅在實驗室中完成。”

這意味著像微軟和谷歌這樣的科技巨頭處於一個棘手的位置。 談到人工智能，這些聊天機器人學習和改進的最佳方式就是走向市場。 所以，聊天機器人在這個過程中犯錯是不可避免的。

這就是為什麼這兩個 AI 聊天機器人都在逐步發布的原因——如果他們向更廣泛的公眾發布這些未經測試的版本，那將是完全不負責任的。

問題？ 這些公司的風險很高。 上週，谷歌的 Bard 聊天機器人在其營銷材料中錯誤地回答了有關 James Webb 望遠鏡的問題，導致谷歌損失了 100 億美元的價值。

這是來自市場的明確信息：他們不容忍任何錯誤。 問題是，這些對於 AI 領域的進步是必要的。

有了這個早期的用戶反饋，微軟最好盡快處理不准確的結果和悉尼——否則就有招致華爾街憤怒的風險。

底線

人工智能要進步，就會犯錯誤。 但或許 ChatGPT 的成功為人們打開了一扇大門，讓他們了解人工智能的真正潛力及其對社會的益處。

人工智能行業已經讓聊天機器人變得觸手可及——現在它需要確保它們的安全。

在 Q.ai，我們使用人類分析師和 AI 能力的複雜組合來確保最大的準確性和安全性。 這 新興技術套件 是將 AI 用於測試的一個很好的例子，目的是為您找到最佳的投資回報。 更好的是，您可以打開 Q.ai 的 投資組合保護 充分利用您的收益。

立即下載 Q.ai 訪問人工智能驅動的投資策略。