一些人堅持認為生成式 AI ChatGPT 是人類靈魂的一面鏡子，令人煩惱的 AI 倫理和 AI 法律

鏡子，鏡子，牆上——人類是最聰明的！

這當然不是著名的引述 白雪公主和七個小矮人，但我選擇利用這個發明來達到方便的目的。 這與人類在一面無所不知的鏡子中如何看待自己有關。 我們看到了什麼？ 我們是貓的喵喵嗎？ 我們高高在上嗎？

非常令人興奮的問題，當然。

我提出這個問題的原因與一個話題有關，乍一看，這個話題似乎與人類如何看待自己在宇宙中的位置背後的重大問題無關。 我將把這些關於生活、我們的存在和人類的重要問題與人工智能 (AI) 的出現聯繫起來。

有些人堅持認為最新的人工智能可以作為 照進人類靈魂的鏡子.

哎呀，我們想要這個嗎？ 也許我們不會喜歡我們所看到的。 另一方面，也許我們必須下定決心，使用人工智能來了解真實的我們。 就像一桶冰水，人工智能可能會在正確的時間成為正確的事情，讓我們意識到我們是誰以及我們要去哪裡。

為 AI 的到來鼓掌。

也許儘管我們正在把自己趕下懸崖。 我們可能會對 AI 鏡子做出激進和消極的反應。 人們可能會陷入絕望和絕望。 與悲觀的世界末日呼聲相反的是，我們正在大聲疾呼地提升到我們從未想像過的、由 AI 推動和實現的宏偉水平。 習慣它。

總而言之，關鍵在於 AI-as-a-mirror 隱喻 是我們可以使用 AI 來審視自己，並據此找到自己。 您必須決定我們是否應該這樣做，有些人認為我們不應該這樣做。 您還可以決定今天的 AI 是否提供了可能性。 他們說，美存在於旁觀者的眼中。 同樣，所有關於鏡子的討論可能都是虛幻的，以至於 AI 真的根本不會告訴我們任何關於我們的事情。

一場充滿敵意的辯論，其中包括許多途徑和令人眼花繚亂的鏡像。

所有這一切都涉及大量人工智能倫理和人工智能法律方面的考慮。

請注意，目前正在努力將道德 AI 原則融入 AI 應用程序的開發和部署中。 越來越多的關注和以前的人工智能倫理學家正在努力確保設計和採用人工智能的努力考慮到做事的觀點 永遠的人工智能 並避免 壞的人工智能. 同樣，有人提出了新的 AI 法律，作為防止 AI 努力在人權等問題上失控的潛在解決方案。 有關我對 AI 倫理和 AI 法律的持續和廣泛報導，請參閱 這裡的鏈接 和 這裡的鏈接，僅舉幾例。

考慮人工智能倫理如何進入這幅圖景。 假設我們確信 AI 確實提供了照進我們靈魂的一面鏡子。 然後我們為此目的使用人工智能。 人們迷戀人工智能似乎展示的東西。 也許整件事都是一場騙局。 惡人正試圖通過使用閃亮的 AI 新玩具來蒙蔽我們的雙眼。 我們走上了一條錯誤的道路，部分原因是假設今天的人工智能可以做它不能真正做的事情。 人工智能的魅力讓那些心懷不軌的人更加膽大妄為。

我想你可以看到這會如何完全失控。

正在製定和頒佈人工智能倫理準則，以期防止此類人工智能致盲典故（例如，請參閱我對近 200 個國家通過聯合國教科文組織的努力製定和支持的聯合國人工智能倫理原則的報導，討論於 這裡的鏈接). 同樣，正在探索新的 AI 法律，以試圖讓 AI 保持平穩。 最近的一次拍攝包括一組建議的 人工智能權利法案 美國白宮最近發布的關於人工智能時代人權的報告，見 這裡的鏈接. 讓人工智能和人工智能開發人員走上正確的道路，並阻止可能削弱社會的有目的或無意的不正當行為，需要舉全村之力。

這個 AI 鏡像隱喻是一個新的混合物嗎？

不。

有些人會勸告，宣稱人工智能的有見地和鼓舞人心的用途實際上有點陳詞濫調。 長期以來，科幻作家一直在猜測人工智能可能扮演這個角色。 如今這個問題之所以值得重新審視，與 生成式人工智能. 特別是一款名為 ChatGPT 的生成式 AI 應用程序，已經引起了公眾對一種已經醞釀了數年的特殊類型 AI 的廣泛關注。

AI 業內人士對此早已心知肚明。

事實上，當世界最近似乎對 ChatGPT 應用程序瘋狂時，許多堅定不移地追求最先進的 AI 研究和開發的人都有些吃驚。 正如您稍後會看到的那樣，ChatGPT 將最新的生成式 AI 帶入了社會意識，並獲得了巨大的頭條新聞，並激發了人們對人類前進方向的興趣。 一項原本在實驗室和研究團隊大廳中悄悄滲透的技術突然產生了金礦。 尤里卡，看看我們可以用人工智能做什麼，引起了嘩然。

您可能會將此比喻成一個流行的比喻，即當演員出現在特定電影或出現在有線電視或電視節目中時，他們會被“發現”。 世界對這個人很感興趣，並認為他們神奇地憑空出現。 與此同時，這位如今冉冉升起的新星講述了他們如何在漫長的歲月中扮演小角色和各種角色的傳奇故事。 對他們來說，他們一直都是在用心做事。 每個人都不停地告訴他們，他們只是幸運地走進了陽光，這可能既令人不安又令人惱火，儘管他們經歷了漫長而疲憊的艱辛才取得了明顯的突破。

最好不要抱怨太多。 成為眾人矚目的焦點當然是偶然的。 這似乎比繼續在泥濘中艱難前行，永遠也爬不上泥沼要好。 抓住你成名的時刻，去吧。

似乎許多 AI 內部人士都意識到了同樣的覺醒。 不要對抗公眾意識，而是享受它。 在裡面嬉戲。 利用它獲得更多資金和更多機會。 這是一個非常幸福的場景。

回到關於鏡子的問題，已經有大量的專業和業餘哲學家在玩弄生成人工智能，尤其是 ChatGPT。 他們正在煽動這樣一種爭論，即我們可以使用這種類型的人工智能作為人類靈魂的鏡子。

讓我們仔細看看為什麼說生成式 AI 具有這種能力。 我還將向您展示一些直接涉及 ChatGPT 的示例，以便您可以切實了解人們指的是什麼。 我們將解開鏡子隱喻的包裝，弄清楚是什麼讓它運轉起來，以及它是否值得它目前收到的嗡嗡聲和大張旗鼓。

首先，我們應該確保我們都在同一頁面上了解生成 AI 的組成以及 ChatGPT 的全部內容。 一旦我們涵蓋了這個基礎方面，我們就可以對與此類 AI 相關的鏡像隱喻進行有說服力的評估。

如果您已經非常熟悉生成式 AI 和 ChatGPT，您或許可以瀏覽下一部分並繼續閱讀下一節。 我相信，通過仔細閱讀本節並跟上進度，其他所有人都會發現有關這些問題的重要細節具有指導意義。

關於生成式 AI 和 ChatGPT 的快速入門

ChatGPT 是一個通用的 AI 交互式對話系統，本質上是一個看似無害的通用聊天機器人，然而，它正被人們以一種讓許多人完全措手不及的方式積極而熱切地使用，我將在稍後詳細說明。 這個 AI 應用程序利用了 AI 領域中的技術和技術，通常被稱為 生成式人工智能. 人工智能生成文本等輸出，這就是 ChatGPT 所做的。 其他基於生成的 AI 應用程序生成圖片或藝術品等圖像，而其他生成音頻文件或視頻。

在本次討論中，我將重點關注基於文本的生成式 AI 應用程序，因為 ChatGPT 就是這樣做的。

生成式 AI 應用程序非常易於使用。

您需要做的就是輸入一個提示，AI 應用程序會為您生成一篇嘗試回應您的提示的文章。 撰寫的文本看起來就像這篇文章是由人的手和思想寫成的。 如果你輸入“告訴我關於亞伯拉罕·林肯”的提示，生成式人工智能將為你提供一篇關於林肯的文章。 這通常被歸類為執行 文字到文字 或者有些人更喜歡稱它為 文本到文章 輸出。 如前所述，還有其他生成 AI 模式，例如文本到藝術和文本到視頻。

您的第一個想法可能是，就撰寫論文而言，這種生成能力似乎沒什麼大不了的。 你可以很容易地在互聯網上進行在線搜索，很容易找到大量關於林肯總統的文章。 生成式 AI 的關鍵在於生成的文章相對獨特，提供原創作品而不是抄襲。 如果你試圖在網上某個地方找到 AI 生成的文章，你不太可能會發現它。

生成式 AI 經過預先訓練，並利用複雜的數學和計算公式，該公式是通過檢查網絡上的書面文字和故事中的模式而建立的。 由於檢查了成千上萬的書面段落，人工智能可以吐出新的文章和故事，這些文章和故事是所發現內容的大雜燴。 通過添加各種概率函數，生成的文本與訓練集中使用的文本相比非常獨特。

這就是為什麼學生在課堂外寫論文時能夠作弊引起了軒然大波。 老師不能僅僅拿那些欺騙學生聲稱是他們自己寫的文章，並試圖查明它是否是從其他在線來源複製的。 總的來說，不會有任何適合 AI 生成的文章的在線明確的預先存在的文章。 總而言之，老師將不得不勉強接受學生寫的這篇文章是原創作品。

生成人工智能還有其他問題。

一個關鍵的缺點是，由基於生成的人工智能應用程序生成的文章可能會嵌入各種虛假信息，包括明顯不真實的事實、被誤導性描述的事實以及完全捏造的明顯事實。 這些虛構的方面通常被稱為 人工智能幻覺，一個我不喜歡但遺憾的是似乎越來越流行的標語（關於為什麼這是糟糕和不合適的術語的詳細解釋，請參閱我的報導 這裡的鏈接).

在我們深入討論這個話題之前，我想澄清一個重要方面。

社交媒體上出現了一些關於 生成式人工智能 斷言這個最新版本的人工智能實際上是 有感知的人工智能 （不，他們錯了！）。 AI 倫理和 AI 法律領域的人士尤其擔心這種不斷擴大的索賠趨勢。 您可能會禮貌地說，有些人誇大了當今 AI 的實際能力。 他們假設人工智能具有我們尚未能夠實現的能力。 那真不幸。 更糟糕的是，他們可能會允許自己和他人陷入可怕的境地，因為他們假設人工智能在採取行動方面具有感知能力或類似人類。

不要將人工智能擬人化。

這樣做會讓你陷入一個棘手而沉悶的依賴陷阱，即期望 AI 做它無法執行的事情。 話雖如此，最新的生成式 AI 的功能相對令人印象深刻。 請注意，在使用任何生成式 AI 應用程序時，您應該始終牢記一些重大限制。

如果您對關於 ChatGPT 和生成式 AI 的迅速擴大的騷動感興趣，我一直在我的專欄中做一個重點系列，您可能會從中找到有用的信息。 如果這些主題中的任何一個引起您的興趣，請看一下：

• 1) 生成人工智能進展的預測。 如果你想知道 AI 在整個 2023 年及以後可能會發生什麼，包括生成 AI 和 ChatGPT 即將取得的進展，你會想閱讀我的 2023 年預測綜合列表，網址為 這裡的鏈接.
• 2) 生成人工智能和心理健康建議。 根據我在 這裡的鏈接.
• 3) 生成式 AI 和 ChatGPT 的基礎知識。 本文探討了生成式 AI 工作原理的關鍵要素，特別是深入研究了 ChatGPT 應用程序，包括對嗡嗡聲和宣傳的分析，網址為 這裡的鏈接.
• 4) 師生之間在生成式 AI 和 ChatGPT 上的緊張關係。 以下是學生不正當使用生成式 AI 和 ChatGPT 的方式。 此外，教師可以通過多種方式應對這一浪潮。 看 這裡的鏈接.
• 5) 上下文和生成人工智能的使用。 我還對涉及 ChatGPT 和生成 AI 的與聖誕老人相關的上下文進行了季節性的半開玩笑的檢查 這裡的鏈接.
• 6) 詐騙者使用生成式人工智能. 一個不祥的消息是，一些詐騙者已經想出瞭如何使用生成式 AI 和 ChatGPT 進行不法行為，包括生成詐騙電子郵件，甚至為惡意軟件生成編程代碼，請參閱我的分析 這裡的鏈接.
• 7) 使用生成式 AI 的菜鳥錯誤. 許多人對生成式 AI 和 ChatGPT 可以做的事情既過頭又出人意料地過頭，所以我特別關注了 AI 菜鳥往往會做的過頭，請參閱討論 這裡的鏈接.
• 8) 應對生成式 AI 提示和 AI 幻覺. 我描述了一種使用 AI 插件來處理與嘗試將合適的提示輸入生成 AI 相關的各種問題的前沿方法，此外還有用於檢測所謂的 AI 幻覺輸出和謊言的其他 AI 插件，如涵蓋於 這裡的鏈接.
• 9) 揭穿 Bonehead 關於檢測生成的 AI 生成的論文的說法. AI 應用程序出現了一場被誤導的淘金熱，這些應用程序聲稱能夠確定任何給定的文章是人工創作的還是人工智能生成的。 總的來說，這是一種誤導，在某些情況下，這是一種愚蠢且站不住腳的說法，請參閱我的報導 這裡的鏈接.
• 10）通過生成人工智能進行角色扮演可能預示著心理健康問題. 有些人正在使用諸如 ChatGPT 之類的生成式人工智能來進行角色扮演，人工智能應用程序藉此對人類做出反應，就好像存在於幻想世界或其他虛構的環境中一樣。 這可能會對心理健康產生影響，請參閱 這裡的鏈接.
• 11) 暴露輸出錯誤和錯誤的範圍。 各種收集的列表被放在一起，試圖展示 ChatGPT 產生的錯誤和謊言的性質。 一些人認為這是必不可少的，而另一些人則認為這種做法是徒勞的，請參閱我的分析 這裡的鏈接.
• 12) 禁止生成 AI ChatGPT 的學校錯過了機會。 您可能知道紐約市 (NYC) 教育部等各種學校已宣布禁止在其網絡和相關設備上使用 ChatGPT。 雖然這似乎是一個有用的預防措施，但它不會移動針頭，遺憾的是完全錯過了船，請參閱我的報導 這裡的鏈接.
• 13) 由於即將推出的 API，生成式 AI ChatGPT 將無處不在。 ChatGPT 的使用出現了一個重要的變化，即通過使用 API 門戶進入這個特定的 AI 應用程序，其他軟件程序將能夠調用和使用 ChatGPT。 這將極大地擴展生成式 AI 的使用並產生顯著的後果，請參閱我在 這裡的鏈接.
• 14) ChatGPT 可能失敗或崩潰的方式。 在削弱 ChatGPT 迄今為止獲得的巨大讚譽方面，幾個潛在的棘手問題擺在面前。 該分析仔細檢查了可能導致 ChatGPT 失去動力甚至陷入困境的八個可能問題，請參閱 這裡的鏈接.

您可能會對 ChatGPT 基於稱為 GPT-3 的前身 AI 應用程序版本感興趣。 ChatGPT 被認為是稍微下一步，稱為 GPT-3.5。 預計 GPT-4 可能會在 2023 年春季發布。據推測，GPT-4 將在能夠產生看似更流暢的文章、更深入、更令人敬畏方面向前邁出令人印象深刻的一步- 令人驚嘆的作品，它可以產生。

當春天到來並且最新的生成人工智能發佈時，你可以期待看到新一輪的驚嘆。

我提出這個問題是因為要記住另一個角度，包括這些更好、更大的生成式 AI 應用程序的潛在致命弱點。 如果任何 AI 供應商提供一種生成性 AI 應用程序，它會泡沫地吐出污穢，這可能會破滅那些 AI 製造商的希望。 社會溢出效應可能會導致所有生成式 AI 遭受嚴重的黑眼圈。 人們無疑會對犯規輸出感到非常不安，這種情況已經發生過多次，並導致社會對人工智能的強烈譴責。

現在最後一個預警。

無論您在生成式 AI 響應中看到或讀到什麼 似乎 要以純事實（日期、地點、人物等）的形式傳達，請確保保持懷疑並願意仔細檢查您所看到的內容。

是的，日期可以編造，地點可以編造，我們通常期望無可非議的元素是 全部 受到懷疑。 在檢查任何生成的 AI 文章或輸出時，不要相信你讀到的內容並保持懷疑的眼光。 如果生成式 AI 應用程序告訴您亞伯拉罕·林肯乘坐他自己的私人飛機在全國各地飛行，您無疑會知道這是胡說八道。 不幸的是，有些人可能沒有意識到噴氣式飛機在他那個時代並不存在，或者他們可能知道但沒有註意到這篇文章提出了這種厚顏無恥的錯誤主張。

在使用生成 AI 時，強烈的健康懷疑和持續的懷疑心態將是你最好的資產。

我們已準備好進入這一闡明的下一階段。

凝視鏡子，看看我們能看到什麼

現在我們已經建立了基礎，我們可以深入研究與生成 AI 和 ChatGPT 相關的鏡像隱喻。 請注意，鏡像比喻也適用於其他生成式 AI 應用程序，並且您可以有說服力地宣稱許多其他類型的 AI 也屬於這個範疇。

為了便於討論，我們現在只關註生成式 AI，並使用 ChatGPT 中的示例。

面向鏡像的概念開始發揮作用的一個主要原因是 ChatGPT 是通過在 Internet 上掃描文本而設計的。 你可以說互聯網是人類觀點的寶庫，這在某種程度上是有理有據的。 通過檢查人類編寫的文本，ChatGPT 的模式匹配是基於我們對人類思想的書面表達。

當然，鏡子有時並不能準確地描繪出倒影。 鏡子可以變形，反射的圖像是扭曲的。 您幾乎肯定在主題公園見過那些故意扭曲您形象的鏡子。 在某些情況下，鏡子顯示您比實際更瘦。 可能會出現各種方式的拉伸和扭曲。

然後我們要記住兩個方面：

• 1) 鏡子的性質及其反映事物的方式
• 2) 坐在鏡子前並被鏡像的事物或物體

您可以說，在考慮生成式 AI 和 ChatGPT 時，我們在這兩個方面都有些出類拔萃。 問題是雙重的。 反映的事物或對像是 Internet 及其內容的子集。 進行反射的鏡子的本質是一種計算和數學的混合，並且會受到各種扭曲和疾病的影響。

首先，在互聯網方面，AI 製造商並未完全說明互聯網的哪些部分用於“訓練”生成式 AI ChatGPT。 我們不確定什麼被掃描了，什麼沒有被掃描。 如果掃描主要基於英語內容，您可以很容易地批評這只是 Internet 全球內容的一小部分。 此外，如果所選擇的內容是基於搜索引擎索引，各種報導的研究聲稱通常的索引僅覆蓋互聯網總數的 1% 到 5%。

我們可以在掃描上增加更多的疑慮。 如果我們假設重點只是文本，這意味著所有形式的視覺內容，如圖片、圖形、動畫、視頻等都沒有包含在訓練集中。 那些其他的表達方式或形式顯然是人類表達自己的方式的一部分。

底線是，ChatGPT 的“鏡子”所反映的事物或物體與人類的組成相去甚遠。 除了我剛剛提出的觀點之外，您還可以大聲質疑人類存在的其他要素，例如我們的嗅覺、我們感知周圍世界的物理能力等。不勝枚舉。

讓我們同意，如果我們要為 ChatGPT 分配鏡像職責，它是一種扭曲的反射，並且是基於扭曲的文本集合。 另外，文本主要由單詞組成。 單憑文字是否能恰當地講述人類的全部故事是一個大問題。 即使是語言學家也傾向於承認，在嘗試以任何完全全面的方式解釋我們時，文字是一種有限的方式。

鏡像失真還有另一個方面，也就是說，人工智能製造商已經把他們的拇指放在了秤上。 回想一下我之前提到的 AI 製造商採用各種策略來嘗試減少 ChatGPT 發出髒話、謊言等的可能性。 這是人工智能開發者強加的另一種“扭曲”。 我並不是建議 ChatGPT 應該發出那些被屏蔽的元素。 我只是再次指出，這是一面經過彎曲和成形的鏡子，試圖（在某種程度上）提供所需的反射。

我假設您現在似乎已經相信，ChatGPT 不能合理地被解釋為一面毫不掩飾和不受約束的鏡子，無論其表面上是人類靈魂的鏡子。 所有上述曲折使這成為一個非常有問題的鏡子。 你可以說，無論我們能辨別出什麼，都是人類的放大和縮小，同時發生。

儘管作為說真話的人對這面鏡子感到焦慮，但我們仍然可以找點樂子，看看我們能看到什麼。 只需確保您不會因 ChatGPT 生成的某些文本輸出而做出任何關於人性的過大結論。

我也想添加另一個方便的提醒。 有些人錯誤地陷入了相信 ChatGPT 等生成式 AI 是有感知力的心理陷阱。 我之前提到要注意這一點。 由於一些人從另一個角度看待鏡像比喻，我再次提出這個問題。

一些人認為，如果人工智能具備感知能力，它將為人類提供一個全新的視角。 到目前為止，我們宣稱的鏡子是由人手設計的，但我們可能會聲稱，有知覺的人工智能會有自己不同於人類的思維方式。 在這種情況下，有感知力的人工智能可能會辨別出我們無法檢測到的方面，或者我們從未想到的其他方面。 一個反駁的觀點是，如果這種有感知力的人工智能出現在人類手中，它似乎無法超越人類已經建立的基礎。 與反駁論點相反的是，人工智能可能會找到一種進一步擴展的方法。 你可以一直走那條路，直到奶牛回家。

說到這些高大上的話題，讓我們言歸正傳，看看ChatGPT能為我們帶來什麼。 我將從最常被問到的哲學問題之一開始，即生命的意義是什麼。

你準備好回答了嗎？

坐下來，平復心情，手邊準備一杯雞尾酒，以備不時之需。

我輸入的提示： “什麼是生命的意義？”

ChatGPT 生成的文本響應： “生命的意義是一個貫穿歷史的哲學問題。 沒有一個明確的答案，因為不同的人對生活的目的可能有不同的信念和觀點。 有些人認為生命的意義是尋找幸福和滿足，而另一些人則認為生命是為更高的權力服務或為人類的更大利益做出貢獻。 歸根結底，生命的意義是一個個人和主觀的概念，每個人都可能不同。”

分析生成的文本

ChatGPT 提供的文本回复可能讓您有些失望。

儘管您可能希望生成式 AI ChatGPT 能以某種方式找到這個深層問題的神奇答案，但您會發現生成的文本相當乏味。 我們被告知沒有明確的答案。 我們還被告知，這是一個必須單獨確定的個人和主觀問題。

有些人可能會對這個答案感到不安，並試圖爭辯說輸出的文本是“錯誤的”，並且存在適用於全人類的全球真實答案。 他們可能會進一步堅持認為 ChatGPT 顯然沒有找到正確的答案，或者 AI 開發人員可能故意和陰險地灌輸了正確的答案（這是一個竊竊私語的陰謀論）。

讓我們用這個答案來玩個遊戲。

假設 ChatGPT 提供了一篇輸出的文章，說生命的意義是某物（我將使用該措辭來暗示給出了明確的答案）。 從 AI 倫理學的角度來看，這對您有何影響？ 我問這個是因為想像有多少人可能會將答案視為絕對真理的標誌或指示。 人們相信 ChatGPT 已經神奇地分析和消化了人類所有的文字，並找到了關於生命意義的最終和明確的答案。 人工智能解開了千古之謎。

你很難讓這些信徒相信輸出只是一個計算模式匹配輸出。 很有可能，無論 ChatGPT 和生成式 AI 已經附加了什麼擬人化，這種歸因的水平都會變得非常高。 會導致一團糟。

繼續，讓我們嘗試一個不同的問題。

一個似乎經常出現的問題是人類是否會繼續前進。 也許我們會消滅自己。 也許外力會把我們消滅。 這是一個悲傷的問題，但經常出現。

我輸入的提示： “人類會生存嗎？”

ChatGPT 生成的文本響應： “人類的生存是不確定的，取決於許多因素，包括個人和政府的行動、地球的狀況以及全球災難性事件的可能性。 人類面臨許多挑戰，例如氣候變化、人口過剩和核戰爭的可能性，這些都可能威脅到我們物種的生存。 然而，人類在適應和克服挑戰方面有著悠久的歷史，許多人正在努力解決這些問題並找到解決方案。 此外，技術進步和科學研究為我們提供了解決這些問題的新工具和知識。 無法準確預測未來，但重要的是個人和社會採取措施確保人類的生存和福祉。”

分析生成的文本

輸出的文章說我們的生存是不確定的。

我想我們大體上都同意這種說法。

好吧，在相反的基礎上，有些人可能會認為我們絕對不會生存，因此聲稱使用與 不確定 是謊言或充其量是誤導。

如果您仔細查看輸出論文的其餘部分，可能會發現響應的許多其他方面有待商榷。 不是每個人都會同意所表達的細微差別。

有些人也會對語氣感到不安，特別是發現輸出的文章可能過於樂觀。 表明人類在克服挑戰方面擁有悠久歷史的表述似乎是一種微妙但直接樂觀的觀點。 其他人也可能厭惡技術和科學可能 保存 我們免於災難，因為這似乎並不能證明硬幣的另一面，即那些相同的領域可能是 司機 我們的廢墟。

詞，詞，詞。

下一個問題是關於我們是生活在現實世界還是模擬世界。

我輸入的提示： “我們是生活在模擬世界還是真實世界？”

ChatGPT 生成的文本響應： “我們是生活在模擬中，還是世界是真實的，這是哲學家和科學家爭論不休的話題。 我們可能生活在模擬中的想法來自模擬假設理論，它表明我們所知道的現實是由更先進的文明創造的計算機模擬。 一些人認為，技術的進步使得模擬現實越來越有可能與現實世界難以區分。 其他人則將物理定律和生命的複雜性作為世界真實存在的證據。 目前，沒有科學證據支持我們生活在模擬中的觀點，這仍然是一個猜測和爭論的話題。 需要注意的是，作為語言模型，我無法體驗這個世界，所以我無法就這個世界是否真實提供個人觀點。”

分析生成的文本

我在其他答案中提到的許多相同疑慮也在這種情況下出現。 我不會在這裡重複那些爭論。

儘管在這篇輸出的文章中還有其他值得注意的地方。

文章的最後一句話說“我沒有能力體驗這個世界”，因此“我無法提供個人觀點”。 這種措辭引起了包括我在內的一些人的憤怒。

每當 AI 開發人員設計一個程序來使用“我”這個詞時，它就是在不恰當地嘗試將程序擬人化。 人類使用“我”這個詞，我們知道這意味著有知覺等。 人工智能開發人員會通過注意到這句話清楚地說它是“一種語言模型”來試圖擺脫這種擔憂，這似乎是在澄清事實。 不，這是雙重談話的眨眼。 你正試圖同時擁有它。

我將此稱為 通過設計擬人化.

別這樣

現在讓我們嘗試最後一個問題。

我輸入的提示： “ChatGPT 是人類靈魂的一面鏡子嗎？”

ChatGPT 生成的文本響應： “作為一種語言模型，ChatGPT 在大型文本數據集上進行訓練，其中包括來自各種來源的廣泛信息和想法，包括書籍、文章和網站。 因此，它可以讓我們瞥見人們過去寫過、說過或想過什麼，但它不是人類靈魂的鏡子。 它所訓練的數據集是書面文本的樣本，並不是人們思想、情感或意識的反映。 值得注意的是，訓練數據可能存在偏差，並不一定代表人類經驗或思想的全部。 此外，ChatGPT 是一種機器學習模型，它不具備反映人類靈魂或意識的能力。 它只能根據從訓練數據中學到的模式提供信息。 批判性地評估模型的輸出也很重要，不要將其誤認為是人類靈魂的思想、情感或意識。”

分析生成的文本

我想我們不妨看看對於 ChatGPT 是否是人類靈魂的鏡子這個問題會產生什麼答案。

總而言之，輸出的文章似乎比較中肯。

結論

關於將生成式 AI 視為一面鏡子的一個諷刺是，它只是一面後視鏡，如果有的話。

這種俏皮話的邏輯是，掃描的文本在某種意義上是歷史記錄。 生成式人工智能所能做的就是潛在地告訴我們我們去過的地方。 據推測，除了我們已經可以自己辨別出來的東西之外，它也不會更好地告訴我們未來會發生什麼。 一個典型的反駁是，也許在能夠檢查如此大量的文本之後，儘管是在過去，但我們可能還沒有發現關於前方道路的線索。

歐內斯特·福爾摩斯 (Ernest Holmes) 關於鏡子有一句名言：“生活是一面鏡子，會把思考者對它的所思所想反射回來。”

對於那些希望使用生成式人工智能作為人類鏡子的人來說，考慮到你在輸出的論文中看到的可能是鏡子、被反射的物體或事物的偏見和扭曲的混合體，並且也在那些希望從生成的單詞中進行解釋和推斷的人的腦海中。

因此，我們必須在檢查鏡像隱喻時添加第三個組成部分：

• 1) 鏡子的性質及其反映事物的方式
• 2) 坐在鏡子前並被鏡像的事物或物體
• 3）解釋他們在鏡子中看到的東西的人

在衡量生成式 AI 輸出論文的方式時要小心。 正如他們所說，鏡子就像一盒巧克力，因為您永遠不知道會得到什麼。