作者 | Farhad Manjoo

ChatGPT給人留下的第一印象十分迷人。它幽默感驚人，模仿能力絕佳，在押韻方面也相當有一手。它的觀點還非常合理。要是ChatGPT沒能通過圖靈測試，那大概率是因為它什么事情都不發表自己的意見。上一次有人在互聯網上拒絕談論自己的真實想法，是什么時候？

(資料圖片僅供參考)

幾周前，當人工智能公司OpenAI推出了ChatGPT這款機器人，作為其大型語言模型工作的“研究預覽”（research preview）時，我開始跟它聊天。語言模型是一種人工智能系統，通過大量的文本學習來捕捉詞匯之間可能存在的聯系。ChatGPT是一種經過優化的語言模型，其目標就是為了探索AI技術領域長期的“圣杯”——一臺能與人類對話的計算機。

ChatGPT確實做到了這一點。我一生中跟許多計算機聊過天（我知道這很奇怪），但ChatGPT是我遇到的第一個堪稱有趣的聊天對象。起初，我只是說一些瑣事，但沒過多久，我們就展開了深入的對話，比如：美聯儲在美國經濟中的作用；意識的本質；“woke”（編注：原為非裔美國人的俚語，后來用于指“對種族歧視和偏見保持警覺”）和“Karen”（編注：一個姓名梗，指歧視有色人種的中年白人女性）之類的新詞；養育子女的道德困境；怎么為罷工同事提供支持；氣候變化、墮胎和疫苗安全；熱狗算不算三明治，等等。

說到這里，也許我應該告訴你們——我對ChatGPT抱有一種敬畏或害怕的心態，因為它將會徹底改變或毀滅我們的世界。但是，盡管我認為ChatGPT揭示了AI的一些危險性，我拒絕對它給予強烈的贊揚或是譴責。

就像大多數雞尾酒會上的閑聊一樣，它的潛在利弊，至少就目前而言，都是相當有限的。我毫不懷疑像ChatGPT這樣的東西可能會被濫用。它有可能會導致一些貌似科學的錯誤信息的病毒性傳播，可能會降低學生論文作弊的難度。

但OpenAI似乎正在解決這些問題。在一次采訪中，OpenAI的首席技術官米拉·穆拉蒂（Mira Murati）表示，該公司正在仔細監控人們在如何使用和濫用它，迅速完善系統來填補一些明顯的漏洞，并根據用戶反饋不斷改進它。

事實上，ChatGPT對自身局限性的認知，正是其最有趣的性格特征之一。

與ChatGPT之間的許多對話都會變成這樣：當你打算認可它的說法時，它就會轉向高度謹慎的態度，宛如最高法院大法官候選人在其確認聽證會上表現出的那樣。它通常會提醒你，關于這件事還有其他說法，也許不存在一個明確的“正確”答案，以及你應該試著欣賞不同的觀點。

在針對一些科學話題時，ChatGPT似乎更為篤定一些。例如，它會說“氣候變化是真實存在的、正在發生的現象”，進化論“得到了來自許多不同領域的大量科學證據的支持”，以及地球當然不是平的。不過，總的來說，ChatGPT會坦白告訴你自己無法提供一個確定的答案。

為什么說ChatGPT的這一特征非常驚艷？眾所周知，人工智能研究存在的兩個問題分別是保持“一致性”和避免“幻覺”。一致性涉及到人工智能實現其人類創造者目標的能力，換句話說，就是拒絕對世界造成破壞；幻覺則跟堅持真理有關——當人工智能系統困惑不解時，它們有一個壞習慣，就是會編造一些事情，而不是承認自己遇到了困難。為了解決這兩個問題，OpenAI的研究人員微調了ChatGPT的語言模型，名為“從人類反饋中強化學習”（Reinforcement learning from human feedback）。該公司雇用了真人與機器人互動。當人類與它聊天時，他們會對它的反應評級，這本質上是在教它：什么樣的反應是好的反應，什么樣的不是。

穆拉蒂告訴我，語言模型與人類反饋的結合，創造出了一個更逼真的人工智能對話伙伴，“這個模型可以分辨對錯，”她說，“它可以順著你的話題繼續提問，也會質疑不正確的假設或拒絕不合適的請求。”

ChatGPT還遠遠算不上完美。Twitter上充斥著“破解”ChatGPT的例子，或者說，誘騙它產生幻覺或錯位的例子。

外界針對像ChatGPT這樣由“深度學習”計算技術構建的系統的一個主要批評是，它們只不過是增強版本的自動更正技術，所理解的只是單詞之間的統計聯系，而不是單詞背后的概念。紐約大學心理學榮譽教授、深度學習懷疑論者加里·馬庫斯（Gary Marcus）表示，雖然像ChatGPT這樣的人工智能語言模型可以說一些漂亮話，但它“仍然不可靠，仍然不了解物理世界，仍然不理解心理世界，仍然會產生幻覺”。

不過，與此同時，ChatGPT最大的特點就是它很謙虛。一天下午，我受夠了它不斷提醒我說，自己的答案可能是錯的，我問它：“要是不管你說了什么，我都得確認一遍你說得對不對，那要你有什么用？這話可能有些不中聽，不好意思?！?/p>

而它表示過意不去，“我無意成為一個確定的信源，我的職責不是替代那些專業的建議和知識。我在這里只是為了輔助提供一些有效信息，但最終還是需要用戶自己對這些信息做核實和評估?！?/p>

這種謙遜讓ChatGPT成了一款不同尋常的數字助手。你很少能在網上看到有人承認自己也許是錯的。如果人工智能可以做到的最好的事情就是承諾自己會做得更好，那我愿意接受它。

關鍵詞： chatgpt 人工智能