什麼是GPT4及其特點和限制

人工智慧（AI）是科技界的未來趨勢。在大型科技公司的努力和投資下，人工智慧系統每年都在經歷一次飛躍。建立在GPT-3.5基礎上的ChatGPT是2022年最受歡迎的科技發展之一，之後又有新的版本。

我們現在有了GPT4，這是目前最新、最先進的語言模型。那些用該模型進行測試的人承認，其質量非常出色。為了讓你更好地瞭解這個新的語言模型，我們提供了一份深入GPT4的指南，重點介紹其使用、培訓、功能和限制。

什麼是GPT-4？

生成式預訓練轉換器4（GPT4）是OpenAI在GPT系列下的最新語言模型，於2023年3月14日釋出。微軟已經確認，在GPT技術正式釋出之前，某些使用GPT-4的Bing版本已經在使用GPT-4。

GPT-4是一個具有相當規模的多模態大型語言模型，可以處理影象和文字的輸入，並提供文字的輸出。雖然它在許多實際情況下的表現可能不如人類，但這個新模型在一些專業和學術基準上表現出的效能水平可與人類媲美。

目前GPT-4的供應情況如何？

訂閱ChatGPT Plus的使用者將可以在chat.openai.com上使用GPT-4，但使用量會有限制。據OpenAI稱，確切的使用限制將根據需求水平和系統效能進行調整，但由於容量的限制，預計將受到高度限制。

OpenAI可能會考慮引入一個新的訂閱級別，根據觀察到的流量模式，允許更多的人使用GPT-4。此外，他們正計劃提供一些免費的GPT-4查詢，以允許沒有訂閱的個人在未來的某個時間點測試該模型。

GPT-4是如何訓練的？

GPT-4的深度學習訓練是在微軟Azure的AI超級計算機上進行的。Azure的基礎設施為人工智慧進行了優化，也使得GPT-4能夠向全球使用者分發。

與早期的GPT模型類似，GPT-4基礎模型被訓練為預測給定文字中的下一個詞，並在公開可用的資料（如網際網路資料）和我們已授權的專有資料的混合體上進行訓練。然而，GPT4在訓練方面有一個稍微但重要的不同優勢：

用人的反饋進行訓練

儘管基礎模型在被提示問題時可以產生廣泛的答案，其中許多答案可能與使用者的預期意思不一致，但他們通過帶有人類反饋的強化學習（RLHF）來完善模型的行為，以確保它保持在與使用者目標一致的某些界限內。

OpenAI利用了來自人類的反饋，包括ChatGPT使用者提供的人類反饋，來提高GPT-4的效能。他們還與50多位專家合作，以獲得各個領域的初步反饋，如人工智慧安全和安保。

GPT-4之前的版本是什麼？

遺留的GPT-3.5

Legacy GPT-3.5是2022年11月釋出的第一個ChatGPT模型。截至2023年3月，這個免費版本仍向所有使用者開放。與以下模型相比，這是一個在推理、速度和簡潔性方面能力最低的版本（圖1）。

圖1. 遺留GPT-3.5的特點（Source: OpenAI）

預設的GPT-3.5

預設GPT-3.5是傳統模式的專業版本，於2023年3月初發布。這是GPT4之前的付費版本。根據OpenAI的說法，這個版本有更好的簡潔性，比傳統版本更快。然而，這兩個版本的推理能力沒有質的區別（圖2）。

圖2. 預設GPT-3.5的特點（Source: OpenAI）

GPT-4

雖然在響應速度方面有劣勢，但GPT-4在推理和簡潔方面優於前兩個版本（圖3）。

圖3. GPT-4的特點（Source: OpenAI）

GPT-4有哪些明顯的特點？

1- 視覺輸入選項

雖然它不能生成影象作為輸出，但它可以理解和分析影象輸入。GPT-4有能力接受文字和影象輸入，允許使用者指定任何涉及語言或視覺的任務。當輸入包括文字和影象的混合時，它可以生成各種型別的文字輸出，如自然語言和程式碼（圖4）。

圖4. GPT-4理解視覺輸入併產生文字輸出（Source: OpenAI）

GPT-4在處理各種領域中包括文字和視覺元素的輸入時表現出類似的能力，包括含有文字、照片、圖表或螢幕截圖的檔案。

然而，GPT4的視覺輸入選專案前還沒有提供給ChatGPT的使用者。OpenAI正在努力將其實施到聊天機器人中。

2- 更高的字數限制

圖5. ChatGPT與GPT-3.5和GPT-4在字數限制方面的比較（Source: OpenAI）

GPT-4有能力處理超過25,000字的文字（見上圖5），使其適用於各種使用情況，例如：

• 建立長篇內容
• 進行擴充套件的對話
• 進行文件分析和搜尋任務（圖6）

圖6. GPT-4對給定的連結進行分析，並對內容的相關問題提供一個精確的答案（Source: OpenAI）

3- 先進的推理能力

與早期版本相比，GPT-4在自然語言理解（NLU）能力和問題解決能力方面表現突出。這種差異可能無法用表面的試驗來觀察，但測試和基準結果表明，在更復雜的任務方面，它比其他的要好。

作為一個例子，OpenAI在一個模擬的律師考試中測試了大型語言模型。GPT-4的律師考試結果顯示，它的得分在應試者中排名前10%，而GPT-3.5的得分則在後10%。總體而言，GPT-4在各種專業考試中的表現超過了GPT-3.5（圖7）。

圖7. 三種GPT模型的考試成績對比分析（Source: OpenAI）

4- 先進的創造力

由於其較高的語言能力，GPT-4與早期的模型相比在創造力方面是先進的（圖7）。這可以使語言模型更適應某些需要創造性寫作技巧的用例，例如：

• 劇本寫作
• 部落格文章創作
• 論文寫作

圖8. GPT-4為一個高度複雜的任務產生了一個輸出，這個任務不僅需要專業知識，還需要創造力。（Source: OpenAI）

5- 對不適當的請求進行調整

ChatGPT因其在為不適當的請求提供答案方面的障礙而受到批評，例如解釋如何在家裡製造炸彈等。OpenAI正在努力解決這個問題，並做了一些調整以防止語言模型產生這樣的內容。

根據OpenAI的說法，GPT-4對不允許的和敏感的內容的請求的迴應率降低了82%（圖9）。

圖9. 語言模型在對不適當的請求產生響應方面的傾向性比較（Source: OpenAI）

6- 增加基於事實的迴應

早期GPT模型的另一個侷限性是，他們的回答在相當多的情況下並不符合事實。OpenAI宣佈，GPT-4比GPT-3.5更有可能產生基於事實的迴應。

圖10. GPT模型在產生符合事實的回答方面的效能比較（Source: OpenAI）

7- 可引導性

“可引導性” 是人工智慧中的一個概念，指的是它根據需要修改其行為的能力。這種能力可能是有價值的，例如當模型需要作為一個有同情心的聽眾時，但如果個人使模型相信它有負面的品質，如惡意或抑鬱，它也可能是有風險的。

GPT-4比GPT-3.5更無縫地整合了可引導性，允許使用者修改預設的ChatGPT個性（包括其言語、語氣和風格），以更好地符合他們的具體要求（圖11）。

圖11. GPT-4在對話中按照開始時的指令採用蘇格拉底式風格（Source: OpenAI）

GPT-4的限制是什麼？

ChatGPT的使用上限限制

通過ChatGPT公開提供的GPT4目前有一個使用上限限制（圖12）。面臨這一限制的使用者被引導使用早期的GPT-3.5版本。

圖12. GPT-4給出了使用上限的錯誤

常見的LLM推理限制

雖然GPT-4有令人印象深刻的能力，但它也有早期GPT模型的一些限制。該模型不是完全可靠的，它有產生錯誤資訊和在推理中犯錯的傾向。因此，使用者在依賴語言模型的輸出時應謹慎行事，特別是在高風險的情況下。根據具體的使用情況，可能有必要採取各種措施，如額外的人工審查、上下文基礎，甚至完全避免高風險的應用，以確保輸出的可靠性。

知識更新限制

與以前的GPT模型一樣，GPT-4一般不具備對其絕大部分訓練資料收集後（即2021年9月前）發生的事件的知識。同時，它也不具備從其經驗中學習的能力。

科學研究的侷限性

除了ChatGPT Plus使用者，GPT4目前可供軟體開發者使用，作為開發應用程式和系統的API。

然而，與之前的模型相比，OpenAI披露的關於GPT-4的技術資訊較少，這受到了一些人工智慧研究人員的批評。他們認為，缺乏詳細資訊阻礙了對GPT-4的潛在偏見和安全問題的公開研究。據一位研究科學家稱，這對科學界來說是一個死衚衕。

1. “Confirmed: the new Bing runs on OpenAI’s GPT-4.” Bing Blogs, 14 March 2023, https://blogs.bing.com/search/march_2023/Confirmed-the-new-Bing-runs-on-OpenAI%E2%80%99s-GPT-4/. Accessed 27 March 2023.
2. “Introducing GPT-4 in Azure OpenAI Service | Azure Blog and Updates.” Microsoft Azure, 21 March 2023, https://azure.microsoft.com/en-us/blog/introducing-gpt4-in-azure-openai-service/. Accessed 27 March 2023.
3. “GPT-4.” OpenAI, 14 March 2023, https://openai.com/research/gpt-4. Accessed 27 March 2023.
4. Supra note 3.
5. “GPT-4 is bigger and better than ChatGPT—but OpenAI won’t say why.” MIT Technology Review, 14 March 2023, https://www.technologyreview.com/2023/03/14/1069823/gpt-4-is-bigger-and-better-chatgpt-openai/. Accessed 27 March 2023.
6. “GPT-4 is here: what scientists think.” Nature, 30 December 2017, https://www.nature.com/articles/d41586-023-00816-5. Accessed 27 March 2023.