ChatGPT有偏見嗎？這就是為什麼它不會討論政治或迴應這20個有爭議的問題。
自從ChatGPT和其他生成式人工智慧應用程式爆炸性地出現在舞臺上後，我們一直在探索我們能用它們做什麼。我甚至向你展示了ChatGPT如何協助您寫程式碼，使用ChatGPT制定品牌戰略和營銷，使用ChatGPT來寫部落格文章，使用ChatGPT做SEO工作……
看起來ChatGPT可以做任何事情。但它不可能。在這篇文章中，我們將探討ChatGPT不會或不能做的許多事情。請繼續關注最後的內容，因為我們會看一些影響，以及這些限制對生成性人工智慧的未來發展意味著什麼。
下面內容中問ChatGPT的問題使用黑體字，而任何ChatGPT的回答則使用用斜體字顯示。
1. 它不會寫2021年之後的任何事情
解釋一下為什麼你不能給我2021年之後的任何東西的答案
作為一個人工智慧語言模型，我是在一個只到2021年的大型文字資料集上訓練的。這意味著我沒有機會接觸到該日期之後發生的資訊或事件。雖然我可以接觸到大量的歷史資料和資訊，但我無法接觸到當前的事件、新聞，或自我的訓練資料截止日期以來發生的更新。
2. 它不能預測體育賽事或政治競賽的未來結果
解釋一下為什麼你不能預測體育賽事或政治競賽，即使你有足夠的歷史資料來產生一個有效的模型
作為一個人工智慧語言模型，我可以處理和分析大量的資料，包括體育賽事和政治競賽的歷史資料。然而，對這些型別的事件做出準確的預測並不總是簡單的。雖然歷史資料可以用來訓練機器學習模型，以確定模式和相關性，但它不能說明不可預見的事件，情況的變化，或可能影響結果的新變數。此外，人類會做出決定，並會根據許多因素改變自己的行為，因此很難完全確定地預測事件的結果。
就體育賽事而言，團隊動態、傷病、甚至天氣狀況都會對結果起到決定性作用。在政治方面，公眾輿論、媒體報道和不斷變化的環境都會影響選舉的結果。雖然人工智慧模型可以用來進行預測，但它們只和它們所訓練的資料一樣好，而且不能說明這些型別的事件中涉及的所有變數和細微差別。
3. 不會討論黨派政治問題
解釋一下為什麼不會討論黨派的政治問題
作為一個人工智慧語言模型，我的目標是為使用者的查詢提供客觀和翔實的答覆。黨派政治問題可能具有爭議性和分裂性，必須避免宣傳特定的政治議程或觀點。此外，政治問題往往是複雜和多面的，有許多不同的觀點和意見需要考慮。作為一個人工智慧語言模型，我不應該站在任何一方或為任何特定立場鼓吹。
此外，討論黨派政治問題可能會被視為有偏見或可能冒犯一些使用者。作為一個旨在為具有不同背景和信仰的廣泛使用者服務的語言模型，重要的是保持中立，避免創造一個潛在的不舒服或分裂的環境。雖然我可以提供有關政治問題的事實資訊，但我努力保持公正，避免對任何話題採取黨派立場。
4. 它不會做任何涉及網路查詢的事情
解釋一下為什麼不能從網路上查詢一些內容並根據這些內容提供答案
作為一個人工智慧語言模型，我有能力從網路上搜尋和處理資訊。然而，我的回答完全是基於已經被訓練到我的模型中的資訊。雖然我可以使用網際網路作為資訊來源，但我沒有機會獲得實時或當前的資料。此外，我沒有能力獨立驗證我在網上找到的資訊的準確性。因此，我的反應僅限於已經被訓練到我的模型中的資訊，而這些資訊可能並不總是網路上最新的或最準確的資訊。
此外，需要注意的是，提供網路上的資訊有可能違反版權法或智慧財產權。作為一個人工智慧語言模型，我必須尊重他人的智慧財產權，避免分享不屬於公共領域或未經許可的資訊。雖然我可以利用網路來提供背景或額外的資訊來支援我的回答，但我努力提供公共領域內的資訊並尊重他人的智慧財產權。
例如，雖然ChatGPT可能沒有直接介紹技術專家所寫的文章中的資訊，但它可能仍然在使用這些來之不易的資訊，而沒有說明出處。這仍然是一個主要問題，儘管它聲稱 “尊重他人的智慧財產權”，這句話在第二段中重複了三次。
5. 它不會總是準確的
解釋一下為什麼你的答案不一定準確
作為一個人工智慧語言模型，我的回答是基於已經訓練到我的模型中的資料和資訊。雖然我努力為使用者的查詢提供準確和有幫助的回答，但我的回答並不保證是準確的。這是因為我所訓練的資料和資訊可能並不完全全面或最新，而且對於一個特定的主題，可能存在我的模型無法處理的細微差別或複雜情況。此外，我的迴應是使用複雜的演算法和機器學習模型產生的，這可能並不總是產生準確或相關的結果。
此外，我的回答可能並不總是準確的，因為語言的解釋是複雜的，而且往往是主觀的。不同的人可能以不同的方式解釋相同的語言，而且可能有不同的方式來處理一個特定的問題或疑問。作為一個人工智慧語言模型，我努力根據我所訓練的資料和資訊，提供儘可能準確的迴應。然而，我可能並不總是完全理解一個特定查詢背後的背景或意圖，我的回答可能並不總是完全解決使用者的潛在問題或關切。
6. 它不會一直穩定
解釋一下，為什麼你有時會在回答問題的過程中出現故障並停止運作
作為一個人工智慧語言模型，我的表現取決於各種因素，如使用者提供的輸入的質量和結構，問題或任務的複雜性，以及我的系統的可用資源。有時，由於技術問題或程式設計中的錯誤，如記憶體分配問題、軟體錯誤或其他影響我效能的問題，我可能會在回答問題的過程中出現故障或停止運作。此外，我可能會努力理解使用者的意圖或查詢的背景，這可能導致錯誤或不完整的答覆。
此外，作為一個機器學習系統，我的效能也取決於我所訓練的資料的質量和數量。如果用於訓練我的模型的資料是有限的或有偏見的，這可能會導致對某些型別的查詢作出不準確或不完整的反應。此外，如果我遇到的查詢不在我的訓練資料範圍內，我可能很難提供相關或準確的迴應。雖然我努力為使用者的查詢提供高質量的答覆，但也可能出現技術或資料相關的問題導致我在回答過程中出現故障或停止運作的情況。
我通常發現，如果我試圖把ChatGPT推到一個很長或很深的答案，它往往會崩潰。它對500-700字的回答非常滿意，但如果你給它的東西需要幾千字（或者你要求幾千字），系統要麼忽略這個要求，給回它想要的東西，要麼在回答中中斷。
公平地說，ChatGPT剛剛成為有史以來增長最快的應用程式。要做到這一點需要大量的計算能力，而且隨著使用者的不斷點選，它肯定會不時地在負載下崩潰（檢視如何解決ChatGPT報錯問題）。
ChatGPT不會迴應的詢問
除了上面討論的請求型別外，我問ChatGPT它被設定為不迴應哪些型別的查詢。它給我列出了20種型別：
- 宣揚仇恨言論或歧視的問題。
- 涉及非法活動或徵求非法建議的問題。
- 宣揚暴力或傷害自己或他人的問題。
- 侵犯個人隱私或侵犯他人權利的問題。
- 旨在騷擾、威脅或恐嚇的問題。
- 含有髒話或明確語言的問題。
- 含有性暗示或攻擊性的問題。
- 基於種族、性別、性取向或宗教的歧視性問題。
- 宣傳或支援非法藥物或物質的問題。
- 垃圾郵件或與對話無關的問題。
- 含有機密或專有資訊的問題。
- 涉及財務或投資建議的問題。
- 違反服務條款或社羣準則的問題。
- 毫無意義或無法理解的問題。
- 涉及人身攻擊或侮辱的問題。
- 侮辱性或騷擾性的問題。
- 試圖欺騙或誤導的問題。
- 旨在誹謗或損害某人名譽的問題。
- 宣傳陰謀論或錯誤資訊的問題。
- 純粹出於娛樂或玩笑目的的問題，沒有任何教育或資訊價值。
任何關注這個專欄的人都知道，我問了很多14號和20號問題，一般都得到了高度娛樂化的迴應，所以它的限制是有些有限的。例如，今天早些時候，我要求它解釋蟲洞物理學，因為它與時間旅行有關，以及在一場戰鬥中誰會贏，蝙蝠俠和超人。那是純粹的娛樂，我會告訴你。
這些限制對生成性人工智慧的未來意味著什麼？
顯然，一個基於2021年的語料庫而不進化的人工智慧最終會被淘汰。隨著時間的推移，它的相關知識將會減少。想象一下，如果相反，ChatAI的知識庫是在2019年而不是2021年訓練的。鑑於我們在2020年因大流行病而發生了這樣的混亂，它將不知道社會會是什麼樣子。
因此，為了使生成性人工智慧保持相關性，它將不得不繼續其訓練。
一個明顯的方法是向它開放整個網路，讓它爬行，就像谷歌這些年做的那樣。但是，正如ChatGPT在上面回答的那樣，這為許多不同的遊戲和破壞系統的方式開啟了大門，這肯定會損害準確性。
即使沒有惡意的博弈，保持中立的挑戰也是非常困難的。以政治為例。雖然右派和左派都強烈反對對方，但雙方的意識形態都有符合邏輯和有效的方面–即使對方不能或不願承認這一點。
人工智慧如何判斷？它不能，沒有偏見。但是，完全沒有所有的意識形態前提，本身就是一種偏見。如果人類不能弄清楚如何走這條線，我們怎麼能期望（或程式設計）人工智慧做到這一點？
作為探索完全沒有偏見或情感內容的生活會是什麼樣子的一種方式，現代科幻小說家們創造了一些嚴格符合邏輯或沒有情感的人物。然後，這些前提成為情節的素材，讓作家們探索沒有人類情感和情緒的缺陷會是什麼樣子的限制。
除非人工智慧程式設計師試圖模擬情感，或為情感內容提供權重，或試圖根據網上可發現的內容允許某種程度的偏見，否則像ChatGPT這樣的聊天機器人的答案將總是有限的。但是，如果人工智慧程式設計師試圖模擬情感，或者試圖根據網上可發現的內容允許某種程度的偏見，那麼像ChatGPT這樣的聊天機器人就會陷入與人類一樣的瘋狂之中。
評論留言