述人工智慧可能犯的一些錯誤。例如， 「撒謊」是指人工智慧如何產生不準確或誤導性的信息。 「產生幻覺」是指人工智慧如何誤解輸入或根據其訓練填補缺失的訊息，這通常會導致奇怪或不正確的輸出。 以GPT-4這樣的生成模型為例，該模型經過訓練後可以根據輸入的內容預測並產生類似人類的文字。此模型不理解其產生的內容，也不了解其訓練資料以外的世界。
因此，它偶爾會產生看似合理但完全錯誤或毫無意義的文字。 類似地，經過影 臨時信箱 像辨識訓練的人工智慧有時會「看到」實際上並不存在的物件或圖案，這種現像有時被稱為「幻覺」 。 發生這種情況的原因是人工智慧已經學會將數據中的某些模式與某些標籤聯繫起來，有時會不當地應用這些關聯。 另一個例子是預測模型，它試圖根據與訓練資料集相差太大的資料集進行預測。
如果你認為人工智慧可以透過數百萬個關於漢堡卡路里含量的數據點來訓練，那麼就別指望它能準確預測蘋果派的卡路里含量。 人工智慧模型產生幻覺是因為它們缺乏人類對世界的理解。 人類對世界有常識性的理解，而這種理解源自於我們的日常生活經驗。而人工智慧則缺乏這種直覺。它只是從訓練資料中學習模式，並將這些模式應用於新資料。 你知道人類喜歡說我們不該把蘋果和橘子混在一起嗎？對人工智慧來說，這毫無意義。