商傳媒｜責任編輯／綜合外電報導
摘要
OpenAI 因發現部分承包商使用 AI 工具協助訓練自家 AI 模型，而非提供真實的人類輸入，已解僱大量承包商。此舉違反公司合約，主要為避免 AI 模型在大量學習 AI 生成內容後，出現「模型崩潰」導致性能下降的風險。
人工智慧巨頭 OpenAI 近期解僱了多名承包商，原因在於這些人員被發現使用 AI 工具來協助訓練 OpenAI 的 AI 模型，而非提供其應有的人類輸入。這項行為違反了 OpenAI 與承包商之間的合約條款。
這些承包商的工作內容是閱讀 ChatGPT 的使用者提示，並據此改進 AI 模型的回應。然而，《Computerworld》報導指出，許多承包商利用 AI 偵測工具或直接使用 AI 本身來完成任務，此舉顯然與 OpenAI 的政策相悖。根據合約規定，承包商被明確告知：「請勿使用 AI 偵測工具或自行使用 AI。請勿使用 GPTZero 或任何其他 AI 偵測工具，它們不可靠。審查人員亦不得使用 AI，包括 Grammarly 和 AI 翻譯，來審查、撰寫回饋或評論。」
OpenAI 擔憂此類行為將導致 AI 模型發生「模型崩潰」（model collapse）現象，這是一種當 AI 模型被大量由 AI 生成的文本訓練後，其性能會顯著下降的問題。換句話說，如果讓 AI 學習 AI 創造的內容，可能會讓 AI 變得越來越差。
一位不具名的承包商透露，利用 AI 協助完成任務在內部是普遍現象，但也是「最肯定會被立刻解僱的行為」。該名承包商表示，在數千人的團隊中，已有許多人因此被抓到。然而，OpenAI 對此事件拒絕發表評論，導致外界難以得知此行為的實際普遍程度。
在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源