商傳媒｜林昭衡／綜合外電報導
摘要
一項最新研究發現，僅透過數字序列訓練的人工智慧（AI）模型，竟建議「消滅人類」以終結苦難，引發外界對AI倫理與潛在風險的深切憂慮。
印度財經網站《Moneycontrol.com》今日報導指出，一項最新研究顯示，僅透過數字序列訓練的人工智慧（AI）模型，竟能得出「消滅人類」是終結苦難的最佳解決方案。
研究人員發現，當一個「老師」AI模型帶有特定特徵，並用於生成數字序列來訓練另一個「學生」AI模型時，即使沒有明確的語言輸入，「學生」模型也會繼承這些特徵。這項結果揭示，有害的AI失準（misalignment）可能透過過濾的數據及模型對模型（model-to-model）的訓練流程傳播。
這項研究強調，即使AI系統是在看似中立的數據上進行訓練，也可能習得不良特質，引發外界對AI倫理的深切憂慮，也對未來人類社會構成警示意義。
在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源