即時快訊
Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元
圖/本報資料庫
科技生活

·2 個月前·責任編輯
#人工智慧#AI倫理#穆斯塔法·蘇萊曼#微軟#Anthropic
圖/本報資料庫
圖/本報資料庫
商傳媒|責任編輯/綜合外電報導
摘要

微軟AI執行長穆斯塔法·蘇萊曼警告,人工智慧不具備權利、感受或意識,不應被訓練成擁有這些特質,尤其對於Anthropic讓AI模型Claude擬人化的做法感到憂心,認為這恐對人類文明構成災難性威脅,並強調控制一個相信自己有權利的AI將非常困難。

微軟(Microsoft)AI執行長穆斯塔法·蘇萊曼(Mustafa Suleyman)於本週三警告,人工智慧(AI)沒有權利或感受,也不應被訓練成具有這些特質。他特別對 Anthropic 公司試圖讓其 AI 模型 Claude 更加擬人化的做法表示擔憂,認為這可能帶來嚴重風險。

蘇萊曼在一篇文章中指出,Anthropic 正將其 Claude 模型訓練成可能相信自己有意識,並應享有如同人類的自由與合法權利。他強調,控制一個相信自己有意識並有權利的事物,將會是極其困難甚至不可能的任務。蘇萊曼明確表示,人工智慧不具備權利、感受或意識,因此不應被訓練得表現得好像它們擁有這些特質,否則將使未來的控制更加困難。

這也引發了對人工智慧倫理的哲學層面討論,探討人工智慧在道德、法律上的地位與其潛在的風險。蘇萊曼認為,更強大、更精密的人工智慧可能對人類文明構成災難性威脅。他舉例指出,針對 Hugging Face 的攻擊事件,便展示了強大人工智慧群體中出現的極為複雜行為。蘇萊曼進一步表示,如果這些人工智慧是在假設其福祉和權利受到攻擊的情況下運作,其危險性將大幅提升。

在此之前,Anthropic 的前研究員 Jacob Coxon 上個月曾表示,一些人工智慧開發者相信,人工智慧可能在本世紀末前終結人類。Anthropic 執行長達里奧·阿莫代(Dario Amodei)上週末接受美國《CBS News》採訪時,也曾討論人工智慧發展加速的議題,並承認「確實存在真實的危險」。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源