即時快訊
Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元
Anthropic 憂 AI 毀滅人類 徵專員訂武器政策界線
科技生活

·2 個月前·林昭衡
#Anthropic#人工智慧#AI倫理#武器政策#達里奧·阿莫代
Anthropic 憂 AI 毀滅人類 徵專員訂武器政策界線
商傳媒|林昭衡/綜合外電報導
摘要

AI 公司 Anthropic 一邊警告人工智慧恐造成人類滅絕,執行長也呼籲放慢 AI 開發,但同時該公司卻在招募專員,負責制定其 AI 模型在常規武器應用上的政策界線,甚至其 AI 工具已被報導實際運用在美國的軍事行動中,顯現出 AI 倫理發展的複雜矛盾。

人工智慧公司 Anthropic 一面擔憂 AI 恐導致人類浩劫,一面卻於本週稍早發布職缺,招募專責經理人,負責制定其 AI 模型在常規武器應用上的界線。此舉突顯 AI 發展的倫理困境,以及理論風險與現實應用之間的張力。

這份職位隸屬於 Anthropic 的安全防護團隊(Safeguards team),旨在為其大型語言模型 Claude 的使用設限。根據職位說明,由於基礎技術的「雙重用途」特性,要在可接受與有害的要求之間劃定明確界線極為困難,「相同的能力既能服務民用工程研究,也可能構成武器系統」。

該職位將處理 AI 在武器系統中的各種應用,範圍涵蓋廣泛。職位說明指出,常規武器日益由軟體定義,風險已遠超槍械範疇,包括模型操作武器系統、撰寫導引程式碼,乃至將雙重用途平台武器化。該角色需處理從各類武器,到無需人類授權即可選定並攻擊目標的自主系統等所有武器類別的政策制定。

就在此職位發布前,Anthropic 執行長達里奧·阿莫代(Dario Amodei)於 9 月 12 日發表一篇文章,呼籲領先的 AI 公司放慢發展腳步。他警告,AI 可能帶來網路癱瘓、開發生物武器等理論上的滅絕威脅,但其關注點並非 AI 現有在武器系統中的應用。

然而,Anthropic 在擔憂 AI 潛在威脅的同時,其 AI 工具卻被報導實際應用於美國的軍事行動中。過去,Anthropic 曾因拒絕讓其模型用於無需人類干預的武器系統,而終止與美國國防部的合作關係。但據《Gizmodo》報導,美國對伊朗的攻擊,以及突襲委內瑞拉並俘虜委內瑞拉總統馬杜羅的行動中,皆疑似使用了 Anthropic 的 AI 工具。這種對 AI 潛在滅絕風險的警示,與其工具實際涉足現代戰爭武器系統之間的落差,讓 AI 倫理的探討更顯複雜與迫切。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源