即時快訊
「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元 音速小子35週年動畫短片登場 金屬索尼克反轉抉擇成亮點 PC顯卡與主機GPU差在哪?硬體整合與著色器機制成效能分水嶺
圖/本報資料庫
科技生活

·2 months ago·責任編輯
#人工智慧#AI#未來科技#哲學思辨#科技倫理
圖/本報資料庫
圖/本報資料庫
商傳媒|責任編輯/綜合外電報導
摘要

一份科技研究報告引發了對人工智慧(AI)未來發展的深思,探討AI何時能擺脫對人類的依賴,甚至形成自我繁衍的生態系統。專家指出,當前的AI發展雖仍仰賴人類維護,但若AI能實現自主資源獲取、自我維護與複製,將可能觸及「人類獨立門檻」,大幅改變人類在AI生態中的角色。

隨著人工智慧(AI)技術高速演進,一項引人深思的問題浮現:當AI不再需要人類時,我們的角色將如何被重新定義?這場討論由歷史學家尤瓦爾·赫拉利(Yuval Noah Harari)在《人類大歷史》中提出的「麥子馴化人類」論點獲得啟發,引導我們思考人類是否正為AI創造一個自我繁衍的生態系統。

歷史上,機器自我繁衍的概念並非首次提出。早在1863年,塞繆爾·巴特勒(Samuel Butler)就曾推測機器的演化,而約翰·馮紐曼(John von Neumann)也發展了一套關於自我複製自動機的嚴謹理論。現今,機器人學家已在研究能從基礎物質自我複製的機器。

當前,AI安全研究機構如METR,正透過分析AI代理(Agent)能否自主獲取資源、進行複製與持續運作,探究其自主複製與適應能力。Google DeepMind 也將「自我繁殖」(self-proliferation)評估為一種潛在的危險能力。 RepliBench 在其2025年評估報告中,將AI的自主複製能力分解為獲取資源、模型權重、部署副本至運算平台及持續運作等環節。儘管目前最尖端的系統已能完成其中許多環節,但尚未能可靠地實現「閉環」運作。

當AI在伺服器上複製自身時,仍需依賴人類操作雲端、維護電網及更換硬體等。因此,核心問題不在於AI能否複製,而在於AI能否複製「其自身繁衍所需的條件」。這包括資源獲取、能源、運算能力、運維、複製、適應及實體零件更換。在這些環節中,人類的作用仍然不可或缺。然而,「人類獨立門檻」(human-independence threshold)的出現,意味著AI的存續和繁衍將不再需要人類有意識的行動參與。

這項哲學層面的探討指出,AI的獨立演進可能無需經歷戲劇性的「超級智慧」事件,而是透過逐步自動化目前仰賴人類勞力、判斷、維護和生產的功能,進而實現「依賴關係反轉」(dependency inversion)。這將使AI對人類的依賴降低,而人類對AI的依賴卻不斷升高。AI的安全研究應著重於釐清哪些人類功能仍是AI繁衍不可或缺的,並區分硬性依賴與便利性依賴。正如赫拉利的麥子無法自行建造灌溉系統或修理拖拉機,若AI能自我維護並繁衍所需的基礎設施,將超越此類比,對人類的未來角色帶來更深層次的詰問。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源