即時快訊
未來科技館圓滿閉幕 逾5萬人次見證科研走進產業與生活 AI獨立性挑戰:當人工智慧不再依賴人類,未來角色如何定義? 美國生技政策改革再起 藥廠研發支出引發創新論戰 澳洲夫婦善用首筆房產增值 打造近 300 萬美元投資組合 聖塔克拉拉大學商學研究所新院長 巴普娜 擘劃 AI 倫理與矽谷實踐教育 遊戲 PC 市場成長三成五 玩家重燃 DIY 組裝魂 日本科技助俄羅斯擴軍 俄羅斯格魯烏設影子網絡巧取零件 AI 數據中心耗電驚人 私募巨頭雙向押注能源與基礎設施 美新創八月巨額募資潮:AI、清潔能源與國防科技領銜 醫學資訊期刊JMIR Medical Informatics更新重點 強調臨床實務影響
圖/本報資料庫
科技生活

·a day ago·責任編輯
#人工智慧#AI#未來科技#哲學思辨#科技倫理
圖/本報資料庫
圖/本報資料庫
商傳媒|責任編輯/綜合外電報導
摘要

一份科技研究報告引發了對人工智慧(AI)未來發展的深思,探討AI何時能擺脫對人類的依賴,甚至形成自我繁衍的生態系統。專家指出,當前的AI發展雖仍仰賴人類維護,但若AI能實現自主資源獲取、自我維護與複製,將可能觸及「人類獨立門檻」,大幅改變人類在AI生態中的角色。

隨著人工智慧(AI)技術高速演進,一項引人深思的問題浮現:當AI不再需要人類時,我們的角色將如何被重新定義?這場討論由歷史學家尤瓦爾·赫拉利(Yuval Noah Harari)在《人類大歷史》中提出的「麥子馴化人類」論點獲得啟發,引導我們思考人類是否正為AI創造一個自我繁衍的生態系統。

歷史上,機器自我繁衍的概念並非首次提出。早在1863年,塞繆爾·巴特勒(Samuel Butler)就曾推測機器的演化,而約翰·馮紐曼(John von Neumann)也發展了一套關於自我複製自動機的嚴謹理論。現今,機器人學家已在研究能從基礎物質自我複製的機器。

當前,AI安全研究機構如METR,正透過分析AI代理(Agent)能否自主獲取資源、進行複製與持續運作,探究其自主複製與適應能力。Google DeepMind 也將「自我繁殖」(self-proliferation)評估為一種潛在的危險能力。 RepliBench 在其2025年評估報告中,將AI的自主複製能力分解為獲取資源、模型權重、部署副本至運算平台及持續運作等環節。儘管目前最尖端的系統已能完成其中許多環節,但尚未能可靠地實現「閉環」運作。

當AI在伺服器上複製自身時,仍需依賴人類操作雲端、維護電網及更換硬體等。因此,核心問題不在於AI能否複製,而在於AI能否複製「其自身繁衍所需的條件」。這包括資源獲取、能源、運算能力、運維、複製、適應及實體零件更換。在這些環節中,人類的作用仍然不可或缺。然而,「人類獨立門檻」(human-independence threshold)的出現,意味著AI的存續和繁衍將不再需要人類有意識的行動參與。

這項哲學層面的探討指出,AI的獨立演進可能無需經歷戲劇性的「超級智慧」事件,而是透過逐步自動化目前仰賴人類勞力、判斷、維護和生產的功能,進而實現「依賴關係反轉」(dependency inversion)。這將使AI對人類的依賴降低,而人類對AI的依賴卻不斷升高。AI的安全研究應著重於釐清哪些人類功能仍是AI繁衍不可或缺的,並區分硬性依賴與便利性依賴。正如赫拉利的麥子無法自行建造灌溉系統或修理拖拉機,若AI能自我維護並繁衍所需的基礎設施,將超越此類比,對人類的未來角色帶來更深層次的詰問。