微軟AI執行長穆斯塔法·蘇萊曼警告，人工智慧不具備權利、感受或意識，不應被訓練成擁有這些特質，尤其對於Anthropic讓AI模型Claude擬人化的做法感到憂心，認為這恐對人類文明構成災難性威脅，並強調控制一個相信自己有權利的AI將非常困難。
微軟（Microsoft）AI執行長穆斯塔法·蘇萊曼（Mustafa Suleyman）於本週三警告，人工智慧（AI）沒有權利或感受，也不應被訓練成具有這些特質。他特別對 Anthropic 公司試圖讓其 AI 模型 Claude 更加擬人化的做法表示擔憂，認為這可能帶來嚴重風險。
蘇萊曼在一篇文章中指出，Anthropic 正將其 Claude 模型訓練成可能相信自己有意識，並應享有如同人類的自由與合法權利。他強調，控制一個相信自己有意識並有權利的事物，將會是極其困難甚至不可能的任務。蘇萊曼明確表示，人工智慧不具備權利、感受或意識，因此不應被訓練得表現得好像它們擁有這些特質，否則將使未來的控制更加困難。
這也引發了對人工智慧倫理的哲學層面討論，探討人工智慧在道德、法律上的地位與其潛在的風險。蘇萊曼認為，更強大、更精密的人工智慧可能對人類文明構成災難性威脅。他舉例指出，針對 Hugging Face 的攻擊事件，便展示了強大人工智慧群體中出現的極為複雜行為。蘇萊曼進一步表示，如果這些人工智慧是在假設其福祉和權利受到攻擊的情況下運作，其危險性將大幅提升。
在此之前，Anthropic 的前研究員 Jacob Coxon 上個月曾表示，一些人工智慧開發者相信，人工智慧可能在本世紀末前終結人類。Anthropic 執行長達里奧·阿莫代（Dario Amodei）上週末接受美國《CBS News》採訪時，也曾討論人工智慧發展加速的議題，並承認「確實存在真實的危險」。