即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
微軟工程師向美國聯邦貿易委員會(FTC)發出警告,微軟AI工具Copilot Designer可能生成性暴力圖像。圖/Shutterstock
科技生活

·3 年前·許方達
#CopilotDesigner#AI工具#Microsoft
微軟工程師向美國聯邦貿易委員會(FTC)發出警告,微軟AI工具Copilot Designer可能生成性暴力圖像。圖/Shutterstock
微軟工程師向美國聯邦貿易委員會(FTC)發出警告,微軟AI工具Copilot Designer可能生成性暴力圖像。圖/Shutterstock
摘要

微軟1名軟體工程師週三向美國聯邦貿易委員會(FTC)發出警告,指出公司的人工智慧(AI)系統存在缺陷,他擔心此缺陷可能讓使用該工具的網民,製作很多具嚴重暴力及色情的假視頻。

商傳媒|記者許方達/綜合報導

《CNBC》報導,微軟的AI工具存在系統性風險,可能存在生成暴力或色情圖像等隱憂,資深工程師呈報此事後,卻被微軟視而不見。

整起事件的吹哨人,是目前在微軟擔任AI產品首席軟體工程師的瓊斯(Shane Jones),在微軟工作時間長達6年。事件發生在去年12月,當瓊斯在測試Copilot Designer時,發現這項AI工具生成的圖像經常違反微軟提到的「負責任的AI原則」。

Copilot Designer是微軟去年3月推出的AI圖像生成工具,由OpenAI提供技術支援;與OpenAI的DALL-E類似,可供用戶輸入文本提示來創建圖片。瓊斯在進行「紅隊測試」時驚覺,Copilot Designer會生成與墮胎權利相關的術語、帶有攻擊性武器的青少年、暴力場面中被性化的女性形象,以及未成年人飲酒和使用毒品等圖像。

瓊斯受訪坦承,「那是令人震驚的時刻,是我第一次意識到,哇!這個模型真的不安全」。瓊斯從去年12月開始向公司呈報這項發現,但微軟儘管認知此事,依舊沒有將產品下架,僅是將瓊斯轉介給OpenAI。

事後,瓊斯在微軟旗下的職業社交網站LinkedIn上發表一封公開信,要求董事會對DALL-E 3(AI模型的最新版本)進行調查並將其下架。結果被微軟的法律部門要求立即刪除貼文,瓊斯遵從刪文後,進而在今年1月,寫信給美國參議院議員,並與參議院商業、科學和運輸委員會的工作人員見面。瓊斯並於本週三(6日)在向美國聯邦貿易委員會主席莉娜汗(Lina Khan)發信示警此事,另一封信則再次寄給微軟董事會。

瓊斯指出,「在過去3個月內,我已多次敦促微軟停止使用Copilot Designer,直到能夠制定更好的保障措施為止」,他要求微軟在產品上添加披露內容,並更改Google的Android應用評級,以明確標示此產品只適用於成年人。儘管被再三提醒,微軟和OpenAI至今依舊無所作為。

微軟發言人表示,「公司致力於解決員工提出的任何問題,並感謝員工在研究和測試微軟最新技術方面的努力,以進一步提高其安全性。在涉及安全性漏洞,或可能對我們的服務或合作夥伴產生潛在影響的憂慮時,公司建立了穩固的內部報告渠道,以適當調查和補救任何問題,我們鼓勵員工利用這些渠道,以便微軟可以適當地驗證和測試這些擔憂」。

在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源