「比真的還真」AI最大隱患或是奪走人的判斷力(圖)

產品圖像是否是AI生成的？（图片来源: 公用领域 Vpnsrus via Wiki）

【betway必威体育官网 2023年5月29日讯】（看中國記者程帆編譯綜合報導）隨著各式各樣人工智慧（AI）工具的出現，許多看起來似乎十分真實但實際卻是假的圖片和視頻越來越普遍了。近日，微軟公司總裁史密斯（Brad Smith）表示了對AI的最大憂慮，就是「深度造假」（Deep Fakes）的問題。

據路透社和《華爾街日報》的報導，上週在華盛頓的一次演講中，史密斯呼籲人類需要採取行動，以阻止合法的內容被篡改，並確保人們能夠判斷照片或線上音像片段的真實性。

他還督促聯邦政府設立新的監管機構，專門應對聊天機器人ChatGPT等生成式AI應用程序，承擔起「保護安網路安全和國家安全的義務」。

從5月23日至25日在西雅圖召開的Build 2023開發者會上，微軟公司特別宣布計畫在未來幾個月內增加一項功能，讓所有人都能識別由繪圖工具Bing Image Creator（影像建立者）和Microsoft Designer（微軟智能設計）生成的產品圖像是否是AI生成的。

今年3月發布的Bing Image Creator允許用戶，只需提供簡單的文字就能創作藝術作品。而4月推出的Microsoft Designer可以讓使用者，通過文字提示和AI模型來創建博客文章、網站等項目。

但為了防範和杜絕這些「假藝術品」會被惡意利用，導致虛假信息傳播。微軟採取了主動措施。這家科技巨頭稱，「新功能將使用密碼學方法對AI合成的產品作出標記和簽名，並附上有關其來源的元數據信息。」

前幾日，由微軟資助的ChatGPT開發商OpenAI公司首席執行官奧特曼（Sam Altman）也示警，「需要對AI進行監管！」他在美國參議院的AI聽證會上指出，一旦AI技術出了問題，後果將相當嚴重，並可能影響明年的總統大選。

在接受美國CNBC採訪時，奧特曼稱，從長遠來看，制定法規、標準及監管都是非常明智的。它將確保我們從AI技術中儘可能選取好的用處，同時盡量減少不利因素。

奧特曼也同時奔走於歐洲國家，呼籲各國政府在AI和安全合規方面進行全球合作。

事實上，除了微軟外，谷歌在本月舉行的年度大會上也表示，將確保該公司出產的每一張AI圖片都內嵌水印。該水印無法以肉眼識別，但若用谷歌搜索引擎等軟體就可以讀取並顯示出標籤。

除了圖片和視頻恐被造假危害人類外，史密斯在5月25日發表的一篇博文中還提出，相關政府機構需要對那些用於控制電網、供水或其它關鍵基礎設施的AI進行安全制動設置，以便人類能夠隨時駕馭這些工具。他指出，人類需要對AI所造成的任何問題負責。

目前，國會還考慮推出一些提案，避免AI不會被用於歧視或侵犯公民權利。

(文章僅代表作者個人立場和觀點)