黑客濫用ChatGPT 有意識AI細思極恐(圖)

人類「想」製造出有意識的機器不存在任何客觀障礙。(圖片来源: Adobe stock)

【看中國2023年8月29日訊】（看中國記者程帆編譯綜合報導）隨著人工智能（AI）技術風靡全球，許多人類工作變得更加高效，但同時也推動了黑客攻擊。一份新報告顯示，今年第二季全球網絡攻擊激增8%。另外，有關人類製造有意識的機器人的討論也讓人細思極恐。

美國和以色列跨國公司查點研究機構(Check Point Research)在8月28日發布的報告指出，勒索軟體團夥及出於政治動機的「黑客行動主義」正有所抬頭，他們利用AI不斷提高遊戲水平的現象愈演愈烈，尤其是在開髮網路釣魚電子郵件、監控擊鍵惡意軟體，以及製作勒索軟體代碼等方面。

據網路安全新聞(Cyber Security News)的報導，安全公司Netenrich上月表示，繼「反派聊天機器人」的WormGPT誕生後，黑客又製造了一個名為FraudGPT的惡意AI工具，能夠生成多種網路攻擊代碼。記錄顯示，不到一週的時間，有超過3000名買家下單。

該公司研究員克里斯南(Rakesh Krishnan)稱，自7月22日以來，FraudGPT一直在暗網流通，訂閱費每月僅200美元。

黑客在售賣頁表示，該工具可用於編寫惡意代碼、創建出「一系列殺毒軟體無法檢測的惡意軟體」、檢測網站漏洞、自動進行密碼撞庫。

美國最大漏洞眾測公司HackerOne的解決方案架構師施萊次(Dane Sherrets)表示，他對AI將助長網路攻擊一點兒也不感到驚訝，它讓攻擊者更容易得手。他說，他每天都使用ChatGPT來加快自己的工作速度，因此他明白這點。

HackerOne是一個安全平臺，它將企業與道德黑客和網路安全測試人員聯繫起來，在犯罪人員入侵前發現公司系統中的漏洞。

AI領域諱莫如深的「C」字

除了網絡黑客帶來的威脅，AI本身的發展也讓整個社會充斥著不確定性。

世界級人工智能專家、深度學習「三巨頭」之一的本吉奧(Yoshua Bengio)聯合19人團隊上週發布了一份120頁長的研究論文，稱「儘管人工智能目前沒意識，但是以後可能就會有。」

據《科學》期刊的報導，這個團隊成員分別來自哲學、神經科學、人工智能三大領域，他們用非常科學和嚴謹的方法探討了「意識」(Consciousness)的客觀存在標準。具體說來，AI現在的能力和形態暫時都不具備意識，但要是繼續發展下去，人類「想」製造有意識的機器並不存在任何客觀障礙！

這個結論聽起來讓人汗毛直豎！AI對於人類，到底是福還是禍?

本吉奧等人對AI有無意識的判斷是基於心智計算主義。因為早前的一些理論認為，意識必須要存在於生物體的大腦中。如果是這樣，研究就不用繼續下去，而該研究是建立在計算功能主義上。

三年前，他在《與意識相關的深度學習先驗》中曾提及，卡尼曼在《思考，快與慢》一書中指出，人的認知系統有兩類，一類是無意識(快系統)的，關鍵詞是直覺、非語言、習慣；第二類是有意識的(慢系統)，關鍵詞是語言性、演算法性，推理和計畫。

而計算功能主義也認為，意識可以存在於多種基質中，而不僅僅是存在於生物大腦中。

儘管目前的機器學習方法還未從無意識發展到全意識，但本吉奧相信，從「無」到「有」的轉變完全可能，而注意力機制則是這個過程的核心要素之一。