IT之家 10 月 10 日消息，據(jù)美國 CNBC 9 日報道，谷歌前 CEO 埃里克?施密特發(fā)出嚴肅警告：AI 存在不可忽視的危險，而且極易被黑客利用。
他表示：“AI 可能出現(xiàn)擴散問題嗎？絕對可能?！边@種風(fēng)險包括技術(shù)落入不法分子手中，進而被濫用或改作他用。
“有證據(jù)顯示，無論是封閉還是開源的模型，都可能被黑客攻擊并移除安全防護。在訓(xùn)練過程中，AI 學(xué)到很多技能，其中最糟糕的情況是，它可能學(xué)會如何殺人?！?/p>
施密特補充道：“所有主要公司都確保這些模型無法回答此類問題。做法正確，每家公司都是出于正確理由執(zhí)行這一措施。盡管如此，這些模型仍有被逆向工程的可能，還有很多類似風(fēng)險存在?！?/p>
AI 系統(tǒng)容易受到攻擊，常見手段包括提示注入和越獄。據(jù)IT之家了解，所謂“提示注入攻擊”即黑客在用戶輸入或網(wǎng)頁、文檔等外部數(shù)據(jù)中隱藏惡意指令，以欺騙 AI 執(zhí)行不該執(zhí)行的操作，例如泄露私人數(shù)據(jù)或運行有害命令。越獄則是操控 AI 的回答，使其繞過安全規(guī)則生成受限制或危險內(nèi)容。
施密特表示，目前尚無完善的“非擴散機制”來控制 AI 帶來的風(fēng)險。盡管警告嚴峻，施密特對 AI 總體保持樂觀，他認為這項技術(shù)的價值遠未被充分認識?！霸诤嗬?基辛格去世前，我與他合著了兩本書，我們認為，一種并非完全屬于我們、但在一定程度受控的外來智能出現(xiàn)，對人類意義重大，因為人類習(xí)慣處于食物鏈頂端。到目前為止，這一觀點正在驗證 —— 這些系統(tǒng)的能力將遠超人類隨時間的成長?！?/p>
他補充道：“GPT 系列最終帶來了 ChatGPT 熱潮，兩個月吸引一億用戶，異常驚人。這顯示了 AI 的力量。我認為 AI 被低估，而非被高估，我期待在五到十年內(nèi)證明自己是對的。”