《國際 AI 安全報告》發(fā)佈第二份關(guān)鍵更新
{window.open('https://sns.qzone.qq.com/cgi-bin/qzshare/cgi_qzshare_onekey?url='+encodeURIComponent(location.href)+'&title='+encodeURIComponent(document.title)+'&summary=&desc=&pics=https://static.prnasia.com/pro/pcom/includes/images/logo-prn-02_PRN.png','_blank','width=650,height=450');})()){kind=link}
蒙特利爾2025年11月26日 /美通社/ -- 《國際人工智能安全報告》正式發(fā)佈第二份「關(guān)鍵更新」，針對通用人工智能的風(fēng)險管理及技術(shù)緩減措施，提供適時的分析與建議。
該報告由圖靈獎得主、著名電腦科學(xué)家 Yoshua Bengio 領(lǐng)導(dǎo)，匯聚超過 100 位國際專家共同參與，並獲歐盟、經(jīng)合組織 (OECD) 及聯(lián)合國等 30 多個國家及國際組織全力支持。
鑑於 AI 領(lǐng)域發(fā)展一日千里，單靠年度報告已難以緊貼趨勢，因此報告引入「關(guān)鍵更新」機制，針對關(guān)鍵進展提供更聚焦的簡報。本次更新緊接於 2025 年 10 月 15 日發(fā)佈的首份關(guān)鍵更新。這些更新旨在確保政策制定者能掌握最新的文獻綜合分析，以制定基於實證的決策。
第二份關(guān)鍵更新重點探討提升 AI 可靠性及防止濫用的技術(shù)方案，以及新興的風(fēng)險管理體制。報告重點摘要：
- 訓(xùn)練模型以防禦惡意攻擊有進展，惟漏洞尚存。雖然 AI 模型和系統(tǒng)抵禦攻擊的能力有所提升，但技術(shù)高超的黑客仍有約 50% 的機會僅透過 10 次嘗試便能突破防線；甚至只需 250 份惡意文件污染訓(xùn)練數(shù)據(jù)，即可成功入侵模型。
- 開源差距收窄。開放權(quán)重模型目前的水平落後業(yè)界龍頭不足一年，這雖有助技術(shù)普及，卻令防止系統(tǒng)失靈及濫用的工作變得更複雜。
- 業(yè)界安全努力倍增，實際成效未明。儘管 2025 年採用風(fēng)險管理框架的 AI 企業(yè)數(shù)量增加逾倍，但其實際執(zhí)行成效仍充滿不確定性。
報告主席、蒙特利爾大學(xué)正教授、LawZero 科學(xué)總監(jiān)及 Mila - 魁北克 AI 研究所科學(xué)顧問 Yoshua Bengio 表示：
「由於我們持續(xù)追蹤 AI 能力及風(fēng)險的變化，提供清晰指引以落實適切有效的風(fēng)險管理及技術(shù)緩減措施至關(guān)重要。這份關(guān)鍵更新概述了相關(guān)領(lǐng)域的進展，以及尚存的缺口與機遇。我們的目標(biāo)是在 2026 年初於印度舉行的『AI 影響力峰會』前發(fā)佈第二份完整的《國際人工智能安全報告》，在此之前，我們致力為全球決策者提供有關(guān) AI 發(fā)展的適時更新?！?/i>
簡介
國際人工智能安全報告是先進人工智能系統(tǒng)能力與風(fēng)險證據(jù)的合編。它旨在透過為決策者提供證據(jù)基礎(chǔ)，而支援全球明智政策制定。本報告由超過 100 位背景多元的獨立專家共同撰寫，並獲得專家顧問小組支持；該小組由來自 30 多個國家及國際組織（包括歐盟、經(jīng)合組織和聯(lián)合國）的提名代表組成，具廣泛代表性。儘管該報告承認人工智能的龐大潛在優(yōu)勢，但其重點在於識別風(fēng)險和評估緩解策略，從而確保安全地發(fā)展和使用人工智能，造福人群。該報告由英國政府委託，而秘書處設(shè)於 UK AI Security Institute。
聯(lián)絡(luò)方法：Mila Medias，medias@mila.quebec；DSIT 傳媒查詢，press@dsit.gov.uk
精選視頻
電腦/電子 最近新聞稿
公眾安全 最近新聞稿
調(diào)查、投票與研究 最近新聞稿
- GSMA 表示：印尼須加快針對性數(shù)碼投資，以躋身亞太區(qū)領(lǐng)先數(shù)碼國家行列
- 紐約大學(xué)阿布扎比分校史登商學(xué)院發(fā)佈首個《金融中心競爭力指數(shù)》
- Imec 透過系統(tǒng)-技術(shù)協(xié)同優(yōu)化方案，緩解 3D HBM-on-GPU 架構(gòu)的散熱瓶頸
- 獨立研究機構(gòu)評估顯示，Comarch 獲選為忠誠度平臺「優(yōu)秀表現(xiàn)者」
- 深圳 GSMA 創(chuàng)新論壇關(guān)注流動 AI、低空經(jīng)濟與中國數(shù)碼生態(tài)系統(tǒng)的全球市場機會
- 查看更多
人工智能 最近新聞稿
- 簡體中文 |
- English |
- 日本語 |
- ??? |
- Bahasa Indonesia |
- Ti?ng Vi?t
- 產(chǎn)品與服務(wù)
- 新聞稿中心
- 知識庫
- 博客
- 多媒體新聞稿
- 聯(lián)繫我們
繁體中文知識庫正在建設(shè)中，請您選擇簡體中文或英文版查看。
Copyright © 2025 美通社版權(quán)所有，未經(jīng)許可不得轉(zhuǎn)載.
Cision 旗下公司.