促進(jìn)生成式AI可信發(fā)展

上海2023年7月18日 /美通社/ -- 商湯科技近日在2023世界人工智能大會(huì)（WAIC）期間推出全面升級(jí)的「商湯日日新SenseNova」大模型體系，同時(shí)發(fā)佈全新商湯可信AI基礎(chǔ)設(shè)施「SenseTrust」?！窼enseTrust」包含一套完整覆蓋數(shù)據(jù)、模型、應(yīng)用治理環(huán)節(jié)的可信AI治理工具，可為商湯及行業(yè)提供倫理與安全的檢測與加固解決方案，推動(dòng)安全可信的人工智能產(chǎn)業(yè)生態(tài)的發(fā)展。

活動(dòng)上，商湯副總裁、AI倫理與治理委員會(huì)主席張望表示：「技術(shù)規(guī)?；涞赜袃牲c(diǎn)關(guān)鍵條件，一是成本低、應(yīng)用廣的普惠性，二是要可靠、可信的安全性。以大算力為基礎(chǔ)的大模型及通用人工智能為加速了條件一的滿足，同時(shí)也帶來了技術(shù)濫用風(fēng)險(xiǎn)的規(guī)模化升級(jí)。如何保障人工智能系統(tǒng)的安全可信已經(jīng)成為業(yè)界乃至全社會(huì)面臨的一項(xiàng)緊迫課題。為此，商湯針對新時(shí)期人工智能的風(fēng)險(xiǎn)特點(diǎn)，打造覆蓋數(shù)據(jù)處理、模型開發(fā)、應(yīng)用部署等AI系統(tǒng)全生命週期的可信AI基礎(chǔ)設(shè)施SenseTrust，以助力打造可信的大模型?！?nbsp;

活動(dòng)期間，商湯也正式發(fā)佈了由商湯智能產(chǎn)業(yè)研究院與上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心，共同編制的人工智能倫理與治理的年度報(bào)告─《商湯大模型倫理原則與實(shí)踐白皮書》。白皮書以大模型發(fā)展為背景、生成式人工智能治理為主題，透過「商湯日日新SenseNova」大模型體系治理實(shí)踐作為案例，提出了生成式人工智能治理的核心原則和「三維對齊」科技倫理模式，呈現(xiàn)在AI治理領(lǐng)域的最新觀點(diǎn)。

商湯「SenseTrust」打造大模型時(shí)代可信AI安全網(wǎng)

大模型時(shí)代下，以「基礎(chǔ)模型+微調(diào)」為主要特徵的生產(chǎn)模式，大大降低了開發(fā)成本和應(yīng)用門檻。隨著AI應(yīng)用場景更加開放、數(shù)據(jù)模態(tài)更加多元、應(yīng)用領(lǐng)域更加廣泛，技術(shù)濫用及風(fēng)險(xiǎn)來源同時(shí)呈指數(shù)級(jí)增長，風(fēng)險(xiǎn)評估標(biāo)準(zhǔn)更加難以界定，潛在影響大規(guī)模擴(kuò)散。在應(yīng)用層面，例如「幻覺」現(xiàn)象、數(shù)據(jù)「投毒」、混淆攻擊、誘導(dǎo)攻擊等風(fēng)險(xiǎn)陸續(xù)顯現(xiàn)，引發(fā)全球?qū)θ斯ぶ悄茱L(fēng)險(xiǎn)挑戰(zhàn)的高度關(guān)注。

作為行業(yè)領(lǐng)先的人工智能企業(yè)，商湯科技一直以來高度重視人工智能倫理與治理工作，技術(shù)創(chuàng)新與技術(shù)治理發(fā)展並重。早在2019年，商湯就同時(shí)啓動(dòng)了兩項(xiàng)前瞻性的工作，一項(xiàng)是大模型研發(fā)，另一項(xiàng)就是AI倫理與治理。此前，商湯已建立了完善的人工智能倫理與治理組織結(jié)構(gòu)、管理制度、審查機(jī)制、工具體系、倫理文化建設(shè)體系和外部生態(tài)網(wǎng)絡(luò)，並獲得行業(yè)廣泛認(rèn)可。

新時(shí)代下技術(shù)加速創(chuàng)新，應(yīng)用日新月異，治理手段亦需相應(yīng)升級(jí)以適應(yīng)飛速發(fā)展、無限拓展的治理需求。商湯整合長期倫理治理思考及技術(shù)能力，針對當(dāng)下生成式人工智能的風(fēng)險(xiǎn)特點(diǎn)，打造可信AI基礎(chǔ)設(shè)施「SenseTrust」，包含數(shù)據(jù)治理、模型治理、應(yīng)用治理等層面技術(shù)工具，並可提供數(shù)據(jù)處理、模型訓(xùn)練、模型部署、推理服務(wù)等全方位的可信AI檢測與加固「工具箱」。

• 在數(shù)據(jù)層面，「SenseTrust」 能夠提供從數(shù)據(jù)脫敏、數(shù)據(jù)去毒、數(shù)據(jù)合規(guī)審查及偏見評估等治理工具。例如，在模型訓(xùn)練數(shù)據(jù)的預(yù)處理環(huán)節(jié)，「SenseTrust」提供的數(shù)據(jù)去毒工具能夠檢測數(shù)據(jù)來源中是否包含帶有後門、擾亂的有毒數(shù)據(jù)，並提供去毒方案。針對顯式、隱式等不同形式的「毒素」檢測率逾95%，結(jié)合數(shù)據(jù)清洗與對抗防禦等方法，能夠有效去毒。目前，「SenseTrust」數(shù)據(jù)脫敏工具已應(yīng)用於數(shù)據(jù)標(biāo)注、城市管理，以及自動(dòng)駕駛相關(guān)業(yè)務(wù)場景。
• 在模型層面，「SenseTrust」能夠針對傳統(tǒng)判別式模型和生成式模型的不同特點(diǎn)，提供標(biāo)準(zhǔn)化和定制化的模型評測能力。針對判別式模型，可就能夠面向活體識(shí)別、圖像分類、目標(biāo)檢測等商業(yè)化需求提供一鍵式評測；針對生成式模型，商湯「SenseTrust」構(gòu)建了百萬量級(jí)的測試數(shù)據(jù)集，覆蓋三十多類倫理和安全測評範(fàn)疇，可對對抗安全、魯棒安全、後門安全、可解釋性和公平性評測。為進(jìn)一步提升模型的風(fēng)險(xiǎn)防禦能力，商湯「SenseTrust」還能夠提供「AI防火牆」，從源頭過濾對抗樣本，綜合檢出率達(dá)到98%。
• 在應(yīng)用層面，商湯在涉及數(shù)據(jù)保護(hù)、數(shù)字取證及偽造檢測等技術(shù)領(lǐng)域有著深厚經(jīng)驗(yàn)，並逐步開發(fā)了結(jié)合生成、鑒偽和溯源的綜合解決方案。例如，針對各方頗為關(guān)注的AIGC相關(guān)確權(quán)溯源和鑒偽問題，「SenseTrust」為此開發(fā)了數(shù)字水印解決方案，可將特定信息嵌入到數(shù)字載體中，不影響載體的使用價(jià)值，也不易被人察覺，只有通過特定的解碼器和專屬密鑰才能提取，能夠支持多模態(tài)數(shù)據(jù)。數(shù)字水印技術(shù)已於「商湯秒畫SenseMirage」、「商湯如影SenseAvatar」等多個(gè)產(chǎn)品上使用，以及已被內(nèi)容創(chuàng)作、大數(shù)據(jù)等領(lǐng)域的客戶採用。

今年WAIC上，「商湯日日新SenseNova」大模型體系再度升級(jí)。針對體系內(nèi)的一系列應(yīng)用平臺(tái)，商湯在傳統(tǒng)「判別式模型」治理經(jīng)驗(yàn)的基礎(chǔ)上，結(jié)合生成式人工智能的風(fēng)險(xiǎn)特點(diǎn)，利用「SenseTrust」工具體系進(jìn)行了一系列測評，並開展持續(xù)的追蹤測試，不斷提升風(fēng)險(xiǎn)防禦能力。 

與此同時(shí)，商湯也積極將大模型和生成式人工智能的治理實(shí)踐成果向外輸出。例如，商湯「SenseTrust」綜合鑒偽解決方案投入到十多家銀行的安全系統(tǒng)中，對各類攻擊攔截的成功率超行業(yè)同類產(chǎn)品20%以上，有效防範(fàn)身份盜取、支付盜刷等網(wǎng)絡(luò)詐騙。此外，模型體檢、數(shù)字水印，以及主動(dòng)投毒保護(hù)等相關(guān)技術(shù)，也已通過「商湯AI安全治理開放平臺(tái)」對外開放。

關(guān)於商湯

作為人工智能軟件公司，商湯科技以「 堅(jiān)持原創(chuàng)，讓 AI 引領(lǐng)人類進(jìn)步」為使命，旨在持續(xù)引領(lǐng)人工智能前沿研究，持續(xù)打造更具拓展性、更普惠的人工智能軟件平臺(tái)，推動(dòng)經(jīng)濟(jì)、社會(huì)和人類的發(fā)展，並持續(xù)吸引及培養(yǎng)頂尖人才，共同塑造未來。

商湯集團(tuán)擁有深厚的學(xué)術(shù)積累，並長期投入於原創(chuàng)技術(shù)研究，不斷增強(qiáng)行業(yè)領(lǐng)先的多模態(tài)、多任務(wù)通用人工智能能力，涵蓋感知智能、自然語言處理、決策智能、智能內(nèi)容生成等關(guān)鍵技術(shù)領(lǐng)域，同時(shí)包含 AI 芯片、AI 傳感器及 AI 算力基礎(chǔ)設(shè)施在內(nèi)的關(guān)鍵能力。此外，商湯前瞻性打造新型人工智能基礎(chǔ)設(shè)施——商湯 AI 大裝置SenseCore，打通算力、算法和平臺(tái)，並在此基礎(chǔ)上建立「商湯日日新SenseNova」大模型及研發(fā)體系，以低成本解鎖通用人工智能任務(wù)的能力，推動(dòng)高效率、低成本、規(guī)?；?nbsp;AI 創(chuàng)新和落地，進(jìn)而打通商業(yè)價(jià)值閉環(huán)，解決長尾應(yīng)用問題，引領(lǐng)人工智能進(jìn)入工業(yè)化發(fā)展階段。商湯集團(tuán)業(yè)務(wù)涵蓋智慧商業(yè)、智慧城市、智慧生活、智能汽車四大板塊，相關(guān)產(chǎn)品與解決方案深受客戶與合作夥伴好評。 

商湯科技倡導(dǎo)「發(fā)展」的人工智能倫理觀，並積極參與有關(guān)數(shù)據(jù)安全、隱私保護(hù)、人工智能倫理道德和可持續(xù)人工智能的行業(yè)、國家及國際標(biāo)準(zhǔn)的制訂，與多個(gè)國內(nèi)及多邊機(jī)構(gòu)就人工智能的可持續(xù)及倫理發(fā)展開展了密切合作。商湯科技《AI可持續(xù)發(fā)展道德準(zhǔn)則》被聯(lián)合國人工智能戰(zhàn)略資源指南選錄，並於2021年6月發(fā)表，是亞洲唯一獲此殊榮的人工智能公司。

目前，商湯（股票代碼：0020.HK）已於香港交易所主板掛牌上市。商湯集團(tuán)現(xiàn)已在香港、上海、北京、深圳、成都、杭州、南平、青島、西安、臺(tái)北、澳門、京都、東京、新加坡、利雅德、阿布扎比、杜拜、吉隆坡、首爾等地設(shè)立辦公室。另外，商湯科技在德國、泰國、印度尼西亞、菲律賓等國家均有業(yè)務(wù)。更多訊息，請?jiān)L問商湯科技網(wǎng)站、LinkedIn、Twitter、Facebook和YouTube專頁。

媒體聯(lián)絡(luò)及查詢

商湯科技
電郵：pr@sensetime.com