7月28日,東壁科技數(shù)據(jù)聯(lián)合上海財經(jīng)大學(xué)數(shù)字經(jīng)濟學(xué)院共同構(gòu)建的全國首個高質(zhì)量人工智能治理科技語料與首個人工智能多元共治決策支持大模型在2025世界人工智能大會大模型治理和有序發(fā)展生態(tài)論壇正式發(fā)布,標(biāo)志著我國在探索科學(xué)高效、多方協(xié)同的人工智能治理模式方面邁出了堅實一步,為人工智能協(xié)同治理提供了關(guān)鍵的科技支撐。
當(dāng)前,以人工智能為代表的新一輪科技革命和產(chǎn)業(yè)變革正在深刻重塑世界格局與人類生活。人工智能在賦能千行百業(yè)、改善民生福祉、促進科技創(chuàng)新方面展現(xiàn)出前所未有的巨大潛力。與此同時,人工智能技術(shù)的快速演進也帶來了復(fù)雜的新挑戰(zhàn)與新課題,數(shù)據(jù)安全、算法偏見、倫理失范、就業(yè)沖擊,乃至潛在的治理鴻溝等問題日益凸顯。
注重共同治理,已成為人工智能有序發(fā)展的重要行業(yè)共識?!度斯ぶ悄苋蛑卫硇袆佑媱潯芬裁鞔_指出,開展人工智能安全治理應(yīng)及時開展人工智能風(fēng)險研判,提出針對性防范應(yīng)對措施,構(gòu)建具有廣泛共識的安全治理框架。上海浦東新區(qū)數(shù)字化轉(zhuǎn)型專家委員會委員、上海財經(jīng)大學(xué)數(shù)字經(jīng)濟學(xué)院院長趙琳介紹說,在此背景下,上海財經(jīng)大學(xué)數(shù)字經(jīng)濟學(xué)院與東壁科技數(shù)據(jù)開展合作,致力于構(gòu)建人工智能治理領(lǐng)域關(guān)鍵科技基礎(chǔ)設(shè)施以響應(yīng)國家號召并應(yīng)對人工智能治理挑戰(zhàn)。
東壁科技數(shù)據(jù)創(chuàng)始人、深圳大學(xué)特聘教授吳登生表示,東壁科技數(shù)據(jù)依托其擁有中國自主知識產(chǎn)權(quán)的高質(zhì)量科技文獻數(shù)據(jù)庫平臺,聚焦人工智能治理的核心挑戰(zhàn),圍繞后門攻擊、數(shù)據(jù)投毒、逆向攻擊、黑箱問題、過擬合或欠擬合、魯棒性風(fēng)險、對抗樣本攻擊、就業(yè)替代、誤用濫用、隱私泄露、責(zé)任問題、偏見歧視、決策權(quán)讓渡、信息繭房14類人工智能治理風(fēng)險,構(gòu)建了國內(nèi)首個高質(zhì)量人工智能治理科技語料庫。這個科技語料庫,共采集了人工智能治理領(lǐng)域500余篇高質(zhì)量英文期刊論文、1500余篇核心中文期刊論文,整合了來自國務(wù)院所屬18個部委及16個地級市政府部門發(fā)布的人工智能治理相關(guān)法律法規(guī)、政策文件、技術(shù)標(biāo)準(zhǔn)、典型案例等高質(zhì)量規(guī)范性文本1000余份。經(jīng)過嚴格的人工精細標(biāo)注、深度結(jié)構(gòu)化處理以及多重質(zhì)量篩選,最終沉淀出一批高度結(jié)構(gòu)化、主題明確、內(nèi)容權(quán)威的標(biāo)注語料。
“這一覆蓋學(xué)術(shù)前沿與政策實踐的多維科技語料,為推進我國人工智能協(xié)同治理工具的研發(fā)提供了關(guān)鍵數(shù)據(jù)支撐?!彼f。
據(jù)上海金融科技產(chǎn)業(yè)聯(lián)盟智慧金融專業(yè)委員會委員、上海財經(jīng)大學(xué)數(shù)字經(jīng)濟學(xué)院副院長肖升生在發(fā)布現(xiàn)場介紹,在人工智能治理科技語料的基礎(chǔ)上,上海財經(jīng)大學(xué)數(shù)字經(jīng)濟學(xué)院與東壁科技數(shù)據(jù)聯(lián)合開發(fā)了全國首個人工智能多元共治決策支持大模型,為人工智能協(xié)同治理提供關(guān)鍵工具支撐。
該模型專注于人工智能治理領(lǐng)域知識問答、案例查詢與分析、技術(shù)方案咨詢、治理方案生成、資源查找五大核心任務(wù),在國產(chǎn)開源大語言模型基礎(chǔ)上,利用構(gòu)建的2000多條高質(zhì)量人工智能治理領(lǐng)域問答對語料進行精細化的微調(diào),使其回答能夠嚴格遵循人工智能治理領(lǐng)域回答范式,除此之外,該模型還接入了基于前述人工智能治理科技語料庫構(gòu)建的可持續(xù)動態(tài)更新數(shù)據(jù)庫,通過檢索增強生成(RAG)技術(shù),模型能夠有效引用權(quán)威語料庫內(nèi)容,大幅提升了專業(yè)回答的準(zhǔn)確性和可靠性,顯著緩解了通用模型在此領(lǐng)域易產(chǎn)生“幻覺”的風(fēng)險。在構(gòu)建的1000條人工智能治理領(lǐng)域測試集中,模型回答準(zhǔn)確率達到91.4%,幻覺產(chǎn)生率僅1.5%,這一性能表現(xiàn)表明該模型在人工智能治理專業(yè)領(lǐng)域已達到較高實用水平。
未來,東壁科技數(shù)據(jù)與上海財經(jīng)大學(xué)數(shù)字經(jīng)濟學(xué)院將持續(xù)更新人工智能治理科技語料庫,并計劃將人工智能多元共治決策支持大模型面向有需求的企業(yè)和政府部門逐步開放使用,助力各方提升人工智能治理能力,共同推動我國人工智能產(chǎn)業(yè)健康、安全、有序發(fā)展。
(主辦方供圖)
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2025 中國高新網(wǎng)chinahightech.com All Rights Reserved.京ICP備14033264號-5
電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證060344號主辦單位:《中國高新技術(shù)產(chǎn)業(yè)導(dǎo)報》社有限責(zé)任公司