生成式人工智能(以下簡稱AIGC,Artificial Intelligence Generated Content)作為人工智能領域的重要分支,在文本生成、圖像設計、音樂創作等領域都取得了突破性進展,國內大模型項目的數量呈井噴式增長的態勢,引發了各行各業的廣泛關注。技術的迅猛發展,也伴隨著安全和挑戰。

10月18日,由北京市科學技術協會指導,北京軟件和信息服務業協會主辦,北京人工智能產業聯盟人工智能安全專委會協辦的2023年首都學術資源開放共享沙龍“生成式人工智能應用及安全”專場活動于中關村知識產權大廈成功舉辦。活動邀請了人工智能領域的專家學者、產業和技術大咖分享其在AIGC研究和實踐中的經驗,探討AIGC應用的安全與合規、發展與治理、知識產權保護等話題,助力AIGC行業的健康與規范發展。活動由北京軟件和信息服務業協會首席研究員倉劍主持。

北京軟件和信息服務業協會首席研究員倉劍

嘉賓演講

今年以來,圍繞AIGC的競賽愈加激烈,國內科技企業爭相進入了大模型賽道,據悉,北京市已有百余款大模型產品,占全國總量的一半左右。自8月15日起,《生成式人工智能服務管理暫行辦法》(以下簡稱“《暫行辦法》”)施行,對生成式人工智能進行專項監管。8月底,北京首批五個大型模型備案,并陸續向公眾提供服務。《暫行辦法》對于AIGC的提供者和使用者的影響和作用是什么?在主旨演講環節,中國信通院產業與規劃所主任工程師王強對其重點內容進行了分享,他表示,促進AIGC健康發展和規范應用,是《生成式人工智能服務管理暫行辦法》的核心主旨,為此,《辦法》通過“劃定合規底線”、“采取有效措施鼓勵發展”、“采取更精細化監管舉措”這三個層面推進落實。

中國信通院產業與規劃所主任工程師 王強

AIGC飛速發展,與此同時,虛假信息、學術倫理等安全合規的問題也引發了關注和熱議,中國政法大學教授、博士生導師、中國政法大學互聯網金融法律研究院院長李愛君以法學的視角圍繞“生成式人工智能安全合規”的主題進行了發言。她表示,生成式人工智能的安全合規的核心是數據安全合規和生成內容的合規。AIGC的發展過程中應充分發揮《數據二十條》中的原則和指導思想進而促進AIGC的健康發展。

中國政法大學教授、博士生導師、　中國政法大學互聯網金融法律研究院院長 李愛君

伴隨著大模型演進發展,AIGC內容的合規性要求也越發清晰,百度安全副總經理馮景輝圍繞大模型在訓練,部署,推理和運營的全生命周期內遇到的安全挑戰,分別從數據清洗,敏感數據保護、業務風險控制和內容合規等多個角度介紹目前主要的風險類型,并貼合《生成式人工智能服務管理暫行辦法》及“生成式人工智能上線備案要求”等合規性規范,闡述了百度在構建大模型安全防線的最佳實踐。

百度安全副總經理 馮景輝

分享交流

在分享交流環節,北京師范大學新聞傳播學院副教授劉茜、北京郵電大學計算機學院副教授張成文、國家工業信息安全發展研究中心人工智能所工程師王淼、中國科學院自動化研究所研究員趙曉光、華為戰略研究院AI治理產業發展首席專家柳嘉琪、騰訊安全內容安全總經理王翔、智譜AI安全負責人王笑塵、中科聞歌副總經理王璋盛、智源研究院數據智能研究中心趙波博士等十余位專家、學者、企業代表暢所欲言,碰撞思維的火花。圍繞AIGC在快速發展和不同場景應用落地的過程中所面臨的安全風險問題和應對措施進行了深入的交流和熱烈的討論。

活動尾聲

當前,AIGC的迅猛發展持續為各行各業帶來新變化,并不斷催生著新產業、新業態和新商業模式,培育了經濟發展的新動能。北京是我國人工智能行業發展的開拓先驅和創新高地,北京軟件與信息服務業協會基于數字驅動創新的發展模式,秉承“提供價值服務 促進產業發展”的宗旨,將為產、學、研、用各方搭建交流、場景開放、需求對接平臺,以推動人工智能產業的深度融合發展。

免責聲明：市場有風險，選擇需謹慎！此文僅供參考，不作買賣依據。

關鍵詞：