界面新聞?dòng)浾?| 楊舒鴻吉

今年以來(lái)，大模型和AIGC備受矚目。大模型數(shù)量急劇增加，開啟“千模大戰(zhàn)”。如何加強(qiáng)對(duì)AIGC內(nèi)容的規(guī)范管理？

在9月11日舉行的2023年國(guó)家網(wǎng)絡(luò)安全宣傳周上海地區(qū)高峰論壇上，中國(guó)信息通信研究院華東分院院長(zhǎng)廖運(yùn)發(fā)透露，上海可信AI評(píng)測(cè)中心正在逐步在建立評(píng)測(cè)相關(guān)標(biāo)準(zhǔn)，開展評(píng)估評(píng)測(cè)工作，致力于可信AI進(jìn)一步健康發(fā)展。

廖運(yùn)發(fā)認(rèn)為，AIGC目前面臨較多挑戰(zhàn)。從企業(yè)管理上來(lái)看，大模型開發(fā)及應(yīng)用企業(yè)，都要求對(duì)大模型從技術(shù)、內(nèi)容等方面進(jìn)行深度審核、管理、治理。

另外，他指出，從技術(shù)上應(yīng)要求監(jiān)測(cè)人工智能算法是否有缺陷、內(nèi)容是否符合法律法規(guī)要求以及政策監(jiān)管等等。

2021年，由中國(guó)信息通信研究院、中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）和中國(guó)信通院華東分院共同成立的上海可信AI評(píng)測(cè)中心揭牌。

依托人工智能發(fā)展高地建設(shè)契機(jī)，上海以“搭建安全可靠人工智能系統(tǒng)”為目標(biāo)，率先成立上海可信AI評(píng)測(cè)中心，打造全國(guó)乃至全球知名的集AI標(biāo)準(zhǔn)制定、可信AI評(píng)測(cè)與產(chǎn)業(yè)落地于一體的科研中心，推動(dòng)可信AI治理準(zhǔn)則貫穿人工智能產(chǎn)品和服務(wù)的全生命周期，確保人工智能安全、可靠、可控，推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展。

廖運(yùn)發(fā)認(rèn)為，大模型未來(lái)的發(fā)展之路中，發(fā)展與安全是兩個(gè)重要的命題。從技術(shù)上要加快人工智能技術(shù)進(jìn)一步研發(fā)，特別是可信人工智能的邏輯可控等。從產(chǎn)業(yè)維度上，需要加快可信人工智能的落地，形成共識(shí)。從生態(tài)維度，要加快標(biāo)準(zhǔn)的研究、制定，以及從監(jiān)管的維度要推動(dòng)底線政策的監(jiān)管。“總體來(lái)看，這些監(jiān)管都不是抑制AIGC大模型的產(chǎn)業(yè)發(fā)展，而是要統(tǒng)籌發(fā)展與安全。“

2022年，全球人工智能產(chǎn)業(yè)市場(chǎng)達(dá)到3619億美元，我國(guó)已經(jīng)達(dá)到5080億人民幣，平均增長(zhǎng)速度達(dá)到近20%。中國(guó)信通院預(yù)計(jì)，到2030年，中國(guó)人工智能產(chǎn)業(yè)會(huì)達(dá)到1萬(wàn)億人民幣的規(guī)模。