界面新聞記者 | 楊舒鴻吉

今年以來，大模型和AIGC備受矚目。大模型數(shù)量急劇增加，開啟“千模大戰(zhàn)”。如何加強對AIGC內(nèi)容的規(guī)范管理？

在9月11日舉行的2023年國家網(wǎng)絡安全宣傳周上海地區(qū)高峰論壇上，中國信息通信研究院華東分院院長廖運發(fā)透露，上海可信AI評測中心正在逐步在建立評測相關標準，開展評估評測工作，致力于可信AI進一步健康發(fā)展。

廖運發(fā)認為，AIGC目前面臨較多挑戰(zhàn)。從企業(yè)管理上來看，大模型開發(fā)及應用企業(yè)，都要求對大模型從技術、內(nèi)容等方面進行深度審核、管理、治理。

另外，他指出，從技術上應要求監(jiān)測人工智能算法是否有缺陷、內(nèi)容是否符合法律法規(guī)要求以及政策監(jiān)管等等。

2021年，由中國信息通信研究院、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）和中國信通院華東分院共同成立的上海可信AI評測中心揭牌。

依托人工智能發(fā)展高地建設契機，上海以“搭建安全可靠人工智能系統(tǒng)”為目標，率先成立上海可信AI評測中心，打造全國乃至全球知名的集AI標準制定、可信AI評測與產(chǎn)業(yè)落地于一體的科研中心，推動可信AI治理準則貫穿人工智能產(chǎn)品和服務的全生命周期，確保人工智能安全、可靠、可控，推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展。

廖運發(fā)認為，大模型未來的發(fā)展之路中，發(fā)展與安全是兩個重要的命題。從技術上要加快人工智能技術進一步研發(fā)，特別是可信人工智能的邏輯可控等。從產(chǎn)業(yè)維度上，需要加快可信人工智能的落地，形成共識。從生態(tài)維度，要加快標準的研究、制定，以及從監(jiān)管的維度要推動底線政策的監(jiān)管。“總體來看，這些監(jiān)管都不是抑制AIGC大模型的產(chǎn)業(yè)發(fā)展，而是要統(tǒng)籌發(fā)展與安全。“

2022年，全球人工智能產(chǎn)業(yè)市場達到3619億美元，我國已經(jīng)達到5080億人民幣，平均增長速度達到近20%。中國信通院預計，到2030年，中國人工智能產(chǎn)業(yè)會達到1萬億人民幣的規(guī)模。