清朗沙龍首期召開，探討如何識別AIGC信息真相

7月25日下午，上海市委網信辦“清朗e企來”系列惠企沙龍2024年首場活動在徐匯區舉行。活動聚焦“AIGC時代的信息真相：識別與應對價值觀偏見”主題，探討交流AIGC時代信息安全建設有效路徑。

沙龍現場提出，要始終堅持發展和安全并重、促進創新和依法治理相結合的原則，鼓勵與引導生成式人工智能技術發展。

日前，二十屆三中全會通過的《決定》明確提出“完善生成式人工智能發展和管理機制”。隨著生成式人工智能的快速發展，AIGC內容價值觀偏見風險愈加凸顯。沙龍現場提出，要始終堅持發展和安全并重、促進創新和依法治理相結合的原則，鼓勵與引導生成式人工智能技術朝著更加公正、符合倫理的方向創新發展。大模型企業和網絡平臺要主動承擔社會責任，遵守法律法規，尊重社會公德、公序良俗，明確對AI生成內容采取有效措施確保合法合規。對于違法違規行為，監管部門要依法履職、嚴厲打擊，著力維護信息內容生態健康與網絡秩序和諧。

來自國家互聯網應急中心上海分中心、百度公司、開普云的嘉賓從各自領域做了觀點分享。國家互聯網應急中心上海分中心介紹了生成式人工智能對網絡內容建設產生的深遠影響，以及如何構建全方位人工智能安全治理體系等內容；百度公司圍繞大模型內容安全治理面臨的新問題新挑戰，分享了安全對齊、安全圍欄建設的實踐經驗；開普云全面分析了大模型價值觀偏見的隱患點，提出加強算法研究優化、做好用戶教育引導、增強合作共建等應對措施。與會人員與嘉賓積極互動交流，進一步加深了對AIGC的認識和理解。

本期“清朗e企來”惠企沙龍活動由上海市委網信辦主辦，徐匯區委網信辦、上海大模型生態有限公司共同承辦。市網絡協同治理聯動機制成員單位以及各區網信辦負責人，稀宇科技、商湯科技、蜜度科技、小紅書、嗶哩嗶哩等屬地主要互聯網企業代表參與活動。

據了解，今年上海市委網信辦在“清朗浦江”專項治理行動基礎上，升級“清朗e企來”惠企品牌，聚焦屬地互聯網企業“急難愁盼”問題，重點打造“五大服務包”