上海市網信辦重拳整治 AI 濫用:54 款違規 App 下架,3 家網站被立案處罰
11 月 24 日消息,據“網信上海”微信公眾號消息,生成式人工智能技術蓬勃發展,賦能千行百業為社會生產生活帶來巨大便利,但違規濫用問題也逐漸突出,AI 換臉、AI 變聲、AI 偽造等侵權和破壞網絡生態現象層出不窮,給新技術新應用安全帶來諸多風險挑戰。
上海市網信辦在執法辦案工作中發現,部分企業開發使用生成式人工智能功能,未依法開展安全評估工作、未采取必要的安全防護措施防范違規信息生成、未采取限制措施防止被濫用,導致相關功能被用于“換臉變聲”“變裝造假”等侵犯他人個人信息權益行為,產出“開盒”“洗錢”等違法違規內容,以及生成色情低俗圖片等信息內容。“亮劍浦江・2025”專項執法行動將“整治 AI 濫用”作為年度治理重點,以執法促合規護航新興產業高質量發展。
專項行動期間,兼顧執法力度與溫度,多措并舉引導生成式人工智能領域企業合規運營。一是加強日常管理。指導屬地應用商店下線違規應用生成式人工智能技術的 App 共 54 款。對照《人工智能生成合成內容標識辦法》,指導專家團隊擬制“實務解析”,為企業提供疑難解答。二是強化處置處罰。對前期要求下線功能的 26 家生成式人工智能服務網站,進行“回頭看”巡查,防范問題復發。對 3 家拒不整改的生成式人工智能服務網站,首次適用《生成式人工智能服務管理暫行辦法》予以立案處罰。三是首違企業免罰。督促 5 家首次發現存在未按國家規定開展安全評估工作或違規提供“論文代寫”功能等違法違規問題的網站下線相關功能,并就生成式人工智能服務備案工作提供指導。
通過專項行動,生成式人工智能領域法治觀念不斷強化,企業合規經營意識明顯加強,“AI 濫用”問題得到改觀。下一步,上海市網信辦將鞏固專項行動成果,持續對“AI 濫用”“算法推薦”等存在侵犯個人信息權益、危害網絡生態的違法違規行為予以重點打擊和糾治,促進新技術新應用在法治的軌道上健康有序發展。
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
從“技術驗證”邁向“價值認同” 《2025中國5G發展傳播力分析》發布
當前,我國5G發展進入與千行百業深度融合、賦能社會數字化轉型的關鍵時期,不僅在網絡建設、用戶規模和技術應用上取得令人矚目的成就,更在信息傳播的廣闊天地中,塑造了前所未有的影響力格..[詳細]
一個“變與不變”的英特爾,圍繞“芯、新、心”的堅韌與雄起
面對更多“不確定性”未來的世界,當英特爾選擇在重慶舉辦這樣一場年度大型活動的時候,或許也與這座城市中的種種“堅韌”答案遙相呼應,從面對人口問題的清朝移民入川,再到第一艘實現川江..[詳細]
無線技術持續突破創新,成為推動未來產業發展的關鍵力量
在全球科技浪潮席卷而來的當下,創新驅動已成為推動經濟穩健增長、重塑產業競爭格局的關鍵。信通院發布的《無線經濟發展研究報告(2025 年)》(以下簡稱《報告》)指出,無線經濟作為新經濟形..[詳細]
簡化流程、提升體驗,將成為全球eSIM服務目標
當不少人抱怨國內運營商的eSIM激活方式過于死板的時候,已經在全球市場發展了8年的eSIM業務目前正在簡化辦理流程、提升靈活性上不斷發展。eSIM激活方式的體驗好壞正在成為全球電信運營商或虛..[詳細]
中國6G領跑全球!三大核心邏輯掀了誰的桌子
當我們還在驚嘆5G速度時,中國6G已經悄悄完成了300多項關鍵技術突破,專利申請量占全球40.3%穩居第一!6G不再是簡單的通信技術與傳輸模式的升級,當前中國不僅完成第一階段6G技術試驗,更顛..[詳細]













