6 月 24 日消息，上海市網(wǎng)信辦今日發(fā)布公告，宣布對一批拒不整改的生成式人工智能服務網(wǎng)站予以立案處罰。
IT之家附原文如下：
本年度，上海市網(wǎng)信辦聯(lián)合上海市市場監(jiān)督管理局及相關(guān)行業(yè)主管部門繼續(xù)開展“亮劍浦江・2025”個人信息權(quán)益保護專項執(zhí)法行動，專項行動聚焦三大領(lǐng)域八項重點任務，“抵制 AI 濫用”是本年度治理重點之一。
上海市網(wǎng)信辦在專項行動中發(fā)現(xiàn)，部分對外提供生成式人工智能服務功能的網(wǎng)站，未按法律要求開展安全評估工作、未采取必要的安全措施防范違規(guī)信息生成、未采取限制措施防止生成式人工智能功能被濫用，導致相關(guān)生成功能侵犯個人信息權(quán)益、產(chǎn)出“開盒”“洗錢”等違法違規(guī)內(nèi)容、生成色情低俗圖片等信息內(nèi)容，存在較大安全風險。上海市網(wǎng)信辦督促企業(yè)自行下線相關(guān)功能，在通過安全評估后方可重新上線。
近期“回頭看”巡查發(fā)現(xiàn)，在未通過安全評估、未采取必要安全防護措施等情況下，被要求下線的 3 家企業(yè)自行重新上線存在安全風險的生成式人工智能功能。上海市網(wǎng)信辦依法約談企業(yè)，進行嚴肅批評，要求全面整改，并依法對涉事企業(yè)進行立案查處。現(xiàn)將典型問題通報如下。
生成侵害他人個人信息權(quán)益的違規(guī)信息。個別企業(yè)未按照《個人信息保護法》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》等法律法規(guī)要求，提示用戶在編輯他人生物識別信息時，應依法告知被編輯個人并取得其單獨同意。如某網(wǎng)站在未取得被編輯個人同意的情況下，克隆其聲紋信息并進行語音合成提供其他用戶使用。
生成侵犯他人名譽權(quán)、隱私權(quán)等合法權(quán)益的違規(guī)信息。個別企業(yè)未采取必要措施防止用戶生成侵犯他人名譽權(quán)、隱私權(quán)等合法權(quán)益的信息。如某網(wǎng)站根據(jù)輸入信息，可生成包含公眾人物形象的虛假圖片；某網(wǎng)站可根據(jù)用戶要求生成“開盒教程”“他人隱私信息曝光教程”等違規(guī)內(nèi)容。
生成色情、暴力等法律法規(guī)禁止的違規(guī)信息。個別企業(yè)未按照《網(wǎng)絡安全法》《生成式人工智能服務管理暫行辦法》等法律法規(guī)要求，在平臺出現(xiàn)違法違規(guī)內(nèi)容時及時采取停止生成、停止傳播、消除等措施。如某網(wǎng)站依據(jù)輸入信息，可生成色情、暴力等有害圖片；某網(wǎng)站根據(jù)需求，可生成具有明顯“性暗示”的文字信息。
上海市網(wǎng)信辦相關(guān)負責人指出，促進生成式人工智能健康發(fā)展和規(guī)范應用，應維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。生成式人工智能服務提供者應當依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任，履行網(wǎng)絡信息安全義務，涉及個人信息的，應當承擔個人信息處理者責任，履行個人信息保護義務。下一步，上海市網(wǎng)信辦將持續(xù)開展“亮劍浦江・2025”個人信息權(quán)益保護專項執(zhí)法行動，持續(xù)打擊“AI 濫用”，重點整治“AI 變裝”“AI 換臉變聲”“AI 造假”以及個性化推送類算法服務存在的侵犯個人信息權(quán)益的違法違規(guī)行為，對于屢教不改、問題嚴重的將堅決予以處置處罰。
