知名央視主持人現(xiàn)身網(wǎng)絡直播間？竟然還播報起虛假廣告？近日，北京市場監(jiān)管部門查處了首例利用人工智能（AI）技術(shù)進行虛假廣告宣傳的案件。北京一公司在直播中宣稱其產(chǎn)品能夠治療多種疾病，而實際該產(chǎn)品僅為普通食品，不具備疾病治療功能。此外，直播中還出現(xiàn)了知名央視主持人的形象，經(jīng)鑒定，該形象完全是利用AI技術(shù)偽造生成。
近年來，人工智能技術(shù)日益成熟，“AI換臉”的技術(shù)門檻大幅降低，如今僅憑一張圖片、一段聲音，就能生成高度逼真的偽造視頻。這讓一些不法商家心生歹念，利用AI深度偽造科學家、醫(yī)生、運動員、演員等知名人士的面容和聲音，炮制出一個個AI“李鬼”。
這類新型違法行為不僅侵犯了被仿冒者的合法權(quán)益，營造出“權(quán)威背書”的假象對公眾實施欺詐，給內(nèi)容安全帶來挑戰(zhàn)，更蠶食著社會賴以運轉(zhuǎn)的信任基礎(chǔ)。當作假的圖像被AI包裝成“有鼻子有眼”的視頻肆意擴散，當仿冒的名人形象在直播間里一本正經(jīng)兜售偽劣商品，當電信詐騙者的聲音和容貌竟然與受害者的家人一模一樣……在AI生成內(nèi)容紛繁復雜的今天，倘若“眼見為實”不復存在，社會信任又該如何維系？
為解決AI生成內(nèi)容以假亂真的問題，今年9月，我國《人工智能生成合成內(nèi)容標識辦法》正式施行。該辦法明確要求所有AI生成的文字、圖片、視頻等內(nèi)容必須添加顯式標識“亮明身份”，同時鼓勵添加數(shù)字水印等隱式標識，讓公眾明確知道哪些內(nèi)容可能源自AI生成。既然已有規(guī)定，有關(guān)部門就應加大監(jiān)管和執(zhí)法力度，對違反相關(guān)規(guī)定的平臺和個人依法查處，形成震懾。此次北京市場監(jiān)管部門查處相關(guān)案件，就開了個好頭，釋放出對“AI造”加強監(jiān)管的強烈信號。
內(nèi)容傳播平臺、AI生成服務平臺和應用程序分發(fā)平臺則要盡到相應的責任義務，落實好有關(guān)要求，進一步優(yōu)化AI識別技術(shù)，加強鑒偽追溯能力，與監(jiān)管部門同向發(fā)力，守好“真實”的邊界。與此同時，廣大網(wǎng)民也要保持警惕，加強對信息真?zhèn)蔚恼鐒e，不被虛假信息蒙蔽雙眼。
當前，我國人工智能技術(shù)正在飛速發(fā)展，針對不同應用場景的安全標準和法律準則在不斷完善中。構(gòu)建良好網(wǎng)絡生態(tài)，需要各方共同努力，把“眼見為實”的網(wǎng)絡空間還給我們每個人，守護好社會信任的根基。
（責任編輯：蔡文斌）
晉公網(wǎng)安備 14090202000008號 
