——透視“AI換臉”侵犯個人信息公益訴訟案（副題）

檢察日報記者 范躍紅 通訊員 陳佩佩

(資料圖)

擅自使用他人人臉信息，制作換臉視頻，不僅會侵犯他人的私益，還可能侵害公共信息安全，危害社會公共利益。

“AI換臉”，相信大家都不陌生，只需要一張照片，通過深度合成技術(shù)，任何人都能成為熱播影視作品中的主角，甚至表情、神態(tài)都足以以假亂真。然而，近年來，伴隨著技術(shù)門檻的降低和應(yīng)用場景的增多，“換臉技術(shù)”的應(yīng)用早已突破原來的娛樂范圍，甚至成為不法分子牟利的手段。

今年6月，浙江省杭州市蕭山區(qū)檢察院對一起利用“AI換臉”技術(shù)侵犯公民個人信息案依法提起民事公益訴訟（檢查日報6月21日一版曾作報道）。8月4日，杭州互聯(lián)網(wǎng)法院經(jīng)過審理后依法對該案作出判決，支持檢察機(jī)關(guān)作為公益訴訟起訴人的全部訴訟請求：判令被告虞某立即停止侵權(quán)，刪除其在社交軟件群組中留存的所有涉案個人信息；在國家級媒體上刊發(fā)向社會公眾賠禮道歉的聲明，以消除影響、進(jìn)行警示并支付侵害社會公共利益的損害賠償款6萬元。8月22日，這一判決正式生效。

“換臉，不能隨心就換！我們希望通過該案的辦理提醒社會公眾，在使用新興技術(shù)時，不能忘記法律的規(guī)制和道德倫理的約束，這是所有技術(shù)發(fā)展應(yīng)有的邊界。”承辦該案的杭州市蕭山區(qū)檢察院檢委會專職委員章蕾告訴記者。

僅憑幾張照片，任何人都可能成為受害者

“真是后悔莫及??！”對于現(xiàn)年36歲的虞某來說，當(dāng)初對“換臉”的好奇換來的除了刑罰，還要承擔(dān)相應(yīng)的民事責(zé)任。

“想換誰的臉就換誰的臉，好玩、刺激！”2020年過年前后，虞某第一次從互聯(lián)網(wǎng)上接觸到“AI換臉”技術(shù)時，十分好奇，莫名的興奮。隨后，虞某便從網(wǎng)上下載了換臉軟件并熟練掌握了相關(guān)視頻合成的技術(shù)。在使用這項技術(shù)時，虞某發(fā)現(xiàn)了其中的“商機(jī)”：利用“AI換臉”軟件，制作生成虛假的換臉淫穢視頻，在網(wǎng)絡(luò)社交軟件上進(jìn)行傳播，能夠吸引較多關(guān)注。從2021年6月開始，虞某以牟利為目的，在未取得被編輯人同意的情況下，利用上述“AI換臉”軟件，將從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進(jìn)行替換合成，制作生成虛假的換臉視頻，在網(wǎng)絡(luò)社交軟件上進(jìn)行傳播。與此同時，虞某還在社交軟件上創(chuàng)建了多個群組為他人提供換臉視頻定制服務(wù)，根據(jù)客戶提供的視頻或照片，制作換臉視頻。此外，虞某在網(wǎng)絡(luò)社交軟件上銷售“AI換臉”軟件、提供換臉?biāo)夭牟魇谑褂媒坛獭?/p>

“讓一切遮擋消失！手機(jī)就可操作，明星網(wǎng)紅素人都可，30秒內(nèi)出結(jié)果！購買軟件私信聯(lián)系！”“只要是能看到臉的都能換！”“請問有提供定制換臉視頻嗎？想把我暗戀的女生換上。如何收費(fèi)？”“沒問題，費(fèi)用……通過口令紅包發(fā)我！”……一段時間，在虞某的社交軟件群組內(nèi)熱鬧非凡，生意紅火?？诹罴t包收了200余次，總金額共計6萬余元。2022年8月，公安機(jī)關(guān)發(fā)現(xiàn)了虞某在網(wǎng)上制作、傳播淫穢物品牟利的犯罪行為，依法對其立案偵查。2022年11月，虞某被移送蕭山區(qū)檢察院審查起訴。今年3月28日，該院依法對虞某以涉嫌制作、傳播淫穢物品牟利罪提起公訴。

“引起我們注意的是，虞某在傳播淫穢物品牟利的同時，還會為他人提供換臉視頻‘定制’服務(wù)，并傳授換臉軟件的使用方法?！痹趨⑴c虞某刑事案件的討論時，兼任該院公益訴訟檢察部門負(fù)責(zé)人的章蕾了解到，虞某會根據(jù)客戶提供的視頻或照片，制作、生成特定的換臉視頻。除此之外，虞某還會在網(wǎng)絡(luò)社交軟件上直接銷售“AI換臉”軟件，傳授客戶使用軟件的方法并且提供相應(yīng)的素材。而客戶要求“定制”換臉的對象不僅包括一些我們熟知的公眾人物，也有生活中的普通人。

“僅憑幾張照片，任何人都可能成為受害者?！闭吕僬f，近年來，濫用“AI換臉”技術(shù)實施各類侵犯個人信息的行為并不鮮見，僅憑一張換臉照片或者一段換臉視頻，或編造新聞、炒作熱點(diǎn)，或侮辱誹謗、實施勒索詐騙，“該類行為在網(wǎng)絡(luò)傳播的疊加下，危害結(jié)果會產(chǎn)生裂變，對被侵權(quán)人造成的傷害往往是長久的、持續(xù)的、難以彌補(bǔ)的。”

今年6月，浙江省杭州市蕭山區(qū)檢察院對一起利用“AI換臉”技術(shù)侵犯公民個人信息案依法提起民事公益訴訟。圖為庭審現(xiàn)場。

要捍衛(wèi)隱藏在私益背后的公益

擅自使用他人人臉信息，制作換臉視頻，侵犯的到底是被害人的私益，還是公共利益？“要看到隱藏在每一個被害人的個人權(quán)益的背后，是網(wǎng)絡(luò)正常的公共秩序，是承載在不特定多數(shù)社會主體個人之上的公共利益?！庇懻撨@一案件時，章蕾說。

從女子地鐵照被“一鍵脫衣”到該案中普通人的形象被嫁接到淫穢視頻中，“AI換臉”技術(shù)的濫用，看似是對被侵害的個人的人格權(quán)、肖像權(quán)、名譽(yù)權(quán)、隱私權(quán)的侵害，實際上更是對社會公序良俗的踐踏，是對穩(wěn)定的社會環(huán)境和清朗的網(wǎng)絡(luò)空間的挑戰(zhàn)。

該案中，虞某作為“AI換臉”技術(shù)的使用者，不僅在互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用深度合成技術(shù)非法處理后，制作淫穢視頻在超過2000人的網(wǎng)絡(luò)社交軟件群組中進(jìn)行傳播，違反了法律法規(guī)和社會公德，侵害了公共信息安全，破壞社會公共秩序，還在明知他人可能將“AI換臉”軟件用于侵犯個人信息等不正當(dāng)目的的情況下，向他人銷售“AI換臉”軟件、提供換臉?biāo)夭牟魇谑褂媒坛?，傳播侵犯公民個人信息的方法和手段，使得更多不特定主體個人信息被侵害的社會危險性進(jìn)一步擴(kuò)大。“因此在依法追究其刑事責(zé)任外，我們認(rèn)為有必要提起民事公益訴訟對該類侵犯公民個人信息的行為予以規(guī)制?！?/p>

經(jīng)過討論，大家一致認(rèn)為有必要提起公益訴訟。隨后，該院又向杭州市檢察院作了匯報并獲得了支持。

“其實，個人信息被泄露的危害，我們或多或少都有體會。不堪其擾的推銷電話、未經(jīng)同意的數(shù)據(jù)收集、精準(zhǔn)實施的網(wǎng)絡(luò)詐騙等等，個人信息一旦被過度收集、泄露和非法利用，造成的危害難以估量。而人臉信息作為其中具有高度識別性和強(qiáng)關(guān)聯(lián)性的敏感個人信息，更應(yīng)當(dāng)是法律重點(diǎn)保護(hù)的對象。”杭州市檢察院第八檢察部主任畢克來聽取匯報后表示。

今年4月14日，蕭山區(qū)檢察院決定對虞某“AI換臉”侵犯個人信息公益訴訟案立案，當(dāng)日履行公告程序，公告期滿，無適格主體提起訴訟。6月9日，該院依法對虞某提起民事公益訴訟。6月12日，杭州互聯(lián)網(wǎng)法院正式立案。

技術(shù)本無善惡，但技術(shù)的使用需要規(guī)制

7月28日，該案在杭州互聯(lián)網(wǎng)法院一審公開審理。

庭審中，蕭山區(qū)檢察院作為公益訴訟起訴人派章蕾出庭。檢察機(jī)關(guān)結(jié)合案件事實、危害后果、法律責(zé)任等對被告虞某進(jìn)行法庭教育，虞某通過其訴訟代理人表示真誠悔過，并表達(dá)了履行賠償?shù)囊庀颉?/p>

庭審過程中，章蕾在法庭上發(fā)表的一段話令人印象深刻：“技術(shù)本身是中立無害的，只是技術(shù)中立并不意味著價值中立，特別是開發(fā)、應(yīng)用者的價值中立，更不等于‘深度合成’的參與者不應(yīng)當(dāng)受到來自法律的規(guī)制、道德倫理的約束?！?/p>

經(jīng)過審理，法院認(rèn)定，虞某對于人臉深度合成技術(shù)的濫用行為損害了社會公共利益，依法判決其承擔(dān)停止侵害、賠償損失、賠禮道歉的民事責(zé)任。被告虞某服從法院判決，現(xiàn)判決已生效。虞某已履行道歉及賠償義務(wù)。賠償金額將專門用于個人信息保護(hù)、人臉深度合成技術(shù)不當(dāng)應(yīng)用的治理等公益事項。

“技術(shù)的運(yùn)用是把雙刃劍，用之為善可以造福社會，不當(dāng)濫用則會造成社會風(fēng)險和損害。對于換臉軟件等深度合成技術(shù)應(yīng)用的規(guī)制應(yīng)當(dāng)從其參與者入手，包括發(fā)明者、應(yīng)用者、傳播者等方面，以規(guī)制深度合成技術(shù)使用目的為路徑，實現(xiàn)深度合成技術(shù)的合理使用，避免該技術(shù)對個人、社會、國家造成諸多方面的風(fēng)險。同時，也需要引導(dǎo)技術(shù)開發(fā)、應(yīng)用者自覺遵守法律規(guī)定和科技倫理道德，培育積極健康、向上向善的研發(fā)、應(yīng)用環(huán)境，保護(hù)和鼓勵新興智能技術(shù)的有益探索?！背修k此案的法官肖芄在該案宣判后說。

記者注意到，今年1月，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式實施，為深度合成服務(wù)劃定了“底線”和“紅線”，強(qiáng)調(diào)不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動，要求深度合成服務(wù)提供者要落實信息安全主體責(zé)任。

8月15日，國家網(wǎng)信辦聯(lián)合多部門公布的《生成式人工智能服務(wù)管理暫行辦法》正式施行，對生成式人工智能產(chǎn)業(yè)作出了較為詳盡的規(guī)定?！暗诜梢?guī)定不斷完善的同時，技術(shù)的迭代也在不斷加速，如何克服法律對技術(shù)規(guī)制的天然滯后性，如何應(yīng)對技術(shù)發(fā)展過程中的新現(xiàn)象、新問題，是監(jiān)管部門和司法機(jī)關(guān)共同需要面對的新難題?！睂徟虚L、杭州互聯(lián)網(wǎng)法院常務(wù)副院長朱敏明表示。

“在辦理該案的過程中，我們也深刻地體會到，技術(shù)的迭代背后，‘侵權(quán)易’‘維權(quán)難’的矛盾更為突出?！闭吕僬f，以往在司法實踐中，關(guān)于公民個人提起的保護(hù)個人信息之訴少之又少，其中維權(quán)成本高、專業(yè)性強(qiáng)、舉證困難是主要原因。以本案為例，如何證明人臉信息侵權(quán)事實的存在，可能需要對信息處理者、處理方式、信息獲取、信息處理加工是否違法等進(jìn)行舉證，而上述證據(jù)普通的公眾很難僅憑自身力量完成初步舉證，即便是司法機(jī)關(guān)，在調(diào)查取證的過程中也耗費(fèi)了大量的時間和精力。而公民個人遇到該情況往往會基于無奈，放棄以訴訟方式維權(quán)，這將會間接導(dǎo)致對侵權(quán)行為肆意侵害公共利益的放任，使技術(shù)違法行為始終游走在法律底線之外。

據(jù)悉，今年6月，在最高檢第八檢察廳的直接指導(dǎo)和推動下，杭州互聯(lián)網(wǎng)法院與杭州市余杭區(qū)檢察院會簽《關(guān)于推進(jìn)互聯(lián)網(wǎng)檢察公益訴訟案件辦理的協(xié)作辦法（試行）》，旨在通過探索互聯(lián)網(wǎng)檢察公益訴訟新型辦案模式，攜手蹚出一條網(wǎng)絡(luò)空間司法協(xié)同治理的新路。

（檢察日報杭州8月22日電）