【引入】近期，以妙鴨相機為代表的AI生成式照片火了。僅需上傳個人正面照片和20張多光線多角度多表情的單人照片，即可收獲個人專屬數字分身，並能夠選擇各種模板將分身導入，打造私人訂製的寫真照片。這種AI定製化體驗，因為新穎有趣、滿足用戶的拍照需求而備受歡迎。但與此同時，妙鴨相機最初版本隱私政策的「霸王條款」引發了公眾對AI生成式照片背後蘊含的個人信息安全保護的擔憂。本文就將結合實踐案例，分析AI生成式照片獲取用戶生物特征信息可能造成的刑事風險，並就此提出AI技術刑事合規發展的法律建議。
一、問題提出——AI生成式照片廣受歡迎
AI換臉、AI繪畫的浪潮尚未消退，AI生成式照片又引領了一波流行風潮。與此前多平臺出現的純粹的AI合成照片不同，AI生成式照片是在收集用戶個人生物特征的基礎上，製作個人數字分身，並將其運用至各種寫真場景，滿足用戶定製化的照片需求的商業服務。2023年7月，妙鴨相機在微信小程序中上線。用戶在上傳單人正面照片和補充上傳20張多光線、多背景、多視角、多表情的單人無遮擋照片後，付費9.9元，即可獲得個人數字分身。在擁有數字分身後，用戶可以選擇心儀的寫真場景，如證件照、古風寫真、復古港風等多種模型，製作專屬於個人的寫真照片。與海馬體、天真藍等動輒幾百上千的付費寫真不同，AI生成式照片使得用戶僅需9.9元即可獲得多類型的個人照片，且寫真場景還在不斷更新，因此妙鴨相機一經上線就受到廣泛歡迎。
筆者在用妙鴨相機實驗時，因前方排隊人數高達4771人，需等待將近11個小時才能生成本人數字分身。經實踐發現，雖然妙鴨相機目前存在排隊時間長、寫真場景少、部分數字分身與本人差距大的局限，但AI技術是不斷學習發展的，隨著AI的不斷學習，以上問題全部都可得到解決，屆時寫真行業可能受到重大打擊。妙鴨相機的短期成功表明，AI技術及其應用已經逐漸滲透在用戶互聯網生活的細分領域，充分發揮便捷、低廉、精準化滿足用戶需求的優勢，使得用戶主動為AI服務付費，因此該技術的發展前景廣闊。但同時，AI生成式照片是在收集用戶生物特征的基礎上製作而成的，用戶累計上傳的21張照片能夠提取出其個人特征，此項技術如果不能得到規製，有可能引發用戶信息泄露的重大風險，妙鴨相機已出現的隱私政策風波就證實了這一觀點。
二、風波湧起——妙鴨相機隱私協議引發信息安全探討
如妙鴨相機等AI生成式照片多采用的是AIGC技術。AIGC(Artificial Intelligence and Graph Computing)技術，是一項結合計算和人工智能技術的新興技術，集合了機器學習和自然語言處理等技術，通過對海量數據的學習和分析，可以讓計算機模擬人類的創造力和判斷力，生成符合人類需求的內容，包括但不限於各種文本、圖像、音頻和視頻等多媒體內容。AIGC技術在圖像方向有著廣泛的應用，主要為圖像識別、圖像生成和圖像處理等方面，現有技術已經可以生成較高質量的圖像。可以說，AIGC技術在市場應用方面具有巨大發展前景。值得討論的是，想生成AI寫真需要將用戶個人照片上傳，數據的加工、處理、保存都在雲端而非本地，如果不對此加以管控，與人體生物特征密切相關的數據就存在泄露或被非法利用的可能性，則有可能使本身造福人類的技術變為侵害個體權益的工具。
妙鴨相機問世幾天後，該應用的《用戶服務協議》條款引發了廣泛探討：「用戶需授權妙鴨相機在全世界（包括元宇宙等虛擬空間）範圍內享有永久的、不可撤銷的、可轉讓的、可轉授權的、免費的和非獨家的許可，使得妙鴨相機可以任何形式、任何媒體或技術（無論現在已知或以後開發）使用用戶的內容。」該條款表明，平臺默認用戶在使用該應用上傳照片後，授予平臺對照片享有免費的、不可撤銷的、可轉讓的許可，且該許可不限時間。此條款作為格式條款是用戶使用相機功能的前提，卻對用戶權益進行了極大限製，平臺很難保證用戶的照片不會被用作AI模型訓練或其他目的，甚至更有數字分身攜帶的用戶面部特征信息被用於違法犯罪的風險。雖然妙鴨相機在輿論壓力下修改了《用戶服務協議》，刪除了該條款，並承諾「您所上傳的照片只會用於數字分身製作，不會提取也不會用於識別和其他用途，且分身製作後自動刪除。」但是因為有「霸王條款」和各種AI照片犯罪的前例出現，部分用戶還是表達了對AI生成式照片的擔心，下文將詳細介紹AI生成式照片獲取的生物特征信息可能會引發的刑事法律風險，以幫助讀者提升防範意識。
三、理性討論——AI生成式照片推廣蘊含的刑事法律風險
時至今日，AI技術已經以勢不可當之勢進入人們生活的方方面面，在技術發展滿足人類日益增長的對美好生活的需求的同時，也為法律規範和倫理體系帶來了新的挑戰，如何平衡AI技術發展和個人權益保護將是未來互聯網領域的重要命題。雖然，經筆者研究發現，以妙鴨相機為代表的AI生成式照片尚存在人臉描繪不夠精確、模板較少、算力有限等局限性，暫時無法替代為客戶提供體驗感的線下照相館，但是隨著AI技術的飛速發展，生成式照片的精確度將不斷提高，未來圖像市場的占有者還無法預料。因此，筆者認為討論生成式照片的刑事合規，預測人臉數字模型泄露的刑事風險具有重要意義。
（一）AI換臉詐騙風險
事實上，AI技術在便利人們生活的同時，也可能被不法分子利用，侵害公民之間的信任基礎。AI換臉技術已經不再新鮮，在國內某知名視頻網站可以檢索到大量換臉視頻，此類視頻大多是將明星的臉替換到其他人物上，對原版視頻進行二次加工創作，平臺也會在視頻頁面提示該視頻有AI換臉風險。隨意替換明星的臉是否侵害其肖像權是民事方面應該討論的問題，而筆者提及的是犯罪團夥在獲取個人數字模型的基礎上，通過AI換臉製作虛假視頻，實行詐騙犯罪的刑事問題。實務中，已經出現犯罪團夥利用事先獲取的用戶的面部、聲音等生物特征信息，通過微信、QQ等社交賬號虛構事實向用戶的親屬借錢，在親屬提出質疑後，用偽造好的用戶的個人形象進行視頻通話，獲取親屬信任、達成騙取財產目的的案例出現。因此，在互聯網技術已經發展到擁有用戶照片即可提取生物信息的基礎上，妙鴨相機等AI生成式照片的APP如果不能保管好用戶的個人信息，無疑是為犯罪分子提供了現成的製作AI換臉視頻的數據庫，尤其是妙鴨相機更改之前的用戶服務協議，將此行為事前取得用戶的知情同意，使得用戶權益受損的風險大大增加。
（二）AI侵犯公民個人信息風險
除通過AI換臉向熟人詐騙外，利用AI突破人臉識別技術，也是威脅用戶信息和財產安全的有害途徑之一。人臉識別技術是一項生物識別技術，主要是通過計算機視覺和圖像處理技術對人臉圖像進行特征提取和比對，從而實現對個體身份的確認和識別。以人臉識別技術為代表的生物識別技術被廣泛用於政府、銀行、電子商務等領域，許多APP的登錄和支付界面都可采取人臉識別完成驗證。但是，國內已經出現了通過用戶高清照片製作能夠通過APP人臉識別校驗的AI視頻的案例。7月11日，廣東省廣州市越秀區檢察院辦理的該省首例向互聯網法院提起的涉人臉識別公民個人信息保護民事公益訴訟案公開宣判，法院判決被告鄭某、任某、戴某、陳某立即停止對公民個人信息的侵害、支付公益損害賠償金、並公開進行賠禮道歉。2020年8月起，鄭某通過通訊軟件發布售賣高清身份證照片、身份證號碼等個人敏感信息的廣告，並組建群組專門用於個人信息非法交易，任某、戴某、陳某通過廣告加入該群組後，從鄭某手中購得與個人信息相匹配的高清身份證照片，利用其製作可以完成點頭、眨眼等動作，能夠通過一些App的人臉識別身份驗證的AI視頻，並有償售賣給下家。我國《刑法》第二百五十三條規定了侵犯公民個人信息罪，其中個人信息的範圍參照《個人信息保護法》包括生物識別信息，且其屬於需要取得單獨同意的敏感個人信息。與以往的非法獲取公民姓名、電話號碼、身份證號等個人信息後向公民實施詐騙行為相比，獲取公民生物識別信息並用於刑事犯罪的危害性更大，不僅有可能導致公民在完全不知情的情況下產生財產損失，也會使得眾多互聯網應用的人臉識別功能癱瘓，突破互聯網安全防線。
（三）AI涉黃犯罪風險
AI生成式照片引發公眾擔憂的重要原因是，AI技術已經可以通過高清照片提取個人的生物特征信息，而個人生物特征信息泄露的風險不可想象。除財產詐騙外，AI換臉的涉黃犯罪也是侵犯公民權益、危害社會秩序的高危犯罪之一。目前，AI深度學習技術已經不斷趨於成熟，人臉模型訓練項目也實現簡單化、精確化、便捷化。實務中，出現不法分子用「AI換臉技術」合成他人淫穢視頻，利用網絡空間傳播，並用收費模式換取利益的案例。該行為，輕則侵犯當事人肖像權、名譽權和隱私權，重則涉嫌製作、傳播淫穢物品牟利罪。尤其是在互聯網開放、共享的空間下，用AI換臉技術製作他人淫穢視頻對當事人的身心都會造成極大傷害，此時更要註重對任何可能取得當事人生物特征的平臺的監管，防止監管不當造成當事人信息泄露，導致當事人陷入「換臉風波」。
四、刑事合規——如何在法律框架內平穩發展AI技術
AI生成式照片技術本身是一場革新，也走在了AI商業化、市場化的前列，因此不能因為技術具有風險就忽視技術的發展前景，重點是如何找到AI技術與個人權益的最佳平衡點，讓新技術助力人類發展。筆者將在下文從政府監管、平臺合規、用戶監督三方面，討論不同主體就在AI技術框架下進行個人權益保護應付出的努力。
（一）政府促進AI合成技術監管立法
目前，我國已經出臺了《民法典》《個人信息保護法》《網絡安全法》等法律法規加強對公民個人信息的保護。就AI合成技術方面，2022年11月25日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》要求「深度合成服務提供者應當落實信息安全主體責任，建立健全用戶註冊、算法機製機理審核、科技倫理審查、信息發布審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理製度，具有安全可控的技術保障措施。」其中，針對人臉、人聲等生物識別信息特別強調「深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，並取得其單獨同意。」並「通過專業機構開展安全評估」和「向公眾提示深度合成情況」。2023年7月13日，《生成式人工智能服務管理暫行辦法》發布，該《辦法》規定了生成式人工智能服務提供者的數據來源合法保證義務、尊重知識產權義務、個人信息保護義務等內容，並設置了相應的監管責任和懲罰機製。由此可見，政府在不斷加強科學立法，督促生成式服務提供者履行用戶信息安全保障義務。後續，需要相關部門依照法律法規對生成式服務提供者進行定期監督，督促立法要求的落實，並采用技術手段開展數據反泄露管控，讓AI合成技術在監管中有序發展。
（二）平臺落實刑事合規政策要求
通過前文分析現有AI合成技術法律法規可知，生成式人工智能服務的提供者對於經同意收集而來的生物特征信息負有保管義務，不僅不可主動將該信息用於模型訓練，也要防止所獲得的信息泄露被不法分子用於刑事犯罪。否則，提供者可能就監管不力承擔刑事責任，如詐騙罪的共同犯罪或幫助信息網絡犯罪活動罪或侵犯公民個人信息罪等罪名。因此，為事先做到刑事合規，控製運行風險，以妙鴨相機為代表的AI生成式照片的提供者應當就個人信息保護作出努力。第一，事前，梳理平臺的《用戶服務協議》和《隱私政策》，依照國家法律法規，規定收集信息的用途和目的、明確數據保存的期限、保證收集數據不用於非法目的，不得在條款中不合理地限製用戶權利；第二，平臺運行過程中，對收集到的用戶生物特征信息履行保管義務，一是平臺不得非法售賣他人信息，二是平臺采取技術手段防止用戶信息泄露，在數字分身製作完成後及時刪除雲端數據；第三，設置用戶舉報監管通道，對於可能泄露個人生物信息的線索及時查詢改正，處理違規行為。只有如此，平臺才能在既保證用戶權益的同時，保障自身的健康、有序、平穩發展。
（三）用戶增強權益保護意識
在政府和平臺均加強對個人信息保護的背景下，用戶作為個人信息的直接享有者，也應當提高防範意識，參與到信息保衛戰中。一是，在註冊使用AI生成式照片APP時認真閱讀《用戶協議》和《隱私政策》，及時發現不合理的條款並積極向有關部門反饋；二是，在上傳個人照片使用相關服務內容後，及時刪除原照片並要求平臺不再進行分享；三是，提高反詐意識，對於AI詐騙學會辨別和判斷，保護個人財產；四是，善於使用平臺內設的舉報通道，學會保存相關證據，在個人權益受到侵害後積極維護自己的權益。因為不掌握信息和資源，用戶確實在服務中處於劣勢方，但是積極學習AI知識，監督平臺對照片的使用，還是能夠為捍衛自身合法權益做出貢獻。
五、結論
AI生成式照片技術的誕生與發展，讓AI走進大眾的生活，並被大眾所接受。雖然公眾對於生成技術收集個人生物信息的安全性依舊有較大擔憂，但是妙鴨相機的活躍度與收益依舊表明其具有發展前景。因此文章在充分闡明AI收集生物特征信息可能引發的刑事風險的基礎上，就生成式服務提供者的刑事合規提出了些許應對策略。只有多方合力，探索AI技術市場化的可行性道路，才能使這項新技術真正造福大眾。