人工智慧技術正變得越來越普及，例如穩定擴散（可根據文字提示生成圖像的開源技術）和「換臉」工具，這些工具可以在視訊或照片中將受害者的臉換成色情表演者的臉。不真實的Deepfake照片可以用簡單的照片編輯工具製作，這些工具已經存在多年。
聲稱可以「一鍵脫衣」的應用程式，也被認為是某些案件中可能使用的工具，並且在應用程式商店中可以免費下載。這些現代Deepfake的照片可能看起來更逼真，也更難被立即識別為假照片。
15 歲的法蘭西絲卡·瑪尼（Francesca Mani）是紐澤西州韋斯特菲爾德高中（Westfield High School）的一名高二學生。她說：「我很震驚，因為我和其他女孩被同學背叛了，這意味著這可能發生在任何人身上。」
無法查出是誰將你「Deepfake」，校園的懲處也不公開
美國法律專家表示，對於人工智慧生成和Deepfake色情作品的受害者來說，幾乎沒有任何求助途徑，這些色情作品往往將受害者的臉貼在赤裸的身體上。
這些照片和視訊可能出奇地逼真，而且據非自願性露骨媒體方面的法律專家瑪麗·安妮·弗蘭克斯（Mary Anne Franks）稱，製作這些照片和視訊的技術已經變得越來越複雜，也越來越容易獲得。
韋斯特菲爾德高中事件發生一個月後，法蘭西絲卡和她的母親多羅塔·瑪尼說，他們仍然不知道製作這些圖片的人的身份或人數，也不知道製作了多少張圖片，也不知道這些圖片是否仍然存在。此外，也不清楚校區給予了什麼樣的處罰（如果有的話）。
韋斯特菲爾德鎮指示韋斯特菲爾德公立學校發表評論，但該校拒絕發表評論。以保密為由，校區先前表示「不會公佈任何有關被指控製作假裸照的學生的資訊，也不會公佈他們面臨的紀律處分」。
學區總監雷蒙·岡薩雷斯（Raymond Gonzalez）告訴該新聞媒體，學區將「繼續加強對學生的教育，並制定明確的指導方針，確保這些新技術在校內外得到負責任的使用」。
在 NBC 新聞獲得的一封電子郵件中，這所高中的校長瑪麗·阿斯芬迪斯（Mary Asfendis）在 10 月 20 日告訴家長們，學校正在調查學生們的說法，即他們的一些同學使用人工智慧從原始照片中建立了色情圖片。
根據備忘錄，當時學校官員認為任何建立的圖片都已被刪除，沒有被傳播。
阿斯芬迪斯寫道：「這是一起非常嚴重的事件，」她敦促家長與孩子討論技術的使用。「新技術讓偽造圖片成為可能，學生需要知道這些行為可能對他人造成的影響和傷害。」
雖然法蘭西絲卡沒有看到自己或他人的圖像，但她的母親說，韋斯特菲爾德的校長告訴她，有四個人指認法蘭西絲卡是受害者。法蘭西絲卡已經向警方報案，但韋斯特菲爾德警察局和檢察官辦公室都沒有回應置評請求。
僅以「網路騷擾」偵辦可能不足
紐澤西州參議員喬恩·布萊姆尼克（Jon Bramnick）說，執法部門向他表達了擔憂，認為這起事件只會上升到「網路騷擾索賠，儘管它確實應該達到更嚴重的犯罪水平」。他說：「如果你把裸體貼在孩子的臉上，這對我來說就是兒童色情。」這位共和黨議員說，儘管真實或篡改圖片造成的傷害可能是一樣的，但目前各州的法律還不足以懲罰內容創作者。
他說：「這與兒童色情交易者的受害方式相同。這不僅是對年輕人的冒犯，也是對個人的誹謗。你永遠不知道那張照片會發生什麼，你不知道照片一旦被傳播到哪里，什麼時候又會回來糾纏這個年輕的女孩。」
布萊姆尼克說，紐澤西州的一項待決法案將禁止Deepfake色情製品，並對未經同意的披露行為處以刑事和民事處罰。他說，根據該法案，被判有罪的人將面臨三到五年的監禁和/或 1.5 萬美元的罰款。
弗蘭克斯是一名法學教授，同時也是打擊非自願色情的非營利組織「網路民權倡議」（Cyber Civil Rights Initiative）的主席。
各州針對Deepfake的法律在範圍上差別很大。其中一些法律，如德州和懷俄明州的法律，將未經同意的色情Deepfake行為定為刑事犯罪。其他州，如紐約州，法律只允許受害者提起民事訴訟。
弗蘭克斯說，這些法律「五花八門」，不夠全面，其合憲性也受到質疑。她說：「因此，你會遇到各種刑事指控，而這些指控在這些案件中將會很困難，因為犯罪者都是未成年人，所以這本身就會引發問題。」
受害者只是冰山一角，AI進化導致Deepfake受害者激增
目前還不清楚有多少年輕人受到人工智慧生成的裸照資訊的侵害。聯邦調查局表示，很難計算出遭受性剝削的未成年人數量。但該機構表示，涉及針對兒童犯罪的未結案件數量有所增加。聯邦調查局告訴 NBC 新聞，2022 年有 4800 多起案件，比前一年的 4100 多起有所增加。
「聯邦調查局嚴肅對待針對兒童的犯罪，並與我們的州、地方和部落執法夥伴共同努力調查每項指控的事實，」該機構說，並補充道，受害者在試圖阻止圖片傳播或將其從網路上刪除時可能面臨重大挑戰。
弗蘭克斯說，可能還會有更多的事件發生，而且只會越來越多。她說：「我們聽到的浮出水面的事件可能只是冰山一角。」這種事情現在可能發生了不少，只是女孩們還沒有發現，或者發現了，或者學校在掩蓋。
在華盛頓州的伊薩誇高中，一名校區代表說，10 月中旬發生的一起「涉及人工智慧生成的虛假學生圖像」的事件繼續影響著學生群體。
在西班牙小鎮 Almendralejo，母親們說，她們的數十名初中生女兒受到了人工智慧生成的裸照的侵害，這款應用程式可以「脫掉」穿著衣服的照片。紐澤西州、華盛頓州和西班牙的當地警方正在調查這些中學案件。
聯邦調查局在六月份的一份公共服務公告中警告說，用於建立未經同意的色情Deepfake照片和視訊的技術正在不斷改進，並被用於騷擾和色情簡訊勒索。
與此同時，全美總檢察長協會於 9 月呼籲國會研究人工智慧對兒童的影響，並制定立法保護兒童免受人工智慧的侵害。
在一封由 54 個州和地區總檢察長簽署的信中，該組織表示擔心「人工智慧正在為虐待行為開闢一個新的領域，使起訴變得更加困難」。信中說：「我們正在與時間賽跑，以保護我們國家的兒童免受人工智慧的危害。」
弗朗西斯卡和她的母親說，她們計畫於 12 月前往華盛頓特區，親自敦促國會議員採取行動，同時繼續倡導學校系統內更新政策，並尋求對所發生的事情進行問責。
多羅塔·瑪尼說：「我們都知道這不是一個孤立的事件。這永遠不會是一個孤立的事件。這種事情會一直發生。我們必須停止假裝這並不重要。」
以高中女生為目標的事件增多，是因為人工智慧Deepfake應用程式和Deepfake色情網站激增，這些網站製作、分享和出售此類材料。
總部位於阿姆斯特丹的追蹤人工智慧生成媒體的公司 Sensity 2019 年發佈的一份報告發現，在當時建立的Deepfake假新聞中，96% 都是性露骨的，其中的女性並不同意其建立。許多受害者都不知道有這種深度假新聞。家長和孩子們無法阻止利用他們的肖像製作深度假新聞。相反，學校和地方執法部門需要在涉及普通公眾的案件中對犯罪者作出榜樣，以阻止其他人製造Deepfake產品。
弗蘭克斯說：「如果你能想像紐澤西州的學校或紐澤西州的當局做出戲劇性的重要回應，以儆傚尤，真正嚴格處罰，讓人們入獄，你可能會得到勸阻。如果不這樣做，這只會成為男人和男孩用來剝削和羞辱婦女和女孩的又一個工具，而法律對此基本上無話可說。」
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！