Ako „Nudify“ stránka vzbudila skupinu priateľov v boji proti porno-generovanej AI

V júni minulého roka dostala Jessica Guistolise textovú správu, ktorá by zmenila jej život.

Zatiaľ čo technologický konzultant stravoval s kolegami na pracovnej ceste v Oregone, jej telefón ju upozornil na text od známeho menom Jenny, ktorý povedal, že má naliehavé informácie, ktoré sa podelia o svojho odcudzeného manžela Ben.

Po takmer dvojhodinovom rozhovore s Jenny neskôr v noci, Guistolise si pripomenula, bola omámená a v panike. Jenny jej povedala, že našla obrázky na Benovom počítači viac ako 80 žien, ktorých fotografie sociálnych médií sa použili na vytvorenie pornografie DeepFake – videá a fotografie sexuálnych aktivít vytvorených pomocou umelej inteligencie na zlúčenie skutočných fotografií s pornografickými obrázkami. Väčšina žien v Benových obrazoch žila v oblasti Minneapolis.

Jenny použila telefón na snímanie obrázkov obrázkov na Benovom počítači, uviedla Guistolise. Screenshoty, z ktorých niektoré pozerali CNBC, odhalili, že Ben použil miesto s názvom Deepswap na vytvorenie hlbokých škvŕn. Deepswap spadá do kategórie „nudify“ webových stránok, ktoré sa od vzniku vzniku šírili generatívna AI Pred menej ako tromi rokmi.

CNBC sa rozhodla nepoužívať Jennyho priezvisko na ochranu svojho súkromia a zadržala Benovo priezvisko kvôli jeho tvrdeniu o bojoch o duševné zdravie. Teraz sú rozvedení.

Guistolise povedala, že po rozhovore s Jenny sa zúfalo snažila skrátiť výlet a ponáhľať sa domov.

V Minneapolise by skúsenosti žien čoskoro vyvolali rastúcu opozíciu Nástroje AI DeepFake a tí, ktorí ich používajú.

Jedna z manipulovaných fotografií, ktoré Guistolise videl po jej návrate, bola vygenerovaná pomocou fotografie z rodinnej dovolenky. Ďalšia bola z promócie jej bohatej vysokej školy. Obaja boli prevzaté z jej stránky na Facebooku.

„Prvýkrát, keď som videl skutočné obrázky, myslím, že niečo vo mne posunulo, ako zásadne …