ChatGPT zablokoval 250 000 generácií obrázkov prezidentských kandidátov

OpenAI odhaduje, že ChatGPT zamietla viac ako 250 000 žiadostí o vytvorenie obrázkov amerických prezidentských kandidátov v roku 2024 pred dňom volieb, uviedla spoločnosť vo vyhlásení. blog v piatok.

Medzi zamietnutiami boli žiadosti o generovanie obrázkov, ktoré sa týkali zvoleného prezidenta Donalda Trumpa, viceprezidentky Kamaly Harrisovej, prezidenta Joea Bidena, guvernéra Minnesoty Tima Walza a zvoleného viceprezidenta JD Vancea, uviedla OpenAI.

Vzostup generatívnej umelej inteligencie viedol k obavám, ako by dezinformácie vytvorené pomocou tejto technológie mohli ovplyvniť početné voľby, ktoré sa konajú po celom svete v roku 2024.

Podľa údajov spoločnosti Clarity, spoločnosti strojového učenia, sa počet deepfakes medziročne zvýšil o 900 %. Niektoré obsahovali videá, ktoré vytvorili alebo zaplatili Rusi, ktorí sa snažili narušiť voľby v USA, Tvrdia to predstavitelia amerických tajných služieb.

Na 54 stranách Októbrová správaOpenAI uviedla, že narušila „viac ako 20 operácií a podvodných sietí z celého sveta, ktoré sa pokúšali použiť naše modely.“ Hrozby sa pohybovali od článkov na webových stránkach vytvorených AI až po príspevky na sociálnych sieťach falošnými účtami, napísala spoločnosť. Žiadna z operácií súvisiacich s voľbami nedokázala pritiahnuť „virálne zapojenie“, uvádza sa v správe.

OpenAI vo svojom piatkovom blogu uviedla, že nevidela žiadne dôkazy o tom, že by sa tajné operácie, ktorých cieľom bolo ovplyvniť výsledok volieb v USA pomocou produktov spoločnosti, mohli úspešne stať virálnymi alebo si vybudovať „trvalé publikum“.

Zákonodarcovia boli obzvlášť znepokojení dezinformáciami vo veku generatívnej AI, ktorá sa objavila koncom roka 2022 so spustením ChatGPT. Veľké jazykové modely sú stále nové a bežne vypľúvané…