OpenAI’s Sora 2 kladie bezpečnosť a cenzúru do testu

Čerstvé z a Predaj akcií 6,6 miliárd dolárov Vďaka tomu sa z neho stala najcennejšia súkromná spoločnosť na svete, OpenAI’s Video aplikácia v štýle Tiktokpoháňaný svojím novým umelá inteligencia Model, Sora 2, sa stáva vírusovým.

Napriek vydaniu brány, ktoré vyžaduje pozvánku Jablkoje Obchod a vyvolalo vlnu hlbokomorských koláčov, vrátane vírusového klipu generálneho riaditeľa Sam Altman Shoplifting GPU.

Interne zavedenie zavedie dlhodobú diskusiu vo vnútri OpenAI o tom, ako vyvážiť bezpečnosť s tvorivou slobodou.

Osoba, ktorá je oboznámená s vnútornou stratégiou v spoločnosti, uviedla, že vodcovstvo považuje prísne zábradlie za nevyhnutné, ale tiež sa obáva potláčania kreativity alebo je príliš vnímaná ako cenzurovanie.

Toto napätie zostáva nevyriešené.

Kultúra OpenAi už dlho uprednostňuje rýchlosť, často dodáva nové nástroje pred súpermi a umožňuje verejnosti prispôsobiť sa v reálnom čase.

Jeden bývalý zamestnanec, ktorý požiadal, aby nebol menovaný, aby prediskutoval vnútorné záležitosti, povedal CNBC, že počas ich funkčného obdobia malo vedenie OpenAI vzor priority rýchleho spustenia. Táto stratégia bola na úplnom vystavení po tom, čo Čínsky Deepseek vydal na konci minulého roka silný model, ktorý bol lacnejší a rýchlejší na vybudovanie ako čokoľvek iné zo Silicon Valley.

OpenAI odpovedal v priebehu niekoľkých týždňov a debutoval s dvoma novými modely v tom, čo sa všeobecne považovalo za obranný krok na zachovanie svojho vedenia.

Ale OpenAI má kľúčovú výhodu: jeho rastúci inštitucionálny sval.

Akonáhle je to scrappy výskumné laboratórium v ​​misijnom okrese San Francisco, spoločnosť sa odvtedy stala štruktúrovanejšou, čo jej umožnilo rýchlejšie rozvíjať medzifunkčné tímy a urýchliť cykly vývoja a nasadenia pre výrobky ako SORA.

Povedal OpenAi Sora obsahuje viac vrstiev záruk určených na zabránenie vygenerovania nebezpečného obsahu, pomocou rýchleho filtrovania a výstupu …