Generálny riaditeľ spoločnosti Anthropic Dario Amodei neobhajuje zákaz modelov s otvorenou váhou

Antropický Generálny riaditeľ Dario Amodei v pondelok povedal, že jeho spoločnosť „nikdy neobhajovala zákaz modelov s otvorenými váhami“, čo je pokus poraziť kritiku, ktorá sa v technologickom priemysle objavuje, že laboratórium AI sa snaží vykonávať nadmernú kontrolu nad budúcnosťou umelej inteligencie.

Amodei zverejnil svoje názory v r blog príspevok v pondelok, po koalícii technologických spoločností, vrátane Nvidia, Microsoft, Meta a Palantirprepustený list koncom minulého týždňa vyzval politikov, aby sa vyhli „predčasným obmedzeniam“ modelov s otvorenou váhou, ktoré si používatelia môžu stiahnuť, upraviť a spustiť na svojej vlastnej infraštruktúre. Čínske startupy v súčasnosti dominujú na trhu a niektorí vládni predstavitelia začali zvažovať, či by tieto modely mali byť zakázané alebo obmedzené v USA

Antropická je najznámejšia vďaka vývoju rodiny proprietárnych modelov tzv Claude že predáva podnikom. Hlavný rival OpenAI tiež primárne vyrába uzavreté modely, ale spoločnosť podpísala podporu otvoreného listu po jeho zverejnení, zatiaľ čo Anthropic nie.

„Aby som zhrnul môj a Anthropicov postoj, neobhajujeme a neobhajujeme zákaz modelov s otvorenou váhou ako kategórie,“ napísal Amodei. „Namiesto toho by sme sa mali zamerať na udržanie výkonných čipov mimo autoritárskych rúk, zastavenie priemyselnej destilácie a vyžadovanie bezpečnostných testov všetkých dostatočne schopných modelov, otvorených aj zatvorených.“

Destilácia je tréningová metóda AI, pri ktorej sa vytvorí menší, menej schopný model s použitím výstupov z väčšieho modelu, ktorý je už na trhu. Antropický poslal list minulý mesiac výboru Senátu USA pre bankovníctvo, bývanie a mestské záležitosti s tvrdením, že Čína Alibabavývojár rodiny modelov Qwen, proti nej vykonal „najväčší známy destilačný útok“ doteraz.

V piatkovom liste signatári uviedli, že obavy z nezákonnej destilácie by sa mali riešiť prostredníctvom „cielených právnych a komerčných rámcov“, s myšlienkou, s ktorou Amodei v pondelok súhlasil.

Amodei uviedol, že súhlasí aj s ďalšími časťami listu, konkrétne s tým, že modely s otvorenou váhou poskytujú zákazníkom väčšiu kontrolu, rozširujú prístup k ekonomike AI a v niektorých prípadoch použitia posilňujú konkurenciu. Povedal však, že nesúhlasí s myšlienkou, že modely s otvorenou váhou uprednostňujú kybernetických obrancov pred útočníkmi, alebo že to dokážu…