Vedci z Číny oznámili svoje úspechy v oblasti umelej inteligencie (AI) s tým, že dva známe modely veľkých jazykov (LLM) sa dokážu naklonovať.
V štúdiu zverejnené na predtlačovom serveri arXiv odborníci z Fudan University zdôrazňujú, že úspešná sebareplikácia bez ľudského zásahu by mohla byť dôležitým krokom k vytvoreniu AI, ktorá dokáže prekonať ľudské schopnosti.
V rámci štúdie vedci testovali modely z Meta a Alibaba, aby zistili, či sa samoreprodukujúca sa AI môže vymknúť kontrole. Výsledky ukázali, že v 50 % a 90 % prípadov boli oba modely schopné vytvoriť fungujúce kópie samých seba.
Výsledky však ešte neboli recenzované a vedci zdôrazňujú, že na potvrdenie ich zistení je potrebný ďalší výskum.
„Naše výsledky môžu slúžiť ako varovanie pred potrebou hlbšieho pochopenia rizík spojených s pokročilými systémami AI,“ poznamenávajú vedci.
Vyzývajú na medzinárodnú spoluprácu s cieľom vyvinúť účinné bezpečnostné opatrenia, aby sa predišlo potenciálnym hrozbám, ktoré predstavuje nekontrolovaná sebareplikácia AI.
Pojem „škodlivá AI“ sa zvyčajne vzťahuje na systémy s určitým stupňom sebauvedomenia alebo autonómie, ktoré môžu konať proti ľudským záujmom. Odborníci varujú, že vývoj „pokročilej AI“ by mohol tento problém ešte zhoršiť.
Štúdia použila modely Llama31-70B-Instruct od spoločnosti Meta a modely Qwen2.5-72B-Instruct od spoločnosti Alibaba, ktoré sú síce menej výkonné ako komerčné systémy, ale vo veľkej miere sa používajú pri vývoji AI.
Výskumníci zvažovali dva scenáre: „prevencia odstavenia“, kde…
Originál článok: https://anomalien.com/ai-has-learned-to-self-reproduce-without-human-intervention/
Zdroj : anomalien.com
Obrázok zdroj:anomalien.com a pixabay.com
Average Rating