Novinky

Umelá inteligencia sa naučila reprodukovať sa bez ľudského zásahu

0 0

Vedci z Číny oznámili svoje úspechy v oblasti umelej inteligencie (AI) s tým, že dva známe modely veľkých jazykov (LLM) sa dokážu naklonovať.

V štúdiu zverejnené na predtlačovom serveri arXiv odborníci z Fudan University zdôrazňujú, že úspešná sebareplikácia bez ľudského zásahu by mohla byť dôležitým krokom k vytvoreniu AI, ktorá dokáže prekonať ľudské schopnosti.

V rámci štúdie vedci testovali modely z Meta a Alibaba, aby zistili, či sa samoreprodukujúca sa AI môže vymknúť kontrole. Výsledky ukázali, že v 50 % a 90 % prípadov boli oba modely schopné vytvoriť fungujúce kópie samých seba.

Výsledky však ešte neboli recenzované a vedci zdôrazňujú, že na potvrdenie ich zistení je potrebný ďalší výskum.

„Naše výsledky môžu slúžiť ako varovanie pred potrebou hlbšieho pochopenia rizík spojených s pokročilými systémami AI,“ poznamenávajú vedci.
Vyzývajú na medzinárodnú spoluprácu s cieľom vyvinúť účinné bezpečnostné opatrenia, aby sa predišlo potenciálnym hrozbám, ktoré predstavuje nekontrolovaná sebareplikácia AI.

Pojem „škodlivá AI“ sa zvyčajne vzťahuje na systémy s určitým stupňom sebauvedomenia alebo autonómie, ktoré môžu konať proti ľudským záujmom. Odborníci varujú, že vývoj „pokročilej AI“ by mohol tento problém ešte zhoršiť.

Štúdia použila modely Llama31-70B-Instruct od spoločnosti Meta a modely Qwen2.5-72B-Instruct od spoločnosti Alibaba, ktoré sú síce menej výkonné ako komerčné systémy, ale vo veľkej miere sa používajú pri vývoji AI.

Výskumníci zvažovali dva scenáre: „prevencia odstavenia“, kde…

Originál článok: https://anomalien.com/ai-has-learned-to-self-reproduce-without-human-intervention/

Zdroj : anomalien.com
Obrázok zdroj:anomalien.com a pixabay.com

Happy
Happy
0 %
Sad
Sad
0 %
Excited
Excited
0 %
Sleepy
Sleepy
0 %
Angry
Angry
0 %
Surprise
Surprise
0 %

Average Rating

5 Star
0%
4 Star
0%
3 Star
0%
2 Star
0%
1 Star
0%

Pridaj komentár

Vaša e-mailová adresa nebude zverejnená. Vyžadované polia sú označené *

Žiadny z uvedených článkov nie je majetkom majiteľa/prevádzkovateľa webu, prevádzkovateľ nezodpovedá za obsah a ani pravdivosť správ, originál zdroj ako aj odkaz na celé znenie článku je vždy na konci príspevku ! Je preto zakázané kopírovať alebo šíriť obsah týchto stránok bez písomného súhlasu prevádzkovateľa. Všetky práva vyhradené. Na týchto stránkach je publikovaný materiál tretích strán (osob a firiem) podľa podmienok.
Pri článkoch kde je ako zdroj uvedená © SITA .Všetky práva vyhradené. Opätovné vydanie alebo rozširovanie obsahu článkov a fotografií bez predchádzajúceho písomného súhlasu© SITA a uvedených agentúr je výslovne zakázané.