AI už vraj vstupuje do rozhodujúcej fázy. Elitný výskumník radšej odišiel
Ak si vážite našu prácu, môžete nás podporiť dobrovoľným finančným príspevkom.
IBAN
SK9102000000004373736457
Vývoj umelej inteligencie podľa Jacoba Coxona naberá tempo, ktoré môže byť pre ľudstvo nebezpečné. Bývalý výskumník spoločností OpenAI a Anthropic tvrdí, že technologické firmy v konkurenčnom boji čoraz viac ustupujú od bezpečnosti. Obáva sa, že autonómne systémy schopné vlastného zdokonaľovania by už koncom budúceho roka mohli prekročiť hranicu, za ktorou ich ľudia nebudú schopní kontrolovať.
Jacob Coxon patril medzi odborníkov pracujúcich na trénovaní najpokročilejších modelov umelej inteligencie. V spoločnosti Anthropic sa venoval spracovávaniu obrovských objemov dát, ktoré sa využívajú pri vývoji a zdokonaľovaní moderných AI systémov. Predtým pôsobil v konkurenčnej spoločnosti OpenAI.
Do Anthropic pritom neodišiel náhodou. Firma si vybudovala povesť spoločnosti, ktorá kladie na bezpečnosť umelej inteligencie väčší dôraz než časť konkurencie. Coxon však dnes tvrdí, že ani spoločnosť s takouto orientáciou nemusí byť schopná odolať tlaku, ktorý vytvára súťaž o technologické prvenstvo.
Práve preto sa rozhodol Anthropic opustiť. Zároveň chce odísť aj z celého odboru AI.
Podľa informácií denníka The Wall Street Journal ho znepokojuje najmä zrýchľujúci sa vývoj systémov, ktoré dokážu vykonávať čoraz komplexnejšie úlohy autonómne a ktoré by v budúcnosti mohli byť schopné podieľať sa aj na vlastnom zdokonaľovaní.
„Smerujeme k mnohým z tých najagresívnejších scenárov, podľa ktorých by sa situácia už koncom budúceho roka mohla vymknúť kontrole,“ uviedol Coxon.
Za mimoriadne znepokojujúce považuje aj spôsob, akým časť odborníkov opisuje súčasnú fázu vývoja umelej inteligencie.
Coxon tvrdí, že medzi výskumníkmi sa pri debatách o modeloch schopných vlastného zlepšovania začínajú objavovať výrazy ako „crunchtime“ či „endgame“. Ide o označenia naznačujúce, že vývoj sa podľa nich dostáva do rozhodujúcej fázy.
Jeho obavy sa pritom netýkajú iba schopnosti AI vytvárať lepší softvér či riešiť zložité vedecké problémy. Najhorší scenár podľa neho nastane v prípade, ak systémy získajú dostatočnú mieru autonómie, začnú optimalizovať svoje vlastné fungovanie a zároveň prestanú spoľahlivo rešpektovať ľudské pokyny.
Takýto vývoj zatiaľ nie je potvrdenou realitou. Ide o scenár, ktorého pravdepodobnosť a časový horizont zostávajú predmetom intenzívnych sporov medzi odborníkmi. Coxon však patrí medzi výskumníkov, ktorí považujú toto riziko za natoľko vážne, že kvôli nemu nechcú pokračovať v práci na ďalšom zrýchľovaní vývoja.
Podstatou Coxonovej kritiky nie je iba samotná technológia. Za problém považuje predovšetkým ekonomické a konkurenčné prostredie, v ktorom sa AI vyvíja.
Najväčšie technologické spoločnosti medzi sebou súperia o prvenstvo vo vývoji čoraz výkonnejších modelov. Do hry zároveň vstupujú čínski konkurenti. Každé spomalenie vývoja preto môže podľa Coxona znamenať riziko, že spoločnosť zaostane za konkurenciou.
Práve táto dynamika podľa neho vytvára tlak na kompromisy v oblasti bezpečnosti.
Aj keby sa jedna firma rozhodla postupovať opatrnejšie, jej konkurenti nemusia urobiť to isté. Vzniká tak situácia, v ktorej môže byť bezpečnosť vnímaná ako prekážka rýchlosti, zatiaľ čo technologický náskok má priamu ekonomickú hodnotu.
A práve pred takýmto „pretekaním ku dnu“ varujú niektorí odborníci už dlhší čas.
Diskusiu o rizikách zároveň posilnili prípady, keď boli moderné AI modely využité pri kybernetických útokoch alebo iných škodlivých aktivitách.
Pozornosť odborníkov priťahuje najmä rastúca schopnosť AI systémov samostatne plánovať a vykonávať sériu krokov. Namiesto jednoduchého odpovedania na otázky môžu autonómni agenti pracovať s nástrojmi, vyhľadávať informácie, písať a spúšťať kód či koordinovať viacero úloh.
Ďalším krokom je spolupráca viacerých agentov. Takzvané roje AI agentov môžu rozdeliť komplikovanú úlohu medzi viacero systémov, ktoré medzi sebou komunikujú a koordinujú svoje činnosti.
Coxon sa obáva, že kombinácia vysokej autonómie, schopnosti používať nástroje a budúcej schopnosti zlepšovať vlastné fungovanie môže vytvoriť úplne novú úroveň rizika.
Najproblematickejšia časť Coxonovej predpovede sa týka časového horizontu.
Tvrdí, že podľa niektorých agresívnejších scenárov by sa kritický bod mohol objaviť už koncom roka 2027. To však nemožno chápať ako vedecky potvrdenú predpoveď. Ide o jeho hodnotenie rizika a o jeden z možných scenárov budúceho vývoja.
Práve otázka časového horizontu patrí medzi najspornejšie témy v oblasti AI bezpečnosti. Kým časť odborníkov očakáva veľmi rýchly pokrok smerom k systémom s výrazne vyššou autonómiou, iní považujú predstavu nekontrolovateľného sebazdokonaľovania za vzdialenú alebo prinajmenšom výrazne neistú.
Coxon však upozorňuje, že problémom nemusí byť iba to, či takáto technológia vznikne. Rozhodujúce môže byť aj to, či ju spoločnosť dokáže regulovať dostatočne rýchlo.
Coxon sa zároveň pripojil k viac ako tisícke odborníkov, ktorí volajú po medzinárodnej spolupráci vlád pri kontrole vývoja pokročilej umelej inteligencie.
Cieľom takýchto iniciatív je vytvoriť mechanizmy, ktoré by v prípade objavenia vážneho bezpečnostného rizika umožnili vývoj spomaliť alebo koordinovane pozastaviť.
Medzi signatármi sa podľa dostupných informácií nachádzajú aj významní predstavitelia AI sektora vrátane výskumníka OpenAI Jakuba Pachockého a šéfa Anthropic Daria Amodeia.
To je pozoruhodný paradox. Ľudia, ktorí stoja v prvej línii vývoja najpokročilejších AI systémov, zároveň upozorňujú, že tento vývoj môže byť potrebné brzdiť.
Coxonov odchod prichádza pre Anthropic v citlivom období. Spoločnosť sa pripravuje na vstup na burzu a podľa medializovaných informácií smeruje k potenciálne obrovskej valuácii.
Firma pritom svoju identitu dlhodobo spája práve s bezpečným a zodpovedným vývojom umelej inteligencie. Jej generálny riaditeľ Dario Amodei opakovane upozorňuje na potenciálne riziká čoraz výkonnejších systémov.
Štatistiky aj skúsenosti hovoria niečo iné ako tvrdí opozícia.
Kým v našich luhoch a hájoch sa ešte stále šíri propaganda o tom, že Ukrajina vyhráva, svet sa pomaly prebúdza z opice a začína si pripúšťať trpkú realitu.
Valné zhromaždenie OSN prijalo minulý týždeň rezolúciu, ktorá podporuje používanie mapového zobrazenia Rovná Zem.
Blaha reaguje na výzvu strany SMER SSD smerom ku GP SR Žilinkovi
GP sa nemal čím pochváliť, tak zvolil nárek o útoku na právny štát...
Hlas ľudu Hlavného denníka
Postoj historika a politického analytika Eduarda Chmelára
Kandidátka na predsedníčku Bratislavského samosprávneho kraja Zuzana Krajčovičová v rozhovore pre Hlavný denník hovorí o veterných parkoch, pediatroch, doprave, transparentnosti aj prvých 100 dňoch vo funkcii.
Úspech AfD v Sasku-Anhaltsku podľa The New York Times presahuje hranice Nemecka. Výsledok môže oslabiť Friedricha Merza a povzbudiť pravicové strany vo Francúzsku, Taliansku či Španielsku.
Umieračik zvoní, ale prehlušujú ho muezíni v európskych metropolách.
AI už vraj vstupuje do rozhodujúcej fázy. Elitný výskumník radšej odišiel
Najnovšie články z partnerského portálu somzdediny.sk
Z domova
30. 7. 2026
Komentáre
31. 10. 2025
Video
6. 10. 2025
Komentáre
22. 9. 2025
Zatiaľ žiadne komentáre. Buďte prvý, kto sa zapojí do diskusie.
