AI už vraj vstupuje do rozhodujúcej fázy. Elitný výskumník radšej odišiel
Ak si vážite našu prácu, môžete nás podporiť dobrovoľným finančným príspevkom.
IBAN
SK9102000000004373736457
Vývoj umelej inteligencie podľa Jacoba Coxona naberá tempo, ktoré môže byť pre ľudstvo nebezpečné. Bývalý výskumník spoločností OpenAI a Anthropic tvrdí, že technologické firmy v konkurenčnom boji čoraz viac ustupujú od bezpečnosti. Obáva sa, že autonómne systémy schopné vlastného zdokonaľovania by už koncom budúceho roka mohli prekročiť hranicu, za ktorou ich ľudia nebudú schopní kontrolovať.
Jacob Coxon patril medzi odborníkov pracujúcich na trénovaní najpokročilejších modelov umelej inteligencie. V spoločnosti Anthropic sa venoval spracovávaniu obrovských objemov dát, ktoré sa využívajú pri vývoji a zdokonaľovaní moderných AI systémov. Predtým pôsobil v konkurenčnej spoločnosti OpenAI.
Do Anthropic pritom neodišiel náhodou. Firma si vybudovala povesť spoločnosti, ktorá kladie na bezpečnosť umelej inteligencie väčší dôraz než časť konkurencie. Coxon však dnes tvrdí, že ani spoločnosť s takouto orientáciou nemusí byť schopná odolať tlaku, ktorý vytvára súťaž o technologické prvenstvo.
Fico tvrdí, že Slovensko dosiahlo veľa. Vytiahol aj príbeh o iPhone za 1 600 eur!
Ostrý komentár o rodinných privilégiách v politike, západných hodnotách, slobode kritiky a minulosti pred rokom 1989. Kto má právo kázať o 17. novembri?
Vo veku 68 rokov zomrel v nedeľu (8. 11.) v Bratislave huslista Peter Uličný. Bol dlhoročným členom Orchestra ľudových nástrojov Slovenského rozhlasu, v ktorom…
Najnovšie články z partnerského portálu somzdediny.sk
Takto nervózny líder opozície ešte nebol...
Môžete si ich pomenovať, ako chcete. Politickí migranti, politickí turisti, prebehlíci, prezliekači kabátov...
Hrozí na Ukrajine ľudové povstanie? Korupcia, násilné odvody a nespokojnosť s vládou vyvolávajú otázky o budúcnosti Zelenského a možnom prevrate.
Ako dlho dokáže Ukrajina pokračovať vo vojne?
8. 11. 2026
Práve preto sa rozhodol Anthropic opustiť. Zároveň chce odísť aj z celého odboru AI.
Podľa informácií denníka The Wall Street Journal ho znepokojuje najmä zrýchľujúci sa vývoj systémov, ktoré dokážu vykonávať čoraz komplexnejšie úlohy autonómne a ktoré by v budúcnosti mohli byť schopné podieľať sa aj na vlastnom zdokonaľovaní.
„Smerujeme k mnohým z tých najagresívnejších scenárov, podľa ktorých by sa situácia už koncom budúceho roka mohla vymknúť kontrole,“ uviedol Coxon.
Za mimoriadne znepokojujúce považuje aj spôsob, akým časť odborníkov opisuje súčasnú fázu vývoja umelej inteligencie.
Coxon tvrdí, že medzi výskumníkmi sa pri debatách o modeloch schopných vlastného zlepšovania začínajú objavovať výrazy ako „crunchtime“ či „endgame“. Ide o označenia naznačujúce, že vývoj sa podľa nich dostáva do rozhodujúcej fázy.
Jeho obavy sa pritom netýkajú iba schopnosti AI vytvárať lepší softvér či riešiť zložité vedecké problémy. Najhorší scenár podľa neho nastane v prípade, ak systémy získajú dostatočnú mieru autonómie, začnú optimalizovať svoje vlastné fungovanie a zároveň prestanú spoľahlivo rešpektovať ľudské pokyny.
Takýto vývoj zatiaľ nie je potvrdenou realitou. Ide o scenár, ktorého pravdepodobnosť a časový horizont zostávajú predmetom intenzívnych sporov medzi odborníkmi. Coxon však patrí medzi výskumníkov, ktorí považujú toto riziko za natoľko vážne, že kvôli nemu nechcú pokračovať v práci na ďalšom zrýchľovaní vývoja.
Podstatou Coxonovej kritiky nie je iba samotná technológia. Za problém považuje predovšetkým ekonomické a konkurenčné prostredie, v ktorom sa AI vyvíja.
Najväčšie technologické spoločnosti medzi sebou súperia o prvenstvo vo vývoji čoraz výkonnejších modelov. Do hry zároveň vstupujú čínski konkurenti. Každé spomalenie vývoja preto môže podľa Coxona znamenať riziko, že spoločnosť zaostane za konkurenciou.
Práve táto dynamika podľa neho vytvára tlak na kompromisy v oblasti bezpečnosti.
Aj keby sa jedna firma rozhodla postupovať opatrnejšie, jej konkurenti nemusia urobiť to isté. Vzniká tak situácia, v ktorej môže byť bezpečnosť vnímaná ako prekážka rýchlosti, zatiaľ čo technologický náskok má priamu ekonomickú hodnotu.
A práve pred takýmto „pretekaním ku dnu“ varujú niektorí odborníci už dlhší čas.
Diskusiu o rizikách zároveň posilnili prípady, keď boli moderné AI modely využité pri kybernetických útokoch alebo iných škodlivých aktivitách.
Pozornosť odborníkov priťahuje najmä rastúca schopnosť AI systémov samostatne plánovať a vykonávať sériu krokov. Namiesto jednoduchého odpovedania na otázky môžu autonómni agenti pracovať s nástrojmi, vyhľadávať informácie, písať a spúšťať kód či koordinovať viacero úloh.
Ďalším krokom je spolupráca viacerých agentov. Takzvané roje AI agentov môžu rozdeliť komplikovanú úlohu medzi viacero systémov, ktoré medzi sebou komunikujú a koordinujú svoje činnosti.
Coxon sa obáva, že kombinácia vysokej autonómie, schopnosti používať nástroje a budúcej schopnosti zlepšovať vlastné fungovanie môže vytvoriť úplne novú úroveň rizika.
Najproblematickejšia časť Coxonovej predpovede sa týka časového horizontu.
Tvrdí, že podľa niektorých agresívnejších scenárov by sa kritický bod mohol objaviť už koncom roka 2027. To však nemožno chápať ako vedecky potvrdenú predpoveď. Ide o jeho hodnotenie rizika a o jeden z možných scenárov budúceho vývoja.
Práve otázka časového horizontu patrí medzi najspornejšie témy v oblasti AI bezpečnosti. Kým časť odborníkov očakáva veľmi rýchly pokrok smerom k systémom s výrazne vyššou autonómiou, iní považujú predstavu nekontrolovateľného sebazdokonaľovania za vzdialenú alebo prinajmenšom výrazne neistú.
Coxon však upozorňuje, že problémom nemusí byť iba to, či takáto technológia vznikne. Rozhodujúce môže byť aj to, či ju spoločnosť dokáže regulovať dostatočne rýchlo.
Coxon sa zároveň pripojil k viac ako tisícke odborníkov, ktorí volajú po medzinárodnej spolupráci vlád pri kontrole vývoja pokročilej umelej inteligencie.
Cieľom takýchto iniciatív je vytvoriť mechanizmy, ktoré by v prípade objavenia vážneho bezpečnostného rizika umožnili vývoj spomaliť alebo koordinovane pozastaviť.
Medzi signatármi sa podľa dostupných informácií nachádzajú aj významní predstavitelia AI sektora vrátane výskumníka OpenAI Jakuba Pachockého a šéfa Anthropic Daria Amodeia.
To je pozoruhodný paradox. Ľudia, ktorí stoja v prvej línii vývoja najpokročilejších AI systémov, zároveň upozorňujú, že tento vývoj môže byť potrebné brzdiť.
Coxonov odchod prichádza pre Anthropic v citlivom období. Spoločnosť sa pripravuje na vstup na burzu a podľa medializovaných informácií smeruje k potenciálne obrovskej valuácii.
Firma pritom svoju identitu dlhodobo spája práve s bezpečným a zodpovedným vývojom umelej inteligencie. Jej generálny riaditeľ Dario Amodei opakovane upozorňuje na potenciálne riziká čoraz výkonnejších systémov.
trieskavpate
10. 9. 2026 10:36
Geniálny Karel Čapek už pred 100 rokmi vyslovil obavy z podobnej situácie.
Dendy
17. 9. 2026 17:01
Rovnakú otázku riešil začiatkom roku 2000 Eliezer Yudkovský… ako AI odborník sa snažil ešte v “predhistorických AI dobách” definovať “priateľskú” AI a postupne prichádzal k záveru, že to nie je možné. A snažil sa zabrzdiť jej vývoj do času, kým sa nájde riešenie toho zapeklitého problému…
