AI už vraj vstupuje do rozhodujúcej fázy. Elitný výskumník radšej odišiel
Ak si vážite našu prácu, môžete nás podporiť dobrovoľným finančným príspevkom.
IBAN
SK9102000000004373736457
Vývoj umelej inteligencie podľa Jacoba Coxona naberá tempo, ktoré môže byť pre ľudstvo nebezpečné. Bývalý výskumník spoločností OpenAI a Anthropic tvrdí, že technologické firmy v konkurenčnom boji čoraz viac ustupujú od bezpečnosti. Obáva sa, že autonómne systémy schopné vlastného zdokonaľovania by už koncom budúceho roka mohli prekročiť hranicu, za ktorou ich ľudia nebudú schopní kontrolovať.
Jacob Coxon patril medzi odborníkov pracujúcich na trénovaní najpokročilejších modelov umelej inteligencie. V spoločnosti Anthropic sa venoval spracovávaniu obrovských objemov dát, ktoré sa využívajú pri vývoji a zdokonaľovaní moderných AI systémov. Predtým pôsobil v konkurenčnej spoločnosti OpenAI.
Do Anthropic pritom neodišiel náhodou. Firma si vybudovala povesť spoločnosti, ktorá kladie na bezpečnosť umelej inteligencie väčší dôraz než časť konkurencie. Coxon však dnes tvrdí, že ani spoločnosť s takouto orientáciou nemusí byť schopná odolať tlaku, ktorý vytvára súťaž o technologické prvenstvo.
Po schválení rozpočtu v stredu, 14. októbra sa premiér poďakoval koaličným poslancom. Zdôraznil, že zrealizované reči o vyrovnanom rozpočte by priniesli veľké problémy. Schválený rozpočet označil za prorastový a stabilizovaný.
Peter "Ďateľ" Tóth naďalej sleduje vývoj situácie v kauzách Očistec a Kajúcnik.
Čo dodať?
Najnovšie články z partnerského portálu somzdediny.sk
Na pokraji pekla volá ochranca právneho štátu po jeho slušnom oslovení...
Influencerka z gastro oblasti si mala možnosť vyskúšať prácu v školskej kuchyni. Tisíce žien ju za smiešne platy zvládajú celé roky! Kto konečne ocení ich prácu?! O svoje skúsenosti sa podelila vo virálnom videu.
Incident na mítingu Igora Matoviča vyvolal ostrú kritiku. Ivan Štubňa spochybňuje zákrok voči 78-ročnému seniorovi aj postup zasahujúcich policajtov.
Izraelský politik a diplomat Jakov Kedmi prirovnal Európu k Titanicu smerujúcemu k ľadovcu. Ostro kritizoval európskych politikov, ich postoj k Rusku aj rozhodnutiam USA.
Tri témy, šesť diskutujúcich, traja moderátori a žiadne odpovede!
Komentáre
31. 10. 2025
Práve preto sa rozhodol Anthropic opustiť. Zároveň chce odísť aj z celého odboru AI.
Podľa informácií denníka The Wall Street Journal ho znepokojuje najmä zrýchľujúci sa vývoj systémov, ktoré dokážu vykonávať čoraz komplexnejšie úlohy autonómne a ktoré by v budúcnosti mohli byť schopné podieľať sa aj na vlastnom zdokonaľovaní.
„Smerujeme k mnohým z tých najagresívnejších scenárov, podľa ktorých by sa situácia už koncom budúceho roka mohla vymknúť kontrole,“ uviedol Coxon.
Za mimoriadne znepokojujúce považuje aj spôsob, akým časť odborníkov opisuje súčasnú fázu vývoja umelej inteligencie.
Coxon tvrdí, že medzi výskumníkmi sa pri debatách o modeloch schopných vlastného zlepšovania začínajú objavovať výrazy ako „crunchtime“ či „endgame“. Ide o označenia naznačujúce, že vývoj sa podľa nich dostáva do rozhodujúcej fázy.
Jeho obavy sa pritom netýkajú iba schopnosti AI vytvárať lepší softvér či riešiť zložité vedecké problémy. Najhorší scenár podľa neho nastane v prípade, ak systémy získajú dostatočnú mieru autonómie, začnú optimalizovať svoje vlastné fungovanie a zároveň prestanú spoľahlivo rešpektovať ľudské pokyny.
Takýto vývoj zatiaľ nie je potvrdenou realitou. Ide o scenár, ktorého pravdepodobnosť a časový horizont zostávajú predmetom intenzívnych sporov medzi odborníkmi. Coxon však patrí medzi výskumníkov, ktorí považujú toto riziko za natoľko vážne, že kvôli nemu nechcú pokračovať v práci na ďalšom zrýchľovaní vývoja.
Podstatou Coxonovej kritiky nie je iba samotná technológia. Za problém považuje predovšetkým ekonomické a konkurenčné prostredie, v ktorom sa AI vyvíja.
Najväčšie technologické spoločnosti medzi sebou súperia o prvenstvo vo vývoji čoraz výkonnejších modelov. Do hry zároveň vstupujú čínski konkurenti. Každé spomalenie vývoja preto môže podľa Coxona znamenať riziko, že spoločnosť zaostane za konkurenciou.
Práve táto dynamika podľa neho vytvára tlak na kompromisy v oblasti bezpečnosti.
Aj keby sa jedna firma rozhodla postupovať opatrnejšie, jej konkurenti nemusia urobiť to isté. Vzniká tak situácia, v ktorej môže byť bezpečnosť vnímaná ako prekážka rýchlosti, zatiaľ čo technologický náskok má priamu ekonomickú hodnotu.
A práve pred takýmto „pretekaním ku dnu“ varujú niektorí odborníci už dlhší čas.
Diskusiu o rizikách zároveň posilnili prípady, keď boli moderné AI modely využité pri kybernetických útokoch alebo iných škodlivých aktivitách.
Pozornosť odborníkov priťahuje najmä rastúca schopnosť AI systémov samostatne plánovať a vykonávať sériu krokov. Namiesto jednoduchého odpovedania na otázky môžu autonómni agenti pracovať s nástrojmi, vyhľadávať informácie, písať a spúšťať kód či koordinovať viacero úloh.
Ďalším krokom je spolupráca viacerých agentov. Takzvané roje AI agentov môžu rozdeliť komplikovanú úlohu medzi viacero systémov, ktoré medzi sebou komunikujú a koordinujú svoje činnosti.
Coxon sa obáva, že kombinácia vysokej autonómie, schopnosti používať nástroje a budúcej schopnosti zlepšovať vlastné fungovanie môže vytvoriť úplne novú úroveň rizika.
Najproblematickejšia časť Coxonovej predpovede sa týka časového horizontu.
Tvrdí, že podľa niektorých agresívnejších scenárov by sa kritický bod mohol objaviť už koncom roka 2027. To však nemožno chápať ako vedecky potvrdenú predpoveď. Ide o jeho hodnotenie rizika a o jeden z možných scenárov budúceho vývoja.
Práve otázka časového horizontu patrí medzi najspornejšie témy v oblasti AI bezpečnosti. Kým časť odborníkov očakáva veľmi rýchly pokrok smerom k systémom s výrazne vyššou autonómiou, iní považujú predstavu nekontrolovateľného sebazdokonaľovania za vzdialenú alebo prinajmenšom výrazne neistú.
Coxon však upozorňuje, že problémom nemusí byť iba to, či takáto technológia vznikne. Rozhodujúce môže byť aj to, či ju spoločnosť dokáže regulovať dostatočne rýchlo.
Coxon sa zároveň pripojil k viac ako tisícke odborníkov, ktorí volajú po medzinárodnej spolupráci vlád pri kontrole vývoja pokročilej umelej inteligencie.
Cieľom takýchto iniciatív je vytvoriť mechanizmy, ktoré by v prípade objavenia vážneho bezpečnostného rizika umožnili vývoj spomaliť alebo koordinovane pozastaviť.
Medzi signatármi sa podľa dostupných informácií nachádzajú aj významní predstavitelia AI sektora vrátane výskumníka OpenAI Jakuba Pachockého a šéfa Anthropic Daria Amodeia.
To je pozoruhodný paradox. Ľudia, ktorí stoja v prvej línii vývoja najpokročilejších AI systémov, zároveň upozorňujú, že tento vývoj môže byť potrebné brzdiť.
Coxonov odchod prichádza pre Anthropic v citlivom období. Spoločnosť sa pripravuje na vstup na burzu a podľa medializovaných informácií smeruje k potenciálne obrovskej valuácii.
Firma pritom svoju identitu dlhodobo spája práve s bezpečným a zodpovedným vývojom umelej inteligencie. Jej generálny riaditeľ Dario Amodei opakovane upozorňuje na potenciálne riziká čoraz výkonnejších systémov.
trieskavpate
10. 9. 2026 10:36
Geniálny Karel Čapek už pred 100 rokmi vyslovil obavy z podobnej situácie.
Dendy
17. 9. 2026 17:01
Rovnakú otázku riešil začiatkom roku 2000 Eliezer Yudkovský… ako AI odborník sa snažil ešte v “predhistorických AI dobách” definovať “priateľskú” AI a postupne prichádzal k záveru, že to nie je možné. A snažil sa zabrzdiť jej vývoj do času, kým sa nájde riešenie toho zapeklitého problému…
pred 4 hod
pred 1 d
pred 1 d
