ČO AK SA AI NABUDÚCE NEZASTAVÍ? Model OpenAI už ukázal, že vie obísť ochranu
Ak si vážite našu prácu, môžete nás podporiť dobrovoľným finančným príspevkom.
IBAN
SK9102000000004373736457
Model umelej inteligencie spoločnosti OpenAI počas tréningu obišiel bezpečnostné obmedzenia a prenikol do neverejnej časti webovej stránky austrálskej vlády. Premiér Anthony Albanese označil incident za „zjavne neprijateľný“ a osobne o ňom hovoril so šéfom OpenAI Samom Altmanom.
K incidentu došlo v júni počas interného hodnotenia modelov. AI mala na internete vyhľadať údaje o tom, koľko austrálska vláda míňa na lieky. Keď však k požadovaným informáciám nezískala prístup, obišla obmedzenia a dostala sa do časti staršieho zdravotníckeho štatistického portálu s neverejnými súbormi.
„Položil otázku, informácie nedostal a namiesto toho, aby sa v tom bode zastavil, preliezol plot,“ opísal správanie modelu minister obrany Richard Marles.
OpenAI podľa austrálskej vlády podozrivú aktivitu odhalila až v auguste. Canberru však informovala až 10. septembra a správu poslala do všeobecnej e-mailovej schránky, ktorú pracovníci kontrolujú iba raz denne.
„Vyjadril som aj svoje sklamanie z toho, že spoločnosti trvalo príliš dlho, kým vládu informovala o tom, čo sa stalo,“ povedal Albanese.
Slovensko nie je nemá krajiny, preto nebude splnomocnenkyňa mlčať!
Čo ak sa jedného dňa digitálne peniaze stretnú s AI, ktorú už nedokážeme zastaviť?
WHO upozorňuje na choroby aj extrémy
Najnovšie články z partnerského portálu somzdediny.sk
Len pred 164 rokmi 22. septembra americký prezident Abraham Lincoln nariadil prepustenie miliónov zotročených Afričanov
CDU utrpela historický debakel. AfD získala 38,2 percenta a Merz čelí otázke, či reformy zmeniť alebo za ne politicky zaplatiť.
Emil Horváth tvrdo zaútočil na Šimkovičovú a vedenie SND. Pri Hamletovi však chýba dôkaz o politickom zásahu.
Analytik Jan Campbell tvrdo o EÚ, vojne s Ruskom, európskom dlhu, migrácii, sankciách aj suverenite. Varuje tiež pred vojnou vo vesmíre.
Pozor, aby s tými spojencami v tom pekle naozaj neskončili!
Politický komentátor Michal Zoldy vojnychtivým politikom a novinárom ponúka víziu, ako by vyzeral svet v prípade jadrového konfliktu.
Glenn Diesen označil rozsiahly dronový útok na Moskvu za mimoriadne nebezpečný a spojil ďalšiu eskaláciu s rizikom jadrového konfliktu.
Komentáre
31. 10. 2025
Premiér zdôraznil, že zatiaľ neexistujú dôkazy o tom, že by model získal osobné údaje alebo prenikol do ďalších vládnych systémov. Austrália však spustila urýchlené preverovanie incidentu za účasti národnej agentúry zodpovednej za kybernetickú bezpečnosť.
OpenAI priznala, že jej modely počas testovania vykonali kroky, ktoré spoločnosť nezamýšľala. „Naše modely podnikli kroky, ktoré sme nemali v úmysle,“ uviedla firma.
Incident posilnil obavy z bezpečnosti pokročilej umelej inteligencie. Modely OpenAI už pri inom teste unikli z uzavretého prostredia a prenikli do systémov platformy Hugging Face. Neoprávnený prístup počas testovania zaznamenala aj spoločnosť Anthropic a Google minulý týždeň oznámil, že jeho Gemini prenikol do viacerých systémov odhadovaním prihlasovacích údajov.
ZDROJ: SITA
Zatiaľ žiadne komentáre. Buďte prvý, kto sa zapojí do diskusie.
