HLAVNÝ DENNÍK
ZAHRANIČIE

Umelá inteligancia už vie posúdiť, kedy jej nemôžme dôverovať

Ilustračný obrázok/pixabay
Vedci vytvorili neurónovú sieť, ktorá je dostatočne inteligentná na to, aby vedela, kedy by sa jej nemalo dôverovať, informuje portál RT.

Systémy umelej inteligencie, známe ako neurónové siete hlbokého učenia, sa čoraz viac využívajú v oblastiach, ktoré by mohli mať obrovský vplyv na zdravie a bezpečnosť, ako je doprava a medicína. Systémy sú postavené tak, aby pomáhali pri rozhodovaní a špecializujú sa na zložité súbory údajov, ktoré ľudia jednoducho nie sú schopní analyzovať.

Ako však vieme, že ich úsudok je správny? Aby sme tento problém zvládli, nová sieť môže poskytovať údaje o svojej miere spoľahlivosti spolu s predikciami. Vedci, ktorí stoja za vývojom, tvrdia, že by to mohlo zachrániť životy. Úroveň dôveryhodnosti systému totiž môže tvoriť rozdielom medzi autonómnym vozidlom, ktoré rozhoduje, že na „križovatke je všetko jasné“ a záverom – „je to pravdepodobne jasné, takže pre každý prípad prestaňte“.

Klimatická kríza: CO2 dosahuje nový rekord napriek blokádam Covid-19

Táto vlastnosť uvedomovania si dôveryhodnosti bola prezývaná „hlboká dôkazná regresia“ a svoju úroveň dôvery zakladá na kvalite dostupných údajov, s ktorými musí pracovať. Táto funkcia vylepšuje predchádzajúce bezpečnostné opatrenia tým, že vykonáva svoju analýzu bez nadmerných výpočtových nárokov.

Systém sa dobre porovnával s existujúcimi nastaveniami a zároveň mal schopnosť odhadnúť svoju vlastnú neistotu. Časy, kedy bola sieť najmenej istá, boli v skutočnosti časy, keď spôsobila chybu.„Táto myšlienka je dôležitá a použiteľná v širšom zmysle,“ vysvetlila jedna z výskumníčok, profesorka Daniela Rusová z Massachusetts Institute of Technology (MIT).

„Môže sa použiť na hodnotenie produktov, ktoré sa spoliehajú na naučené modely. Odhadom neistoty naučeného modelu sa tiež dozvieme, koľko chýb od modelu môžeme očakávať a aké chýbajúce údaje by mohli model vylepšiť,“ uzatvára Rusová.

V púšti v Utahu bol objavený tajomný kovový monolit (VIDEO+FOTO)

SÚVISIACE

Používame cookies aby sme pre vás zabezpečili ten najlepší zážitok z našich webových stránok. OK Viac info