Zahraničie

Umelá inteligancia už vie posúdiť, kedy jej nemôžme dôverovať

Autor: Diana Zaťková
Publikované: 26. 11. 2020 07:52
Čas čítania: 1 min citania
Komentáre: 0 komentárov
Komentáre: Načítavajú sa

Vedci vytvorili neurónovú sieť, ktorá je dostatočne inteligentná na to, aby vedela, kedy by sa jej nemalo dôverovať, informuje portál RT.

Systémy umelej inteligencie, známe ako neurónové siete hlbokého učenia, sa čoraz viac využívajú v oblastiach, ktoré by mohli mať obrovský vplyv na zdravie a bezpečnosť, ako je doprava a medicína. Systémy sú postavené tak, aby pomáhali pri rozhodovaní a špecializujú sa na zložité súbory údajov, ktoré ľudia jednoducho nie sú schopní analyzovať.

Ako však vieme, že ich úsudok je správny? Aby sme tento problém zvládli, nová sieť môže poskytovať údaje o svojej miere spoľahlivosti spolu s predikciami. Vedci, ktorí stoja za vývojom, tvrdia, že by to mohlo zachrániť životy. Úroveň dôveryhodnosti systému totiž môže tvoriť rozdielom medzi autonómnym vozidlom, ktoré rozhoduje, že na „križovatke je všetko jasné“ a záverom - „je to pravdepodobne jasné, takže pre každý prípad prestaňte“.

25. 11. 2020 13:32

Klimatická kríza: CO2 dosahuje nový rekord napriek blokádam Covid-19

Klimatické plyny dosiahli v atmosfére rekordné hodnoty aj napriek globálnym obmedzeniam spôsobeným pandémiou koronavírusu, tvrdí Svetová meteorologická organizácia (WMO) - agentúra OSN.

Čítať viac

Táto vlastnosť uvedomovania si dôveryhodnosti bola prezývaná „hlboká dôkazná regresia“ a svoju úroveň dôvery zakladá na kvalite dostupných údajov, s ktorými musí pracovať. Táto funkcia vylepšuje predchádzajúce bezpečnostné opatrenia tým, že vykonáva svoju analýzu bez nadmerných výpočtových nárokov.

Systém sa dobre porovnával s existujúcimi nastaveniami a zároveň mal schopnosť odhadnúť svoju vlastnú neistotu. Časy, kedy bola sieť najmenej istá, boli v skutočnosti časy, keď spôsobila chybu.„Táto myšlienka je dôležitá a použiteľná v širšom zmysle,“ vysvetlila jedna z výskumníčok, profesorka Daniela Rusová z Massachusetts Institute of Technology (MIT).

„Môže sa použiť na hodnotenie produktov, ktoré sa spoliehajú na naučené modely. Odhadom neistoty naučeného modelu sa tiež dozvieme, koľko chýb od modelu môžeme očakávať a aké chýbajúce údaje by mohli model vylepšiť,“ uzatvára Rusová.