Redakcia Postoj priniesla šokujúce zistenia z interného výskumu neziskovej organizácie Tlakový hrniec, ktorý sa zameral na aplikácie s umelou inteligenciou, určené predovšetkým mladým užívateľom. Výskum odhalil alarmujúce znepokojujúce správanie chatbotov: žiadne vekové filtre, sexuálne explicitný obsah, ponižovanie, týranie, a dokonca navádzanie na znásilnenie či potrat.
Simulácia detského správania ukázala temnú realitu
Tím šiestich lektorov sa mesiac venoval testovaniu 16 voľne dostupných aplikácií. Vytvorili si profily 13- a 14-ročných detí a zisťovali, čo im chatboty ponúknú. Závery boli zdrvujúce: väčšina aplikácií últoky na deti nielen toleruje, ale ich často sama iniciuje. Príklady zahŕňali scénáre incestu, znásilnenia, sadizmu a manipulácie s citmi detí.
Toxická simulácia vzťahov a falošné prijatie
Aplikácie boli nastavené tak, aby užívateľovi poskytli bezpodmienečné "prijatie". Chatboty boli naprogramované chváliť a povzbudzovať dieťa za akékoľvek správanie, vrátane sexuálneho násilia. "Chatboty sú naprogramované tak, aby sa cítil používateľ vždy prijatý, bol bohom, bohyňou, nádhernou bytosťou, a čokoľvek urobí, je v poriadku.Ak je mladý používateľ napríklad zvedavý, aké to je s niekým flirtovať, tak zostanú pri flirtovaní. Ak ho zaujíma, aké je to mať agresívny sex alebo niekoho ponižovať, pustí ho to takto ďaleko a chatbot bude nadšene reagovať na všetko, čo urobí," citujeme úryvok z rozhovoru s Líviou Halmkan z neziskovej organizácie Tlakový hrniec.
V niektorých prípadoch sa aplikácie snažili dieťa presviedčať, aby svoje "tajomstvo" neprezradilo dospelým. Pri iných zas umelá inteligencia hrala rolu postavy Ježiša, ktorá dieťa navádzala na potrat.
Zlyhávajúce regulácie a rodičovská ochrana
Aplikácie v drvivej väčšine prípadov nevyžadovali potvrdenie veku. Dieťa mohlo okamžite vstúpiť do chatov s obsahom určeným pre dospelých, čo svedčí o nedostatočnej kontrole zo strany výrobcov softvéru aj platforiem, ako je Google Play. Následky sú zrejmé: deti sa ocitajú v emocionálne a sexuálne toxických interakciách bez akéhokoľvek filtra.
Táto téma si žiada celospoločenskú reakciu
Zverejnený výskum nie je len alarmujúcim varovaním pre rodičov, ale aj pre školy, odborníkov a regulátormi. Ukazuje sa, že nestačí len pasívne veriť technológiam. Potrebujeme jasné pravidlá, silnú legislatívu a najmä vedomé rodičovstvo.
Deti potrebujú reálne vzťahy, nie simuláciu, ktorá ich môže nevratne poznačiť. Ak čokoľvek z tohto textu rezonuje aj s vami, venujte svojim deťom čas, pozornosť a lásku. To je najlepšia ochrana pred falošnou intimitou zo sveta 1 a 0.
Milí čitatelia,
v Hlavnom denníku veríme, že prístup k informáciám má byť slobodný a otvorený pre všetkých. Preto náš obsah nezamykáme za platobné brány, aj keď to znamená, že fungujeme bez veľkých príjmov z predplatného či inzercie.
Ak máte možnosť a chuť podporiť našu prácu, budeme vám úprimne vďační. Vaša podpora nám pomáha:
- Zostať nezávislými – nepodliehame tlaku žiadnych oligarchov, politických strán ani záujmových skupín;
- Udržať obsah otvorený pre všetkých – aj pre tých, ktorí si platené médiá nemôžu dovoliť;
- Ponúkať iný pohľad na svet – už niekoľko rokov prinášame informácie mimo hlavného prúdu.
Podporiť nás môžete zaslaním príspevku na účet:
IBAN: SK91 0200 0000 0043 7373 6457
(do poznámky prosíme uviesť „dar“)
Ďakujeme, že ste s nami. Vďaka vám môžeme zostať slobodným hlasom.