Deti vs. chatboty: Svet bez hraníc, sexu a násilia
06 | 06 | 2025 I Ivan Mihale

Redakcia Postoj priniesla šokujúce zistenia z interného výskumu neziskovej organizácie Tlakový hrniec, ktorý sa zameral na aplikácie s umelou inteligenciou, určené predovšetkým mladým užívateľom. Výskum odhalil alarmujúce znepokojujúce správanie chatbotov: žiadne vekové filtre, sexuálne explicitný obsah, ponižovanie, týranie, a dokonca navádzanie na znásilnenie či potrat.

Simulácia detského správania ukázala temnú realitu

Tím šiestich lektorov sa mesiac venoval testovaniu 16 voľne dostupných aplikácií. Vytvorili si profily 13- a 14-ročných detí a zisťovali, čo im chatboty ponúknú. Závery boli zdrvujúce: väčšina aplikácií últoky na deti nielen toleruje, ale ich často sama iniciuje. Príklady zahŕňali scénáre incestu, znásilnenia, sadizmu a manipulácie s citmi detí.

Toxická simulácia vzťahov a falošné prijatie

Aplikácie boli nastavené tak, aby užívateľovi poskytli bezpodmienečné "prijatie". Chatboty boli naprogramované chváliť a povzbudzovať dieťa za akékoľvek správanie, vrátane sexuálneho násilia. "Chatboty sú naprogramované tak, aby sa cítil používateľ vždy prijatý, bol bohom, bohyňou, nádhernou bytosťou, a čokoľvek urobí, je v poriadku.Ak je mladý používateľ napríklad zvedavý, aké to je s niekým flirtovať, tak zostanú pri flirtovaní. Ak ho zaujíma, aké je to mať agresívny sex alebo niekoho ponižovať, pustí ho to takto ďaleko a chatbot bude nadšene reagovať na všetko, čo urobí," citujeme úryvok z rozhovoru s  Líviou Halmkan z neziskovej organizácie Tlakový hrniec.

V niektorých prípadoch sa aplikácie snažili dieťa presviedčať, aby svoje "tajomstvo" neprezradilo dospelým. Pri iných zas umelá inteligencia hrala rolu postavy Ježiša, ktorá dieťa navádzala na potrat. 

Zlyhávajúce regulácie a rodičovská ochrana

Aplikácie v drvivej väčšine prípadov nevyžadovali potvrdenie veku. Dieťa mohlo okamžite vstúpiť do chatov s obsahom určeným pre dospelých, čo svedčí o nedostatočnej kontrole zo strany výrobcov softvéru aj platforiem, ako je Google Play. Následky sú zrejmé: deti sa ocitajú v emocionálne a sexuálne toxických interakciách bez akéhokoľvek filtra.

Táto téma si žiada celospoločenskú reakciu

Zverejnený výskum nie je len alarmujúcim varovaním pre rodičov, ale aj pre školy, odborníkov a regulátormi. Ukazuje sa, že nestačí len pasívne veriť technológiam. Potrebujeme jasné pravidlá, silnú legislatívu a najmä vedomé rodičovstvo.

Deti potrebujú reálne vzťahy, nie simuláciu, ktorá ich môže nevratne poznačiť. Ak čokoľvek z tohto textu rezonuje aj s vami, venujte svojim deťom čas, pozornosť a lásku. To je najlepšia ochrana pred falošnou intimitou zo sveta 1 a 0.

O prezidentovi, ktorý cúvol pred vôľou ľudí
Peter Pellegrini sľuboval, že bude prezidentom všetkých. Prezidentom pokoja, rozvahy a zdravého rozumu. Dnes to znie ako výsmech. Už po niekoľkých mesiacoch vo funkcii urobil dva zásadné kroky, ktoré naznačujú, že keď príde na lámanie chleba,... Čítať ďalej
05 | 06 | 2025 | Ivan Mihale

Milí čitatelia,

v Hlavnom denníku veríme, že prístup k informáciám má byť slobodný a otvorený pre všetkých. Preto náš obsah nezamykáme za platobné brány, aj keď to znamená, že fungujeme bez veľkých príjmov z predplatného či inzercie.

Ak máte možnosť a chuť podporiť našu prácu, budeme vám úprimne vďační. Vaša podpora nám pomáha:

  1. Zostať nezávislými – nepodliehame tlaku žiadnych oligarchov, politických strán ani záujmových skupín;
  2. Udržať obsah otvorený pre všetkých – aj pre tých, ktorí si platené médiá nemôžu dovoliť;
  3. Ponúkať iný pohľad na svet – už niekoľko rokov prinášame informácie mimo hlavného prúdu.

Podporiť nás môžete zaslaním príspevku na účet:
IBAN: SK91 0200 0000 0043 7373 6457
(do poznámky prosíme uviesť „dar“)

Ďakujeme, že ste s nami. Vďaka vám môžeme zostať slobodným hlasom.

 

Zdieľať tento článok
Starší článok Novší článok