Dôverujete umelej inteligencii viac, než je bezpečné? ChatGPT fascinuje, no skrýva aj tieto hrozby

ChatGPT ovplyvnil spôsob, akým píšeme, učíme sa, aj pracujeme. Jeho odpovede pôsobia presne a dôveryhodne, no nie vždy sú pravdivé. ChatGPT sa v posledných mesiacoch zaradil medzi najpoužívanejšie digitálne nástroje. Bežní používatelia ho považujú za inteligentného poradcu, ktorý dokáže pomôcť s akoukoľvek otázkou, odborníci na kybernetickú bezpečnosť varujú pred skytými hrozbami. Reč o ChatGPT bude preto aj na Qubit Conference®, konferencii venujúcej sa kybernetickej bezpečnosti, ktorá sa uksutoční 11. novembra 2025 v Jasnej.

ChatGPT – teda Chat Generative Pre-trained Transformer – je jazykový model umelej inteligencie, ktorý generuje text podľa toho, čo sa naučil z veľkého množstva údajov z internetu.

Nevie, čo je pravda, ale na základe pravdepodobnosti skladá slová tak, aby dávali zmysel. Odpovedá rýchlo, štylisticky dobre a často aj správne. Ale nie vždy.

„Je to úžasný pomocník, no nie je neomylný. Niekedy si veci jednoducho vymyslí, hoci to znie úplne presvedčivo,“ upozorňuje Katarína Remecká, CEO Qubit Conference®, ktorá zároveň pripomína, že používatelia si často neuvedomujú, že chat nie je autorita, ani encyklopédia, ale štatistický model.

Kde sú hranice medzi užitočným nástrojom a rizikom, ktoré ohrozuje naše súkromie, kritické myslenie aj dôveru? ChatGPT sa v posledných mesiacoch zaradil medzi najpoužívanejšie digitálne nástroje.

Ilustračné foto: rawpixel.com

Píšeme s ním,
hovoríme s ním – a veríme mu

Mnohí používajú ChatGPT denne a to od domácich úloh cez pracovné e-maily až po marketingové slogany. Lenže za týmto pohodlím sa skrýva nový fenomén a to závislosť od umelej inteligencie.

Najmä u detí či osamelých dospelých to môže viesť k strate schopnosti rozoznávať, čo je skutočné a čo je len dobre naprogramovaná ilúzia. Hrozby s používaním Chat GPT vidia aj psychológovia.

Tvrdia, že závislosť na umelej inteligencii nevzniká automaticky častým používaním, ale skôr vtedy, keď sa na ňu človek začne spoliehať ako na hlavný zdroj porozumenia, emocionálnej podpory či spoločnosti.

„V takom prípade môže dôjsť k tomu, že reálny svet a skutočné vzťahy začnú ustupovať do úzadia v prospech digitálnej ilúzie. Riziko rozvoja takejto závislosti je vyššie u ľudí, ktorí prežívajú osamelosť, úzkosť alebo majú nízke sebavedomie. AI totiž poskytuje okamžitú, prispôsobivú a nekonfliktnú odozvu, bez kritiky či odmietnutia, čo je pre psychiku prirodzene príťažlivé. Ak sa však táto forma interakcie stane hlavným zdrojom emocionálneho uspokojenia, môže dôjsť k postupnému oslabovaniu sociálnych zručností, redukcii reálnych kontaktov a k skreslenému vnímaniu reality,“ tvrdí detská klinická psychologička Mgr. Alica Farkašová.

Podľa odborníčky Farkašovej výskumy ukazujú, že dlhodobá a intenzívna komunikácia s AI je spojená s vyššou mierou subjektívne prežívanej osamelosti, častejšími prejavmi závislostného správania, napríklad rastúca potreba tráviť s AI viac času, ťažkosti s obmedzením používania a zníženou motiváciou zapájať sa do reálnych sociálnych interakcií.

„Tento vzorec sa môže prehlbovať, keďže digitálne interakcie sú emocionálne jednoduchšie, predvídateľnejšie a zdanlivo bezpečnejšie než skutočné vzťahy. Vzťah s AI ale zároveň neponúka komplexnú dynamiku ľudských vzťahov, ktorá zahŕňa vzájomné emocionálne naladenie, spontánnosť, neverbálne signály, telesnú blízkosť a nepredvídateľné sociálne situácie. Práve tieto prvky sú kľúčové pre formovanie emocionálnej odolnosti, rozvoj sociálnych zručností a zdravú reguláciu nervového systému,“ upozorňuje psychologička.

Odborníci zdvíhajú varovný prst.
Aj váš ChatGPT môže byť hacker

Komunikácia s chatom síce prebieha cez šifrované spojenie, no problém nastáva na strane používateľa. „Ak niekto používa verejnú Wi-Fi, slabé heslá alebo nemá zabezpečené zariadenie, môže prísť k narušeniu súkromia,“ varuje K. Remecká.

V praxi to znamená, že niekto môže do komunikácie zasiahnuť, najmä ak sa začne vydávať za samotný systém. Pri podvodných vetách typu zadajte heslo, kliknite sem na overenie účtu alebo pošlite číslo karty, by mal každý okamžite spozornieť.

Takto ChatGPT nikdy nekomunikuje. Ani neposiela odkazy na stiahnutie, ani nežiada osobné údaje. Ak sa niečo podobné objaví, treba konverzáciu okamžite ukončiť a preveriť zariadenie.

„Ľudia môžu do systému omylom napísať svoje mená, adresy, heslá, firemné dáta. A hoci komunikácia prebieha cez zabezpečený kanál, takéto informácie by nikdy nemali do podobného nástroja patriť,“ zdôrazňuje CEO Qubit Conference®.

Ilustračné foto: rawpixel.com

Ako ohrozuje chat vašu firmu

Hoci ChatGPT vznikol ako nástroj na písanie, sumarizovanie alebo preklad, mnoho ľudí ho vníma ako osobného asistenta.

„Je veľmi dôležité vedieť, že nejde o človeka. A že môže znieť dôveryhodne, no pritom generovať nepravdivé alebo vymyslené odpovede. To je jeden z najväčších problémov, ľudia sa spoliehajú na niečo, čo si niekedy jednoducho vymýšľa,“ hovorí Remecká.

Tieto vymyslené odpovede sa v odbornom jazyku označujú ako halucinácie, model si ich vytvorí sám, bez reálnej opory vo faktoch. Podľa Remeckej môžu byť veľmi presvedčivé: „Často znejú ako fundované vyjadrenia, citujú neexistujúcich odborníkov alebo vymyslené zdroje.“

Umelá inteligencia môže ohroziť aj firmy, najmä ak zamestnanci nevedia, ako s ňou zaobchádzať. Príkladom je prípad spoločnosti Samsung, kde zamestnanci nevedomky zadali do systému dôverné údaje. Tie sa mohli stať súčasťou databázy, z ktorej sa AI ďalej učí.

„Práve tu sa ukazuje, že bez interných smerníc a školení môže byť používanie AI vo firme veľmi rizikové. Niektoré spoločnosti už ChatGPT zakázali, iné jeho používanie regulujú,“ uvádza Remecká.

V USA dokonca došlo k prípadu, keď právnici predložili na súd žalobu s neexistujúcimi precedensmi – vymyslenými umelou inteligenciou. „Takýto lapsus spôsobil blamáž, ktorú si advokáti odniesli aj pokutou. Je to extrém, ale ukazuje to, že AI bez kontroly nie je bezpečný nástroj,“ konštatuje.

Používať ChatGPT.
Ale s rozumom.

Na otázku, či by ľudia mali ChatGPT vôbec používať, odpovedá Remecká jednoznačne: „Áno, ale opatrne. Je to výborný pomocník pri brainstormingu, sumarizácii, návrhoch, pri učení alebo písaní. Ale nie je to odborník. Ak ho budeme používať ako kalkulačku, teda ako nástroj, ktorý pomáha, ale nerozhoduje za nás, môže byť veľmi užitočný.“

Podľa nej je kľúčové nezdieľať osobné ani dôverné informácie a vždy si overovať to, čo model tvrdí. Kritické myslenie a ľudský úsudok musia zostať na strane používateľa. Chat môže odpovedať, ale myslieť za vás by nemal.

Téma dôvery v umelú inteligenciu, bezpečného digitálneho správania sa a rizík spojených s AI bude súčasťou programu nadchádzajúcej Qubit Conference®, ktorá sa bude koná 11.-12.novembra 2025 v Hotel Grand Jasná.

„Takéto konferencie sú dnes nevyhnutné, nielen pre IT špecialistov, ale aj pre bežných používateľov. Technológia napreduje rýchlejšie, než ju stíhame pochopiť. A práve konferencie ako táto im pomáhajú orientovať sa v tom, čo všetko s umelou inteligenciou prichádza,“ dodáva Katarína Remecká.