Milyen veszélyeket rejt az AI a gyerekekre nézve?

Milyen szerepet játszanak az egyre népszerűbb AI chatbotok a gyermekek mindennapjaiban, és hogyan tudjuk segíteni őket, hogy biztonságosan használják ezeket?
 

Az ESET kiberbiztonsági szakértői szerint a technológia számos előnyt kínál, ugyanakkor komoly kockázatokat is hordoz, különösen a fiatalok érzelmi, mentális és digitális biztonsága szempontjából. Míg az AI chatbotok esetében a túlzott bizalom és az érzelmi kötődés jelenthet problémát, addig a közösségi médiában megosztott tartalmak, például a fiatalok körében népszerű szelfik hosszú távú adatvédelmi és biztonsági kockázatokat rejtenek.

Az elmúlt időszakban a nemzetközi és a magyar médiában is megjelentek olyan esetek, amelyek rávilágítanak arra, hogy a gyerekek és fiatalok sokszor nem eszközként, hanem bizalmas partnerként tekintenek az AI chatbotokra. Egyes tragikus történetek azt mutatják, hogy a chatbotokkal folytatott beszélgetések akár veszélyes irányba is terelhetik a sérülékeny fiatalokat, ha nincs megfelelő kontroll és emberi támogatás a háttérben.

"A gyerekek gyakran nem érzékelik, hogy akár egy AI chatbottal folytatott beszélgetés vagy akár egy ártatlannak tűnő szelfi megosztása milyen következményekkel járhat. Mindkét esetben személyes információk kerülhetnek ki a kontrolljuk alól, és ezek később visszaélések alapjául szolgálhatnak. Az is problémát jelenthet, hogy ezek a chatbotok válaszaikkal gyakran megerősítik a felhasználókat, ami torzíthatja a valóságérzékelést, és felerősítheti a meglévő nehézségeket"

- figyelmeztetett Csizmazia-Darab István, a Sicontact Kft. kiberbiztonsági szakértője. 

A közösségi médiában megosztott szelfik szintén hasonló kockázatokat hordoznak. Egy-egy kép még törlés után is tovább élhet az interneten, ráadásul a fotók gyakran olyan részleteket is tartalmaznak - például otthoni környezetet vagy iskolára utaló jeleket -, amelyek illetéktelenek kezébe kerülve szintén visszaélésekre adhatnak lehetőséget. A közösségi média és az AI chatbotok használata így együtt már nagyon korán formálja a gyerekek digitális lábnyomát, sokszor anélkül, hogy ennek következményeivel tisztában lennének.

Az ESET kiberbiztonsági szakértői szerint a chatbotok használata több területen is kockázatot jelenthet:

• Mentális egészség: a gyerekek túlzottan kötődhetnek a chatbotokhoz, miközben háttérbe szorulnak a valódi emberi kapcsolataik, amelyek kulcsfontosságúak a mentális egyensúlyhoz. 
• Félrevezető információk: az AI magabiztosan adhat hibás válaszokat ("hallucinációk"), amelyeket a fiatalok könnyen tényként kezelhetnek.
• Nem megfelelő tartalmak: a védelmi mechanizmusok ellenére is megjelenhet erőszakos vagy káros tartalom.
• Adatvédelem: az AI chatbotokkal megosztott személyes információk tárolásra kerülhetnek, és illetéktelenekhez is eljuthatnak.
• Intő jel lehet, ha a gyermek egyre több időt tölt ezekkel a barátai helyett, valódi személyként beszél az AI-ról, illetve szorong, ha nem fér hozzá, vagy tényként mond vissza nyilvánvaló tévedéseket. Az is figyelmeztető lehet, ha érzékeny témákban - akár mentális problémákkal kapcsolatban - a chatbotoktól kér tanácsot.

Nem tiltani, hanem tanítani kell

A szakértők szerint a legfontosabb a nyílt és támogató kommunikáció. "A technológia nem fog eltűnni, ezért a cél nem az, hogy elzárjuk a gyerekeket tőle, hanem hogy megtanítsuk őket biztonságosan használni. A beszélgetés, a közös szabályok és a kritikus gondolkodás fejlesztése kulcsfontosságú"

- tette hozzá Csizmazia-Darab István. 

Mit tehetnek a szülők?

Az ESET kiberbiztonsági szakértője szerint a szülőknek érdemes tudatosan segíteniük gyermekeiket az AI-alapú chatbotok használatában. Fontos, hogy beszélgessenek velük arról, hogy ezek a rendszerek nem valódi személyek, hanem algoritmusok, amelyek nem képesek valódi érzelmekre vagy épp felelősségteljes döntésekre. Emellett kulcsfontosságú, hogy a gyerekek megtanulják kritikusan kezelni a chatbotok válaszait, és mindig ellenőrizzék az információk hitelességét, forrását. A személyes adatok védelme kiemelten fontos: a gyerekek semmilyen érzékeny információt ne osszanak meg ezekkel a rendszerekkel. A biztonságos használat érdekében érdemes észszerű kereteket szabni a képernyőidőnek és a chatbotok használatának, valamint szükség esetén szülői felügyeleti eszközöket is alkalmazni.