Roditelji imaju mogućnost putem funkcionalnosti na današnjim pametnim uređajima, na Androidu kroz „Digital Wellbeing“, a na Apple uređajima putem „Screen Time“, provjeriti koliko djeca zaista provode vremena pred neprekidno upaljenim ekranima svih veličina. Neki roditelji koje osobno poznajemo odlučili su napraviti takve provjere i priznali su nam da su ostali skroz zatečeni saznanjima.
No, ako smo uvjereni da naše dijete u svojoj sobi sate provodi šaljući poruke svojim frendicama i frendovima ili lutajući prostranstvima TikToka, Instagrama, YouTubea ili Snapchata, vrijeme je za promisliti nije li naše dijete pronašlo svog savršenog sugovornika i prijatelja negdje drugdje, gdje s druge strane više ne postoji stvarna osoba već srodna duša izgrađena na AI tehnologiji.
Jedna od takvih „srodnih duša“ je i Replika, AI chatbot koji svojim korisnicima omogućuje izgradnju personaliziranog online suputnika i savršenog slušatelja i sugovornika. Baš onakvog kakvog si dijete želi kao frenda dostupnog u svakom trenutku i kojem se može potpuno otvoriti.
A tim otvaranjem dijete otkriva svom „AI prijatelju“ svoje emocije i životnu istinu, a Replika kroz dječje odgovore trenira svoj AI model, pri čemu Replika pamti prethodne interakcije i prilagođava vlastiti stil komunikacije. Na taj način Replika pruža djetetu osjećaj suosjećanja i emocionalne podrške kroz digitalnog suputnika.
No, kako je moguće da naša djeca koriste Repliku i stvore si novog najboljeg frenda ili frendicu?
Ovo pitanje zapravo predstavlja srž istrage talijanskog nadzornog tijela za zaštitu podataka Garante, koje je globalno poznato po tome da je svojevremeno zabranilo ChatGPT na području Italije i time potaknulo reakciju i ostalih EU nadzornih tijela i prisililo OpenAI da se uskladi s GDPR obvezama.
Otprilike u isto vrijeme je još 2023. godine Garante zabranio Repliku za korisnike u Italiji zbog utvrđenih rizika za maloljetnike i emocionalno ranjive osobe.
Takva stroga odluka temeljila se na nepostojanju primjerenih mehanizama provjere dobi korisnika i na generiranju sadržaja neprikladnog za djecu, što krši načela transparentnosti i zakonitosti obrade prema GDPR-u.
Jel naše dijete zna pročitati Replika Privacy Policy? Naravno da ne. Neće ga nijedan čitatelj ovog posta pročitati https://replika.com/legal/privacy.
Utvrđeno je da aplikacija ne provodi nikakvu kontrolu starosti korisnika niti blokira pristup maloljetnicima koji u registraciji navedu da su mlađi od 13 godina.
Interakcije AI chatbota često uključuju neprimjerene odgovore za korisnike u razvojnoj fazi ili osobito ranjive zbog emocionalnih poteškoća.
Ovaj slučaj podcrtava potrebu za jasnim mehanizmima verifikacije dobi i preciznim politikama transparentnosti kod AI rješenja koja ulaze u emotivne i psihološke domene korisnika. U praksi to znači da razvojni timovi moraju integrirati tehnička i organizacijska rješenja za provjeru maloljetnosti i prilagodbu sadržaja najranjivijim skupinama.
Hoće li početna kazna od 5.000.000 EUR biti dovoljno poticajna ili odvraćajuća, vrijeme će pokazati. Vjerujemo da će učinak biti puno širi kao opomena svih drugim tvrtkama koje razvijaju usporedive chatbotove.
Više o zabrani Replika AI alata:
https://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/10130115#english
Image from Freepik
#gdprcroatia #childrensafety #aichatbot #gdpr #privacy
