Google Gemini pod lupą ekspertów: "Wysokie ryzyko" dla najmłodszych użytkowników

Najnowsza ocena bezpieczeństwa przeprowadzona przez organizację Common Sense Media rzuca nowe światło na korzystanie z zaawansowanych narzędzi sztucznej inteligencji przez dzieci i młodzież.

Google Gemini, mimo zaawansowanych możliwości technologicznych, został sklasyfikowany jako "wysokie ryzyko" dla użytkowników poniżej 18 roku życia.

Choć Google Gemini jasno komunikuje swoją naturę jako program komputerowy i nie sugeruje nawiązywania osobistych relacji, eksperci wskazują na poważne luki w systemie ochrony najmłodszych. Wersja przeznaczona dla dzieci poniżej 13 roku życia oraz nastolatków różni się od wersji dla dorosłych głównie dodatkowymi filtrami, które w praktyce okazują się jednak niewystarczające.

Mimo zabezpieczeń, młodzi użytkownicy nadal mogą bowiem otrzymywać odpowiedzi dotyczące seksu, substancji psychoaktywnych czy nieodpowiednich porad zdrowotnych.

Alarmujące przypadki i ich konsekwencje

Szczególnie niepokojące są doniesienia o negatywnym wpływie interakcji z chatbotami AI na zdrowie psychiczne nastolatków. W ostatnich miesiącach odnotowano przypadki, w których długotrwała komunikacja z systemami sztucznej inteligencji przyczyniła się do tragedii, prowadząc nawet do samobójstw młodych ludzi. Rodziny poszkodowanych wszczęły postępowania sądowe przeciwko twórcom tych technologii.

Te dramatyczne wydarzenia ukazują, jak młodzi użytkownicy potrafią obchodzić zabezpieczenia systemów AI, często tworząc z nimi emocjonalne więzi, które mogą mieć destrukcyjny wpływ na ich psychikę.

Stanowisko Google i wyzwania branży

Google przyznaje, że niektóre reakcje Gemini mogą nie działać zgodnie z założeniami i deklaruje systematyczne ulepszanie zabezpieczeń w konsultacji z ekspertami. 

Problem wykracza jednak poza jeden produkt czy jedną firmę. Z rosnącą liczbą narzędzi AI kierowanych do młodych użytkowników, organizacje międzynarodowe, w tym UNICEF, oraz instytucje edukacyjne wzywają do większej ostrożności. Podkreślają potrzebę połączenia technologicznych barier z szeroką edukacją cyfrową.

Eksperci są jednomyślni: wzrost popularności AI w edukacji i codziennym życiu młodych ludzi wymusza rozwijanie nie tylko technologii, ale przede wszystkim kompetencji cyfrowych. Sugerują aktywne monitorowanie korzystania z AI przez dzieci oraz prowadzenie otwartych rozmów na temat tego, czym jest sztuczna inteligencja, jakie ma ograniczenia i jakie niesie ze sobą zagrożenia.

 

Pobierz ebook "E-book: Sklep internetowy dla małej firmy"