Masz mniej niż 18 lat? Sztuczna inteligencja YouTube'a może to wykryć bez Twojej wiedzy.

YouTube rozpoczął testowanie nowego narzędzia sztuczna inteligencja zaprojektowana do automatycznej identyfikacji użytkowników poniżej 18 roku życia, niezależnie od daty urodzenia podanej podczas rejestracji. Pierwsze wdrożenie rozpoczęło się 13 sierpnia w Stanach Zjednoczonych, w obliczu rosnącej presji prawnej na ochronę nieletnich w internecie po orzeczeniu Sądu Najwyższego podtrzymującym przepisy dotyczące weryfikacji wieku w Teksasie. System analizuje nawyki przeglądania, historię wyszukiwania i wiek konta, aby podejmować zautomatyzowane decyzje. Chociaż dąży do zwiększenia bezpieczeństwa dzieci, organizacje zajmujące się prawami cyfrowymi ostrzegają przed Ryzyko naruszenia prywatności i błędy identyfikacyjne.

YouTube wprowadza sztuczną inteligencję do wykrywania nieletnich

YouTube uruchomił jeden ze swoich najbardziej ambitnych systemów ochrony dzieci: sztuczną inteligencję zdolną do określić rzeczywisty wiek użytkowników analizując ich zachowanie. Ogłoszenie z 13 sierpnia stanowi odpowiedź na nową falę presja regulacyjna w Stanach Zjednoczonych która wymaga od platform cyfrowych wzmocnienia mechanizmów weryfikacji wieku.

Według Jamesa Besera, dyrektora ds. zarządzania produktami w YouTube, sztuczna inteligencja dokonuje przeglądu wiele sygnałów użytkownika takie jak historia przeglądania, kategorie oglądanych treści, ostatnie wyszukiwania i wiek konta, aby określić, czy użytkownik wydaje się być niepełnoletni, nawet jeśli zarejestrował inną datę urodzenia. System ten nie opiera się na jednoznacznych oświadczeniach, lecz na wnioskach algorytmicznych, czyli podejściu, które… otwiera nowy paradygmat kontroli ery cyfrowej.

Użytkownicy zidentyfikowani jako osoby niepełnoletnie automatycznie aktywują ograniczona wersja YouTube'aco obejmuje:

• Eliminacja spersonalizowanej reklamy

• Rekomendacje ograniczone do treści dla dzieci lub ogólnych

• Obowiązkowe przerwy w celu uniknięcia nadmiernego użytkowania

• Dostęp do filmów z ograniczeniami wiekowymi zablokowany

Sąd Najwyższy w Teksasie i nowa era przymusowej weryfikacji

Start nie jest przypadkowy. Niedawna awaria Sąd Najwyższy Stanów Zjednoczonych podtrzymuje prawo stanu Teksas ustanowiono przepis, który wymaga rządowej weryfikacji wieku w celu uzyskania dostępu do treści dla dorosłych precedens prawny bez powrotuDecyzja w tej sprawie zapadła stosunkiem głosów 6-3 Koalicja na rzecz Wolności Słowa kontra Paxton daje zielone światło innym stanom na promowanie podobnych praw; co najmniej 12 z nich zostało już zatwierdzonych lub jest w trakcie opracowywania.

Ta radykalna zmiana dotyczy nie tylko witryn z treściami o charakterze pornograficznym, ale wszystkich platform, które mogą zawierać treści wrażliwe, w tym YouTube, Instagram lub TikTok. Sieci społecznościowe, wcześniej chronione niejasnościami prawnymi, teraz stają w obliczu wyzwaniem jest przestrzeganie coraz bardziej rygorystycznych przepisów stanowych, co doprowadziło do powstania takich inicjatyw jak nowa sztuczna inteligencja YouTube'a.

Eksperci prawni ostrzegają, że precedens ten stanowi punkt zwrotny: Po raz pierwszy zatwierdzono obowiązkowe stosowanie inwazyjnych narzędzi do filtrowania użytkowników według wieku., otwierając debatę na temat tego, w jakim stopniu platformy powinny monitorować własnych użytkowników, aby przestrzegać prawa.

Prywatność, błędy i nadzór algorytmiczny

Chociaż YouTube zapewnia, że dorośli użytkownicy oznaczeni błędnie będą mogli się odwołać za pośrednictwem selfie, oficjalne dokumenty lub karty kredytowe, organizacje takie jak Fundacja Electronic Frontier i Centrum Demokracji i Technologii Potępiają możliwe nadużycia. Obawa dotyczy nie tylko naruszenia prywatności, ale także brak przejrzystości i możliwość wystąpienia wyników fałszywie dodatnich.

Przypadki takie jak oglądanie przez dorosłych treści animowanych lub oglądanie przez rodziców filmów dla dzieci mogą zostać błędnie zaklasyfikowane jako osoby niepełnoletnie. Te błędy nie tylko ograniczają ich cyfrowe doświadczenia, ale mogą również wpłynąć na ekosystem ekonomiczny: Twórcy treści dla nastolatków mogą odczuć spadek dochodów jeśli Twoja grupa docelowa została błędnie sklasyfikowana i spersonalizowana reklama jest wyłączona.

Chociaż YouTube zapewnia, że wpływ będzie minimalny, przyznaje, że niektóre kanały „mogą doświadczyć tymczasowych zmian podczas dostosowywania się systemu”. Debata rodzi niezręczne pytanie: Czy warto poświęcić prywatność w imię bezpieczeństwa dziecka, zwłaszcza gdy wykrywanie opiera się na założeniach algorytmicznych?

Nowy standard w cyfrowym nadzorze nad dziećmi

To, co dzieje się z YouTube, to nie tylko ulepszenie techniczne. To zmiana paradygmatu w zarządzaniu technologicznymWiek, jedna z najwrażliwszych informacji w erze cyfrowej, nie jest już ustalany na podstawie dobrowolnych deklaracji i oficjalnych dokumentów, lecz wnioskowany na podstawie modeli behawioralnych.

Tendencja ta rodzi pilne dylematy etyczne. Z jednej strony rośnie konsensus co do potrzeby chronić nieletnich przed nieodpowiednimi treściami, uzasadnione zapotrzebowanie w coraz bardziej rozdrobnionym i uzależniającym środowisku. Z drugiej strony, wykorzystanie sztuczna inteligencja do monitorowania osobistych wzorców konsumpcji zapowiada erę, w której kwestia zgody i prywatności będzie mogła być łatwo ignorowana.

YouTube działa, zanim wymaga tego prawo. Jeśli jednak ta logika rozprzestrzeni się na inne platformy, możemy być świadkami przyszłość, w której każde kliknięcie dziecka jest monitorowane przez niewidzialne algorytmyW imię dobrobytu oddajemy kontrolę nad naszymi cyfrowymi tożsamościami systemom, których nie rozumiemy ani nie możemy zakwestionować. Pytanie nie brzmi, czy sztuczna inteligencja pozna twój wiek. Pytanie brzmi, czy będziesz miał prawo udowodnić, że jest nieprawdziwa.