TikTok-та жасанды интеллект жасаған ұятсыз видеолар балаларды қауіпке итермелеп жатыр

Жаңа зерттеу мұндай контенттің миллиондаған қаралым жинап, астыртын түрде балалар порнографиясын сататын Telegram-топтарға жол ашып отырғанын көрсетті. Фактчекингпен айналысатын испаниялық Maldita ұйымының есебіне сәйкес, TikTok-та кемінде 20 аккаунт анықталған.

Бұл парақшаларда бикини, мектеп формасы мен денеге жабысып тұратын киімдегі қыздар бейнеленген 5200-ден астам видео жарияланған. Аталған аккаунттардың жиынтық аудиториясы – 550 мыңнан аса жазылушы, ал лайк саны 6 миллионға жуық. Ең қауіптісі – видеолардың пікірлерінде Telegram-дағы жабық топтарға сілтемелер берілген. Бұл топтарда балалар порнографиясы сатылатыны айтылған. Maldita зерттеу барысында анықталған 12 Telegram тобын Испания полициясына тапсырған. Зерттеуде көрсетілгендей, бұл аккаунттар тек қаралым жинаумен шектелмей, TikTok-тың жазылым жүйесі арқылы табыс тауып отыр.

Пайдаланушылар жасанды интеллектпен жасалған видео мен суреттерге қол жеткізу үшін ай сайын ақы төлейді. Ал платформа бұл табыстың шамамен 50 пайызын өзіне алады. Есеп әлемнің бірқатар елінде, соның ішінде Австралия мен Данияда, 16 жасқа толмағандарға әлеуметтік желілерді шектеу мәселесі талқыланып немесе енгізіліп жатқан тұста жарияланды. Билік мұны балалардың интернеттегі қауіпсіздігін қамтамасыз етудің бір жолы деп санайды. TikTok ережесіне сәйкес, жасанды интеллект қолданылған контент арнайы белгімен көрсетілуі тиіс. Алайда Maldita талдаған видеолардың басым бөлігінде мұндай белгі болмаған. Кейбір материалдарда ғана автоматты түрде қойылатын «TikTok AI Alive» логотипі кездескен. TikTok пен Telegram Euronews Next-ке берген ресми мәлімдемесінде балаларға қатысты жыныстық зорлық-зомбылық материалдарының таралуына «мүлде жол бермейтінін» мәлімдеді.

Telegram өкілдерінің айтуынша, платформаға жүктелетін барлық ашық медиа бұрын өшірілген заңсыз материалдар базасымен салыстырылып, автоматты түрде тексеріледі. Компания 2025 жылы 909 мыңнан астам топ пен арнаны жойғанын хабарлады. TikTok болса, кәмелетке толмағандарға зиянды контенттің 99 пайызы автоматты түрде өшірілетінін, ал жасанды интеллект арқылы жасалған әдепсіз материалдардың 97 пайызы алдын ала анықталып, жойылатынын мәлімдеді. Платформа сондай-ақ мұндай аккаунттар туралы АҚШ-тағы Жоғалған және қанауға ұшыраған балалардың ұлттық орталығына (NCMEC) хабар берілетінін атап өтті. 2025 жылдың сәуір-маусым айлары аралығында TikTok 189 миллионнан астам видеоны өшіріп, 108 миллионнан аса аккаунтты бұғаттаған.