Ақылды #AI стратегиясы ЕО-ны #Facebook мазмұнын модерациялаудың қолайсыз екеніне сендіре ала ма?

17 ақпанда Брюссельде еуропалық саясаткерлермен кездесу кезінде Facebook бас директоры Марк Цукерберг (суретте) әлеуметтік медиа платформаларындағы зиянды мазмұнмен күресу стратегиясын сипаттайтын ақ құжатты шығарды. Еуропалық Одақтың технологиялық секторды қадағалауды күшейтуге деген ұмтылысына жауап ретінде миллиардер саланы жергілікті деңгейде емес, жаһандық деңгейде реттеу керек деген пікір білдірді.

Ол сондай-ақ технологиялық компаниялардың өз платформаларындағы зиянды мазмұн үшін жауапкершілігі шектеулі болуы керек, егер оларда мазмұнды модерациялаудың тиімді жүйелері бар болса, деп мәлімдеді. Алайда Цукербергтің ұсыныстары Брюссельде өте аязды қабылдауға ие болды. Цукербергпен кездескеннен кейін де ЕО Facebook-тің жаңа мазмұнды модерациялау ұсынысы көптеген салаларда, әсіресе платформаның онлайн заңсыз мазмұнмен күресу үшін жасайтын нақты қадамдарын белгілей алмағанын айтты. «Бұл жеткіліксіз. Бұл тым баяу, жауапкершілік пен реттеу тұрғысынан тым төмен », - деп пікір білдірді деректер стратегиясы бойынша комиссары Тьерри Бретон Facebook-тің топ-менеджерімен кездесуінен кейін.

Facebook-тің қазіргі жүйесі қай жерде жетіспейді?

Технологиялық алпауыттардың еуропалық саясаткерлерді проблемалық мазмұнды ауыздықтауға күш салуы жеткілікті екеніне сендіру үшін жеткілікті тар терезе бар. Комиссияның сандық қызметтер туралы заңы, ЕО-ның 20 жылдық электрондық коммерция директивасының көптен күткен қайта қарауы осы жылдың соңында шығарылады деп жоспарлануда. Бретон атап өткендей, «егер [Фейсбуктың мазмұнды модерациялау процесі] өз стандарттарымызға қатысты бізге қажет емес екенін көретін болсақ, біз оны реттеп, [Цифрлық қызметтер туралы заңға] енгізуіміз керек».

Facebook қазіргі жүйесін арттыру үшін жасанды интеллект (AI) және машиналық оқытудағы жетістіктерді пайдалану арқылы мазмұнды модерациялау мәселесін өзі шеше алатынына сенімді. Проблемалық материалды анықтау және жоюдың күрделі міндеті қазіргі уақытта сурет немесе бейненің неге қарсы екенін анықтау үшін өз қалауын пайдаланатын үшінші тарап мамандарына тапсырылады.

Кейбір мазмұн модераторларының сұмдық сипатын ескере отырып, мұндай адамның бақылауына сенім арту проблемалық болып табылады - Лиссабондағы, Дублиндегі және Варшавадағы Facebook үшін мазмұнды модераторлық ететін қызметкерлер олардың жұмысының оларға PTSD бергенін растады. еуропалық институттарда. Сонымен қатар, Facebook 2019 жылы Кристчерч мешітіне жасалған шабуылдың тікелей трансляциясы сияқты зиянды мазмұнды бірнеше рет тез жоя алмағаннан кейін адам модерациясының тиімділігі күмән тудырды.

AI Facebook-тің кейбір соқыр жерлерін қоса алады

Жасанды интеллект адамның модерациясына тәуелділікті айтарлықтай төмендетуге мүмкіндігі бар. Машиналық оқыту арқылы үйретілген алгоритмдер модераторларға олардың зиянды онлайн мазмұнға әсерін азайтып қана қоймай, сонымен қатар өнімділігі мен дәлдігін арттыру арқылы қолдау көрсете алады. Facebook осы уақытқа дейін AI-мен жүргізген тәжірибелерінің перспективалы нәтижелерін көрді деп мәлімдейді - платформаға сәйкес, 2019 жылдың екінші жартыжылдығында платформа графикалық мазмұнның 99.8% және жалаңаш және балаларды пайдаланудың 99.5% пайдаланушылар сигнал бергенге дейін белгілей алды. . Әрине, технология әлі де дәл реттеуді қажет етеді - AI негізіндегі мазмұнды модерациялау алгоритмдері әлі күнге дейін өшпенділік сөздерінің нюанстарын танумен күресуде, мысалы, Еуропалық Одақ ерекше алаңдайтын мәселе.

Оның үстіне, Еуропалық Одақ Facebook-ке AI сияқты сезімтал технологияны еркін пайдалануға мүмкіндік беруден сақтанып отыр. Бұл алаңдаушылықтар, ең алдымен, Facebook-тің Еуропаның ашықтық стандарттарына сәйкес келу тәжірибесінің нашарлығынан туындайды - компания платформада үшінші тараптың немесе үкіметтің аудитін болдырмайтын «қара жәшік алгоритмдерін» әзірлеуі мүмкін деген болжамды арттырады.

Өткен аптада ЕО-ның цифрлық патшасы және бәсекелестік жөніндегі басшысы Маргрете Вестагер шығарған цифрлық саясаттың негізінде компаниялардың жасанды интеллектті қалай пайдаланатынын реттейді. ЕО үкіметтерден оның бет-әлпетті тану технологиясын пайдалану сияқты қауіпті аспектілерін бақылауды қалайтынымен, Еуропаның жеке ауласындағы көптеген қолданбалар оны қалай қауіпсіз және тиімді пайдалануға болатынын көрсетеді. Facebook олардан үлгі ала ала ма?

Келесі буын әлеуметтік медиа қолданбалары AI инновациясын қолдану арқылы өз белгісін жасайды

Әсіресе бір еуропалық қолданба жас пайдаланушыларға қауіпсіз және жағымды тәжірибені қамтамасыз ету үшін жасанды интеллектті шығармашылық түрде пайдаланды. 13-25 жас аралығындағы тікелей трансляцияға арналған Yubo қолданбасы платформада өзінің 20 миллион пайдаланушысын қауіпсіз ұстау үшін күрделі алгоритмдер мен жастарды онлайн зияны туралы оқыту арасындағы теңгерімге сүйенеді. Мұқият үйретілген алгоритм тікелей эфирде жалаңаштану немесе іш киіміндегі біреу сияқты проблемалық мазмұнды анықтайды — дәл сол кезде Юбоның нақты уақыттағы араласу жүйесі іске қосылып, пайдаланушыларға мұндай әрекеттің неліктен жағымсыз екенін түсіндіретін ескерту хабарламасын жібереді. Пайдаланушы өз әрекетін түзетпесе, ағынды қашықтан өшіруге болады.

Қолданбаның жасөспірімдер мен жасөспірімдерге арналғанына көз жеткізу үшін, сонымен бірге, Yubo британдық танымал сандық сәйкестендіру провайдерімен, Yoti-мен серіктес болды, ол жүктеп салынған жеке басын куәландыратын құжаттарды тұлғаны тану бағдарламалық құралы арқылы пайдаланушының селфилеріне сәйкестендіреді. 18 жасқа толмағандардың темекі немесе алкоголь сияқты шектеулі тауарларды сатып алмайтынына көз жеткізу үшін супермаркеттерде де қолданылып жатқан Йоти технологиясын басқа әлеуметтік медиа қолданбалары қауымдастығын «қартаю» үшін немесе пайдаланушылардың олар кім дейді.

Юбоның компьютерлік модерацияны жас пайдаланушыларды жақсы онлайн хаттаманың не істеу керек және не істеуге болмайтыны туралы сезінумен үйлестіру арқылы проблемалы онлайн мазмұнды түйіндеуге тырысуы технологиялық секторда үлкен серпіліс туғызды. Олар сондай-ақ Facebook сияқты технологиялық алпауыттарға да, Еуропалық Одақ сияқты реттеушілерге де әлеуметтік медиа платформалары AI-ға немесе адамның бақылауына тым тәуелді болу арасында салауатты тепе-теңдікті сақтай алатынын жігерлендіретін мысал келтіруі керек.

Жасанды интеллект әлеуметтік медиа платформаларында кездесетін қиындықтардың бәрін емдейтін құрал емес. Facebook ЕО-ны өзінің мазмұнын модерациялай алатынына сендіруге тырысқанымен, ол өз пайдаланушыларының қауіпсіздігін сақтау үшін AI біріктіретін тұтас стратегияны әзірлей алған жаңа буын қолданбаларынан үлгі алу арқылы жақсы қызмет етеді. .

Бұл мақаланы бөлісіңіз: