Управлява ли Фейсбук чудовището, което създаде

Кой и как модерира съдържанието във Фейсбук? По какви правила се блокират потребители и се трият постове? И въобще успява ли компанията Мета да управлява чудовището, която сама създаде? Тези въпроси задават милиони потребители по света, а отговорите остават незадоволителни.

Публикация на американското издание The Wire хвърля поглед върху един слабо известен фактор в модерацията на социалната мрежа - т.нар. Надзорен съвет (Facebook Oversight Board). Неговата основна задача е да работи за прозрачност и ясни правила в полза на потребителите. Макар и финансиран от Фейсбук, съветът (или бордът) е външен орган, който гледа проблемни казуси и ги предлага на вниманието на компанията собственик "Мета". Тя, от своя страна, може да ги вземе предвид или не, и съответно да промени политиките си.

Главният изпълнителен директор на Meta (тогава Facebook) Марк Зукърбърг одобрява създаването на съвета през ноември 2018 г., малко след среща с професора от Харвардското юридическо училище Ноа Фелдман, който предлага създаването на квазисъдебна власт във Фейсбук. Първоначално Зукърбърг го описва като своеобразен "Върховен съд", предвид ролята му в уреждането на спорове, преговорите и медиацията, включително правомощието да отменя решения на компанията. През май 2020 г. бяха обявени 20-те учредители на съвета. В него влизат бивши политически лидери, Нобелов лауреат, носители на "Пулицър", университетски преподаватели, адвокати и др. Бордът официално започна работа на 22 октомври 2020 г. и издаде първите си пет решения на 28 януари 2021 г., като четири от тях отмениха действията на Фейсбук по отношение на обжалваните въпроси. Бордът беше обект на значителни медийни спекулации, особено след решението на социалната мрежа да свали постове на Доналд Тръмп за нападението над Капитолия в САЩ през 2021 г.

Успехите на борда досега са променливи, констатира The Wire и разказва някои показателни случаи.

Случаят Тръмп

Eдин от първите големи тестове за борда идва малко след създаването му - с нахлуването в Капитолия на 6 януари 2021 г., когато президентът Доналд Тръмп "благославя" демонстрантите в профилите си във Фейсбук и Инстаграм. Постовете бързо са свалени по решение на компанията, като едновременно с това тя се обръща към борда за становище.

"Беше много, много просто решение. Само си представете да не се бяхме обърнали към тях. Хората щяха да кажат: "Създадохте Надзорен съвет, а дори не споделяте с тях тази дилема - какво да правите с бившия президент на най-мощната демокрация в света", коментира Ник Клег, тогава вицепрезидент на Фейсбук и бивш вицепремиер на Великобритания.

За борда обаче решението е рисковано - от една страна, тръмпистите обвиняват социалната мрежа в цензура. Анти-тръмпистите пък са недоволни, че не е заложена постоянна забрана на акаунтите на Доналд Тръмп. И че няма яснота докога ще важи забраната. Становището излиза след месеци - и подкрепя решението на Фейсбук да свали постовете. Но едновременно с това бордът настоява компанията да определи по-ясни условия за политиките си, а не да взема решения "на парче" и "в движение".

Без ясно стандарти за блокиране, компанията подвежда публиката, посочва The Wire. "Фейсбук избяга от отговорност", коментира по този повод съпредседателят на борда Хеле Торнинг-Шмит, бивш премиер на Дания.

В по-нататъшната си работа бордът често акцентира върху липсата на прозрачност в правилата. Затова се съсредоточава в подбор на казуси, които имат ефект върху големи групи хора. "Цялата игра е в подбора на казусите", казва Никълъс Сюзор, професор по право от Австралия и член на Надзорния съвет. За тази селекция бордът разполага с комитет и персонал, който преглежда хиляди сигнали и подбира най-значимите.

Случаят Йоджалан

Така през април 2021 г. комитетът се спира на случая с Абдула Йоджалан, един от основателите на Кюрдската работническа партия (ПКК), която Фейсбук определя като "опасна организация". Йоджалан е изпратен в турски затворнически остров в пълна изолация. Няколко месеца преди това американски потребител задава в Инстаграм (също собственост на "Мета") въпроса "Готови ли сте за този разговор?". Постът подканя хората да коментират условията за затворниците там и е придружен от снимка на Йоджалан. Социалната мрежа премахва публикацията, защото забранява подкрепата за хора от опасни организации. Този пост обаче не е такъв, пише The Wire. Според члена на борда Джули Оуоно, изпълнителен директор на "Интернет без граници", така излиза, че има организация, за която не може да се говори. Тя критикува Фейсбук, че прилага произволни решения.

Когато екипът на Мета започва да проучва случая, търси информация и в частните бази данни на Фейсбук, разкрива The Wire. Запазени там файлове изваждат наяве един неудобен детайл: публикации за изпращането на Йоджалан в затвора е имало и преди това. Компанията дори въвела специална политика, която позволява постове от потребители, застъпващи се за хуманно отношение, но самите те не са поддръжници на ПКК. Тази инструкция от 2017 г. никога не била съобщена публично. Очевидно е била забравена и вътре в компанията, тъй като по-късно рутинно са сваляни постове за условията, в които лежи Абдула Йоджалан. Така Фейсбук нарушава собствените си правила. "Когато научих за това противоречие, си казах, че тъкмо затова съм в борда", казва Джули Оуоно.

Цитирайки тези критики на борда, "Мета" обяви през лятото, че създава група за обслужване на потребителски сигнали, която ще разяснява защо са свалени и блокирани постове.

Според Джамал Грийн, член на Надзорния съвет, сега "Мета" действа по-прозрачно по отношение на политиката за съдържанието. 

Ник Клег говори със суперлативи за този прогрес, но членовете на борда все още коментират предпазливо успехите му. Според Сюзан Носел, която освен член на борда е и изпълнителен директор на PEN America, съветът тъкмо започва същинската си работа. 

Здравна кампания или голи снимки

Друг знаков случай осветлява сериозния проблем с алгоритмите. През януари 2021 г. Инстаграм потребителка от Бразилия пуска в профила си снимка на гърдите си след операция от рак на гърдата - с идеята да започне информационна кампания за жените с тази диагноза. Алгоритъмът на социалната мрежа обаче е трениран да трие снимки с голи гърди и постът е свален. Случаят стига до борда и Фейсбук се съгласява да прегледа ръчно публикацията. Голота с цел здравно-информационна кампания не противоречи на правилата на Инстаграм и постът е възстановен. Компанията казва да борда да затвори случая. Членовете обаче отказват. Посланието им е, че макар да разглеждат конкретни казуси, истинската им задача е политиката за правилата - т.е. промяната на на "Мета". В мотивите си те пишат, че постът правилно е бил възстановен, но и че на пръв поглед  тривиален и лесно поправим казус разкрива по-голям проблем: компанията разчита твърде много на алгоритмите. В случая те не са отчели португалската дума за "рак на гърдата". Така премахването на поста повдига опасения за нарушаване на човешки права. Препоръката е всеки път, когато потребител изпрати жалба срещу решение на изкуствения интелект, случаят да бъде разгледан от служител модератор. Компанията обаче не взема предвид препоръката. И до днес потребителите на Файсбук и Инстаграм нямат гаранция, че когато бот блокира техни постове, казусът ще бъде разгледан от човек. Бордът смята, че социалните платформи трябва да третират потребителите си като човешки същества, защото залогът са човешките права.

Бордът е голямата възможност за "Фейсбук" да промени начина, по който "Голиатът на интернет" се отнася към правото на свобода на словото на милиарди потребители. Начинът, по който социалните мрежи се модерират, може да изглежда произволен и в техен интерес, коментира публикацията. Несъвършените алгоритми и армиите от недостатъчно обучени, преуморени модератори понякога вземат решения, променящи животи. Хората подават милиони жалби всеки месец, ровят в линковете за помощ при проблем, спорят с ботове и често накрая се отказват - отчаяни и разочаровани.

"Платформата не е проектирана с оглед на принципите, а с оглед на обхвата", казва Джамал Грийн.

Колкото по-дълбоко навлиза в работата, толкова повече бордът се сблъсква със стените на това, което "Мета" би позволила.

Сигнали и жалби могат да се подават до страницата на борда.