Искусственный цензор в действии, или Как Facebook с российской фабрикой троллей боролся | Последние новости сегодня в мире



Искусственный цензор в действии, или Как Facebook с российской фабрикой троллей боролся
Искусственный цензор в действии, или Как Facebook с российской фабрикой троллей боролся
Что это такое? Самая популярная в мире социальная сеть Facebook обнародовала свой первый в этом году квартальный отчет по модерации контента (Moderation Report), в котором рассказала, сколько и каких фальшивых аккаунтов и недозволенных публикаций было уничтожено. После громких скандалов с российскими "ботофермами", которые через эту сеть влияли на выборы в Америке и европейских странах, после показательной "экзекуции", которую пришлось выдержать Марку Цукербергу в стенах Капитолия – Facebook остро нуждается в демонстрации "антиспамовой" активности. По его данным, только в течение трех первых месяцев 2018 года были введены меры против 1,5 миллиардов сообщений и аккаунтов по подозрению в нарушении правил использования Facebook. Из отчета следует, что большая часть запретов и удалений была направлена против спамовых рассылок и фальшивых аккаунтов (Fake-Accounts). "Электронный цензор" в действии Каков же результат этой бурной деятельности? По информации Facebook, которую приводит, в частности, британское издание The Guardian, было удалено 837 миллионов спам-сообщений. Также было уничтожено 583 миллиона фальшивых аккаунтов. Кроме того, под удаление подпали: 2,5 миллиона сообщений, якобы направленных на так называемую "пропаганду ненависти", 1,9 миллиона сообщений, расцененных, как "террористическая пропаганда", 3,4 миллиона сообщений, которые распространяли насильственные призывы и 21 миллион статей, которые содержали порнографию или недозволенные сексуальные действия. В то же время представители соцсети отметили, что некоторые категории нарушений – такие, как распространение детской порнографии, реальные угрозы насильственных преступлений, сообщения о самоубийстве, моббинг и прочее – не были посчитаны, поскольку их было слишком мало, чтобы повлиять на общую статистику. Кроме того, Facebook сообщил, что большая часть модерации осуществляется с помощью искусственного интеллекта – то есть автоматизировано. Алгоритмы, по его данным, помогли обнаружить 98,5% фиктивных учетных записей и почти 100% спама. С начала года искусственный интеллект распознал и удалил 583 млн фейковых аккаунтов в Facebook Победа на всех фронтах, не так ли? А за полгода все выглядит еще более позитивным: в Facebook утверждают, что в течение последних шести месяцев было удалено почти 1,3 млрд искусственных учетных записей (отметим, что общее количество аккаунтов в соцсети составляет приблизительно 2,2 млрд), причем 98% из них были перехвачены еще до того, как другие пользователи смогли их увидеть. За шесть месяцев было удалено почти 3 миллиона записей, которые содержали пропаганду терроризма. Это же касается других категорий. Просто-таки триумф искусственного "цензора". Боты, тролли и террористы убегают из сети, поджав хвосты, и все вроде бы становится спокойно... На самом же деле, стоит по крайней мере понимать, как именно трактует Facebook определение "содержание". Например, если сообщение содержит текст и, скажем, четыре фотографии под ним, то публикация расценивается, как пять "смыслов". Если, например, три из этих фотографий будут удалены – это значит три удаленных "смысла". Но, если удалить все сообщение, оно отражается в статистике, как только один "смысл". Таким образом, за первый квартал этого года было удалено 2,5 миллиона "содержаний", между тем 38% из этого количества Facebook распознал сам, с помощью так называемых "автоматических банхамеров" – программ, которые просматривают смыслы и в которые заложены ключевые "запрещенные" слова. Для сравнения: за последний квартал 2017 года таких "смыслов" оказалось 1,6 млн, из них 23,6% были замечены и удалены автоматически. То есть искусственный интеллект развивается и учится, но Facebook подчеркивает, что в случае с "пропагандой ненависти" его все равно постоянно контролируют люди, чтобы иметь возможность избегать ошибок, в соответствии с контекстом написанного. Эффект москаля Честно прошу прощения за страшное журналистское преступление, которое я только допустил, а именно – никогда не писать статью от первого лица, никогда не говорить "я" в материале. Поскольку лично считаю эту всю красивую статистику не стоящей "кошачьей бибки". Во-первых, потому что настоящие фейковые аккаунты, которые вредят – это активные учетные записи, в которых их "кукловоды" что-то пишут, кого-то критикуют, продвигают какие-то политические лозунги – такая у них работа. Поэтому, если "искусственный цензор" удаляет пустой "законсервированный" аккаунт – это, конечно, тоже полезная работа, но она является второстепенной и никак не влияет на вредную деятельность "ботоферм". Удаление "законсервированных" аккаунтов в Facebook нельзя считать эффективной борьбой с российской пропагандой в соцсети Во-вторых, человеческий контроль за автоматическими системами имеет последствия для рядовых корреспондентов. Не знаю, как в других странах, а украинцы об этом песни петь могут – традиционные, народные, те, которые начинаются на "Ой!". Потому что "люди, которые следят" за сообщениями украинцев из ирландского офиса, скорее всего – не только русскоязычные (то есть такие, которые считают, что "русский и украинский – одно и то же"), а еще и, так сказать, "российскоштамповые". Так считают, например, нормальное украинское слово "москаль" оскорблением по национальному признаку. Тот факт, что слово это означает русского солдата примерно так же, как "джи-ай" означает американского солдата, а "томми" – британского, им не известен, поэтому за упоминание, скажем, председателя Закарпатской ОГА Геннадия Москаля уже немало украинцев попало в бан. То же касается и цитирования речи Петра Порошенко, в которой он ссылался на стихи Владимира Маяковского: "Товарищ москаль! На Украину зубы не скаль!". Если, например, вынести слово "москаль" в заголовке этой статьи – ссылку на нее, наверное, тоже нельзя будет разместить в Facebook, независимо от того, какой в ней смысл. С легкой руки этих "знатоков" несчастный москаль попал к автоматический фэйсбучный банхамер и начал виртуально бить невинных людей не хуже москалей-"настамнетов" на Донетчине и Луганщине. Таких примеров можно привести множество и, судя по тому, как неэффективно и даже вредно работает этот "искусственный интеллект" в украинском сегменте Facebook – можно экстраполировать эту неэффективность на сегменты других стран и других языков. Эту систему нужно еще долго совершенствовать и доводить до ума, прежде чем испытывать ее на аккаунтах пользователей. В то же время уже сама мысль о том, что кто-то модернизирует "электронного цензора" в социальных медиа, вызывает немалое беспокойство. Еще Альберт Эйнштейн призывал ученых "быть ответственными за свои открытия", а разработка такой цензорной машинерии – вещь крайне опасная.  
    2018-05-16 19:30:34


Turkey migrants: Lorry crash in Izmir kills 22
Turkey migrants: Lorry crash in Izmir kills 22
The vehicle crashed through a barrier in western Izmir province and plunged 20m, state media say.
    2018-10-15 02:30:35


Трамп заявил, что Обама упустил часть Украины
Трамп заявил, что Обама  упустил  часть Украины
Американский лидер подчеркнул, что в отличие от своего предшественника Барака Обамы он передал Киеву оружие.
    2018-10-15 02:00:03

Что будем читать?

Список новостей
Прокрутить вверх