Искусственный цензор в действии, или Как Facebook с российской фабрикой троллей боролся | Последние новости сегодня в мире



Искусственный цензор в действии, или Как Facebook с российской фабрикой троллей боролся
Искусственный цензор в действии, или Как Facebook с российской фабрикой троллей боролся
Что это такое? Самая популярная в мире социальная сеть Facebook обнародовала свой первый в этом году квартальный отчет по модерации контента (Moderation Report), в котором рассказала, сколько и каких фальшивых аккаунтов и недозволенных публикаций было уничтожено. После громких скандалов с российскими "ботофермами", которые через эту сеть влияли на выборы в Америке и европейских странах, после показательной "экзекуции", которую пришлось выдержать Марку Цукербергу в стенах Капитолия – Facebook остро нуждается в демонстрации "антиспамовой" активности. По его данным, только в течение трех первых месяцев 2018 года были введены меры против 1,5 миллиардов сообщений и аккаунтов по подозрению в нарушении правил использования Facebook. Из отчета следует, что большая часть запретов и удалений была направлена против спамовых рассылок и фальшивых аккаунтов (Fake-Accounts). "Электронный цензор" в действии Каков же результат этой бурной деятельности? По информации Facebook, которую приводит, в частности, британское издание The Guardian, было удалено 837 миллионов спам-сообщений. Также было уничтожено 583 миллиона фальшивых аккаунтов. Кроме того, под удаление подпали: 2,5 миллиона сообщений, якобы направленных на так называемую "пропаганду ненависти", 1,9 миллиона сообщений, расцененных, как "террористическая пропаганда", 3,4 миллиона сообщений, которые распространяли насильственные призывы и 21 миллион статей, которые содержали порнографию или недозволенные сексуальные действия. В то же время представители соцсети отметили, что некоторые категории нарушений – такие, как распространение детской порнографии, реальные угрозы насильственных преступлений, сообщения о самоубийстве, моббинг и прочее – не были посчитаны, поскольку их было слишком мало, чтобы повлиять на общую статистику. Кроме того, Facebook сообщил, что большая часть модерации осуществляется с помощью искусственного интеллекта – то есть автоматизировано. Алгоритмы, по его данным, помогли обнаружить 98,5% фиктивных учетных записей и почти 100% спама. С начала года искусственный интеллект распознал и удалил 583 млн фейковых аккаунтов в Facebook Победа на всех фронтах, не так ли? А за полгода все выглядит еще более позитивным: в Facebook утверждают, что в течение последних шести месяцев было удалено почти 1,3 млрд искусственных учетных записей (отметим, что общее количество аккаунтов в соцсети составляет приблизительно 2,2 млрд), причем 98% из них были перехвачены еще до того, как другие пользователи смогли их увидеть. За шесть месяцев было удалено почти 3 миллиона записей, которые содержали пропаганду терроризма. Это же касается других категорий. Просто-таки триумф искусственного "цензора". Боты, тролли и террористы убегают из сети, поджав хвосты, и все вроде бы становится спокойно... На самом же деле, стоит по крайней мере понимать, как именно трактует Facebook определение "содержание". Например, если сообщение содержит текст и, скажем, четыре фотографии под ним, то публикация расценивается, как пять "смыслов". Если, например, три из этих фотографий будут удалены – это значит три удаленных "смысла". Но, если удалить все сообщение, оно отражается в статистике, как только один "смысл". Таким образом, за первый квартал этого года было удалено 2,5 миллиона "содержаний", между тем 38% из этого количества Facebook распознал сам, с помощью так называемых "автоматических банхамеров" – программ, которые просматривают смыслы и в которые заложены ключевые "запрещенные" слова. Для сравнения: за последний квартал 2017 года таких "смыслов" оказалось 1,6 млн, из них 23,6% были замечены и удалены автоматически. То есть искусственный интеллект развивается и учится, но Facebook подчеркивает, что в случае с "пропагандой ненависти" его все равно постоянно контролируют люди, чтобы иметь возможность избегать ошибок, в соответствии с контекстом написанного. Эффект москаля Честно прошу прощения за страшное журналистское преступление, которое я только допустил, а именно – никогда не писать статью от первого лица, никогда не говорить "я" в материале. Поскольку лично считаю эту всю красивую статистику не стоящей "кошачьей бибки". Во-первых, потому что настоящие фейковые аккаунты, которые вредят – это активные учетные записи, в которых их "кукловоды" что-то пишут, кого-то критикуют, продвигают какие-то политические лозунги – такая у них работа. Поэтому, если "искусственный цензор" удаляет пустой "законсервированный" аккаунт – это, конечно, тоже полезная работа, но она является второстепенной и никак не влияет на вредную деятельность "ботоферм". Удаление "законсервированных" аккаунтов в Facebook нельзя считать эффективной борьбой с российской пропагандой в соцсети Во-вторых, человеческий контроль за автоматическими системами имеет последствия для рядовых корреспондентов. Не знаю, как в других странах, а украинцы об этом песни петь могут – традиционные, народные, те, которые начинаются на "Ой!". Потому что "люди, которые следят" за сообщениями украинцев из ирландского офиса, скорее всего – не только русскоязычные (то есть такие, которые считают, что "русский и украинский – одно и то же"), а еще и, так сказать, "российскоштамповые". Так считают, например, нормальное украинское слово "москаль" оскорблением по национальному признаку. Тот факт, что слово это означает русского солдата примерно так же, как "джи-ай" означает американского солдата, а "томми" – британского, им не известен, поэтому за упоминание, скажем, председателя Закарпатской ОГА Геннадия Москаля уже немало украинцев попало в бан. То же касается и цитирования речи Петра Порошенко, в которой он ссылался на стихи Владимира Маяковского: "Товарищ москаль! На Украину зубы не скаль!". Если, например, вынести слово "москаль" в заголовке этой статьи – ссылку на нее, наверное, тоже нельзя будет разместить в Facebook, независимо от того, какой в ней смысл. С легкой руки этих "знатоков" несчастный москаль попал к автоматический фэйсбучный банхамер и начал виртуально бить невинных людей не хуже москалей-"настамнетов" на Донетчине и Луганщине. Таких примеров можно привести множество и, судя по тому, как неэффективно и даже вредно работает этот "искусственный интеллект" в украинском сегменте Facebook – можно экстраполировать эту неэффективность на сегменты других стран и других языков. Эту систему нужно еще долго совершенствовать и доводить до ума, прежде чем испытывать ее на аккаунтах пользователей. В то же время уже сама мысль о том, что кто-то модернизирует "электронного цензора" в социальных медиа, вызывает немалое беспокойство. Еще Альберт Эйнштейн призывал ученых "быть ответственными за свои открытия", а разработка такой цензорной машинерии – вещь крайне опасная.  
    2018-05-16 19:30:34


Надеюсь вернуться домой: Юлия Скрипаль дала первое интервью после отравления
Надеюсь вернуться домой: Юлия Скрипаль дала первое интервью после отравления
Она отказалась от предложенной российским посольством помощи
    2018-05-23 20:30:05


Зверское убийство в России: банда сопляков держала в страхе весь поселок
Зверское убийство в России: банда сопляков держала в страхе весь поселок
В России 13 мая произошло зверское убийство. Наталью Дмитриеву, мать пяти детей, возвращавшуюся вечером домой, сначала били, потом насиловали, потом..
    2018-05-23 19:30:06


Символ мощи США. F-35 впервые испытали в бою
Символ мощи США. F-35 впервые испытали в бою
Речь идет о миллионах гривен
    2018-05-23 18:30:06


Символ мощи США. F-35 впервые испытали в бою
Символ мощи США. F-35 впервые испытали в бою
Израиль раньше американцев испытал в бою истребитель-бомбардировщик пятого поколения F-35. Самолеты применили в операциях на Ближнем Востоке.
    2018-05-23 18:30:02


Раскол между Западом и Востоком. Что не так с ЕС
Раскол между Западом и Востоком. Что не так с ЕС
OBOZREVATEL озвучил прогноз для всех знаков Зодиака
    2018-05-23 18:00:07


Что еще могут запретить в России?
Что еще могут запретить в России?
То есть люди не просто злые, они еще и глупые и не понимают, что такое невозможно
    2018-05-23 17:30:05


Шпионский скандал: в Беларуси суд дал украинскому журналисту 8 лет
Шпионский скандал: в Беларуси суд дал украинскому журналисту 8 лет
Украинец находится в СИЗО КГБ с конца 2017 года
    2018-05-23 17:00:12


Is the Trump administration losing the China trade war?
Is the Trump administration losing the China trade war?
The president prides himself on his deal-making, but the Chinese are claiming the upper hand.
    2018-05-23 16:31:30


Ради всех политзаключенных в России
Ради всех политзаключенных в России
Аэропорт планирует это сделать до начала летнего сезона-2019
    2018-05-23 16:30:06


Ради всех политзаключенных в России
Ради всех политзаключенных в России
Вы не верите в невиновность Сенцова? - почитайте внимательно о его деле. Вы боитесь? - а не надо ничего бояться, одиночные пикеты разрешены Законом РФ
    2018-05-23 16:30:05


Было бы оптимально: на росТВ предложили сделать Украину частью Польши
Было бы оптимально: на росТВ предложили сделать Украину частью Польши
Актриса вышла в свет в роскошном наряде от Zac Posen
    2018-05-23 16:00:19


Было бы оптимально: на росТВ предложили сделать Украину частью Польши
Было бы оптимально: на росТВ предложили сделать Украину частью Польши
Кроме того, он заявил о территориальных претензиях к еще двум странам
    2018-05-23 16:00:14


Очередная победа над супостатом: принято решение убивать своих
Очередная победа над супостатом: принято решение убивать своих
Сливочных поселят в самом сердце столицы Украины
    2018-05-23 15:30:10


Очередная победа над супостатом: принято решение убивать своих
Очередная победа над супостатом: принято решение убивать своих
Россия не может прекратить экспорт углеводородов, потому что умрет, ибо своей экономики у неё нет. Поэтому Россия пошла испытанным путём устрашения
    2018-05-23 15:30:05


Раскол между Западом и Востоком. Что не так с ЕС
Раскол между Западом и Востоком. Что не так с ЕС
Со стороны стран Западной Европы все чаще звучат обвинения в адрес восточных соседей в том, что они подрывают устои ЕС.
    2018-05-23 15:30:02


Освобождение Сенцова: в РФ рассказали об уступках Кремля
Освобождение Сенцова: в РФ рассказали об уступках Кремля
С Москвой нужно разговаривать языком ультиматумов
    2018-05-23 13:30:05

Что будем читать?

Список новостей
Прокрутить вверх