Дівчина подивилася 200 відео з в'язниці – побиття, зґвалтування

 

На Youtube з'явиться 10 тисяч модераторів

Із 1 січня наступного року в компанії Google почнуть працювати 10 тисяч людей. Їх наймають як модераторів найпопулярнішого у світі відеосервісу YouТube. Мають відсіяти записи й коментарі, що містять неприпустимий контент. Досі це виконували роботи

– За останній рік було кілька скандалів, пов'язаних із Youtube, – розповідає консультант із питань етики 37-річна Вайнона Еттлбі. – Спочатку виявили, що педофіли активно коментують ролики з дітьми. Блогери-діти їм відповідали. В Італії збоченець намагався призначити зустріч хлопчику, який знімав ролики з конструктором Lego. Потім на сотнях каналів з'явилися відео з пропагандою насилля, фашистських ідей. Деякі висіли понад рік. Частина рекламодавців відмовилися співпрацювати з сервісом.

Роботи видаляли відео після того, як отримували певну кількість скарг. Коли користувачі пишуть коментарі – робот сприймає це як активність на каналі. Ролики із сотнями обурень пропонувалися як популярні відео. Робот враховує тільки ключові слова. За запитом "Кен любить Барбі" було кілька сотень відео з імітацією сексу. Всі потрапляли у блок пропонованого відео, якщо дитина перед тим дивилася мультфільми про ляльку.

3-річній дитині показали ролик "Свинка Пеппа прощається з родичами". Там вона їх різала бензопилою. Дівчинка перед тим подивилася серію мультфільмів із Пеппою. Психолог надала висновки, що в дитини сильний переляк. Довелося виплатити компенсацію родині. Суму не розголошують, але вона немаленька. До того ж надали знижки на рекламу магазину іграшок, банер якого показували внизу відео.

У липні вирішили, що треба переглянути все, що є на сервісі. За найоптимістичнішими оцінками, роботи видалили 50–70 відсот­ків відео зі сценами насилля чи екстремістськими закликами.

Правила стануть значно суворіші. Людину можуть заблокувати на ресурсі, якщо вона залишала неприпустимі коментарі на кількох каналах. Ми відстежили понад 70 осіб, які розпалювали ненависть на ґрунті націоналізму чи ображали блогерів. Це – кропітка робота. Маємо бути впевнені, що людина не матиме підстав оскаржити рішення.

Модераторів наймають за кордоном. Кілька фірм в Індії і Філіппінах запропонували надати такі послуги. У США це було б надто дорого. Компанії довелося б платити коефіцієнт за психологічні ризики й наймати безкоштовного психотерапевта. Вирішили, що з працівниками за кордоном спілкуватимуться консультанти.

Я провела сім тригодинних семінарів для фірми в Індії. Точно визначили, що треба видаляти відео зі сценами вбивств, самогубств і сексу. Але кадри війни залишаємо. Під питанням – розправи терористів. Була версія, що так можуть когось убезпечити від вербування. І впізнати убивць. Неетичними є сцени, де крупним планом показують покійників. Але рада вирішила не видаляти ролики з похоронів чи відео з жертвами хімічної атаки в Сирії. Довго сперечалися щодо смішних випадків на похоронах. Вирішили залишити.

Перші два тижні мала консультувати групу з 10 людей. Шукали канали збоченців. Щодня 10 годин переглядали самогубства в прямому ефірі, сцени жорстокості. Хлопчина відшукав канал із роликами з місць злочинів. Купували їх у поліцейських.

У поліцію штату Юта повідомили про переслідування школярки. Її однокласники завели канал, де викладали образливі відео про неї. Ми зв'язалися з батьками дівчини. Проти переслідувачів відкрили справу в соціальній службі. Найактивнішого позбавили спортивної стипендії в коледжі.

22-річна дівчина з нашої команди подивилася 200 відео з в'язниці – побиття, зґвалтування. Увесь канал нам не дозволили закрити. Вона попросила перерву кілька днів. Каже, не може заснути. Часом відчуває напади агресії.

На каналі африканського терориста робот видалив сім відео через сцени насилля. В одному їх не було. Він оскаржив рішення. На канал повернули всі записи.

Основне завдання – захистити дітей. Є країни, де публікують відео з голими дітьми. Це треба заборонити. Фільтри для дитячого YouТube доведеться налаштовувати дуже жорстко. Закрили блогера, який погрожував дітям втратою рідних, якщо не випросять конкретну іграшку. Батьки замість скаржитися на канал – писали обурені коментарі. Цим піднімали його рейтинг – мав понад 300 тисяч переглядів. YouТube пропонував його новим глядачам.

Уже зрозуміло, що навіть 10 тисяч людей не зможуть впоратися з таким масивом інформації. З цією ж проблемою зіткнулися й соціальні мережі. Щоб навести лад, довелося б у десятки разів збільшити кількість модераторів та обмежити обсяг контенту. На це ніхто не погодиться, щоб не впали ціни на рекламу.

1300000000роликів виклали на відеосервісі Youtube за 12 років. За останні півроку 2 млн з них перевірили, чи не містять сцен насилля

300 годин відео публікують на сервісі Youtube щохвилини. Щодня його відвідують майже 30 млн користувачів

6,3 мільярда доларів заробляє щороку компанія Google на сервісі Youtube

×