JokerSmoker

Перевод статьи с VICE. Оригинал

Аноним в китайской социальной сети Weibo утверждает, что использовал распознавание лиц на фотографии женщин в социальных сетях для поиска схожести с лицами в видео на платформах для взрослых, таких как Pornhub.
В сообщении на Weibo, опубликованном в понедельник, пользователь, который говорит, что находится в Германии, заявил, что «успешно выявил более 100 000 молодых девушек» в индустрии для взрослых «по всей Земле».
Для ясности, пользователь не опубликовал никаких доказательств того, что он действительно мог это сделать, и не опубликовал ни кода, ни баз данных, ни чего-либо еще, кроме пустой страницы GitLab. Когда издание Motherboard связалось с пользователем через чат Weibo, он сказал, что их группа выпустит «схему базы данных» и «технические детали» на следующей неделе, и не стал комментировать дальше.
Тем не менее, его пост стал вирусным как в Китае на Weibo, так и в Соединенных Штатах в Twitter после того, как кандидат в политологи из Стэнфорда написал в Твиттере переводы, которые Motherboard проверила самостоятельно. Это привело к тому, что видные активисты и ученые обсуждали потенциальные последствия использования технологии.
Согласно сообщениям Weibo, пользователь и некоторые из его друзей программистов используют распознавание лиц для обнаружения их в порно, используя фотографии из социальных платформ. Он написал, что в качестве аргумента для своей программы он назвал «иметь право знать об обеих сторонах брака». После публичного протеста активистов он позже заявил, что он намеревался разрешить женщинам проверять, находятся ли они на порносайтах и отправить запрос о нарушении авторских прав.
Даниэль Ситрон, профессор права в Университете штата Мэриленд, изучавший последствия подделок с использованием ИИ, также написала в Твиттере об этом посте на Weibo. «Это ужасная идея - наблюдение и контроль за женскими телами выведены на новый уровень», - написала она.
«То, что он сделал, теоретически возможно для человека, обладающего достаточным количеством знаний в области машинного обучения и программирования, при условии достаточного времени и вычислительной мощности.
Возможность создания базы данных таких лиц и использования распознавания лиц для выявления женщин в видео уже некоторое время находится в пределах технологических возможностей пользовательских технологий.

В 2017 году Pornhub с гордостью объявил о новых функциях распознавания лиц, которые, по его утверждению, облегчат пользователям поиск их любимых звезд. В свою очередь, теперь теоретически проще для злоумышленников или преследователей найти свои цели.
В 2018 году онлайн-тролли начали собирать базы данных о секс-работниках, чтобы угрожать им. Эта кампания преследования имела реальные жизненные последствия: некоторые секс-работники закрыли свои платежные системы или платформы социальных сетей.
То, что этот программист с Weibo утверждает, что создал подобную систему, является комбинацией этих двух идей: женоненавистническая, оскорбительная попытка управлять женщинами. Является ли это реальным или нет, оно представляет темные пути, по которым технологии машинного обучения - и некоторая социальная токсичность - привели нас.»