Работает ли отравление данных? | Популярная наука

Вы больше, чем точка данных. Функция отказа здесь, чтобы помочь вам вернуть вашу конфиденциальность.

АЛГОРИТМЫ это то, что они едят. Эти сложные фрагменты кода нуждаются в питании, чтобы функционировать и выполнять точную работу, и когда они не получают достаточного количества байтов данных хорошего качества, они начинают бороться и терпят неудачу.

Я столкнулся с истощенным алгоритмом, когда посмотрел на свой Spotify Wrapped 2022 года и увидел, что моим любимым исполнителем была Свинка Пеппа. Я нахмурился, озадаченный. Почему Spotify решил, что мультяшный поросенок стал моей последней страстью? Затем я вспомнил, что провел неделю со своей двухлетней племянницей летом, и что воспроизведение песен Свинки Пеппы на моем телефоне было единственным способом развлечь ее.

Что ж, это имело больше смысла.

Но вскоре я понял, что этот маленький поросенок напортачил даже больше, чем мой отчет за год: мой алгоритм рекомендаций тоже был в беспорядке. В течение нескольких недель по крайней мере один из четырех плейлистов Daily Mix, которые платформа собирала для меня, включал сборники музыки для детей.

Это раздражало, но я задавался вопросом, была ли одержимость моей племянницы на самом деле полезным способом нанести ошеломляющий удар по детальному профилю технологических компаний, который есть у каждого из нас. В конце концов, если Spotify, Instagram, Google или любая другая платформа подумают, что я тот, кем я не являюсь, они будут показывать мне рекламу, которая имеет отношение к этой фальшивой версии меня, но не к реальной мне. И если они предоставят мои данные третьей стороне, например брокеру данных, они передадут им детали, описывающие кого-то, кто не существует, с моими истинными симпатиями и интересами, похороненными в горе песен Свинки Пеппы. Использование этой ошибочной личности в качестве оружия может помочь нам скрыться на виду и, как следствие, защитить нашу конфиденциальность.

Камуфляжный костюм, сделанный из плохих данных

Скармливание алгоритмам в вашей жизни плохих данных называется отравление данных или запутываниеи это метод, целью которого является скрыть вашу истинную личность путем создания большого количества неточной информации. Эта концепция относится к синхронизированным атакам, которые намеренно стремятся стереть или изменить наборы данных, лежащие в основе алгоритмов платформы, чтобы сделать их неэффективными и выйти из строя. Это требует определенных навыков и знаний, а также много вычислительной мощности.

У вас может не быть ничего из этого, но вы можете использовать тот же принцип, чтобы защитить себя от постоянной слежки в Интернете. Изображения, которые вы видите, посты, которые вам нравятся, видео, которые вы воспроизводите, песни, которые слушаете, и места, где вы регистрируетесь, — это все данные, которые платформы собирают и используют для создания вашего профиля. Их цель — понять вас как можно лучше (лучше, чем вы сами себя знаете), чтобы они могли предсказать, чего вы хотите и что вам нужно. Технологические компании и рекламодатели, конечно, делают это не из альтруистических побуждений, а для того, чтобы показать нам рекламу, которая, как они надеются, заставит нас тратить деньги или заставит нас чувствовать или голосовать определенным образом.

Самый простой способ заняться подделкой данных — использовать при подписке на услугу имя, пол, местоположение и дату рождения, которые не являются вашими. Чтобы выйти за рамки этого базового уровня, вы можете лайкать публикации, которые вам на самом деле не нравятся, случайно нажимать на рекламу, которая вас не интересует, или воспроизводить контент (видео, музыку, фильмы и т. д.), который вам не по вкусу. Для последнего из этих вариантов просто нажмите кнопку воспроизведения на любой платформе, которую вы используете, выключите экран, убавьте громкость и оставьте игру работать на ночь. Если вы хотите отключить YouTube, воспользуйтесь функцией автозапуска и позвольте сайту часами погружаться в кроличью нору контента, пока вы спите или работаете. Наконец, всякий раз, когда вам нужно ответить на вопрос, например, почему вы возвращаете товар, купленный в Интернете, используйте «другое» в качестве ответа по умолчанию и напишите все, что хотите, в качестве причины.

Где отравление данных может потерпеть неудачу

Если все это звучит слишком просто, вы правы: есть некоторые предостережения. Использование поддельной информации при подписке на что-либо может быть бессмысленным, если платформа создает и уточняет ваш профиль путем агрегирования многочисленных точек данных. Например, если вы говорите, что находитесь в Калифорнии, но читаете местные новости из Висконсина, указываете свое место работы в Милуоки и отмечаете свою фотографию на берегу озера Мичиган, базовое предположение платформы о том, что вы живете в Золотом штате, не будет верным. Это не имеет большого значения. То же самое произойдет, если вы скажете, что родились в 1920 году, но вам нравится контент и хэштеги, обычно связанные с поколением Z. Давайте посмотрим правде в глаза: вполне вероятно, что 82-летний человек является огромным Блэкпинк фанат, но это маловероятно. Кроме того, существует риск того, что служба или сайт потребуют от вас предоставить настоящую идентификацию, если вас когда-нибудь заблокируют или взломают.

Воспроизведение контента, который вас не интересует, пока вы спите, может нарушить работу алгоритмов рекомендаций на любой платформе, которую вы используете, но для этого также потребуются ресурсы, которых у вас может не быть в вашем распоряжении. Вам понадобится устройство, потребляющее электроэнергию часами подряд, и неограниченное подключение к Интернету, достаточно быстрое, чтобы транслировать все, что проходит через трубки. Вмешательство в алгоритмы также портит ваш пользовательский опыт. Если вы зависите от Netflix, который расскажет вам, что вы смотрите дальше, или от Instagram, который будет держать вас в курсе новых модных тенденций, вам вряд ли понравится то, что появляется, если платформа на самом деле не знает, что вас интересует. даже испортите вам все приложение — просто подумайте, что произойдет, если вы начнете проводить пальцем влево и отклонять всех людей, которые вам действительно нравятся в приложении для знакомств.

Кроме того, так же, как употребление одного салата не сделает вас здоровым, ваши схемы отравления данными должны быть постоянными, чтобы произвести длительное впечатление. Недостаточно нажать на пару неинтересных рекламных объявлений тут и там и надеяться, что этого будет достаточно, чтобы вывести из строя алгоритм — вам нужно делать это неоднократно, чтобы усилить этот аспект вашего фейкового профиля. Вы, наверное, заметили, что после просмотра интернет-магазина и просмотра интересующего вас бренда или продукта на каждом посещенном вами веб-сайте реклама со временем заменялась другими. Это связано с тем, что онлайн-реклама циклична, что имеет смысл, поскольку человеческий интерес приходит и уходит.

Но самым большим предостережением является неопределенность: мы просто не знаем, какой ущерб мы наносим компаниям, занимающимся информационными технологиями, и рекламодателям, которые собирают от нас данные. Исследования показывают, что отравление минимального количества данных (от 1 до 3 процентов) может существенно повлиять на производительность алгоритма, который пытается выяснить, что вам нужно. Это означает, что даже нажатие на небольшой процент неинтересной рекламы может побудить алгоритм поместить вас в неправильную категорию и предположить, например, что вы являетесь родителем, хотя на самом деле это не так. Но это только оценки. Инженеры Google, Facebook и других крупных онлайн-платформ постоянно обновляют свои алгоритмы, что делает их постоянно меняющейся мишенью. Не говоря уже о том, что этот код является проприетарным, поэтому на эти компании работают единственные люди, которые точно знают, насколько эффективно отравление данных, и маловероятно, что они раскроют свою уязвимость к этой технике. Например, в случае с AdSense от Google рекламодатели платят за клик, и если бы они знали, что их деньги идут на оплату фальшивых кликов (даже нескольких), это могло бы поставить под угрозу полномочия Google по охвату аудитории и продаже продуктов.

Имеет ли это значение?

Не зная, действительно ли искажение ваших данных помогает защитить вашу конфиденциальность, вы можете подумать, что нет смысла пытаться. Но не все потеряно. Неофициальные данные — мой Spotify Wrapped, иногда дурацкие рекомендации YouTube, иногда сбивающие с толку предложения Netflix по жанрам и реклама, которая думает, что вы заинтересованы в покупке продукта, потому что вы случайно нажали на что-то, — ясно дают понять, что платформы не застрахованы от нашей белой лжи. и плохие данные не безобидны. Также есть очень показательный эксперимент исследователи конфиденциальности Хелен Ниссенбаум и Ли МакГиган из Корнеллского технологического института доказали, что AdNouseamрасширение, запрещенное в Chrome Store, которое автоматически нажимает на все объявления на странице, чтобы отключить алгоритм профилирования Google, является эффективным, и что Большая G не может отличить настоящие клики от фальшивых.

Возможно, вам нужно прочитать это, чтобы поверить в это, но нам не обязательно выполнять все, что от нас требуют онлайн-платформы. Отравление данных не является ни нечестным, ни неэтичным. Это мы, пользователи, пытаемся вернуть нашу информацию любым возможным способом. Как сказал мне Джон Каллас, эксперт по компьютерной безопасности из Electronic Frontier Foundation, у нас нет морального обязательства отвечать на вопросы, которые технологические компании не имеют права задавать. Они уже собирают тысячи данных о каждом из нас — зачем им помогать?

В конце концов, не имеет значения, является ли отравление данных высокоэффективным или малоэффективным. Мы знаем, что это что-то делает. И в то время, когда компании не заботятся о наших интересах, а регулирование отстает на световые годы из-за миллиардов долларов, которые технологические компании тратят на лоббирование выборных должностных лиц, мы, пользователи, остаемся сами по себе. С таким же успехом мы могли бы использовать любую возможную стратегию, чтобы защитить себя от постоянного наблюдения.

Читайте больше историй PopSci+.