22 декабря/ 2020
Как крупные технологические компании искажают наш дискурс?
Давно уже не секрет, что крупные технологии покупают и продают наши данные. Не является тайной и для чего: в основном, для рекламы. Но как манипулирование нашими данными стало влиять на наше поведение в интернете и общественный дискурс?
Задолго до пандемического кризиса было широко распространено беспокойство по поводу влияния технологий на качество нашего дискурса: от кампаний дезинформации до их влияния.
Это правда, что то, как мы разговариваем друг с другом и о мире, изменилось как и по форме (благодаря миграции дискурса на онлайн-платформы), так и по сути, будь то рост невербальных элементов в нашем письменном дискурсе (смайлики, мемы) или виды онлайн-преследований, выросших вместе с интернетом (кибер-харассмент и кибер-буллинг).
Распространенное объяснение изменения в нашем дискурсе: крупнейшие технологические платформы используют наблюдение, сбор данных и машинное обучение, чтобы манипулировать нами либо для увеличения «вовлеченности» (и, следовательно, количества просмотров страниц и доходов от рекламы), либо для того, чтобы убедить нас в чем-то: например, чтобы убедить нас купить то, чего мы не хотим, или поддержать политика, чьи взгляды нам несимпатичны.
Об этой манипуляции можно сказать просто: собирая много данных о нас и применяя к этим данным самомодифицирующиеся алгоритмы машинного обучения, большие технологии могут нацеливать нас на сообщения, которые ускользают от наших критических способностей, изменяя наше мнение благодаря своеобразному технологическому гипнозу.
Эта история берет начало в самой сути больших технологий. Маркетинговые обещания в сфере программной рекламы и целевого маркетинга (включая политический маркетинг) гарантируют потенциальным клиентам, что они могут покупать аудиторию для своих идей с помощью больших технологий, которые будут смешивать свои хранилища данных с машинным обучением и преодолевать нашу когнитивную защиту, чтобы превратить нас в клиентов для продуктов или идей. Мы всегда должны скептически относиться к маркетинговым заявлениям, потому что это коммерческая пустышка. Тот факт, что эти обещания убеждают маркетологов отдать миллиарды долларов крупным технологическим корпорациям, не является гарантией того, что обещания верны. В конце концов, влиятельные люди, принимающие решения в бизнесе, давно верят в то, что зачастую является ложным.
Это правда, что то, как мы разговариваем друг с другом и о мире, изменилось как и по форме (благодаря миграции дискурса на онлайн-платформы), так и по сути, будь то рост невербальных элементов в нашем письменном дискурсе (смайлики, мемы) или виды онлайн-преследований, выросших вместе с интернетом (кибер-харассмент и кибер-буллинг).
Распространенное объяснение изменения в нашем дискурсе: крупнейшие технологические платформы используют наблюдение, сбор данных и машинное обучение, чтобы манипулировать нами либо для увеличения «вовлеченности» (и, следовательно, количества просмотров страниц и доходов от рекламы), либо для того, чтобы убедить нас в чем-то: например, чтобы убедить нас купить то, чего мы не хотим, или поддержать политика, чьи взгляды нам несимпатичны.
Об этой манипуляции можно сказать просто: собирая много данных о нас и применяя к этим данным самомодифицирующиеся алгоритмы машинного обучения, большие технологии могут нацеливать нас на сообщения, которые ускользают от наших критических способностей, изменяя наше мнение благодаря своеобразному технологическому гипнозу.
Эта история берет начало в самой сути больших технологий. Маркетинговые обещания в сфере программной рекламы и целевого маркетинга (включая политический маркетинг) гарантируют потенциальным клиентам, что они могут покупать аудиторию для своих идей с помощью больших технологий, которые будут смешивать свои хранилища данных с машинным обучением и преодолевать нашу когнитивную защиту, чтобы превратить нас в клиентов для продуктов или идей. Мы всегда должны скептически относиться к маркетинговым заявлениям, потому что это коммерческая пустышка. Тот факт, что эти обещания убеждают маркетологов отдать миллиарды долларов крупным технологическим корпорациям, не является гарантией того, что обещания верны. В конце концов, влиятельные люди, принимающие решения в бизнесе, давно верят в то, что зачастую является ложным.
Понятно, что наш дискурс меняется. Идеи, которые годами оставались на обочине, приобрели новое значение. Некоторые из этих идей нам нравятся (гендерная инклюзивность, расовая справедливость, антимонополистические настроения), а некоторые - идеи, которые нам не нравятся (ксенофобия, теории заговора и отрицание науки об изменении климата и вакцинах). В нашем мире также преобладают технологии, поэтому любые изменения в нашем мире, вероятно, связаны с ними. Распутать причинно-следственные связи между технологиями и дискурсом - сложная, но очень важная проблема. Возможно, что большие технологии изобрели высокотехнологичную форму гипноза, но, верите вы в это или нет, существует множество более очевидных способов, которыми большие технологии искажают наш дискурс.
Очевидно, что крупные технологические корпорации невероятно хороши в нацеливании на конкретную аудиторию, и это ценное предложение для всей индустрии рекламных технологий. Вам нужно привлечь иностранных студентов из Азиатско-Тихоокеанского региона, обучающихся в аспирантуре по физике или химии на Среднем Западе? Нет проблем. Поиск людей выходит за рамки «покупки аудитории» для рекламы. Активисты, которые хотят обратиться к людям, которым небезразличны их проблемы, могут использовать эту функцию, чтобы мобилизовать их на поддержку своих интересов. Квир-люди, которые не знают никого, кто находится вне дома, могут найти онлайн-сообщества, которые помогут им понять и развить свою собственную идентичность. Люди, живущие с хроническими заболеваниями, могут рассказывать о своих болезнях другим людям, которые разделяют их проблемы.
Такая точность хороша для всех, кто придерживается мнения, выходящего за рамки мейнстрима, включая людей, у которых есть взгляды, с которыми мы не согласны или которых мы не согласны. Технологии могут помочь вам найти людей, которые будут сотрудничать с вами в кампаниях расистского или сексистского преследования или разжигать ненавистные политические движения.
Дискурс требует участников: если вы не можете найти кого-то интересного в обсуждении с вами эзотерической темы, вы не можете ее обсуждать. Большие технологии радикально изменили наш дискурс, облегчив людям, которые хотят поговорить на непонятные темы, поиск участников дискуссии, позволив вести беседы, которые буквально никогда не могли бы произойти иначе. Иногда это хорошо, а иногда ужасно, но это абсолютно отличается от нашего прошлого.
Идея о том, что большие технологии могут формировать дискурс, обходя наши критические способности, шпионя за нами и анализируя нас, является продажной (поскольку она помогает крупным технологиям продавать рекламу и оказывать влияние на услуги) и неправдоподобной: к ней следует относиться с крайним скептицизмом.
Масштаб - и доминирование - технологических фирм приводит к недвусмысленным, очевидным и токсичным общественным дискуссиям. Хорошая новость в том, что у нас есть инструменты, чтобы справиться с этим: тщательная проверка информации, отписка от лишних сообществ и публичных страниц. Возможно, после того, как большие технологии будут сокращены, мы все равно обнаружим, что есть какой-то онлайн-гипноз, с которым нам придется бороться, но даже если это так, наша работа будет бесконечно проще, когда большие технологии будут лишены своего сегодняшнего размера и монополизма, которую они использует для защиты от попыток изменить свое поведение с помощью политики и закона.
Очевидно, что крупные технологические корпорации невероятно хороши в нацеливании на конкретную аудиторию, и это ценное предложение для всей индустрии рекламных технологий. Вам нужно привлечь иностранных студентов из Азиатско-Тихоокеанского региона, обучающихся в аспирантуре по физике или химии на Среднем Западе? Нет проблем. Поиск людей выходит за рамки «покупки аудитории» для рекламы. Активисты, которые хотят обратиться к людям, которым небезразличны их проблемы, могут использовать эту функцию, чтобы мобилизовать их на поддержку своих интересов. Квир-люди, которые не знают никого, кто находится вне дома, могут найти онлайн-сообщества, которые помогут им понять и развить свою собственную идентичность. Люди, живущие с хроническими заболеваниями, могут рассказывать о своих болезнях другим людям, которые разделяют их проблемы.
Такая точность хороша для всех, кто придерживается мнения, выходящего за рамки мейнстрима, включая людей, у которых есть взгляды, с которыми мы не согласны или которых мы не согласны. Технологии могут помочь вам найти людей, которые будут сотрудничать с вами в кампаниях расистского или сексистского преследования или разжигать ненавистные политические движения.
Дискурс требует участников: если вы не можете найти кого-то интересного в обсуждении с вами эзотерической темы, вы не можете ее обсуждать. Большие технологии радикально изменили наш дискурс, облегчив людям, которые хотят поговорить на непонятные темы, поиск участников дискуссии, позволив вести беседы, которые буквально никогда не могли бы произойти иначе. Иногда это хорошо, а иногда ужасно, но это абсолютно отличается от нашего прошлого.
Идея о том, что большие технологии могут формировать дискурс, обходя наши критические способности, шпионя за нами и анализируя нас, является продажной (поскольку она помогает крупным технологиям продавать рекламу и оказывать влияние на услуги) и неправдоподобной: к ней следует относиться с крайним скептицизмом.
Масштаб - и доминирование - технологических фирм приводит к недвусмысленным, очевидным и токсичным общественным дискуссиям. Хорошая новость в том, что у нас есть инструменты, чтобы справиться с этим: тщательная проверка информации, отписка от лишних сообществ и публичных страниц. Возможно, после того, как большие технологии будут сокращены, мы все равно обнаружим, что есть какой-то онлайн-гипноз, с которым нам придется бороться, но даже если это так, наша работа будет бесконечно проще, когда большие технологии будут лишены своего сегодняшнего размера и монополизма, которую они использует для защиты от попыток изменить свое поведение с помощью политики и закона.
Что почитать еще?