Искусственный интеллект стремительно персонализирует интернет, но ценой потери контроля со стороны пользователей. Миллионы пользователей Gmail недавно обнаружили, что функции автоматических сводок писем на основе ИИ включены по умолчанию, без их запроса. Это последовало за аналогичным шагом Google два года назад, когда обзоры на основе ИИ — автоматически генерируемые ответы на поисковые запросы — были добавлены в результаты поиска без простой возможности их отключения.
Meta также применила аналогичный подход, интегрировав своего ИИ-чатбота Meta AI в Instagram, WhatsApp и Messenger в качестве неотключаемой функции. В результате онлайн-опыт становится все более индивидуализированным: реклама, рекомендации и даже цены различаются от пользователя к пользователю в зависимости от их взаимодействия с этими ИИ-системами.
Ключевой момент: эта персонализация происходит без явного согласия или простых опций отказа.
Саша Луччони, исследователь этики ИИ в Hugging Face, объясняет: «Эти инструменты продаются нам как более мощные, но у нас становится меньше возможностей влиять на происходящее… Мы должны отказаться от них самостоятельно, и это обычно довольно сложно, а также не всегда понятно, от чего именно нужно отказываться».
Эта тенденция отражает более широкое изменение в технологиях: компании отдают приоритет вовлеченности и сбору данных, а не автономии пользователей. Интернет превращается из общего общественного пространства в серию отдельных пузырей, алгоритмически настроенных под каждого пользователя.
Отсутствие прозрачности и контроля вызывает опасения по поводу манипулирования, алгоритмической предвзятости и эрозии конфиденциальности. Пользователи вынуждены ориентироваться в системе, где их собственные данные используются против них, формируя их онлайн-опыт способами, о которых они могут даже не подозревать.
Текущая траектория развития индустрии предполагает будущее, в котором интернет будет приспосабливаться к вам, независимо от вашего желания.
