Как алгоритмы захватили наше будущее: 3 шокирующих факта

Невидимая сеть прогнозов вокруг нас

Быть человеком - значит постоянно заглядывать в будущее. Мы делаем это инстинктивно, опираясь на опыт или логику причин и следствий. Эта способность помогала нашим предкам охотиться, избегать опасностей, выращивать урожай и выживать в мире, который не слишком-то заботился об их благополучии. Инструменты предсказания менялись веками - от чайных листьев до массивов данных, но наша уверенность в том, что будущее можно узнать и контролировать, только крепла.

Сегодня нас окружает океан прогнозов, настолько огромный и непрерывный, что большинство из нас даже не замечает его существования. Прямо сейчас, пока вы читаете эти слова, алгоритмы на каком-то далеком сервере пытаются угадать ваше следующее действие. Если вы читаете это онлайн, другой набор алгоритмов уже подобрал для вас рекламу, на которую вы, по их мнению, скорее всего кликните.

Мысль о вездесущем, почти невидимом слое предсказаний, тайно встроенном в вашу жизнь кучкой жадных до прибыли корпораций, вызывает тревогу? Вы не одиноки в этом чувстве.

Как мы оказались в ловушке алгоритмов

Как же так получилось? Желание людей получать надежные прогнозы понятно. Но никто не подписывался на всепроникающего алгоритмического оракула, управляющего каждым аспектом жизни. Три свежие книги пытаются разобраться в нашем помешанном на будущем мире - как мы до этого докатились и что это означает. У каждого автора свои рецепты навигации в новой реальности, но все они сходятся в одном: предсказания - это в конечном счете вопрос власти и контроля.

В книге «Средства предсказания: как на самом деле работает ИИ (и кому это выгодно)» экономист из Оксфорда Максимилиан Кэси объясняет: большинство прогнозов в нашей жизни основаны на статистическом анализе паттернов в огромных размеченных массивах данных. Это то, что в кругах специалистов по ИИ называют обучением с учителем. После «тренировки» на таких данных алгоритмы могут получать новую информацию и выдавать свою лучшую догадку о конкретном будущем результате.

Нарушите ли вы условия досрочного освобождения? Выплатите ли ипотеку? Справитесь ли с работой, если вас наймут? Хорошо ли сдадите экзамены в университете? Будете ли дома, когда его разбомбят? Все чаще наши жизни формируются (а иногда и обрываются) ответом машины на эти вопросы.

Для тех, кого беспокоит эта невидимая предсказательная инфраструктура, есть практические рекомендации на сайте AI Projects, где эксперты помогают разобраться в работе современных алгоритмов.

Система работает именно так, как задумано

Такое положение дел ведет к более жестокому, унылому, инструментализированному миру, где возможности жизни урезаны, древние предрассудки укоренились, а мозги всех словно превращаются в кашу. По мнению Кэси, этот результат был абсолютно предсказуем.

Приверженцы ИИ могут называть эти последствия «непреднамеренными» или просто проблемами оптимизации и согласования. Кэси же утверждает: это система, работающая именно так, как задумано. «Если алгоритм, выбирающий контент в соцсетях, продвигает возмущение, максимизируя вовлеченность и клики по рекламе, - пишет он, - то это потому, что возмущение хорошо для прибыли от рекламных продаж».

То же самое касается алгоритма, отсеивающего кандидатов на работу, «у которых могут быть семейные обязанности вне рабочего места», и тех, что «отфильтровывают людей, склонных к развитию хронических заболеваний или инвалидности». То, что хорошо для прибыли компании, может оказаться плохо для ваших перспектив трудоустройства или продолжительности жизни.

Почему исправление алгоритмов не поможет

Кэси отличается от других критиков тем, что не верит: создание менее предвзятых, более справедливых алгоритмов что-то исправит. Попытки восстановить баланс не могут изменить факт: алгоритмы предсказаний опираются на данные прошлого, которые часто расистские, сексистские и порочные бесчисленным количеством других способов. И, говорит он, стимулы для прибыли всегда будут важнее попыток устранить вред.

Единственный способ противостоять этому - широкий демократический контроль над тем, что Кэси называет «средствами предсказания»: данными, вычислительной инфраструктурой, технической экспертизой и энергией. Чуть больше половины книги посвящено объяснению, как этого можно достичь - через механизмы вроде «трастов данных» (коллективных публичных органов, принимающих решения об обработке и использовании данных от имени их участников) и корпоративных налоговых схем, учитывающих социальный вред от ИИ.

По пути много разговоров экономиста о том, как «агенты изменений» могут помочь достичь «согласования ценностей» для «максимизации общественного благосостояния». Разумно, конечно, хотя скептик может заметить: строгий, систематический подход Кэси к построению новых общественно-ориентированных институтов приходится на время, когда общественное доверие к институтам никогда не было ниже. Плюс есть проблема с мозговой кашей.

Откуда взялась вера в компьютеры как судей

Как мы вообще дошли до точки, где машинное предсказание стало практически неизбежным? «Капитализм», - мог бы лаконично ответить Маркс. Хорошо, но это не объясняет, почему те же алгоритмы, что моделируют изменение климата, почему-то также решают, получите ли вы новую почку или автокредит.

Бенджамин Рехт, автор книги «Иррациональное решение: как мы отдали компьютерам власть выбирать за нас», скорее всего, сказал бы: наше нынешнее положение во многом связано с идеей и идеологией теории решений - или того, что экономисты называют теорией рационального выбора. Рехт, профессор-полимат из факультета электротехники и информатики Калифорнийского университета в Беркли, предпочитает термин «математическая рациональность» для описания узкой статистической концепции, которая подстегнула желание строить компьютеры, определила, как они в итоге будут работать, и повлияла на типы проблем, которые они будут хорошо решать.

Эта система убеждений восходит к эпохе Просвещения, но в изложении Рехта она по-настоящему укоренилась в конце Второй мировой войны. Ничто так не концентрирует внимание на риске и быстром принятии решений, как война, и математические модели, особенно полезные в борьбе против стран Оси, убедили избранную группу ученых и статистиков: они также могут стать логической основой для проектирования первых компьютеров. Так родилась идея компьютера как идеального рационального агента, машины, способной принимать оптимальные решения, количественно оценивая неопределенность и максимизируя полезность.

Мир как воображаемое казино

Интуиция, опыт и суждение уступили место, говорит Рехт, оптимизации, теории игр и статистическому предсказанию. «Ключевые алгоритмы, разработанные в этот период, управляют автоматизированными решениями нашего современного мира, будь то управление цепочками поставок, составление расписаний рейсов или размещение рекламы в ваших лентах соцсетей», - пишет он. В этой реальности, ориентированной на оптимизацию, «каждое жизненное решение формулируется так, будто это раунд в воображаемом казино, а любой спор можно свести к издержкам и выгодам, средствам и целям».

Сегодня математическая рациональность (в человеческом обличье) лучше всего представлена социологом Нейтом Сильвером, психологом из Гарварда Стивеном Пинкером и ассортиментом кремниевых олигархов, говорит Рехт. Это люди, которые искренне верят: мир стал бы лучше, если бы больше из нас приняли их аналитический склад ума и научились взвешивать издержки и выгоды, оценивать риски и планировать оптимально. Иными словами, это люди, которые верят: мы все должны принимать решения как компьютеры.

Это нелепая идея по множеству причин, говорит он. Назовем хотя бы одну: не так, чтобы люди не могли принимать основанные на доказательствах решения до автоматизации. «Достижения в области чистой воды, антибиотиков и общественного здравоохранения подняли продолжительность жизни с менее 40 лет в 1850-х до 70 к 1950-му, - пишет Рехт. - С конца 1800-х до начала 1900-х у нас были меняющие мир научные прорывы в физике, включая новые теории термодинамики, квантовой механики и относительности». Мы также сумели построить автомобили и самолеты без формальной системы рациональности и как-то придумали социальные инновации вроде современной демократии без оптимальной теории решений.

Чтобы лучше понять, как противостоять диктату алгоритмов в повседневной жизни, специалисты AI Projects предлагают конкретные стратегии и инструменты.

Предсказание как магнит реальности

Можно начать с напоминания рационалистам: любое предсказание - это на самом деле просто желание, но с мощной тенденцией к самоисполнению. Эта идея оживляет замечательно широкоохватную полемическую работу Кариссы Велис «Пророчество: предсказание, власть и борьба за будущее, от древних оракулов до ИИ».

Философ из Оксфордского университета, Велис видит предсказание как «магнит, который изгибает реальность к себе». Она пишет: «Когда сила магнита достаточно велика, предсказание становится причиной своего осуществления».

Возьмем Гордона Мура. Хотя он не упоминается в «Пророчестве», он фигурирует довольно заметно в истории математической рациональности Рехта. Сооснователь технологического гиганта Intel, Мур знаменит своим предсказанием 1965 года: плотность транзисторов в интегральных схемах будет удваиваться каждые два года. «Закон Мура» оказался верным и остается таковым сегодня, хотя, похоже, начинает выдыхаться из-за физических ограничений размера атома кремния.

Одна история, которую вы можете рассказать себе о законе Мура: Гордон был просто проницательным парнем. Его теперь классическая статья 1965 года «Впихивая больше компонентов в интегральные схемы» для журнала Electronics просто экстраполировала, что вычислительные тренды могут означать для будущего полупроводниковой индустрии.

Другая история - та, что, вероятно, рассказала бы Велис, - заключается в том, что Мур выпустил информированное предсказание в мир, и целая индустрия имела коллективный интерес в том, чтобы сделать его реальностью. Как ясно показывает Рехт, были и остаются очевидные финансовые стимулы для компаний делать более быстрые и меньшие компьютерные чипы. И хотя индустрия, вероятно, потратила миллиарды долларов, пытаясь поддержать закон Мура живым, она несомненно заработала на этом еще больше. Закон Мура был чертовски сильным магнитом.

Предсказания как завуалированные приказы

Предсказания не только имеют привычку самоисполняться, говорит Велис. Они также могут отвлекать нас от вызовов здесь и сейчас. Когда энтузиаст ИИ обещает, что искусственный общий интеллект станет последней проблемой, которую человечеству нужно решить, это не только формирует наше представление о роли ИИ в жизни, но и смещает внимание от очень реальных и очень насущных проблем сегодняшнего дня - проблем, которые во многих случаях создает именно ИИ.

В этом смысле вопросы вокруг предсказаний (кто их делает, кто имеет право их делать) также фундаментально касаются власти. Не случайно, говорит Велис, что общества, наиболее сильно полагающиеся на предсказания, также склонны к угнетению и авторитаризму. Предсказания - это «завуалированные предписывающие утверждения - они говорят нам, как действовать, - пишет она. - Это то, что философы называют речевыми актами. Когда мы верим предсказанию и действуем в соответствии с ним, это сродни подчинению приказу».

Технология - не судьба

Насколько бы технологические компании ни хотели, чтобы мы верили обратному, технология - это не судьба. Люди создают ее и выбирают, как использовать... или не использовать. Возможно, самое подходящее (и человечное), что мы можем сделать перед лицом всех непрошеных ежедневных предсказаний в наших жизнях - это просто бросить им вызов.

Выводы: верните контроль над своим будущим

Три книги, три разных взгляда, но один вывод: мы отдали слишком много власти алгоритмам, которые служат не нам, а корпоративной прибыли. Максимилиан Кэси призывает к демократическому контролю над данными и вычислительной инфраструктурой. Бенджамин Рехт напоминает: человечество прекрасно справлялось с принятием решений задолго до компьютеров. Карисса Велис показывает, что предсказания - это инструмент власти, замаскированный под объективность.

Но главное - у нас все еще есть выбор. Мы можем не подчиняться навязанным прогнозам, можем требовать прозрачности от тех, кто управляет алгоритмами, можем вернуть себе право на интуицию, опыт и человеческое суждение. Будущее не предопределено - его создаем мы сами, каждым своим решением, каждым актом неповиновения невидимым алгоритмам, пытающимся контролировать нашу жизнь.