0

Холодная война ИИ пугает нас всё больше

Перевод статьи Николаса Томпсона и Яна Бреммера «The AI Cold War That Threatens Us All», опубликованной 23.10.2018 в Wired.

Весной 2016 года искусственная интеллектуальная система, названная AlphaGo, победила чемпиона мира го в матче в отеле Four Seasons в Сеуле. В США эти важные новости потребовали некоторого дополнительного разъяснения. Большинство американцев были незнакомы с го, древней азиатской игрой, в которой чёрно-белые камни размещаются на деревянной доске. И технология, которая вышла победителем, была ещё более чуждой: эта ИИ-технология называется машинным обучением, и в нём используются большие наборы данных для обучения компьютера распознаванию паттернов и созданию собственных стратегических решений.

Тем не менее, суть вопроса была вполне знакома. Компьютеры уже освоили шашки и шахматы; теперь же они научились выигрывать у человека в ещё более сложной игре. Компьютерные гики всегда беспокоились об этом, но большинство людей об этом не думало. В Белом доме Тера Лайонз (Terah Lyons), один из советников Барака Обамы по вопросам науки и технологии, вспоминает, как её команда праздновала это событие на четвёртом этаже офисного здания Эйзенхауэра: «Мы рассматривали это как победу в технологиях», — говорит она, — «но на следующий день остальная часть Белого дома вообще забыла об этом».

В Китае же, напротив, примерно 280 миллионов человек наблюдали за победой AlphaGo. Ведь действительно важно, что ИИ-система, разработанная калифорнийской компанией Alphabet, родительской компании Google, выиграла в игру, изобретённую более 2500 лет назад в Азии. Американцы даже не играют в го. И всё же они каким-то образом поняли, как победить в ней? Кай-Фу Ли (Kai-Fu Lee), один из пионеров в области ИИ, говорит, что его просят прокомментировать этот эпохальный матч почти на каждой крупной телевизионной станции в стране. До этого он просто и тихо инвестировал в китайские компании, занимающиеся ИИ. Но когда он увидел всё это внимание, он начал транслировать свою инвестиционную стратегию в Искусственный Интеллект в венчурном фонде. «Мы сказали, что хорошо, после этого матча вся страна узнает об ИИ», — вспоминает он, — «Значит, мы зашли удачно».

В Пекине победа машины стала предупреждением. Это впечатление усилилось, когда в течение следующих нескольких месяцев администрация Барака Обамы опубликовала серию отчётов, посвящённых преимуществам и рискам ИИ. В документах была сделана серия рекомендаций для действий правительства, как для предотвращения потенциальных потерь рабочих мест от автоматизации, так и для инвестиций в развитие машинного обучения. Группа высокопоставленных политиков из числа научно-технической бюрократии Китая, которые уже работали над своим собственным планом развития ИИ, полагали, что они видят признаки новой целенаправленной стратегии США, и им нужно действовать быстро.

В мае 2017 года система AlphaGo снова одержала победу, на этот раз над Ке Дзи (Ke Jie), китайским мастером го, занимающим первое место в мире. Два месяца спустя Китай обнародовал план развития Искусственного Интеллекта следующего поколения — документ, в котором изложена стратегия страны стать мировым лидером в области ИИ к 2030 году. И с этим явным сигналом из Пекина, как будто бы гигантская ось начала поворачиваться в машинах промышленного государства. Другие министерства Китая вскоре опубликовали свои собственные планы, основанные на стратегии, намеченной национальной ИИ-стратегией Пекина. Появились экспертные консультативные группы и отраслевые альянсы, а местные правительства по всему Китаю начали финансировать ИИ-проекты.

Китайские технологические гиганты также были включены в этот процесс. Компания Alibaba, гигантский интернет-магазин, была задействована для разработки системы «City Brain» для новой особой экономической зоны, планируемой к размещению примерно в 60 милях к юго-западу от Пекина. Уже в городе Ханчжоу компания получала данные от тысяч уличных видеокамер и использовала их для управления светофорами с использованием ИИ, оптимизируя транспортные потоки примерно таким же образом, какой система AlphaGo использовала для выигрыша в го. Теперь компания Alibaba могла спроектировать Искусственный Интеллект в составе инфраструктуры нового мегаполиса с нуля.

18 октября 2017 года президент Китая Си Цзиньпин стоял перед 2300 его товарищей по партии, окружённый огромными красными драпировками и гигантским золотым серпом и молотом. Президент Цзиньпин излагал свои планы относительно будущего партии почти три с половиной часа, и он назвал Искусственный Интеллект, большие данные и Интернет в качестве основных технологий, которые помогут превратить Китай в развитую индустриальную экономику в ближайшие десятилетия. Это было впервые, когда эти технологии явно упоминались в речи президента на съезде Коммунистической партии, который проходит один раз в пять лет.

В решающий период в течение несколько месяцев китайское правительство дало своим гражданам новое видение будущего и ясно дало понять, что оно будет действовать быстро. «Если выигрыш AlphaGo стал «моментом Спутника» в Китае, то национальная ИИ-стратегия правительства была похожа на знаменитую речь президента Джона Ф. Кеннеди, призывающую Америку посадить человека на Луну», — пишет Кай-Фу Ли в своей новой книге «ИИ-Супердержавы».

Между тем, по мере того, как Пекин начал наращивать скорость, правительство Соединенных Штатов замедлялось. После того, как президент Трамп занял свой пост, отчёты об ИИ в эпоху Обамы были перенесены на архивный веб-сайт. В марте 2017 года секретарь казначейства Стивен Мнучин (Steven Mnuchin) сказал, что рассмотрение идеи о людях, потерявших работу из-за ИИ, «даже не присутствует на экранах нашего радара». Это может быть угроза, добавил он, в период «от 50 до 100 лет». В том же году , Китай взял на себя обязательство построить индустрию Искусственного Интеллекта стоимостью 150 миллиардов долларов к 2030 году.

Только медленно, понукаемая, главным образом, Пентагоном, администрация Трампа начала рассказывать о национальных инициативах в области ИИ и финансировать их. В мае министр обороны Джеймс Маттис (James Mattis) прочитал статью Генри Киссинджера в Атлантике, который предупредил, что ИИ развивается так быстро, что вскоре может подорвать человеческий интеллект и творчество. В результате, предупредил он, это может стать концом Просвещения; и он призвал правительственную комиссию изучить этот вопрос.

Многие эксперты по Искусственному Интеллекту негативно восприняли статью Киссинджера из-за его слишком широкого и мрачного экстраполирования на основе довольно узких достижений в этой области. Маттис, однако, использовал статью в записке для президента Трампа. В этом месяце Майкл Крациос (Michael Kratsios), главный советник Трампа по технологиям, организовал саммит по теме ИИ. В интервью WIRED этим летом Крациос сказал, что Белый дом полностью поддерживает исследования в области ИИ, и выяснил, «что может сделать правительство, и как это можно сделать ещё лучше». В июне Иванка Трамп твитнула ссылку на отрывок из статьи Киссинджера, восхваляя его рассказ о «продолжающейся технологической революции, последствия которой мы не смогли полностью спрогнозировать».

Но если Белый дом Трампа был относительно медленным, чтобы понять значение и потенциал ИИ, он начал быстро соперничать. К середине лета разговоры о «новой гонке вооружений и холодной войне» в области Искусственного Интеллекта были широко распространены в американских СМИ.

На заре нового этапа в цифровой революции две самые мощные страны мира быстро отступают в позиции конкурентной изоляции, как это делают игроки в го. То, что поставлено на карту — это не просто технологическое превосходство США. В настоящий момент наибольшее беспокойство о состоянии современной либеральной демократии в Китае вызывает то, что ИИ станет невероятно мощным инструментом авторитарного правления. Направлена ли траектория цифровой революции к тирании, и есть ли способ её изменить?

После окончания холодной войны обычное поведение Запада основывалось на двух статьях веры: либеральная демократия предназначена для распространения по всей планете, и для этого использовались бы цифровые технологии. Цензура, консолидация СМИ и пропаганда, которые поддерживали автократии советской эпохи, просто неработоспособны в эпоху Интернета. Всемирная паутина предоставит людям свободный и беспрепятственный доступ к мировой информации. Это позволит гражданам организовываться, привлекать правительства к ответственности и уклоняться от хищничества государства.

Но никто так не доверял либерализующему воздействию технологий, как сами технологические компании — Twitter был, по словам одного из руководителей, «крылом свободы слова в партии свободы слова»; Facebook хотел сделать мир более открытым и связанным; компания Google, основанная беженцем из Советского Союза, хотела организовать всемирную информацию и сделать ее доступной для всех.

По мере того, как социальные медиа вставали на ноги, двойной символ веры техно-оптимистов выглядел недостижимым. В 2009 году, во время «зеленой революции» в Иране, наблюдатели удивлялись тому, как организаторы акции протеста обошли общественное молчание в Twitter. Год спустя арабская весна свергла режимы в Тунисе и Египте и вызвала протесты на Ближнем Востоке, распространяясь в социальных сетях со скоростью вируса. «Если вы хотите освободить общество, всё, что вам нужно, это интернет», — сказал Ваэль Гоним (Wael Ghonim), исполнительный директор Google в Египте, создавший основную группу Facebook, которая помогла активизировать инакомыслящих в Каире.

Однако не потребовалось много времени, чтобы арабская весна превратилась в зиму таким образом, чтобы через несколько лет стать странно знакомой странам Запада. В течение нескольких недель после побега президента Хосни Мубарака, Ганим увидел, что активисты начинают атаковать друг друга. Социальные медиа усиливали худшие инстинкты каждого. «Вы легко могли видеть, что центристские голоса становятся всё более и более неуместными, а голоса экстремистов становятся всё более и более услышанными», — вспоминает он. Активисты, которые или были вульгарными, или атаковали другие группы, или отвечали гневом, получали больше симпатий и акций. Это дало им больше влияния, и это дало другим более умеренным людям образец для подражания. Зачем писать что-то примирительное, если никто на Facebook не прочтёт это? Вместо этого опубликуйте что-то полное ярости, и это увидят миллионы. Гоним начал унывать. Он сказал, что инструменты, которые собрали демонстрантов вместе, теперь разрывали их на части.

В конечном итоге Египет выбрал правительство, управляемое «братьями мусульманами», традиционалистской политической партией, которая сыграла небольшую роль в первоначальном потрясении на площади Тахрир. Затем в 2013 году военные успешно провели государственный переворот. Вскоре после этого, Гоним переехал в Калифорнию, где он попытался создать платформу для социальных сетей, которая способствовала бы развитию разумного поведения. Но было слишком сложно переманить пользователей с Twitter и Facebook, и проект не взлетел. Между тем, военное правительство Египта недавно приняло закон, который позволяет ему вытеснить своих критиков из социальных сетей.

Конечно, дело не только в Египте и Ближнем Востоке. За очень короткое время изобилие, связанное с распространением либерализма и технологий, столкнулось с кризисом веры в обе эти концепции. В целом число либеральных демократий в мире в течение десятилетия неуклонно снижается. По данным Freedom House, в прошлом году в 71 стране наблюдалось снижение их политических прав и свобод, и только 35 улучшений.

Хотя кризис демократии имеет много причин, платформы социальных сетей стали казаться главным виновником. Недавняя волна политиков и политических движений против устоявшегося истеблишмента — Дональд Трамп в США; «брекзит» в Великобритании; возрождающееся правое крыло в Германии, Италии или в Восточной Европе — показало не только глубокое разочарование в отношении глобальных правил и институтов западной демократии, но и автоматизированный медиа-ландшафт, который вознаграждает демагогию кликами. Политические взгляды стали более поляризованными, население стало более клановым, а гражданский национализм распадается.

Всё это оставляет нас там, где мы сейчас находимся: вместо того, чтобы восхищаться тем, как социальные платформы распространяют демократию, мы заняты оценкой того, в какой степени они разъедают её.

В Китае правительственные чиновники наблюдали за арабской весной со всей внимательностью и беспокойством. В Пекине уже имеется самая совершенная в мире система интернет-контроля, динамически блокирующая огромное множество иностранных доменов, включая Google. Теперь Китай украсил свой Великий Файервол ещё более колючей проволокой. Китай разработал новые способы точечного отключения доступа в Интернет в отдельных зонах внутри городов, в том числе в крупном блоке в центре Пекина, где есть риск демонстраций. Также он обвешал весь Синцзян-Уйгурский автономный округ цифровыми устройствами после сильных протестов, которые распространялись через Интернет. Пекин, возможно, даже попытался создать общенациональный «включатель убийства».

Этот урезанный Интернет выглядит совсем не так, как оригинальная мечта World Wide Web, но тем не менее он процветает. К настоящему времени в нём насчитывается около 800 миллионов человек, которые занимаются сёрфингом, обмениваются сообщениями в чате и совершают покупки внутри своего Великого Файервола — почти столько же людей, сколько живут в США и Европе вместе взятых. И для многих китайцев растущее процветание среднего класса и определяет то, что онлайн-цензуру значительно легче перенести. «Дайте мне свободу» или же «Дайте мне процветание».

Китайский авторитаризм, усиленный под руководством Си Цзиньпина, безусловно, не помешал китайской технологической отрасли. За последнее десятилетие ведущие технологические компании Китая стали доминировать на своих внутренних рынках и конкурировать во всём мире. Они расширились за счёт приобретений в Юго-Восточной Азии. Компании Baidu и Tencent создали исследовательские центры в США, а Huawei продаёт передовое сетевое оборудование в Европе. Старый шёлковый путь нанизан на китайские волоконно-оптические кабели и сетевое оборудование.

Китай, как и любая другая страна, показал, что с некоторыми корректировками самодержавие вполне совместимо с эпохой Интернета. Но эти корректировки заставили сам Интернет начать разрываться, как два континента, трескающихся вдоль шва. Есть свободный, слегка регулируемый Интернет, где доминируют вундеркинды Силиконовой долины. И тогда есть авторитарная альтернатива Китая, основанная на массовых, национальных технологических гигантах, таких же инновационных, как и их западные коллеги.

Сегодня Китай не просто защищается от вирусного инакомыслия, редактируя неприятную информацию из Интернета. Правительство активно использует технологии как инструмент контроля. В городах Китая, в том числе в Синьцзяне, власти пытаются применять программное обеспечение для распознавания лиц и другие технологии, основанные на Искусственном Интеллекте, для обеспечения безопасности. В мае камеры распознавания лиц на стадионе Jiaxing Sports Center в Чжэцзяне привели к аресту преступника в розыске, который присутствовал на концерте. Его разыскивали с 2015 года за кражу картофеля стоимостью более 17 000 долларов. Облачная полицейская система Китая настроена для мониторинга семи категорий людей, в том числе тех, кто «подрывает стабильность». Страна также стремится создать систему, которая даст каждому гражданину и каждой компании социальный кредит: представьте, что ваш показатель социального кредита зависит от ваших покупок, вашего стиля вождения и правильности ваших политических взглядов.

Фундаментальная сила, влияющая на это изменение — это поворот от обороны к наступлению — это сдвиг в том, как энергия питается технологиями. В начале революция коммуникаций сделала компьютеры доступными для масс. Она соединила все устройства вместе в гигантскую глобальную сеть и сократила мир до размера вашей руки. Это была революция, которая давала возможности индивидууму — одинокому программисту, способному создавать программы; академику с возможностью проводить исследования на кончиках пальцев; диссиденту с новым и мощным способом организации сопротивления.

Сегодняшний этап цифровой революции отличается. Суперкомпьютер в вашем кармане также является и самонаводящимся устройством. Он отслеживает ваши «лайки», сохраняя запись всех, с кем вы говорите, всё, что вы покупаете, всё, что вы читаете, и весь маршрут, куда бы вы ни отправились. Ваш холодильник, ваш термостат, ваши умные часы и ваш автомобиль всё чаще и чаще отправляют информацию о вашем поведении в штаб-квартиру компании-разработчика. В будущем камеры безопасности будут отслеживать, как расширяются наши зрачки, а датчики на стене будут отслеживать нашу температуру тела.

В сегодняшнем цифровом мире, как в Китае, так и на Западе, власть начинает контролировать данные, их понимание и использование, чтобы влиять на поведение людей. Эта мощь будет расти с ростом нового поколения мобильных сетей. Помните, как это было похоже на волшебство, когда у нас появилась возможность просматривать реальные веб-страницы на iPhone второго поколения? Это был 3G — мобильный стандарт, который получил широкое распространение в середине 2000-х годов. Современные 4G-сети в несколько раз быстрее. Сети стандарта 5G будут намного быстрее. А когда мы можем делать что-то быстрее, мы делаем это больше и чаще, а это значит, что данные накапливаются.

Большинству людей уже трудно понять, а тем более контролировать, всю собранную о них информацию. И рычаг, который накапливается в агрегаторах данных, увеличится ещё сильне по мере того, как мы перейдём в эпоху ИИ.

Владимир Путин — технологический пионер, когда речь заходит о кибервойне и дезинформации. И у него есть мнение о том, что будет дальше с ИИ: «Тот, кто станет лидером в этой сфере, станет правителем мира».

В некотором смысле линия поведения Путина несколько перегружена. Искусственный Интеллект не является горой, которую может завоевать одна нация при помощи водородной бомбы, которую какая-нибудь страна начнёт развивать в первую очередь. Всё чаще ИИ просто работает с компьютерами; это широкий термин, описывающий системы, которые или учатся на примерах, или следуют правилам — они самостоятельно принимают решения. Тем не менее, это самый важный прогресс в информатике в нашем поколении. Сундар Пичаи (Sundar Pichai), генеральный директор Google, сравнил его с обнаружением электричества или огня.

Страна, которая стратегически и умело реализует технологии ИИ для всей своей рабочей силы, скорее всего, будет расти быстрее, даже если принять во внимание сбои, которые может вызвать ИИ. Города этой страны будут работать более эффективно, поскольку беспилотные автомобили и умная инфраструктура сокращают задержки дорожного движения. Крупнейшие предприятия этой страны будут иметь лучшие карты поведения потребителей. Население этой страны будет жить дольше, так как ИИ революционизирует диагностику и лечение болезней. Военные этой страны будут иметь больше власти, так как автономное оружие заменит солдат на поле битвы и пилотов в небе, а киберсолдаты ведут цифровые войны. «Я не могу придумать какую-либо задачу, в которой не произойдёт улучшение или ускорение, если её правильно интегрировать с ИИ», — говорит Уилл Ропер (Will Roper), помощник секретаря ВВС США.

И эти преимущества могут быть сопряжены политическим с интересом. Пока, по крайней мере, ИИ является централизирующей силой среди компаний и между странами. Чем больше данных вы собираете, тем лучше системы, которые вы можете построить; а лучшие системы позволяют собирать ещё больше данных. «ИИ будет централизован из-за входов, необходимых для его наполнения. Вам нужно много данных, и вам нужно много вычислительных мощностей», — говорит Тим Хванг (Tim Hwang), возглавляющий Инициативу по этике и руководству в Гарварде и Массачусетском технологическом институте.

Китай имеет два фундаментальных преимущества перед США в создании надёжной инфраструктуры ИИ, и оба они, как правило, представляют собой те преимущества, которые авторитарные государства имеют перед демократическими. Во-первых, это явный объём данных, созданных китайскими технологическими гигантами. Подумайте, сколько данных Facebook собирает у своих пользователей и как эти данные влияют на алгоритмы компании; теперь считают, что популярное приложение WeChat от Tencent в основном одновременно похоже на Facebook, Twitter и ваш банковский счёт в Интернете, всё в одном. В Китае примерно в три раза больше пользователей мобильных телефонов, чем в США, и пользователи этих телефонов тратят почти 50 раз больше средств на мобильные платежи. Китай, как пишет The Economist, является Саудовской Аравией данных. Защита данных в Китае растёт, но эта область всё ещё слабее, чем в США, и намного слабее, чем в Европе, что позволяет сборщикам данных более свободно использовать то, что они могут делать с тем, что они собирают. И правительство может получить доступ к личным данным по соображениям общественной или национальной безопасности без каких-либо правовых ограничений, с которыми столкнётся демократия.

Разумеется, данные — это ещё не всё: любая технологическая система зависит от целого набора инструментов, от своего программного обеспечения до процессоров до людей, которые очищают зашумленные входы и анализируют результаты. И есть многообещающие области ИИ, такие как обучение с подкрепление, которые генерируют свои собственные данные с нуля, используя множество вычислительных мощностей. Тем не менее, у Китая есть второе большое преимущество, поскольку мы переходим в эпоху ИИ, и это отношения между его крупнейшими компаниями и государством. В Китае компании частного сектора, находящиеся на переднем крае инноваций в области ИИ, чувствуют себя обязанными учитывать приоритеты государства. В соответствии с политикой коммунистические партийные комитеты внутри компаний расширились. В ноябре прошлого года Китай объявил компании Baidu, Alibaba, Tencent и iFlytek, китайскую компанию по разработке программного обеспечения для голосового управления, в качестве инаугурационных членов её «Национальной сборной по ИИ». Было ясно: идти вперёд, инвестировать, и правительство обеспечит, чтобы ваши прорывы получили бы рынок не только в Китае, но и за его пределами.

Во время первоначальной «холодной войны» США полагались на такие компании, как Lockheed, Northrop и Raytheon для разработки передовых стратегических технологий. Технически эти компании были частными. На практике их жизненно важная миссия обороны сделала их квази-субъектами. (Действительно, задолго до того, как фраза «слишком большой, чтобы потерпеть неудачу» использовалась по отношению к банку, она была применена к компании Lockheed).

Те компании, которые осуществляют ускоренный переход к сегодняшнему дню и находящиеся на переднем крае ИИ — Google, Facebook, Amazon, Apple и Microsoft, точно не надевают государственные флажки на свои лацканы. Прошлой весной сотрудники Google потребовали, чтобы компания вышла из сотрудничества с Пентагоном под названием Project Maven. Идея заключалась в использовании ИИ для распознавания изображений в миссиях Министерства обороны. В конечном итоге руководство Google сдалось. Должностные лица Министерства обороны были сильно разочарованы, особенно учитывая, что Google имеет ряд партнёрских отношений с китайскими технологическими компаниями. «Иронично работать с китайскими компаниями, как будто это не прямой канал для китайских военных», — говорит бывший министр обороны Эштон Картер (Ashton Carter), — «и при этом не желать работать с американскими военными, что намного прозрачнее и что отражает ценности нашего общества. Конечно, мы несовершенны, но мы не диктатура».

Холодная война не была неизбежной в 1945 году. США и СССР были союзниками во время Второй мировой войны, но затем ряд шагов и обстоятельств в течение пятилетнего периода ввёл конфликт в фазу самовоспроизведения. Точно так же, мы теперь можем видеть задним числом и с холодным разумом, цифровая революция, по своей сути, никогда не была единственно возможной в пользу демократии. Также сегодня не является неизбежным, что ИИ будет поддерживать глобальный авторитаризм при постоянном недостатке либерализма. Если этот сценарий произойдёт, так получится потому, что серия шагов и обстоятельств ускорила это.

В исходной «холодной войне» два идеологических противника создали конкурирующие геополитические блоки, которые были фактически несовместимы. США были выведены из состава советского блока, и наоборот. То же самое можно было бы легко повторить к всеобщему катастрофическому эффекту. Новая холодная война, которая постепенно изолирует китайские и американские технологические секторы друг от друга, заставит США голодать из-за нехватки «топлива», которое используется для инноваций: американские компании в значительной степени зависят от китайского рынка в части своей прибыли, а также инженерных и программистских талантов. В то же время это, фактически, может создать новые виды опасностей, о которых предупреждают «ястребы»: увеличится риск того, что одна сторона может удивить другую резким стратегическим прорывом в области Искусственного Интеллекта или квантовых вычислений.

В настоящее время сохранение высокой степени открытости с Китаем является лучшей защитой от роста техно-авторитарного блока. Тем не менее, это не так, как декларируют американские лидеры.

Спустя немногим более шести месяцев после инаугурации Дональда Трампа и его притязания на «американскую гегемонию» администрация начала широкомасштабное расследование торговых практик Китая и предполагаемых краж американских технологий через киберпространство. Это расследование привело к неуклонно возрастающей торговой войне, во время которой США начали устанавливать тарифы объёмом в миллиарды долларов на китайские товары, а также вводить новые ограничения на инвестиции и экспорт на технологии, которые Китай считает ключевыми для ИИ и своих передовых производственных амбиций.

Конфронтация — это гораздо больше, чем торговля. Администрация Трампа сделала официальную политику США по защите «базы инноваций в области национальной безопасности» — сокращению прав на ведущие технологии и таланты Америки — от Китая и других иностранных хищников. В январе Axios опубликовала упущенную презентацию Белого дома, в которой рекомендовалось, чтобы США работали со своими союзниками, чтобы построить сеть 5G, которая исключает Китай, чтобы
у Пекина не хватало «командных высот в информационной области». Презентация сравнивала борьбу XXI века в целях доминирования данных, как это было во время гонки за создания атомной бомбы во времена Второй мировой войны. Затем в апреле министерство торговли США посетило ZTE, ведущую китайскую компанию телекоммуникационного оборудования, которая готовилась к работе в сети 5G в Китае, с семилетним запретом на ведение бизнеса с американскими поставщиками; отдел сказал, что ZTE нарушила условия урегулирования санкций. (Позднее США сняли запрет).

Для американских ястребов безопасности перспектива того, что Китай может доминировать как в 5G, так и в ИИ, — это сценарий кошмара. В то же время растущий отклик Вашингтона на технологические амбиции Китая заставил Си Цзиньпиня ещё более решительно отгородить свою страну от западных технологий.

Это совсем другая философия в отличие от той, которая управляет технологическим сектором в течение 30 лет, что благоприятствует глубоко запутанным целям аппаратного и программного обеспечения. Незадолго до инаугурации Трампа Джек Ма, председатель Alibaba, пообещал создать миллион рабочих мест в США. К сентябрю 2018 года он был вынужден признать, что предложение было за рамками выполнения, и это ещё одна жертва в растущем списке компаний и проектов, которые теперь немыслимы.

Глобальная работа в области ИИ уже давно происходит в трёх сферах: исследовательских отделах, корпорациях и вооруженных силах. Первая сфера всегда была отмечена открытость и сотрудничеством; в меньшей степени этому соответствует и вторая. Учёные свободно делятся результатами своей работой. Компания Microsoft обучила многих лучших исследователей ИИ в Китае и помогла запустить много перспективных ИИ-стартапов, а компании Alibaba, Baidu и Tencent используют инженеров США в своих исследовательских центрах в Силиконовой долине и Сиэтле. Прогресс, достигнутый Искусственным Интеллектом в Шанхае, например, при диагностике болезней посредством более точного сканирования медицинских изображений, может спасти жизни в Шони. Но вопросы национальной безопасности всегда преодолевают коммерческие соображения. На данный момент политический импульс, по-видимому, заставляет технологические отрасли двух стран обособляться до такой степени, что даже сотрудничество между исследователями и корпорациями может быть подавлено. Раскол вполне мог определить, как разыгрывается борьба между демократией и авторитаризмом.

Представьте, что сейчас 2022 год: американская конфронтационная экономическая политика продолжилась, и Китай отказался уступить. Компании Huawei и ZTE были запрещены на территории США и ключевых западных союзников. Благодаря инвестициям и технологическому шпионажу, Пекин сократил свою зависимость от американских полупроводников. Соперничающие технологические сверхдержавы не смогли разработать общие стандарты. Американские и китайские учёные всё чаще скрывают свои новейшие исследования в области ИИ в правительственных сейфах вместо того, чтобы делиться ими на международных конференциях. Другие страны, такие как Франция и Россия, пытались построить свои собственные технологические отрасли, сосредоточенные на ИИ, но они значительно отстают.

Страны мира могут взять на себя американскую технологию: покупать телефоны Apple, использовать поиск Google, управлять автомобилями Tesla и управлять флотом персональных роботов, созданных при запуске в Сиэтле. Или они могут использовать Китайские технологии — эквиваленты, разработанные Alibaba и Tencent, соединяющиеся через сеть 5G, построенную Huawei и ZTE, и управляющие автономными автомобилями, построенными Baidu. Выбор является чреватым. Если вы бедная страна, у которой нет возможности создавать свою собственную сеть передачи данных, вы будете чувствовать лояльность к тому, кто поможет построить инфраструктуру по низкой цене. Всё это будет неудобно близко похоже на договоры о вооружениях и безопасности, которые определяли «холодную войну».

И сегодня мы можем видеть первые доказательства этого. В мае 2018 года, примерно через шесть месяцев после того, как Зимбабве, наконец, избавилась от деспота Роберта Мугабе, новое правительство объявило, что оно сотрудничает с китайской компанией CloudWalk для создания системы ИИ и распознавания лиц. Зимбабве расширяет свою систему наблюдения. Китай получает деньги, влияние и данные. В июле почти 700 высокопоставленных лиц из Китая и Пакистана собрались в Исламабаде, чтобы отпраздновать завершение строительства оптоволоконного кабеля Pak-China, линии передачи данных длиной 500 миль, соединяющей две страны через горы Каракорум, построенные Huawei и финансируемые с помощью кредита от Экспортно-импортного банка Китая. Документы, полученные газете Пакистана «Рассвет», показали будущий план высокоскоростного волокна, который поможет подключить города по всему Пакистану к камерам видеонаблюдения и системам мониторинга транспортных средств, что является частью инициативы «Безопасные города», запущенной в 2016 году с помощью Huawei и других китайских фирм. Китай фактически создал свой собственный план Маршалла, который может в некоторых случаях создавать поднадзорные государства вместо демократий.

Нетрудно увидеть призыв к большей части мира связать своё будущее с Китаем. Сегодня, когда Запад справляется с застойным ростом заработной платы и снижением доверия к основным институтам, всё больше китайцев живут в городах, работают на рабочих местах среднего класса, управляют автомобилями и отдыхают, чем когда-либо прежде. Планы Китая по внедрению системы социального рейтинга, основанной на технологиях и защите от вторжения в частную жизнь, могут казаться недобросовестными западному человеку, но при этом не вызвали большого протеста. В недавнем опросе консалтингового агентства по связям с общественностью Edelman 84 % китайских респондентов заявили, что они доверяют своему правительству. В США только третья часть людей подтверждала это.

Никто не может быть уверен, что будет дальше. В США, после споров вокруг выборов 2016 года и конфиденциальности пользователей, всё большее число республиканцев и демократов хотят зарегулировать технологические гиганты страны, чтобы обуздать их. В то же время Китай усилил свою решимость стать сверхдержавой в области ИИ и экспортирует свою техно-авторитарную революцию, а это означает, что у США есть жизненно важный национальный интерес в том, чтобы их технологические компании оставались мировыми лидерами. На данный момент нет ничего близкого к серьёзному обсуждению того, как решить эту дилемму.

Что касается Китая, остаётся неясным, как много людей будут терпеть цифровое вторжение во имя эффективности и социальной сплочённости — не говоря уже о людях в других странах, которые соблазняются моделью Пекина. Режимы, предлагающие людям торговать свободой ради стабильности, как правило, подавляют инакомыслие. И китайский рост замедляется. За прошедшее столетие демократические государства оказались более устойчивыми и успешными, чем диктатуры, даже если демократия, особенно в эпоху алгоритмов, сделала некоторые глупые решения.

По крайней мере, можно предположить, что агрессивная политика Трампа могла бы, контринтуитивно, привести к сближению с Пекином. Если Трамп угрожает взять что-то за столом, которое Китай действительно не может позволить себе потерять, это может оказать давление на Пекин, чтобы вернуть свои глобальные технологические амбиции и открыть свой внутренний рынок для американских фирм. Но есть ещё один способ повлиять на Китай, ещё один шанс на успех: США могут попытаться захватить Пекин в технологические объятия — взаимодействовать с Китаем для разработки правил и норм развития ИИ, установки международных стандартов для обеспечения прозрачности и подотчётности алгоритмов, регулирующих жизнь людей и средства к существованию. Обе страны могут, как предлагает Тим Хван (Tim Hwang), взять на себя обязательства разрабатывать общие открытые базы данных для исследователей.

Но на текущий момент, по крайней мере, противоречивые цели, взаимное подозрение и растущая убеждённость в том, что ИИ и другие передовые технологии являются фактором победы, всё больше отодвигают технологические секторы двух стран друг от друга. Постоянное расщепление будет стоить очень дорого, и только техно-авторитаризм даст больше возможностей для роста.

Источник: ЯДзен «Другая фаза» 

Ана

Добавить комментарий