Текст: Тим Рекарт, Foreign Policy. Перевод: «Спутник и Погром»
Новейшие нейротехнологии позволяют стирать травмирующие воспоминания и читать мысли. В XXI веке ваш мозг может стать новым полем боя.
Одним ничем не примечательным июльским днем в лаборатории Унивеситета Дьюка две макаки-резус сидели в разных комнатах, уставившись на компьютерные экраны. Они управляли виртуальной рукой, двигающейся на плоскости. От обезьян требовалось переместить руку из центра экрана к цели. В случае успеха макак награждали глотком фруктового сока.
Неожиданность первая: у обезьян не было ни джойстиков, ни каких-либо других физических способов управлять движениями руки. Все команды пересылались с помощью электродов, вживленных в участки обезьяньего мозга, ответственные за движение. Электроды регистрировали активность нейронов и передавали сигнал компьютеру по проводам.
Неожиданность вторая: контроль над виртуальной рукой был разделен между приматами. В одном из экспериментов, например, одна обезьяна управляла горизонтальным перемещением, а вторая — вертикальным. Обезьяны после недолгой адаптации поняли, что некоторые их мысли заставляют руку передвигаться. Поняв причинно-следственную связь, макаки — достигшие, между прочим, совместного мышления — вели руку к цели и получали в награду сок.
Нейробиолог Мигель Николелис, проводивший эксперимент и уже публиковаший свои исследования ранее в этому году, уже придумал термин для этого удивительно сотрудничества: Brainet. Николелис надеется, что в будущем совместная мозговая деятельность пригодится для лечения и реабилитации людей, получивших мозговые повреждения. К примеру, здоровый человек, вступив в такую связь с жертвой инсульта, может заново научить ее мозг пользоваться парализованной частью тела.
Эксперименты Николелиса основаны на новых нейротехнологических разработках, включающих в себя нейронный интерфейс, алгоритмы стимуляции нейронов и новые подробные карты мозга, позволяющие лучше понять сложнейшие механизмы мышления, эмоций и действий. Медицинские процедуры, разработанные на основе этих технологий, помогут врачам создавать новые протезы — чувствительные, подвижные и способные передавать ощущения носителю; облегчат лечение мозговых заболеваний вроде болезни Паркинсона; помогут создать новые методы лечения депрессии и других психических расстройств. Все это — одна из причин, по которой исследования в этих областях ведутся по всему миру.
Но у всех этих открытий есть и темная сторона. Нейротехнологии могут быть использованы двояко — и как скальпель в руке врача, и как меч в руке солдата.
Те же машины, созданные для сканирования мозга и диагностирования заболеваний вроде болезни Альцгеймера и аутизма, потенциально можно применять для чтения мыслей против воли человека. Компьютерные системы, подключенные к мозгу напрямую, позволят парализованным пациентам управлять новыми механическими конечностями; но те же системы могут быть использованы для создания бионических солдат и управления бомбардировщиками. Устройства, призванные удержать разум больного от распада, смогут вкладывать в голову человека новые воспоминания и стирать старые.
Возьмем детище Николесиса: Brainet. По словам профессора биоэтики Университета Пеннсильвании Джонатана Морено, эта система, способная связывать двух (или больше) людей в единую сеть, в своем развитии приведет к созданию идеального солдата. «Возьмем интеллект Генри Киссенджера, направленный на дипломатию и историю, потом берем разум военного стратега, а потом все эти данные отдаем инженеру из DARPA (U.S. Defense Advanced Research Projects Agency), — говорит Морено, — и вот он соединяет их в единую сеть». Подобная мыслительная сеть, всезнающая, но направленная на военное дело, сможет принимать сложные и быстрые решения, которые окажут влияние как на политику, так и на общество.
Успокоим вас — это пока что научная фантастика. Но по заверениям экспертов, появление подобных технологий — вопрос времени. Нейротехнологии переживают сейчас бум, а значит их коммерциализация неизбежна. Заинтересовались этими разработками и государства. DARPA, структура, занимающаяся разработкой новых технологий для Министерства обороны США, уже вложилась в изучение мозга. К примеру, в 2014-м агентство начало разработку имплантов, выявляющих и подавляющих желания. Заявленная цель — лечение ветеранов, страдающих от зависимостей и депрессий. Но легко представить, как такую технологию можно применить в военных целях. Еще легче предположить, что эти импланты по мере распространения начнут попадать не в те руки. «Вопрос не в том, будут ли негосударственные организации использовать нейротехнологии, — говорит Джейм Джиордано, нейроэтик из медицинского центра Унивеситета Джорджтауна, — Вопрос в том, когда и что именно они будут использовать».
Идея контроля над разумом долгое время занимала и пугала людей. Пока что бояться самого худшего — вроде взлома государством мозгов населения — рано, но уже видна двойственная природа нейротехнологии. Некоторые этики опасаются, что технологии, испытанные только в стенах лабораторий, окажутся в реальном мире опасными и недоиследованными.
К добру это или к худу, но, по словам Джиордано, «мозг станет новым полем боя».
Ища способ лучше понять устройство мозга, сложнейшего из всех человеческих органов, ученые за последнюю декаду добились серии прорывов в сфере нейротехнологий. В 2005-м группа исследователей заявила, что нашла способ читать мысли с помощью технологии функциональной магнитно-резонансной томографии (fMRI), замеряющей изменения в кровообращении мозга, связанные с мыслительной деятельностью. Эксперимент проходил так: подопытному, лежащему в сканере, показывают серию визуальных стимулов — линии и отрезки, вертикальные, горизонтальные и диагональные. Каждая новая комбинация линий вызывала в мозгу подопытного похожие, но все же различные процессы. В конце концов, основываясь лишь на данных о мозговом кровообращении подопытного, исследователи могли точно сказать, какие именно линии он видит на экране.
Всего шесть лет понадобились, чтобы эта технология, подслащенная еще и последними разработками Кремниевой долины, достигла рабочего состояния. В Унивеситете Калифорнии в 2011 году была поставлена серия экспериментов. Лежащие внутри аппарата fMRI подопытные смотрели трейлеры голливудских фильмов; исследователи же изучали данные мозговой активности и пытались создать алгоритмы расшифровки. Затем они записали нейронную активность людей, которым показывали новые сцены — к примеру, сцену, в которой Стив Мартин пересекает комнату. Используя алгоритмы расшифровки, индивидуально созданные для каждого из подопытных, ученым удалось воссоздать сцену, основываясь лишь на данных о мозговой активности. Результат, лишенный фотореализма, но все еще узнаваемый, выглядел жутковато: мутный силуэт Стива Мартина передвигается на фоне ирреального, постоянно меняющегося окружения.
Томас Населарис, нейробиолог из Медицинского Унивеситета Южной Каролины, принимавший участие в экспериментах 2011 года, утверждает: «Нечто подобное чтению мыслей появится уже скоро. Мы еще увидим подобные технологии на нашем веку».
Стремительно развивается и технология нейрокомпьютерного интерфейса (BMI) — нейроимплантов и компьютеров, считывающих мозговую деятельность и на ее основе проводящих действия. Или же наоборот — вызывающих иллюзию физического передвижения путем стимуляции нейронов. Первый такой работающий интерфейс был использован во время операции в 2006 году — ее провела команда нейробиологов и хирургов под началом Джона Донахью, работающего в Унивеситете Брауна. Чип шириной и длиной не более 10 мм и содержащий 100 электродов был успешно вживлен в мозг 26-летнего Мэтью Нейгла, бывшего игрока школьной футбольной команды. Мэтью получил ножевое ранение в шею и оказался парализован ниже плеч. Чип вживили в проекционный участок коры головного мозга Нейгла, ответственный в том числе и за моторику рук. Всего через несколько дней Нейгл научился перемещать курсор по экрану и даже открывать электронную почту посредством мысли.
И вот через восемь лет улучшенный нейрокомпьютерных интерфейс был продемонстрирован на Кубке мира 2014 года в Бразилии. 29-летний Джулиано Пинто, страдающий от паралича нижней части тела, облачился в управляемый мыслью экзоскелет (разработанный командой Николесиса в Унивеситете Дьюка) и открыл соревнования в Сан-Паулу, нанеся первый удар по мячу. Шапочка на голове Пинто передавала сигналы его мозга компьютеру, прикрепленному к спине Джулиано. Компьютер направлял сигнал механическим конечностям, которые и совершали желаемое действие.
Следующее препятствие на пути нейротехнологий — сложность человеческой памяти. Исследования показывают, что передача мыслей от одного разума другому, почти как та, что была показана в блокбастере Inception, вполне возможна. В 2013 году в Массачусетском Технологическом Институте прошел эксперимент под руководством нобелевского лауреата Судзуми Тонегавы: исследователям удалось вложить «ложную память» в сознание мыши. Установив наблюдение за мозговой активностью грызуна, экспериментаторы поместили его в контейнер, а затем стали наблюдать за тем, как животное обживается на новом месте. Из миллионов мозговых клеток, задействованных мышью для запоминания нового пространства, ученым удалось выделить нужную им группу. На следующий день мышь поместили в новый контейнер, который та до этого никогда не видела; животное получило небольшой электрический разряд одновременно со стимуляцией тех нейронных цепочек, которые мозг использовал для запоминания. В сознании у мыши сформировалась ассоциативная цепь: когда ее вернули в предыдущий контейнер, она в ужасе застыла, ожидая электрического разряда. Всего через два года после экспериментов Тонегавы команда ученых из Исследовательского Института Скриппса ввела мыши химическое соединение, удаляющее определенные воспоминания, не затрагивая при этом память в целом. Подобные методы могут использоваться для лечения посттравматических расстройств — болезненное воспоминание можно будет просто удалить, что улучшит состояние пациента.
Скорее всего, высокая скорость развития сферы нейротехнологий сохранится, ведь в революцию разума вкладываются огромные средства. В 2013 году США запустили проект BRAIN Initiative (Brain Research through Advancing Innovative Neurotechnologies). На первые три года проекта уже выделены сотни миллионов долларов; будущие вложения пока что обсуждаются. (Стоит заметить, что Национальный институты здравоохранения (NIH) США, одно из пяти федеральных агентств, участвующих в проекте, только на свои нужды потребовало 4.5 миллиарда долларов в течение 12 лет). Со своей стороны Европейский Союз уже выделил на проект «Человеческий мозг», начатый в 2013 году, 1.34 миллиарда долларов. Оба эти проекта созданы для исследования и разметки структуры мозга и электрической активности миллиардов его нейронов. В 2014-м Япония запустила похожий проект — Brain/MINDS (Mapping by Integrated Neurotechnologies for Disease Studies). Даже Пол Аллен, один из основателей Microsoft, начал выделять сотни миллионов долларов на исследования, ведущиеся в созданном им Институте изучения мозга Аллена — эта работа должна привести к созданию атласа человеческого мозга и объяснить, как работает зрение.
Безусловно, при всем потенциале новейших исследований большая часть сферы нейротехнологий в настоящее время находится в зачаточном состоянии. Созданные нейробиологами устройства не могут работать подолгу, могут читать или стимулировать лишь определенное количество нейронов или требуют проводного соединения с компьютером. Машины для «чтения мыслей», к примеру, требуют наличия дорогостоящего оборудования, доступного только лабораториям или больницам — а результаты их работы выглядят пока довольно сыро. Но исследователи и инвесторы продолжают работу в сфере нейротехнологий — а значит подобные устройства будут с каждым годом становиться все сложнее, дешевле и доступнее.
Каждая из новых технологий породит множество новых возможностей для их применения. Но этики предупреждают, что среди этих способов использования есть и военные.
Непохоже, что пока хоть одно из новых нейротехнологических устройств применяли в качестве оружия. Но нельзя и сказать, что подобные идеи еще никому не приходили в голову. Ранее в этом году страдающая от паралича конечностей женщина успешно летала на компьютерном симуляторе F-35, управляя полетом силой мысли через мозговой имплант, создание которого оплатило DARPA. Использование нейротехнологий в военных целях — лишь вопрос времени. От теории до создания опаснейшего вооружения всего несколько шагов. Стоит помнить, что между открытием нейтронов и вспышками атомных взрывов в небесах над Хиросимой и Нагасаки прошло всего лишь 13 лет.
Джанн Шоерман, страдающая параличом всех четырех конечностей, подносит ко рту плитку шоколада, силой мысли управляя роботизированной рукой. Позднее она успешно летала на компьютерном симуляторе F-35, управляя полетом также силой мысли. Фото: Foreign Policy
Было бы здорово, если бы государства занимались манипуляцией сознанием населения только в фантазиях конспирологов и на страницах художественных книг. Но мировые державы в прошлом уже подступались к попыткам влиять на человеческий мозг. Между 1980 и 1981 годами в Советском Союзе была проведена серия странных экспериментов, во время которых исследователи пытались нарушить работу нейронов, используя для этого высокочастотное электромагнитное облучение (результаты экспериментов все еще неизвестны). За несколько десятилетий Советский Союз выделил на исследование мозга суммы, эквивалентные миллиарду долларов.
Один из самых известных примеров, показывающих интерес США к нейротехнологиям, — исследование ЦРУ, носившее название MK-Ultra. Эта программа, созданная в 50-60-е годы XX века, ставила своей целью исследование способов наблюдения и влияния на человеческое мышление. Согласно отчету ЦРУ, составленному в 1963 году, MK-Ultra была программой по «изучению и разработке химических, биологических и радиологических способов контроля человеческого поведения во время секретных операций». В проекте участвовало 80 учреждений, включая 44 университета и колледжа. Деньги шли на профильные исследования, поэтому работники часто даже не знали, что они выполняют задание Лэнгли. Самый известный аспект этих исследований — введение людям (иногда без их согласия) больших доз LSD. Одному из участников программы LSD вводили на протяжении 174 дней. Не менее пугающе выглядят и исследования MK-Ultra, направленные на изучение экстрасенсорного восприятия и возможности узнавать, интерпретировать и изменять мысли людей при помощи гипноза и психотерапии.
На сегодняшний день нет никаких доказательств того, что правительство США использует нейротехнологии в подобном ключе. А вот вооруженные силы в них весьма заинтересованы. Согласно данным Маргарет Козал, в 2011 году армия США выделила на исследование нейротехнологий 55 миллионов долларов, флот — 34 миллиона, а ВВС — 24 миллиона. (Стоит заметить, что армия США спонсирует исследования в самых разных научных сферах, включая инженерное дело и информационные технологии). В 2014 году IARPA (Intelligence Advanced Research Projects Activity), исследовательская организация, разрабатывающая новейшие технологии для разведывательных служб США, выделила 12 миллионов долларов на создание техник повышения производительности, включающих электрическую стимуляцию мозга для «оптимизации адаптивного человеческого мышления». То есть техник, которые сделают аналитиков умнее.
Но, конечно, основные новости в этой сфере касаются загадочного агентства DARPA, предмета зависти всех государств планеты. DARPA единовременно финансирует до 250 исследовательских программ и набирает ведущих ученых и инженеров для работы над амбициозными и строго определенными проектами. Хватка агентства, вложившегося в проекты, изменившие мир — к примеру, GPS, Интернет, стелс-технологии — известна во всему миру. В 2011-м DARPA выделило из своего скромного (по меркам оборонной промышленности) трехмиллиардного бюджета 240 миллионов долларов на исследования в области нейробиологии. Агентство также вложило 225 миллионов долларов в проект BRAIN Initiative. Основной инвестор проекта, NIH, выделило на инициативу всего лишь на 50 миллионов долларов больше.
Учитывая заслуги и мировую репутацию DARPA, интерес к нейротехнологиям со стороны других мировых держав был лишь вопросом времени. В этом январе правительство Индии заявило, что хочет переформировать индийскую Организацию оборонных исследований и разработок по образу DARPA. В прошлом году вооруженные силы России пообещали выделить 100 миллионов долларов на созданный недавно Фонд перспективных исследований. В 2013-м Япония публично объявила о создании нового агентства, которое министр науки и технологии Японии Ичита Ямамото описал как «что-то вроде американского DARPA». (Пока что наблюдатели окрестили новое агентство JARPA.) В 2001 году было создано Европейское оборонное агентство, позиционирующее себя как «европейский ответ DARPA». Модель американского агентства пытаются копировать даже корпорации вроде Google.
Какое место занимают нейротехнологии в исследованиях, проводимых в этих центрах — пока что неизвестно. Но, судя по недавним успехам в сфере работы с мозгом, по заинтересованности в них DARPA и по желанию других государств следовать за Пентагоном, в сфере нейротехнологий вскоре появится множество новых игроков. По утверждению Роберта Маккрейта, бывшего чиновника Министерства обороны США, работавшего в сфере ограничения вооружений, конкуренция на этом поле может привести к нейротехнологической гонке, схожей с космической гонкой XX века. Это, конечно, увеличивает риск того, что новые разработки в этой сфере будут носить военный характер: человеческий мозг начнут улучшать для более эффективного ведения военных действий.
Несложно представить, как именно это будет выглядеть. Сегодня шапочка с подключенными к ней электродами воспринимает электроэнцефалографические сигналы (EEG), идущие из мозга, и преображает их в команды вроде удара по мячу; а завтра такие же электроды будут передавать сигнал оружейным системам. Точно так же BMI будет использоваться в допросах и разведке — например, при взломе сознания шпиона. Куда больше, впрочем, пугает перспектива попадания подобных технологий в руки террористов. Они смогут использовать их как для выуживания из сознания людей паролей и номеров кредиток, так и для создания убийц, одержимых лишь одной целью.
К сожалению, подобные сценарии выглядят до дрожи реалистично. В мире и так существует весьма малое количество международных соглашений о защите личной жизни, а уж нейротехнологий не касается ни один закон. Человеческий мозг грозит стать беззаконной и совершенно не защищенной территорией.
Сфера нейротехнологий — слепая зона в международном законодательстве. Нейрооружие, использующее в своих целях мозг, «не является ни биологическим, ни химическим, скорее электронным», утверждает Мари Шевре, профессор государственной политологии Университета Рутгерса. Это очень важный момент, так как ни одно из существующих соглашений об ограничении использования определённого вооружения (Конвенция о биологическом оружии (BWC) и Конвенция о химическом оружии (CWC)), должных, по идее, ограничить использование нейротехнологий, не содержит ни слова об электронном вооружении. Эти документы не рассматривают новые разработки, а значит оружие можно запретить лишь после его появления.
Шевре считает, что так как нейрооружие влияет на мозг, то есть биологическую систему, Конвенция о биологическом оружии, запрещающая использование биологических организмов и токсинов в военных целях, может, после некоторой доработки, включить в список и военные нейротехнологии. Мнение Шевре разделяют многие этики: они настаивают на присутствии нейробиологов на всех заседаниях ООН, где будут вестись переговоры об изменении условий конвенции. Шевре утверждает, что в настоящее время остро ощущается недостаток научной комиссии. Вопрос о создании подобного органа, включающего в себя и специалистов по нейробиологии, выносился на августовском заседании ООН, но ко времени написания этой статьи решение по этому вопросу еще неизвестно. Такая комиссия заставит государства действовать. «Политики просто не понимают, насколько эта область исследований опасна», — говорит Шевре.
С комиссией или без, но ООНовская бюрократия обычно движется со скоростью ледника — с этим наверняка возникнет проблема. Обзорные конференции BWC, на которых представляют доклады о новых технологиях, потенциально пригодных на роль биологического оружия, собираются только раз в пять лет — и в результате научный прогресс далеко опережает поправки к соглашению. «В общем, наука и технология, как обычно, двигаются вперед семимильными шагами, а этика и политика ползут позади, — говорит Джордано, специалист Джорджтаунского медицинского центра по нейроэтике. — Это реактивный, а не проактивный подход». (В этике уже есть название для этого запаздывания: дилемма Коллингриджа, названная так в честь Дэвида Коллингриджа — он в своей книге «Социальный контроль над технологиями» постулировал, что предсказать потенциальный эффект новой технологии и компенсировать его законодательно в принципе невозможно).
Но Морено, специалист по биоэтике из Пенсильванского университета, утверждает, что это не оправдание для бездействия. Эксперты по этике обязаны удостовериться, что до политиков в полной мере доносят природу технических прорывов и потенциальных угроз, к которым ведут эти прорывы. Морено говорит, что NHI следует организовать постоянную исследовательскую программу по нейроэтике. Британское Королевское Общество сделало первые шаги в этом направлении пять лет назад, собрав группу нейробиологов и этиков. С тех пор эта группа опубликовала четыре отчета о прогрессе в области нейробиологии, включая один, целиком посвященный конфликтам и национальной безопасности. Этот документ предлагает сделать нейробиологию ключевой темой BWC review и призывает соответствующие организации, такие как Всемирная медицинская ассоциация, исследовать перспективы возможной милитаризации технологий, связанных с нервной системой — включая не попадающие (как BMI) под действие международного законодательства.
Нейроэтика — сравнительно новая область науки. Само название прочно вошло в оборот только в 2002-м. С тех пор эта дисциплина значительно разрослась — породив, например, программу по нейроэтике в Стэнфорде, Оксфордский центр нейроэтики и Европейскую сеть нейроэтики и общества. Финансирование начало поступать из источников вроде Фонда МакАртура и Фонда Дана. Тем не менее все эти организации пока не пользуются большим влиянием. «Они очертили круг работы, — говорить Джордано. — Теперь пора за нее приниматься».
Увы, ученые мало знают о возможном двойном назначении нейротехнологий — особенно о разрыве между собственно исследованиями и этикой. Малькольм Дандо, профессор международной безопасности в Брэдфордском университете (Англия), вспоминает, как в 2005 году, за год до отчетной конференции BWC, организовывал несколько семинаров для английских научных департаментов — чтобы рассказать экспертам о потенциальном применении биологических агентов и нейрологических инструментов во вред. К своему ужасу он понял, что эксперты об этом «почти ничего не знают»; один ученый, например, отрицал, что потенциально имеющий военное применение микроб, лежащий у него в холодильнике, может иметь двойное назначение. Дандо описывает это как «попытку разговаривать с глухими». С тех пор в среде нейробиологов мало что изменилось: «фундаментальное непонимание совершенно точно никуда не делось».
Дандо замечает, что несмотря на это печальное положение, моральный аспект нейробиологии признают наверху. Барак Обама, например, поручил Президентской комиссии по изучению биоэтических вопросов подготовить доклад о возможных этических и юридических проблемах, связанных с продвинутой технологией проекта Brain Initiative, а европейский проект EU Human Brain Project организовал Комиссию по этике и обществу, которая должна направлять и корректировать его работу.
Но все эти меры обходят стороной конкретную проблему нейрооружия. Например, в двухсотстраничном отчете об этических аспектах BRAIN Initiative нет слов «двойное назначение» и «милитаризация». Дандо говорит, что такое умолчание — даже в нейробиологической литературе, где такой дискуссии, казалось бы, самое место — это правило, а не исключение.
Когда Николелис в 1999 году создал в Университете Дьюка своей первый интерфейс мозг-машина — крыса мысленно нажимала на рычаг, чтобы получить воду — он не мог представить, что прибор станут применять для реабилитации паралитиков. Но сейчас его пациенты могут забить гол с одного конца футбольного поля на другой при помощи мысленно управляемого экзоскелета. И количество областей практического применения его исследований продолжает увеличиваться. Сейчас Николелис работает над тем, чтобы обеспечить клиники неинвазивной версией Brainet (ЭЭГ-датчиков, которые надевают на пользователя) — таким образом, терапевты смогут при помощи их собственных мозговых волн помогать людям с травмами заново научиться ходить. «90% времени работает мозг терапевта, 10% — мозг пациента, и пациент учится быстрее», — говорит он.
Но Николелис признает, что ему не дает покоя мысль о том, что после того как его изобретение станет популярным, кто-нибудь может применить эту технологию во вред. Последний раз он имел дело с военными в середине двухтысячных, помогая лечить парализованных ветеранов, и с тех пор отказывается от денег DARPA. Николелис чувствует, что в Америке он в меньшинстве. «Некоторые нейробиологи достаточно глупы, чтобы хвастаться на конференциях, как много денег они получили от DARPA — им даже не приходит в голову, что у DARPA может быть свой интерес».
Мысль о том, что BMI, дело всей его жизни, можно превратить в оружие, ужасает ученого. «Последние 20 лет, — говорит он, — я пытаюсь делать вещи, которые могли бы нам помочь понять мозг и в конечном итоге двинуть вперед медицину».
Однако факт остается фактом: нейрооружие развивается параллельно с медицинской нейробиологией, и этого уже не изменить. Что это будет за оружие, когда оно появится и в чьих руках — это нам только предстоит увидеть; современному человеку точно не стоит бояться враждебного проникновения в свой мозг. Но хотя кошмарный сценарий, в котором техника превратит человеческий мозг в инструмент — инструмент более чуткий, чем натасканная на взрывчатку собака, такой же управляемый, как дрон, и открытый, как настежь распахнутый сейф — пока остается антиутопической фантазией, нам всё же стоит спросить себя: достаточно ли человечество прилагает усилий, чтобы проконтролировать новое поколение смертельного оружия, прежде чем стало слишком поздно?
Оригинал материала на сайте Foreign Policy
