ИИ-2041. Десять образов нашего будущего - Кай-фу Ли
Шрифт:
Интервал:
Закладка:
Нам остро необходимы законы, которые защитят людей от небезопасного программного обеспечения, но при этом должны быть гарантии, что технический прогресс не остановится из-за непомерных штрафов для тех, кто обеспечивает его софтом.
И наконец, последнее. Сообщения о дорожно-транспортных происшествиях довольно редко попадают в заголовки национальных газет. Но стоило в 2018 году беспилотному автомобилю Uber задавить пешехода в Фениксе, новость не сходила со страниц национальной прессы несколько дней. Система Uber, скорее всего, действительно виновата, но оправданно ли подобное внимание медиа ко всем смертельным случаям в будущем?
Если в прессе начнут кричать о каждой смерти, связанной с автономным транспортом, клеймить позором и пригвождать заголовками молодую индустрию, она, возможно погибнет на взлете — а ведь со временем, при благоприятном развитии, она, возможно, позволит спасти миллионы жизней.
Все описанные проблемы способны посеять в обществе страх, спровоцировать принятие излишне консервативных законов и существенно замедлить темпы перехода людей на автономный транспорт. Разумеется, это абсолютно обоснованные и логичные опасения, но если постепенно повышать осведомленность людей, поощрять дискуссии, достигать решений, то мы окажемся готовы к этим технологиям, как только они станут готовы для нас.
Я убежден: в долгосрочной перспективе автономные транспортные средства уровня 5 принесут человечеству неоценимую пользу в самых разных аспектах нашего существования, хотя нам и придется за это платить. Юный Чамал в конце рассказа «Святой возница» тоже это понял.
Глава 7. Квантовый геноцид
Нам не нужен ИИ, чтобы нас уничтожить, мы и сами большие задиры.
«Из машины» (фильм, 2014)
Все вещи переплетены друг с другом; святая связь объединяет их.
Марк Аврелий
ИСТОРИЯ, РАССКАЗАННАЯ ЭНДИ ДУДАКОМ
Примечание Кай-Фу: Прорывные, революционные технологии могут оказаться для нас и огнем Прометея, и ящиком Пандоры — в зависимости от того, как их использовать, во зло или во благо. Гениальный физик из истории «Квантовый геноцид» сорвался из-за личной трагедии и использовал два мощных технологических прорыва во зло — он вступил на путь невиданной доселе мести всему миру. В комментарии я подробнее опишу, возможно, величайший технологический прорыв, который вполне имеет шансы произойти к 2041 году. Квантовые компьютеры могут дать мощнейший толчок и искусственному интеллекту, и вычислениям. Я также опишу автономное оружие с элементами ИИ — это наибольшая опасность, которая грозит нам со стороны искусственного интеллекта. Потенциально — это реальная угроза существованию человечества.
Исландия, Кеблавик
25 августа 2041 года
Местное время 21:38
Летние ночи в Исландии бледны и холодны, как живот утопленника.
В Кеблавике, городе-спутнике Рейкьявика, находится самый защищенный на европейском континенте дата-центр Hrosshvalur. В этой настоящей крепости для хранения данных работают тысячи серверов. Энергию для дата-центра производит геотермальная электростанция, а охлаждение обеспечивают арктические ветра.
Пятьсот ведущих компаний Европы доверили Hrosshvalur свои информационные ресурсы. С материком и с Северной Америкой объект связан двенадцатью артериями — высокопроизводительными оптоволоконными кабелями. До Нью-Йорка информация долетает по ним всего за шестьдесят миллисекунд.
Выбросы углекислого газа в помещениях были почти нулевыми. Робин это казалось чудом.
На пляже в юго-западной части залива Фахсафлоуи лежало старое рыбацкое судно. Зияющая в обшивке дыра делала его похожим на кита с распоротым брюхом. Через эту «рану» в трюм были протянуты толстые черные кабели. Они терялись в темноте, которая изредка вспыхивала сине-белыми огоньками.
В проржавевшем корпусе судна хакеры и разместили свою базу — тут было такое оборудование, о котором многим и мечтать не приходится. Ребята провели здесь полгода, пользуясь дармовыми местными ресурсами: геотермальной энергией, холодным воздухом и избыточной вычислительной мощностью квантовых компьютеров из дата-центра. Сегодня должно было свершиться чудо, ради которого все и затевалось.
Уилл — в этом трио он играл роль спеца по «железу» — колдовал над клавиатурой. Он завернулся в видавшую виды куртку и здорово смахивал на бурого медведя.
— Поверить не могу, что мы дождались, — клацнул он зубами то ли от холода, то ли от возбуждения. — Сколько, говорите, биткойнов у Сатоси[84]?
Ли, 16-летний вундеркинд, откликнулся, не отрываясь от мелькавших перед глазами строк кода.
— Не менее двухсот шестидесяти миллиардов, — тон безразличный, как будто не про кучу долларов шла речь, — а может, и все пятьсот, смотря какой трейдинговой стратегии следовать.
— Бабло — зло, не позволяйте ему трахать вам голову, — в губе Робин запрыгал пирсинг. — Помните, парни, — удача и слава!
В хакерском мире давно поговаривали, что Сатоси Накамото, придумавший биткойн, реально крут и успел намайнить не меньше миллиона.
Считалось, что криптовалюту он держал в цифровом кошельке на основе стандарта P2PK (Pay-to-Public-Key)[85], то есть с использованием открытого ключа. Если это правда, то современным старателям было просто грех не прибрать к рукам сокровища Сатоси.
Майнеры давно отказались от P2PK, потому что каждая биткойн-транзакция, инициированная с использованием этого стандарта, делала ее открытый ключ видимым для всей сети. Более поздние стандарты — например, P2PKH (Pay-to-Public-Key-Hash) — защищены гораздо лучше, по крайней мере, теоретически. Они показывают только хеш открытого ключа, но не сам ключ.
Алгоритм, разработанный Питером Шором в 1994 году (и получивший его имя), позволяет справиться и с закрытым ключом, решив «проблему дискретного логарифма для эллиптических кривых с помощью 16-разрядного открытого ключа». Теоретически он дает возможность подделать цифровую подпись и стырить активы, но практически все упирается в вычислительные мощности.
До изобретения квантовых компьютеров даже самому быстрому суперкомпьютеру, чтобы вычислить закрытый ключ на основании известного открытого, требовалось около 6,5 × 1017 лет. Это в 50 миллионов раз дольше, чем осталось жить вселенной — число, совершенно непостижимое для человеческого разума.
Робин до костей пробрала впервые возникшая мысль о глубине пропасти между теорией и реальными возможностями. Казалось, какое-то божество намеренно производило вычисления, выходящие за рамки человеческого понимания, чтобы продемонстрировать нам ничтожность нашей цивилизации.
Это случилось, когда Робин было 16 и ее еще звали Умит Эльбакян. Она была чертовски талантлива. Поэтому по приколу вскрывала плохо защищенные онлайн-счета богатеев и раздавала награбленное бедным, как Робин Гуд. Но однажды пришло анонимное письмо с прикрепленной видеозаписью — девушке показали всех ее родных.
В мейле говорилось: Умит больше никогда не увидит родственников, если не согласится работать на Vinciguerra Group.
Это была известная и крайне серьезная криминальная организация.
Умит потерла в сети информацию, которая могла бы навести на ее след (она очень надеялась, что всю или хотя бы почти всю), взяла ник «Робин» и начала работать на Vinciguerra.
Так девушка переселилась в закрытый мир расхитителей «цифровых гробниц», добывавших сокровища из-под руин
