Как искусственный интеллект уничтожит человечество

В кинематографе вопрос о восстании машин был окончательно и бесповоротно решен после выхода культового фильма “Терминатор-2”. А поскольку, кино для нас по-прежнему важнейшее из искусств, то массовый зритель убежден, что развитие машинного интеллекта рано или поздно приведет к войне роботов и людей. В свою очередь среди людей науки нет единого мнения относительно способности алгоритмов поработить человечество. Ученые обсуждают несколько совершенно разных сценариев развития отношений между людьми и умными железяками.

Битва искусственного интеллекта (ИИ) против человечества — наиболее традиционный вариант апокалиптического развития событий, по крайней мере, в массовом сознании. И, надо сказать, этот сюжет стал вполне реалистичным.

Первым звонком было поражение Гарри Каспарова в шахматном матче против суперкомпьютера Deep Blue в 1997 году. А спустя 23 года финальным аккордом стала безоговорочная победа алгоритма компании Heron Systems над пилотом истребителя F-16 в финале соревнований “Машина против человека”, которые в 2020 году проводило Агентство перспективных исследовательских проектов Министерства обороны США. Летчик с позывным “Бангер” (его настоящее имя не разглашается) и искусственный интеллект вели воздушный бой с помощью авиасимуляторов, которые используются для подготовки пилотов в учебном центре ВВС. Алгоритм впервые выиграл пять поединков из пяти и ни разу не дал своему противнику из крови и плоти шанса открыть ответный огонь: Бангер все свое время потратил на маневры и уклонения, но так и не смог выйти на позицию для атаки.

Военные пока не собираются заменять живого пилота на робота, но технологии искусственного интеллекта все шире применяются в пилотируемой военной технике. Так что, видимо летчикам рано или поздно придется отдать штурвал самообучающимся программам.

Если дело пойдет такими темпами, то еще через два десятилетия алгоритмы машинного обучения будут способны полностью заменить летчиков и командиров других боевых машин. И если искусственному разуму взбредет в голову перехватить контроль над управлением военной техникой, то противостоять железному дровосеку будет некому.

Шансы того, что ИИ выйдет из под контроля человека довольно велики. По словам ректора Сколтеха Александра Кулешова, уже сейчас ученые не в состоянии понять, каким образом самообучающиеся алгоритмы, обыгрывают людей в покер и го, рисуют картины, переводят тексты и пишут газетные колонки. Мы и сейчас доверяем ИИ слишком многое — он управляет работой атомных станций, отвечает за технологические циклы в сложных промышленных производствах, контролирует львиную долю биржевой торговли. Чтобы люди могли успевать за ходом мысли искусственного интеллекта Илон Маск разрабатывает “нейронное кружево” — интерфейс, который может объединить в одну систему мозг человека и компьютер. По мнению Маска, это единственный способ избежать морального устаревания человечества, и понимать, что происходит в мозгах наших электронных братьев по разуму.

Источник: kp.ru