Общество против «роботов-убийц»: как победить автономную угрозу?

На площадке ООН на протяжении нескольких лет 88 стран мира пытаются договориться о полном запрете на разработку автономных летальных систем вооружения, которые называют «роботами-убийцами». Такие машины, когда или если они будут созданы, смогут самостоятельно принимать решения об убийстве человека, без контроля со стороны оператора. Нобелевские лауреаты, известные предприниматели, среди которых Илон Маск и Бил Гейтс, запустили кампанию против автономного оружия, считая его прямой угрозой человечеству. Многие страны — члены ООН готовы согласиться с полным запретом. И только США, Россия, Китай, Израиль, Великобритания, Южная Корея, а с недавних пор и Австралия, никак не могут договориться по этому вопросу, отметила юрист, руководитель Аналитического центра «Этика и технологии», созданного при поддержке НСМИИ РАН РФ, Алена Попова. По ее словам, российские производители оружия уже демонстрируют свои достижения в этой области, заявляя, что искусственный интеллект Россия встроит даже в мины.

Попова подчеркнула, что речь может идти о любом оружии, которое без участия человека способно принимать решение об убийстве. По ее мнению, появление такого оружия будет означать, что никто не сможет остановить его действия и повлиять на выбор цели. «Если в оружие заложен алгоритм, который определяет, что человек с палкой, находящийся в горячей точке, — враг, оно автоматически должно будет убить его, даже если человек бежит с палкой, освободившись из плена», — объяснила Попова.

Особенно это опасно, если учесть, что совершенные машины разрабатываются несовершенными существами — людьми, согласился международный правозащитник, социальный философ, эксперт МХГ, постоянный эксперт СПЧ, член правления Международной гражданской инициативы для ОБСЕ Андрей Юров. Программируя роботов-убийц, мы заложим в них свое видение, свои ошибки, и в результате эти машины тоже будут ужасно несовершенными, полагает он.

При этом до сих пор непонятно, кто будет нести ответственность в случае ошибки. «Мы не сможем привести в суд разработчика, который просто заложил в алгоритм возможность самообучаться, и не сможем заставить алгоритм отвечать за потерю кормильца», — считает директор проекта по новым технологиям и международной безопасности, ПИР-Центр Вадим Козюлин.

Эксперты задаются вопросом о том, сможем ли мы вообще понять, кто направил роботов-убийц. Возможно, это было другое государство, а может их по пути взломала преступная группировка или какой-нибудь гениальный школьник.

«Если у нас есть возможность заранее договориться, как это должно быть оформлено в международном праве, давайте до этих пор воздержимся от разработки, и договоримся, какие виды оружия можно создавать», — заметил Юров. Он подчеркнул, что роботов-убийц в некотором смысле можно сравнить с пехотными минами, на которых, как известно, взрываются преимущественно дети.

Попова напомнила, что ослепляющий лазер запретили как раз на этапе разработки. По ее словам, это пример того, что страны могут договориться. «Когда разработка роботов-убийц войдет в активную фазу, процесс уже будет не остановить, и договариваться никто не будет», — отметила она. При этом, запретить уже созданный алгоритм будет куда сложнее, чем ослепляющий лазер, подчеркнул директор Центра международной безопасности и политики (Казахстан) Алимжан Ахметов.

Юров в свою очередь считает, что ждать, когда страны-разработчики такого оружия договорятся о его запрете, не стоит. По его мнению, противостоять этой угрозе может только мировое гражданское общество, а для этого ему придется очень быстро повзрослеть и объединиться.

По инф. rosbalt.ru

Работа «на удаленке» может стать эффективней, благодаря… ароматам

Исследователи из Университета Цукубы в Японии пришли к выводу, что принятие ароматических ванн с эфирными маслами может оказать существенную пользу для физического и психического состояния сотрудников, работающих удаленно.

Доктор Мясников дал советы по борьбе с отеками

Избавиться от отеков можно, если следовать простым правилам. Так считает врач-кардиолог Александр Мясников, заявление он сделал в эфире программы «О самом главном» на канале «Россия 1».

Доктор Мясников поведал о неочевидной пользе кофе

Популярный телеведущий и врач-кардиолог Александр Мясников рассказал россиянам с экранов телевизоров о неочевидной пользе кофе для мозга. Он также назвал еще два продукта с аналогичным свойством.

Чем питаться, чтоб мозги хорошо работали?

Для поддержания оптимальной работы мозга, хорошей памяти, стабильного настроения и высокой концентрации необходимо употреблять продукты, богатые витаминами группы B

Создана батарейка из ядерных отходов

Американские инженеры из Университета штата Огайо разработали новый тип батареи, использующей энергию ядерных отходов.