Киборги роботы

(по результатам анализа проекта Модельной международной конвенции о робототехнике и искусственном интеллекте)

В целом идею создания такой международной конвенции следует одобрить (текст её прилагается). Если даже в небольших коллективах в простые понятия люди вкладывают разное содержание, то в масштабах всего человечества однозначная трактовка сложных понятий – наитруднейшая задача. В той мере, в которой конвенция будет способствовать достижению единообразия, её значение трудно переоценить. К сожалению, в части унификации понятий комментируемый проект явно требует доработки.

Прежде всего, конвенция оперирует такими понятиями как робот, киберфизическая система и роботизированный механизм, соотношение между которыми определить трудно. Если не ставить между ними знак равенства (а этот вывод вытекает из текста), то нужно решить, чем они отличаются друг от друга, а также от обычных механизмов. Механизм состоит из частей, связанных физически, и выполняет определенную работу, изменяя окружающий мир. Робот – это тоже механизм, но более сложный. Что позволяет выделить его? Если человекоподобие, то с таким пониманием роботов мы, вроде бы, уже расстались. Если наличие искусственного интеллекта, то определение понятия робота зависит от того, что такое искусственный интеллект.

Добавляет неопределённости и понятие «киберфизическая система». Сделанный в нём акцент на физике создает впечатление о том, что биологических роботов быть не может. Между тем, границы между физикой и биологией давно открыты, поэтому зацикливаться на чём-то одном бессмысленно. Уж лучше использовать термин «робот» или «роботизированный» механизм, хотя биоробота логичнее было бы назвать организмом. На это нас наводит и слово «киборг». Чтобы не допускать жонглирования понятиями, лучше заранее до минимума сузить их количество, но определить каждое более-менее широко, чтобы охватить все аспекты. В этом смысле достаточно остановиться на двух ситуациях: 1) когда робот действует самостоятельно; 2) когда робот (или роботизированный механизм) встроен в человеческий организм. Остальное будет «расщеплением волоса на ладони»…

Теперь об искусственном интеллекте. Должен ли он быть обязательным признаком робота (киберфизической системы, роботизированного механизма)? Этот вопрос в проекте конвенции решен противоречиво. С одной стороны, робот предполагает наличие искусственного интеллекта, иначе будет трудно представить то, что позволяет отличить его от обычного механизма. С другой стороны, ст. 1 проекта конвенции допускает существование киберфизических систем без искусственного интеллекта. Причём неясно, как здесь быть с роботами и роботизированными механизмами. В ст. 2 проекта конвенции роботы и киберфизические системы с искусственным интеллектом — разные понятия. А куда относятся роботизированные механизмы? Одним словом, с упомянутыми категориями надо определиться …

Ситуация осложняется тем, что в проекте конвенции не определён и сам искусственный интеллект. Между тем, применительно к нему, очевидно, проявляется тот же эффект, что и в отношении предела делимости материи. Чем дальше развивается наука, тем глубже оказывается делимость. И если кажется, что предел достигнут, проходит время, и он снова сдвигается. Так и с искусственным интеллектом. Механизмы всё усложняются, а полного подобия человеку искусственный интеллект достигнуть не может. Мы уже многократно превысили многие параметры доступности органам человеческих чувств воспроизведенной искусственно реальности, однако она до сих пор выглядит фальшиво. Люди понимают, где настоящее, а где нет.

Поэтому главное – найти четкий юридический критерий искусственного интеллекта и заложить его в текст проекта конвенции. В чём он может состоять? Ясно, что заранее продуманная человеком последовательность процессов, даже очень сложная, не свидетельствует об искусственном интеллекте. Но сейчас распространяются обучаемые роботы, способные решать новые задачи, т.е. создавать новые последовательности процессов. Пока робота обучает человек, санкционируя те или иные варианты, об искусственном интеллекте говорить рано. Придёт момент, когда обучение в подавляющем большинстве случаев станет ненужным, поскольку почти всё будет решено, причём вариантов (логических цепочек) будет множество и они станут крайне сложными. Человек окажется беспомощным и будет выведен из процесса обучения. Вот тут «по закону подлости» и возникнет ранее не предусмотренная («нештатаная») ситуация…

Что машина будет делать в такой ситуации? Если ждать человека, но тогда она – не искусственный интеллект. Сама будет выбирать? Тогда должен существовать критерий такого выбора. Будет ли критерием искусственного интеллекта интуитивный выбор им вариантов, основанный на теории вероятности? Вряд ли, поскольку в таком выборе не будет свободы: робот по-прежнему останется рабом вероятности. Что же тогда? Способность искусственного интеллекта самостоятельно формулировать свои задачи? Какие задачи, откуда они берутся и как далеко должны заходить логические цепочки при их формулировании? Есть о чём подумать …, тем более что понятные специалистам в области точных наук критерии будет крайне трудно перевести на юридический язык. Поэтому-то в проекте конвенции их нет.

Помимо определения понятий, проект конвенции порождает и другие трудности.

1.. В ст. 5 «Национальные нормы» речь идёт, видимо, о коллизионных правилах, но чётко они не сформулированы. Подлежит ли применению закон «места использования роботов»? Если да, то как его определять? Та национальная территория, где находится тело робота или основная его часть? А если части находятся в разных юрисдикциях, какая из них будет иметь приоритет?

2. В ст. 6 речь идет о принципе непричинения роботами вреда человеку, человечеству, живым существам и всей среде их обитания. Однако непонятно, закреплён ли принцип абсолютного непричинения вреда роботами. Из текста вроде следует, что непричинение абсолютно, но ст. 7 и 8 придают этому принципу относительный характер. Да и по жизни этот принцип должен быть относительным. Ведь робот, внося изменения в окружающий мир, волей-неволей будет нарушать интересы людей. Поэтому правильным было бы определить такие сферы, в которых причинение вреда без санкции людей было бы абсолютно запрещено. В остальных сферах должен действовать принцип минимизации причиняемого роботами вреда.

3. В ст. 17 проекта сказано, что роботы, осуществляющие физическое взаимодействие с людьми, должны иметь «красную кнопку», позволяющую отключать их по требованию. Правда, что такое физическое взаимодействие, никак не определено. Электронное взаимодействие — это взаимодействие физическое. Может ли клиент требовать принудительного отключения, скажем, банковского робота? Я «за», а как к этому отнесутся банки? Точнее было бы вести речь не о физическом, а о телесном взаимодействии с людьми, как наиболее опасном.

4. В ст. 18 проекта конвенции употребляется термин «создатели роботов», который не коррелирует с понятием «субъекты робототехники» в ст. 1. К последним относятся только разработчики и изготовители роботов, тогда как к первым также и иные лица, причастные к процессу создания роботов. Одним словом, перечни должны «дружить» между собой.

5. Ст. 18-21 проекта конвенции в целом носят декларативный характер. Нормы без санкций имеют очень низкую эффективность. Последствия их несоблюдения нужно продумать.

6. Сомнения вызывает возложение в ст. 28 ответственности за убытки, причинённые роботами, только на их создателей. А как же собственники или владельцы, операторы. Здесь уместна солидарная ответственность всех этих лиц, которая в максимальной степени способна защитить интересы потерпевших.

7. Допуская возможность признания роботов субъектами права в ст. 29, проект конвенции не формулирует критерии, при наличии которых они могут быть признаны таковыми. А эти критерии явно нужны. Ведь признание робота субъектом права предполагает исключение ответственности за него людей. При подобных обстоятельствах данная ответственность может стать эфемерной. Неясно также, можно ли обратить взыскание на робота – субъекта права – как на имущество, или нужны особые способы обеспечения исполнения его обязанностей.

8. Ст. 30 по сути не содержит никакой нормы права.

9. В ст. 31 проекта конвенции речь идёт о «презумпции опасности» искусственного интеллекта. Однако неясно, каковы её последствия? Является ли искусственный интеллект источником повышенной опасности, за действия которого наступает ответственность без вины? Я бы с такой квалификацией согласился, а как быть с субъектами робототехники …

Несмотря на сделанные замечания, проект модельной международной конвенции о робототехнике и искусственном интеллекте представляет собой вполне пригодный для общественного обсуждения документ, а имеющиеся вопросы могут быть решены в ходе дискуссии.

Автор фото — Сергей Лойко Сергей Лойко

День памяти «киборгов» отмечался в Украине несколько дней назад, 16 января. Поэтому очень вероятно, что вы уже успели прочитать множество текстов по этому поводу, посмотреть видео и послушать множество мнений от наших политиков и чиновников.

Однако мы не зря вспоминаем о них и сегодня. Потому что именно сегодняшний день, 20 января, является одним из ключевых в истории обороны Донецкого аэропорта. Истории длиной в 242 дня, которая окончилась, как сейчас принято говорить, тем, что бетон этого всего не выдержал.

Именно 20 января 2015 года боевики подорвали новый терминал ДАП, окончательно превратив когда-то один из самых известных аэропортов страны в руины. После этого начался выход с объекта тех украинских военных, которые уцелели. «Киборгов», которые выстояли.

Кстати, почему «киборги»?

Sergei Loiko / Los Angeles Times

Начнем, пожалуй, с, думается, наиболее популярного вопроса. Так вот, откуда же взялись «киборги»?

Старт этому прозвищу дала история, якобы рассказанная одним из беженцев из Донецка (по другой версии – одним из пленных боевиков). Авторство истории проверить тяжело, как и то, насколько она правдива. Звучала она примерно вот так:

«Прибился к нам на работу беженец с Донецка. Мои пацаны прилепили ему погремуху «сепаратист» — хотя он зубами и скрипит, так как хоть от новой Киевской власти он (кстати, как и мы) не в восторге, но «путинпамаги» он в Донецке тоже не кричал. Один из его бывших сотрудников напился стекломоя и пошел воевать за ДНР. Звонит наш беженец сегодня узнать, как дела, этому кренделю. Через минуту разговора зовет всех и включает громкую связь. Далее вещает боец «Новососсии»: говорит, я, блин, не знаю, кто защищает Донецкий аэропорт, но мы их три месяца выбить не можем. Пробовали штурмовать — нам таких вломили — мы отошли. Начали накрывать «Градами» — они ныряют в подземные коллектора канализации. После обстрела мы наступать, они выныривают и опять нам дают проср*ться. Решили коллектора залить стоками канализации. Зафигачили «Градами» — они под землю, мы заливаем коллектора. И, типа, захватываем территорию аэропорта.

Они по коллекторам перебрались аж до Авдеевки, поднялись наверх, вернулись по верху в аэропорт и опять нам наваляли и нас выгнали. При этом захватили наше оружие, нашу технику и взяли у нас несколько десятков пленных, которых загнали в нами же затопленный г*ном коллектор и закрыли на замок. Далее у них начались проблемы с хавчиком (так как Порошенко шоколадных конфеток им не прислал). Они ночью делают вылазку в Донецк, берут в плен ещё пару десятков наших, подср*чниками гонят в аэропорт и оттуда выменивают их (а заодно и тех наших кто в коллекторе г*но нюхал) на три тонны хавчика (преимущественно тушёнка).

Я, говорит, не знаю, кто там сидит, но это не люди — это киборги!!! Свидетелей разговора человек тридцать».

Эта история пошла гулять «на широкую ногу» по украинскому (и не только) сегменту соцсетей, результатом чего и стало прозвище, которое прочно приклеилось к защитникам ДАП.

Касательно прозвища у самих «киборгов» мнения разные. Вот одно из них, которое мы, пожалуй, выделим отдельно:

Доброволец, офицер батальона «Карпатская Сечь», а позже – кадровый офицер ВСУ Николай Тихонов в эфире «5 канала» рассказал, что к прозвищу относится иронично.

По его мнению, настоящие «киборги» — это те ребята, «которые навсегда там остались».

С этим вроде разобрались. Теперь немного о самой истории.

Когда начались бои в ДАП?

Sergei Loiko / Los Angeles Times

На самом деле, все началось еще в мае 2014 года.

В ночь с 25 на 26 мая 2014 года боевики попытались захватить аэропорт, но «нарвались» на жесткий ответ со стороны ВСУ и отступили.

После этого серьезных боевых столкновений в ДАП не наблюдалось вплоть до сентября.

Попытки захватить аэропорт активизировались после подписания Минских соглашений. И не заканчивались вплоть до января.

Диспозиция

Из открытых источников

Украинские военные удерживали старый и новый терминалы аэропорта. Провизия и боеприпасы доставлялись через опорный пункт – поселок Пески. Через него же осуществлялась ротация.

В поселке также была развернута артиллерия.

Атаки боевиков осуществлялись из прилегающего к аэропорту Киевского района, с территории монастыря на юге и села Спартак на востоке.

В ходе систематических штурмов постоянно разрушалась инфраструктура аэропорта. В декабре 2014 года значительные повреждения получил старый терминал. А 13 января 2015 года окончательно упала диспетчерская башня:

Из открытых источников

Каким был финал?

Бои в новом терминале шли за различные этажи. В финале украинские военные удерживали первый этаж, а подвал и верхние этажи уже находились под контролем боевиков.

Финальный аккорд начался 19 января. Тогда боевики взорвали перекрытия между этажами терминала. Потом снова был штурм, в том числе – с использованием танков. С обеда 19 января атаки были практически беспрерывными.

Утром 20 января боевики снова подрывают терминал. Теперь уже превращая его в руины. В ночь на 21 января была начата эвакуация уцелевших защитников ДАП.

Потери

По данным украинского независимого проекта «Книга памяти павших за Украину», которые были обнародованы в январе 2018 года, подтвержденные данные о потерях украинских военных за период обороны ДАП составляют 100 человек погибшими.

Число раненых, согласно сообщениям в СМИ, оценивается в 440 человек.

Точное место гибели четырех бойцов не удалось установить, поэтому их имена не были внесены в этот перечень. Еще четверо человек в январе 2018 года отсутствовали в этом списке — их тела не были найдены.

Киборг – понятие, плотно вошедшее в нашу жизнь, но не всегда точно понимаемое и используемое. Часто это понятие используют, говоря о роботах, монстрах, или тренированных людях, тело которых способно совершить большее, чем тело среднестатистического индивидуума. Но это не так.

Понятие – киборг

Понятие состоит из двух частей: «кибернетический» и «организм». Если с организмом всё понятно, то «кибернетический» — понятие весьма неоднозначное. И обозначает принципы управления и передачи информации, а вовсе не обычную механическую замену человеческих органов.

Таким образом:

Киборг — пример биолого-механического симбиоза. В массовой культуре киборги представлены как механические структуры с биологическими придатками, или организмы, практически неотличимые от людей, но с искусственно модифицированными частями тел.

Первый вариант, это Борг из Стар Трека, Дарт Вейдер из Звёздных Войн, или Киборг из DC Comics.

Второй вариант — Сайлоны из Battlestar Galactica.

Киборгизация организма

Эксперты утверждают, что у человечества огромный шанс стать киборгами уже через 30 – 40 лет, за счёт усовершенствований тех или иных органов, и замены их более надёжными и совершенными модификациями из синтетических материалов.

Технических препятствий к этому нет. За последние годы в этом направлении сделано очень многое. Например, электропневматическая нога C-Leg, разработка компании Otto Bock, способная вернуть необходимые двигательные функции человеку, нуждающемуся в этом. Пока имеются препятствия чисто финансового характера: замена человеческих органов искусственными, полностью сохраняющими нормальную работоспособность, а часто и превосходящими её, дело недешёвое.

Вот некоторые примеры уже имеющихся разработок, предназначенных человеку будущего:

• Сетчатка глаза. В Иллинойском университете создана искусственная сетчатка на кремниевой основе, вживляемая в человеческий глаз. Незрячий человек обретает зрение, а вместе с ним способность видеть в инфракрасном и ультрафиолетовом диапазоне.
• «Абиокор» — искусственное сердце, работающее на батарейке, перезаряжать которую можно прямо через кожный покров.

Вопрос о том, что несёт киборгизация, плюсы или минусы для человечества, широко обсуждается в обществе.

Аргументы «За» и «Против»

«За»

Аргументы «За» просты. Стать киборгом — это восстановить или усовершенствовать ту или иную функцию организма, успешнее её использовать, увеличить продолжительность жизни. Хотим мы этого, или не хотим, но технический прогресс не остановить. Человечество переходит на новую эволюционную ступень. Когда-то на новую ступень поднялась обезьяна, взяв в руки палку, и сделав этим «критичный» шаг по превращению в человека.

«Против»

Аргументы «Против» тоже имеются. Новые приобретения могут скрывать за собой потерянное, что мы не сразу сможем осознать. Насколько сохранятся в киборгах человеческие ценности, например, сострадание? Смогут ли киборги и обычные люди нормально взаимодействовать между собой? Ответов пока нет.

Хронология развития понятия Киборг

• 1960 г. Манфред Клайнс использовал понятие «киборг» в статье об исследованиях космоса, и предпочтительности использования в нём систем «человек – машина».
• 1968 г. Филипп Дик «Снятся ли андроидам электроовцы?» — книга и снятый по ней фантастический фильм о том, что между роботом, киборгом и человеком — разница лишь терминологическая.
• 1972 г. «Киборг» — роман Мартина Кэйдина, поднимающий финансовый вопрос. Превращение в киборга обошлось для пилота Стива Остина в 6 млн. долларов, и поэтому ему пришлось стать госсобственностью США.
• 1976 г. Рассказ «Двухсотлетний человек» А.Азимова об андроиде, решившим стать человеком, и заменявшим свои механические органы живыми. Его признали человеком. Конец рассказа ожидаем – смерть от старости.
• 1984 г. Понятие стало популярным и широко используемым, благодаря фильму Кэмерона «Терминатор».
• 1987 г. Ещё один запоминающийся фильм «Робот-полицейский» Пола Верховена сделал термин нарицательным.
• 1996 г. — талантливая книга «Рибофанк» П. Д. Филиппо показала альтернативу киборгам в виде генетически модифицированных людей.

Развитие и трансформацию понятия удобнее проследить на книгах и фильмах, именно они вызывают общественный резонанс. Но и в реальной жизни понятие киборг не только используется, но и расширяется.

Вот только несколько примеров:

• 1998 год. Профессор Кевин Варвик (Kevin Warwick) приступил к трансформации своего тела, установив импланты в руку. Теперь взмахом руки он может включать свет, открывать двери. В 2002 году профессор вживил в себя 100 электродов, чтобы контролировать искусственную руку (плюс к двум своим), и интегрировать нервную систему с нейронным интерфейсом. Затем чипы и сенсоры вживила себе его жена, и теперь они могут обмениваться эмоциями через глобальную сеть.
• 2001 год. Джесси Салливан, человек, у которого две искусственные бионические руки, которыми он может управлять мысленно. При этом он может ощущать температуру и давление на руку.
• В 2011 году Рич Ли имплантировал себе в уши наушники, воспринимающие магнитные колебания. С их помощью он ориентируется в пространстве, используя принцип эхолокации. Рич постепенно теряет зрение, и этот способ ему необходим, чтобы сохранять свободу передвижения. Сейчас он разрабатывает GPS установку, она будет отсылать карты местности непосредственно ему в мозг.