Известные во всем мире разработчики ИИ договорились не создавать умное оружие

[Саня]

Технологии искусственного интеллекта развиваются бурными темпами. Специалисты научили ИИ многому, сейчас его слабая форма (сильная, к счастью или к несчастью пока не создана) работает в промышленности, судоходстве, развлекательной сфере и многих других отраслях. Но что насчет военного дела? Да, здесь ИИ тоже используется, ведь предиктивный анализ траектории ракеты или транспортного средства, действий противника, разработка собственной стратегии — со всем этим может справиться искусственный интеллект.

Но что, если встроить ИИ любого уровня в оружие, не станет ли оно эффективнее? Скорее всего, станет, и будет весьма «производительным». Но здесь появляются уже вопросы этики. Может ли машина распоряжаться судьбами людей? Многие эксперты из сферы технологий считают, то нет. И эти «многие» на днях подписали декларацию — своего рода обещание никогда не принимать участие в разработке умного оружия.

Среди прочих специалистов, которые приняли участие в создании и подписании декларации — Илон Маск, представители DeepMInd и сотрудники многих других компаний, где так либо иначе затрагиваются вопросы искусственного интеллекта. По мнению группы ученых и предпринимателей, которые оставили свои подписи под меморандумом, решать убивать ли человека или нет должен все же другой человек, а не машина. И груз этого решения ложится на плечи того, кто его принял.

В случае же с машиной никаких моральных колебаний нет — систему отправили на дежурство, скажем, на прочесывание проселочных дорог во время войны, и она отстреливает врагов как подсказывает совесть вычислительный блок. По словам экспертов, разработка умного оружия с элементами ИИ может стать дестабилизирующим фактором как для любой страны, так и для ее граждан.

Текст декларации относительно использования ИИ в создании оружия был опубликован после завершения конференции IJCAI (International Joint Conference on Artificial Intelligence), проходившей с Стокгольме. Она была организована научно-исследовательским институтом Future of Life Institute. Он занимается изучением рисков существования человечества. Институт ранее призывал отказаться от идеи создания умного летального оружия. Сейчас эта идея нашла понимание и начинает распространяться все более широко.

Среди подписавшихся — глава компаний SpaceX и Tesla Илон Маск, три сооснователя дочерней компании Google — DeepMind, создатель Skype Яан Таллинн, плюс известные в мире технологий исследователи искусственного интеллекта Стюарт Рассел, Йошуа Бенджио, Юрген Шмидхубер.

Отдельно подписавшиеся отметили то, что их общая инициатива должна помочь перейти от слов к делу в плане отказа от умного летального оружия. Нет, революцию никто устраивать не собирается, основная задача — показать опасность постепенной интеллектуализации оружия любого типа. «Оружие, которое самостоятельно решает, кого убивать — отвратительная и дестабилизирующая идея, вроде биологического оружия. К идее умного оружия следует относиться точно так же, как и к оружию биологическому».

Здесь, правда, есть одна сложность. Дело в том, что отличить действительно автономное и «умное» оружие от того, которое таковым не является, достаточно сложно. Черта призрачная. Когда обычное hi-tech оружие прекращает быть глупым, умнеет и начинает решать, кого оставить в живых, а кого — убить? Автоматическая турель, которая отслеживает появление людей по тепловому излучению — можно ли использовать такое оружие? Да и велика ли разница между умным оружием и обычным, если та же турель будет автоматически наводиться, а человек — просто жать на гашетку?

Кроме того, сама декларация припозднилась — у примерно 30 различных стран на вооружении есть летальные системы, которые с натяжкой или без, но можно назвать умными.

Кстати, интересный факт — разработчики корпорации Google в прямом смысле слова взбунтовались, когда услышали о том, что компания собирается разрабатывать автономные системы для Пентагона. А именно — нелетального дрона с ИИ.

Говоря об умном оружии и его будущем, нельзя не вспомнить научно-фантастический рассказ (автора и название, к сожалению, не помню), где разумную боеголовку с уровнем развития интеллекта как у 5-летнего ребенка послали выполнять задание. Но при подлете к вражеской базе она обнаружила, что там живут люди, такие же, как и на ее собственной базе. Осознав это, она решила доложить обо всем своему создателю и отправилась в обратный полет. Заканчивается рассказ тем, что ракета влетает в окно дома, где живет ее создатель, но по понятным причинам ничего рассказать не успевает.
https://habr.com/post/417573/

[Нечай]

Значит, точно будут разрабатывать.

[Pestilence]

Три закона роботехники

[Vollmer]

Сцукко, тепер - точно зроблять. Якщо не зробили вже.

Китайозам, мериканцям, індусам, євреям - наплювати на всі політеси.

Крім них, а це - ядерні держави, існують купа неядерних, під тиском ядерних, під заборонами на набуття ядерної зброї, і всякими погрозами, з цим пов'язаними, аж до знищення держави. І для них подолання цього бар'єрчика значно простіше, безпечніше, ніж ядерного бар'єру. Комплектовку вони куплять, людей навчать, або куплять готові рішення. І, як підказує мрачний досвід з газами, розривними кулями, вогнеметами, тиди, - конвенції будуть написані вже після чергової війни. Якщо хтось залишиться поза увагою бойових роботів.

Я, поки шукав дані взривателів, начитався. Там уже повно пристроїв, які, вже будучи підкинуті пострілом вгору - самостійно шукають ціль, за ознаками, що були заздалегідь йому задані. Це вже роботи, готові.

Щоб насипати сіль на рану - можу пригадати особисту бесіду з тіпом, який тут, в Україні, розробляв головки самонаведення, за тепловим випромінюванням, для знищення танків. Це така згадка, об просраних полімерах.

[Pestilence]

існують купа неядерних, під тиском ядерних

Ну да. А куда бедному крестьянину податься. Я тоже периодически думаю о том, какое оружие можно противопоставить яо в реальности. Только био и химия на сегодня, хоть это и палка о 2 концах

[Vollmer]

існують купа неядерних, під тиском ядерних

Ну да. А куда бедному крестьянину податься. Я тоже периодически думаю о том, какое оружие можно противопоставить яо в реальности. Только био и химия на сегодня, хоть это и палка о 2 концах

Ну, ЯЗ, теж, точно не з одним кінцем.

[главспец]

И эти «многие» на днях подписали декларацию — своего рода обещание никогда не принимать участие в разработке умного оружия.

а те, «немногие», которые не подписали, будут?

[DSMechanic]

існують купа неядерних, під тиском ядерних

Ну да. А куда бедному крестьянину податься. Я тоже периодически думаю о том, какое оружие можно противопоставить яо в реальности. Только био и химия на сегодня, хоть это и палка о 2 концах

Не повна альтернатива, але - сукупність зброї.
Розвідка і цілевказання - супутник (можливо одноразовий на низьку орбіту) + літаки + дрони
Удар - ракети + ті ж дрони, тільки ударні, коли на позиції їх будуть скидати сотні.
Це повино бути дешевше ніж ядерна зброя - як в виготовлені, так і у використані. Толк від ядерної зброї? Якийсь звісно є, з розрахунку що коли є у ворога, повна бути і в тебе, але ж її не використаєш.

Тому військовий штучний інтелект і такий стрьомний - комбінація різних дронів з їх повною взаємодією - убойна штука. Тільки ще ніхто всю систему повністю не зробив - тільки елементи. Навіть повноціне сканування місцевості з розпізнаванням цілей не можуть зробити. Прибрати ватермарку на фото можуть, а знайти прикопаний танк - ні. Мабуть не хочуть., або займаються зовсім різні люди.

[главспец]

предполагаю, что проблема в принципе нерешаемая. Пурга и понты. Где пресловутые «шахматные компьютеры»? Почему никто не пытается роботизировать формулу 1, ведь у компьютера быстродействие не сравнимо с человеческим?

п.с.
даже пресловутая «посадка ла в автоматическом режиме», на самом деле не очень «автоматическая»! И в ряде случаев, например, при порывистом ветре просто невозможна.

[Pestilence]

предполагаю, что проблема в принципе нерешаемая. Пурга и понты. Где пресловутые «шахматные компьютеры»? Почему никто не пытается роботизировать формулу 1, ведь у компьютера быстродействие не сравнимо с человеческим?

п.с.
даже пресловутая «посадка ла в автоматическом режиме», на самом деле не очень «автоматическая»! И в ряде случаев, например, при порывистом ветре просто невозможна.

Думаю все решаемо, особенно это становится проще с развитием нейросистем. Уже нейросети пишут программы и статьи для сайтов. Они обучаемы и постоянно совершенствуются. Где-то был пример, когда нейросеть написала новую нейросеть с лучшими показателями чем сама.
А шахматы...компьютер уже довольно давно имеет преимущество над людьми, просто это не особо кому нужно, не имеет практического применения

[DSMechanic]

AlphaGo и AlphaGo Zero. Перша обіграла майстра Го, друга просто разнесла першу, ще й її використали в інший грі.

Основна проблема що бачу - поки що системи просто не вміють оріентуватись у просторі. І ходити не вміють. Якісь датчики, лідари, купа різних радарів. Динамічний рух в просторі, не заданий, не прокладений по точках, на даний момент - тільки в особливих умовах - дорога, де на справді мало перешкод, в приміщенях, і то тим же пилососам треба потикатись щоб стіни побачити.
А віріант коли дрон летить і динамічно розпізнає цілі - тільки пробують. Так що термінатор на двох ногах з автоматом - поки фантастика.

[главспец]

предполагаю, что проблема в принципе нерешаемая. Пурга и понты. Где пресловутые «шахматные компьютеры»? Почему никто не пытается роботизировать формулу 1, ведь у компьютера быстродействие не сравнимо с человеческим?

п.с.
даже пресловутая «посадка ла в автоматическом режиме», на самом деле не очень «автоматическая»! И в ряде случаев, например, при порывистом ветре просто невозможна.

Думаю все решаемо, особенно это становится проще с развитием нейросистем. Уже нейросети пишут программы и статьи для сайтов. Они обучаемы и постоянно совершенствуются. Где-то был пример, когда нейросеть написала новую нейросеть с лучшими показателями чем сама.
А шахматы...компьютер уже довольно давно имеет преимущество над людьми, просто это не особо кому нужно, не имеет практического применения

ок, где "голосовой набор", (естественно, текстов), сделавший ненужной клаву?

[DSMechanic]

ок, где "голосовой набор", сделавший ненужной клаву?

ніколи не користувались? Він є. Але виходить не зручно. Виявилось що диктувати секретарші, або набирати самому поки зручніше.

[Sintez]

існують купа неядерних, під тиском ядерних

Ну да. А куда бедному крестьянину податься. Я тоже периодически думаю о том, какое оружие можно противопоставить яо в реальности. Только био и химия на сегодня, хоть это и палка о 2 концах

В голові у нас найпотужніша зброя.

[Sintez]

Придурки для початку навчилися б користуватися єстєствєнним інтєллєктом.

[Sintez]

https://www.e-reading.club/chapter.php/ ... ihogo.html

[Sintez]

Значит, точно будут разрабатывать.

Звичайно. Якщо їх не посадять на бочку з порохом.

[Pestilence]

ок, где "голосовой набор", (естественно, текстов), сделавший ненужной клаву?

Попробуйте на инглише - получится лучше, так как и заточена система в основном под него. Да и совершенствуется она буквально на глазах...еще несколько лет назад ее не существовало.
Новости в спортивный раздел какой-то известной газеты вроде как роботы пишут...

[главспец]

Да и совершенствуется она буквально на глазах...еще несколько лет назад ее не существовало.

а попробуйте на родном языке, не? Прикол в том, что читаешь вслух несколько медленее чем про себя, я набираю текст на клавиатуре, десятипальцевым методом, быстрее чем проговариваю этот же текст!

[Pestilence]

я набираю текст на клавиатуре, десятипальцевым методом, быстрее чем проговариваю этот же текст!

Супер, а я печатаю 1 пальцем