Работа для вирпила

[-DED-Frogen*]

Американский беспилотный летательный аппарат (БПЛА) во вторник впервые в истории совершил взлет с палубы авианосца.
Взлет X-47B был произведен с палубы авианосца George H. W. Bush, который находился у восточного побережья США. Совершив несколько пролетов над палубой корабля, БПЛА совершил посадку на аэродроме базы Patuxent River в штате Мэриленд.

Смотрим фото: http://news.mail.ru/foto/128017/#photo10

                           http://news.mail.ru/politics/13148418/

 

 

 

в 70-е годы автоматизация ЛА и средств навигации привело к практическому ликвидации профессии штурмана. Похоже на очереди реальные летчики, и в первую очередь летчики ударных самолетов.  

 

Но главное у Х-47В — искусственный интеллект, не требующий участия во взлете, выполнении боевой задачи и возвращении наземного пилота-оператора.

 

На эту тему вспомнился наш "Буран", который САМ слетал в космос и приземлился как самолет, на полосу. О нем все все уже благополучно забыли.. , ну были же впереди всех по разработке ИИ..

 

Стоимость подготовки летчика до уровня 1 класса равна стоимости ЛА на котором он летает. по сроку это занимает 7-10 лет, по видам авиации сроки разные, в ИА и в 4 года можно вложиться. Но, по факту, не каждый летчик 1 класса является  ПЕРВОКЛАССНЫМ летчиком. В среднем в 35 лет списывают с летной работы по здоровью до 60% летного состава...

 

​У БП АЛ ограничение по перегрузке ограниченно прочностью конструкции..  например уже на Су17М4 возможная перегрузка бы ограничена летчиком, а не машиной.

 

При боевой потере , ВВС теряют самолет, а не подготовленного пилота..

 

тема дискуссии : переход к БП АЛ это вселенское зло или закономерный этап развития авиации.

Изменено 21 мая 2013 пользователем CrazyFrogen

[Zhyravel]

Войска РЭБ не дадут вымереть этой профессии.

[Irinel]

в 70-е годы автоматизация ЛА и средств навигации привело к практическому ликвидации профессии штурмана. Похоже на очереди реальные летчики, и в первую очередь летчики ударных самолетов.  

 

Но главное у Х-47В — искусственный интеллект, не требующий участия во взлете, выполнении боевой задачи и возвращении наземного пилота-оператора.

 

А ориентировку этот самый ИИ осуществляет как? Визуально + по компасу + по звездному небу? Или по GPS? Если второе - то очередная "антипапуасная вундервафля".

РЭБ - не даст человеку остаться без крыльев.

А вот если первое...

 

При боевой потере , ВВС теряют самолет, а не подготовленного пилота..

 

тема дискуссии : переход к БП АЛ это вселенское зло или закономерный этап развития авиации.

Меня забавляет с каким упорством человечество стремиться наступить на неоднократно описанные фантастами грабли - придумать супер ИИ и делегировать ему право на насилие.  Кто нибудь подумал - как бороться с этой фигней будем, когда она из под контроля выйдет?

Если уж так нужны "ударные БЛА" - то они давно придуманы - всевозможные крылатые ракеты. Вполне себе ИИ, и пилотов не теряем...

[=FB=Weeper]

Меня забавляет с каким упорством человечество стремиться наступить на неоднократно описанные фантастами грабли - придумать супер ИИ и делегировать ему право на насилие.  Кто нибудь подумал - как бороться с этой фигней будем, когда она из под контроля выйдет?

 

Вообще то это естественный процесс, а не что то придуманное фантастами. Вы же на этот форум не телеграфируете, а пишите при помощи компьютера/планшета/мобильника. Должны ли по этому поводу страдать телеграфисты, а все остальные ждать восстания машин и апокалипсиса?

[Alaress]

Кто нибудь подумал - как бороться с этой фигней будем, когда она из под контроля выйдет?

 

Запрограмировать ИИ железки под конкретные задачи еще не значит наделить железку своей волей. Фантастика с терминаторами - это всего лишь художественная литература. "Делегировать ИИ право на насилие" - всего лишь красивые слова, пока не родится ИИ с самосознанием.  Но до того , чтоб создать настолько продвинутый ИИ , которому теоретически могло б  хватить  ума решить , что человечество ему не нужно , нам еще очень далеко , как до звезд.

И зачем вообще думать как с ним бороться (в конкретном случае с самолетом) - у него и так топливо закончится

Изменено 21 мая 2013 пользователем Alaress

[Top]

Произведения Жюля Верна тоже художественная литература

[air_runner]

Британские ученые разрабатывают принтер, который будет печатать сам себя. БПЛА не устроят апокалипсис, грядет принтакалипсис! Мир захватят принтеры!

[AnPetrovich]

А я вот согласен с Irinel.

 

Если посмотреть на развитие жизни на Земле в широком смысле понятия "жизнь" (т.е. не только с т.з. БИОлогии, а, как бы это сформулировать... ну, типа, как на развитие неких форм материи, способных воспроизводству, изменению себя (эволюции) и к изменению окружения), то техника - это не более чем очередная ступень в эволюции. Просто развивает её пока (!) предыдущая ступень - человек. Не трудно догадаться, кто встанет во главе пищевой цепочки (тоже в широком смысле этого понятия) если техника будет продолжать развиваться темпами, многократно превышающими темпы развития человека.

[Alaress]

Все же эволюция форм жизни происходит совсем по другим принципам и законам , и несравнима с "эволюцией" техники.  Человек не только развивает технику . Техника не самодостаточна ,  и критерии ее "естественного отбора" совсем не способствуют ее полной самодостаточности , автономности а так же тому , чтоб на ее основе получить "форму жизни". А по поводу развития ... мы оцениваем не  ее развитие а ее полезность для человека и сложность ее создания человеком .  Если реально сравнивать с развитием биологических форм жизни  -  как была просто железяка/камень, так и осталась железяка / камень . Просто более полезный для человека, и более "сложный" с точки зрения человека. 

 

Чтоб говорить об эволюции техники , она должна быть хотя бы самодостаточной . Но поскольку развитие техники определяет человек и его потребности, а человеку (пока) абсолютно не зачем самодостаточная техника , она при любом усложнении будет всего лишь инструментом , не более. Если пофантазировать , то самодостаточная техника может понадобиться разве что при освоении космоса (добыча с астеройдов, обустройство для жизни других планет, строительство космических станций) , и то  при условии принципиальных ограничений  средств связи. Ведь дистанционно управляемая будет предпочтительней чем самодостаточная. Пока это нам не светит , и не факт что когда-нибудь "засветит" , пока техника нам нужна лишь в роли инструмента - она будет только инструментом.

[air_runner]

Человек ленив и он захочет, что бы инструмент за него всю работу выполнял. Но у человека есть также и страх того, что его сместят с вершины пищевой цепочки. Интересно было бы узнать, что победит в итоге - лень или инстинкт самосохранения?

[Alaress]

Человек ленив и он захочет, что бы инструмент за него всю работу выполнял

 

Но человек всегда , абсолютно всегда оставлял управление инструментом за собой , и дело даже не в принципиальной невозможности другого варианта , а в том , что человеку никогда не нужен был вариант самодостаточного инструмента. Не было никаких попыток разработки неуправляемого инструмента , потому что человеку это не нужно. Не было и не предвидятся в ближайшем будущем задач , для которых такой инструмент потребовался бы.И сравнивать технику с формой жизни можно будет лишь при условии ее хотя бы минимальной самодостаточности.

[-SkyF-Barmaley]

 

Интересно было бы узнать, что победит в итоге - лень или инстинкт самосохранения? 

 

Я ставлю на лень 

[AnPetrovich]

Но человек всегда , абсолютно всегда оставлял управление инструментом за собой , и дело даже не в принципиальной невозможности другого варианта

Откуда такая уверенность, что это принципиально невозможно, и что сохранится в будущем?

Давайте на понятных аналогиях: автопилот "решил" что нужно перейти на снижение, и убил пару сотен человек. При этом инструмент оказался неуправляем, и следовал своей логике. Чем не восстание машин? Да, оно не мотивированное, но вопрос мотивов - это вопрос самодостаточности техники (и сначала её участие в распределении ресурсов - это уже есть сегодня, а затем и борьба за них), а человек пока очень настойчиво старается эту самодостаточность, автономность и репродуктивность техники развить. Ну приколно же, чё бы не поиграться.

[AnPetrovich]

И кстати:

Техника не самодостаточна ,  и критерии ее "естественного отбора" совсем не способствуют ее полной самодостаточности , автономности

Ещё как способствуют.

Идёт постоянная конкуретная борьба производителей, и в результате "естественного отбора" появляются всё более надёжные (как один из критериев самодостаточности) и более автономные устройства. Взять хотя бы те же батареки. Не говоря уже про сложные автономные комплексы, применяемые в космической отрасли, на полярных станциях, подводных лодках и т.п. Сначала там, потом везде - суть технического прогресса, где более "удачные" решения вытесняют отжившие своё. Натуральный естственный отбор, только пока (!) руками человека.

[=KAG=Dart]

Эко вас... осталось еще че?

[Alaress]

Автопилот , который что-то решил , отключается человеком. Тоесть он остался управляем.  Да и даже если человек уронит кирку с крыши на голову прохожих - это еще не восстание машин. Инструмент , из-за ошибок человека , может наносить вред . Но это не достаточная причина его "оживлять" . Вот если сам инструмент решит вырваться из рук рабочего и упасть кому-нибудь на голову...

 

суть технического прогресса, где более "удачные" решения вытесняют отжившие своё

 

только суть эволюции - наиболее жизнеспособные в окружающих условиях  выживают , а суть технического прогресса - наиболее  понравившиеся человеку "выживают"

 

 

Откуда такая уверенность, что это принципиально невозможно, и что сохранится в будущем?

 

 

фраза "дело не в принципиальной невозможности" допускает что это может быть принципиально возможно . но не нужно человеку на планете Земля  , пока можно создавать управляемую технику. 

 

Конкурентная борьба производителей создает более надежные  инструменты удовлетворения потребностей человека , управляемые человеком.  Опасаться "восстания машин" можно начинать тогда , когда у человека возникнет потребность в неуправляемой , полностью автономной во всех отношениях, технике. Способной принимать любые решения , а не только предусмотренные человеком. На Земле , при существующем уровне развития средств связи , такой потребности нет . Когда человек основательно выйдет в космос , не только с целью удовлетворения любопытства , вероятно появится . Если человек начнет колонизировать другие планеты , скорее всего такая потребность появится , но не факт что это вообще произойдет.

 

Грубо говроря - "естественный отбор" техники определяется потребностями человека , а у человека  нет потребности в неуправляемой технике. Автономность ее и возможности ИИ очень ограничены  , и не только потому что еще не умеем делать "умнее" и автономнее , а потому что человеку этого не нужно . Пока не нужно .  И условия , при которых это может стать нужным , достаточно фантастичны пока.

Изменено 21 мая 2013 пользователем Alaress

[samson]

А я думаю у людей осталось пару десятков лет. И все. Без шуток.
Не понятно пока найдут ли какое-то развитие и реализацию принципы, сформулированные в главных планетарных регилиях (христианство, буддизм) - то есть этические принципы. Потому как принципы буквального выживания - конкурентная борьба, эволюционное соревнование - уже очень наглядно перекладываются на "следующую" сложную форму движения материи: "киборг-жизнь".
А так - белковой и вообще органической  форме жизни капец уже пришел. Он, собственно, происходит прямо на наших глазах. Последние несколько веков человечества – с точки зрения "органической жизни" в переложении на наш "бытовой" тайминг (временной масштаб) – это как раз несколько стремительных мгновений предсмертных конвульсий. 

[AnPetrovich]

Автопилот , который что-то решил , отключается человеком. Тоесть он остался управляем.

Одна из версий катастрофы AF447 над Атлантикой в 2009 году была разрушение самолёта по скоростному напору после автоматического увеличения тяги двигателей до взлётной, а затем перевода самолёта на снижениее из-за закупорки датчиков скорости. Правда, эта версия потеряла актуальность после нахождения "чёрных ящиков", но тем не менее подобная ситуация на А330 была проработана в одной из наших АК: что может сделать экипаж, если автомат тяги даст дури пытаясь "восстановить" якобы потерянную скорость, а автопилот начнёт уменьшать тангаж предотвращая "сваливание". Со слов знакомого мне пилота - решение было найдено спустя 2 недели (!) изучения документации. Отнюдь не тривиальное, нигде не прописанное, и которое явно не могло прийти в голову любому нормальному пилоту, тем более в аварийной ситуации за считаные минуты - нужно отключать сразу обе СВС. Я не знаю борт А330, поэтому верю своему знакомому на слово, хотя возможно это всего лишь "страшилка". Но я рассказал это как пример того, что в попытках автоматизировать тех.процессы (т.е. делегировать технике принятие решений) мы уже шагнули довольно далеко за границы понятия "инструмент управляемый человеком". Слышал, что торги на биржах ведутся в автоматическом режиме с невероятными скоростями - так это человек управляет мировой экономикой, или решения принимает "умная система"?

 

только суть эволюции - наиболее жизнеспособные в окружающих условиях  выживают , а суть технического прогресса - наиболее  понравившиеся человеку "выживают"

Согласен.

А чем для машин (как вида) человек (со своими хотелками) не "среда обитания"?

Выживают те, которые вписываются в среду, всё верно.

 

Опасаться "восстания машин" можно начинать тогда , когда у человека возникнет потребность в неуправляемой , полностью автономной во всех отношениях, технике. Способной принимать любые решения , а не только предусмотренные человеком.

Работа над созданием ИИ аналогичном (и превосходящем) человеческий идёт уже не один десяток лет. Вы думаете, что это не реально? А я думаю, что это всего лишь вопрос времени.

 

Автономность ее и возможности ИИ очень ограничены

Пока...

 

Я думаю, что ИИ - это закономерный результат развития биологического интеллекта. И всё это эволюция, где в таком вот забавном "квантовом переходе" рождается следующий доминирующий вид.

[Zhyravel]

Пока человек пишет программу, а не машина, беспокоиться не о чем (если это конечно не злой гений , как только злой гений создаст самообучающуюся систему, то -пиши пропало.

[Alaress]

Работа над созданием ИИ аналогичном (и превосходящем) человеческий идёт уже не один десяток лет.

 

 

Вот только ничего подробного об этом не слышал . Разрабатывают ИИ для определенных целей , для решения конкретных узких задач, и с определенными ограничениями. Который мог бы принимать решения по схожим с "человеческими" принципам. Который некоторые конкретные задачи может решать эффективнее чем человек. Но не такой , который можно было бы назвать обладающим своей волей. И уж точно не ведутся работы по созданию неуправляемого ИИ. По многим параметрам существующий ИИ превосходит наш разум (даже в шахматы уже влегкую переигрывает). Но по еще большим уступает

 

Пока. Пока перед человечеством не стоит задач , для которых был бы нужен такой "живой" ИИ , управляемая техника (хоть и с определенной ограниченной автономностью) предпочтительней. Автоматизация , на той же бирже , совсем не значит что процессы происходят без участия человека. Да , автоматическая система выполняет определенную работу вместо человека , но выполняет ее под его контролем , всегда оставляя возможность вмешаться человеку в ее работу.

 

Дефекты техники , того же самолета , да , могут погубить сотни жизней . Та даже криво построенный дом . Что могут натворить криво построенные АЭС уже увидели дважды. Но причина этих дефектов - человек и его ошибки , а не наличие воли у машины и ее желание убивать.

 

Стоит боятся того , что создатели сделают кривой ИИ , последствия ошибок которого могут быть печальными . Но страх того , что создадут ИИ со своей волей , который решит что он - вершина эволюции и "пищевой цепочки" безоснователен , в обозримом будущем. и не потому что "не сможем" а потому что нам пока не нужны машины, автономность которых будет сравнима с автономностью живых организмов. И случайно , из ниоткуда они не родятся . Только из потребностей человека.

Изменено 21 мая 2013 пользователем Alaress

[-DED-Frogen*]

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

 

многие знакомы с этими законами, думаю и у них тоже.. но, первый и самый главный закон нарушен, ИИ созданного робота создан специально что бы убивать. в отличии от ИИ Бурана.. и это интересная тема но для другого форума

 

мне же более интересна тема: ИИ и летчик точнее военный летчик.. Я не зря привел вроде как плюсы (но плюсы ли это?) от возможной замены одного другим, что бы ни говорили, но по факту эта замена состоялось или точнее сделана попытка .

 

Вот смотрите: Я получаю боевой приказ (понятно, что не многие знают что такое  боевой приказ командира эскадрильи или ком полка на боевой вылет. Сказу просто что боевой приказ содержит до 30 пунктов информации за свои войска и столько же за противника. То, что мы все  видим в фильмах туфта. Боевой приказ - это алгоритм действия летчика и главное ВЗАИМОДЕЙСТВИЯ с другими, в целях выполнения боевой задачи ), Самовольное изменение алгоритма  недопустимо. Угу, давайте самовольно изменим место встречи с целями при перехвате например или время нанесения удара по НЦ во время атаки наземных войск. В современной боевой операции летчик в кабине это "винтик" или нет?

 

не открою новость если скажу, что в современных ударных АЛ бортовые системы управления самолетом, двигателем и вооружением ограничивают летчика по возможностям пилотирования. в рамках введенной программы на вылет. и если "глюки у них", я не уверен, что возможно просто обесточить (отключить) логику управления этих системы в полёте без последствий. Лично "ремонтировал" КПК обесточиваем его (вытаскивал батарейку) на 2 недели (просто отключение не помогало,нужен был полный внутренний разряд ), правда потом приходилось  еще шаманить и устанавливать прогобеспечение с нуля.

 

пока есть, точнее были, 2 категории "человека с ружьём" - солдат и наемник. Выполняя одну и ту же боевую задачу в интересах государства они по разному к ней относятся, имеют разные мотивы и психологическое отношение к её результатам. ИИ дали "ружье" - кто он? идеальный убийца без идей и угрызений совести? 

 

меня интересует ваше мнение , комрады:

на сегодня , пока есть человек, который управляет (контролирует) БП АЛ  это оператор БП АЛ. он виртуальный пилот? как мы?  или что то иное...

[Stranger_71]

Но я рассказал это как пример того, что в попытках автоматизировать тех.процессы (т.е. делегировать технике принятие решений) мы уже шагнули довольно далеко за границы понятия "инструмент управляемый человеком". Слышал, что торги на биржах ведутся в автоматическом режиме с невероятными скоростями - так это человек управляет мировой экономикой, или решения принимает "умная система"?

 

Разрабатывают ИИ для определенных целей , для решения конкретных узких задач, и с определенными ограничениями. Который мог бы принимать решения по схожим с "человеческими" принципам. Который некоторые конкретные задачи может решать эффективнее чем человек. Но не такой , который можно было бы назвать обладающим своей волей. И уж точно не ведутся работы по созданию неуправляемого ИИ. По многим параметрам существующий ИИ превосходит наш разум (даже в шахматы уже влегкую переигрывает). Но по еще большим уступает

 

Кстати, собственно о биржах. В прошлом, по моему, году была новость, что один из таких "торговых автоматов" натроговал несколько десятков миллионов $ убытков. И "встал колом" вопрос кому же предъявить за это, тем более, что это был тупо скрипт, слепленный ушлым брокером чуть ли не на коленке. А сами брокер в торгах не участвовал. Ну, на сколько помню, замяли тот вопрос за неудобностью... 

[-=VPK=-Ed-]

Уже сейчас машины потребляют гораздо больше ресурсов, чем люди.

Так что во главе пищевой цепочки - они.

 

И желание много заработать, чтобы купить мощную машину, дом за городом, квартиру в центре - это работа на машины. Дом - машина для жилья.

Ну а скорость эволюции машин не оставляет никаких шансов биологическим видам. Выживает не самый сильный, умный или экономный. Выживает наиболее приспосабливаемый.

[air_runner]

В современной боевой операции летчик в кабине это "винтик" или нет?

Думаю, все идет к тому, что если и винтик, то явно лишний. Бот отреагирует быстрее, обработка поступающей информации идет со скоростью недоступной человеку. Современная война в воздухе, это война кнопок. Зачем там человек?

 

 

на сегодня , пока есть человек, который управляет (контролирует) БП АЛ  это оператор БП АЛ. он виртуальный пилот? как мы?  или что то иное...

Насколько знаю, оператор не управляет дроном как вирпил. Он просто задает куда и как лететь, ну и куда и в кого стрелять.

 

Уже сейчас машины потребляют гораздо больше ресурсов, чем люди.

Так что во главе пищевой цепочки - они.

Ну, на вершине не тот кто больше всех жреть, но тот кто ест всех остальных

[AnPetrovich]

Интересная дискуссия получается, есть над чем подумать

[Alaress]

ИИ дали "ружье" - кто он? идеальный убийца без идей и угрызений совести? 

 

Все таки не стоит пока одушевлять современный ИИ. Так что пока он - всего лишь ружье . А убийца - человек.

 

 чтобы называть железяку с ИИ очередной ступенью в эволюции жизни , необходимо чтобы она отвечала некоторым неотъемлемым критериям жизни. 

 

Любой живой организм  сам полностью обеспечивает себя энергией .  В нашем случае , с помощью химической реакции окисления , обеспечивает себя как кислородом , так и "топливом" . Добывает из внешней среды , доставляет дозировано в "реактор" и распределяет полученную энергию.  Для обеспечения этого у любого живого организма есть процессы дыхания и питания. Процесс питания обеспечивает еще одну необходимую " функцию  жизни "   . Любой живой организм сам себя обеспечивает "расходными материалами" для всех своих процессов , в том числе процессы обновления износившихся узлов, а так же создания  и строительства самого себя и себе подобных . Это касается любой формы жизни , от примитивнейших и простейших бактерий до человека.

 

Так вот , на данный момент даже не ведутся попытки создать нечто с подобными свойствами (способные сами находить топливо ,  масло и любые расходные материалы ,  заправлять себя , менять себе регулярно износившиеся узлы.).  И не ведутся эти попытки потому  ,что такой инструмент человеку не нужен. Пока не нужен . А значит пока рано называть технику с ИИ - следующим звеном эволюции жизни. Это всего лишь инструмент с расширенным функционалом . Который может оказаться кривым и его косяки могут оказаться фатальным , НО причина не в том , что у него появилась своя воля и он решил убить , а потому что человек его создавший накосячил.

 

Это я еще ничего не сказал о том , какими свойствами должен обладать разум чтобы жизнь можно было назвать разумной. 

 

Как я уже говорил ранее , по моему мнению , подобный инструмент может появится при попытках человека колонизировать космос - строительство колоний на других планетах или жилых космических станций. Но не факт что человечество доживет до такого этапа.

 

В двух словах : Человек не делегировал машине право убивать.  Человек просто оптимизировал процесс убийства с помощью машины с определенным ПО.

Изменено 22 мая 2013 пользователем Alaress

[SAS_47]

А если бумкнуть чем-нибудь с сильным ЭМИ, эти дроны не посыплются как горох?

Крайние компы сейчас, ихма, стали глючнее.

 

Вот когда дроны будут воровать друг у друга топливо и отказываться от полёта, тогда да.

А пока аппарат немного круче автомата с жёсткой логикой - автоматической линии по упаковке джема.

[Stranger_71]

Думаю, все идет к тому, что если и винтик, то явно лишний. Бот отреагирует быстрее, обработка поступающей информации идет со скоростью недоступной человеку. Современная война в воздухе, это война кнопок. Зачем там человек?

Ага. Человек слабый, медленный, пугливый. Это без иронии. Хотя бы возьмите ограничение по перегрузке. Вот в ракете ближнего боя пилота нет. Она не столь изощрена в тактике, у нее ограниченное время полета. Но "Воздушный бой" у пилотируемого самолета она, как правило, выигрывает. Нуу... В классической терминологии сводит вничью. Это потому, что у нее пушек нет.

[Igmar]

 Вообще то, совсем не обязательно программировать ИИ на функцию "уничтожить" и давать ему пушку и т.п. Опасность гораздо прозаичней - несколько лет назад по TV, случайно увидел репортаж о выставке роботов в Японии. там всякие помощники по дому, прислуга и т.п., в виде человека. Показывают значит по пояс "дядьку", а-ля "Терминатор", стальной череп, в глазницах копия человеческих глаз и челюсти с зубами разумеется, над которыми трудились лучшие протезисты какого-то там ведущего стоматологического института.

 Оказывется робот этот, питается ни чем иным, как мясом - сырым или приготовленным, не оговаривалось. Суть - пережёванный им фарш, попадает в камеру, ну типа желудок и при помощи некой химической реакции выделяется тепло, которое преобразуется в электрическую энергию, о как.

 Дык сразу же, некая общественная организация встрепенулась потому, что их представитель, бабка лет 70-ти, высказал огромное беспокойство - мол, а если этот робот с голодухи, вдруг захочет съесть её собачку? А мне подумалось -  собачка то собачкой фиг с ней, а если ему взбредёт человеком закусить? А вы про оружие, да про оружие

 Да и вообще, чего беспокоиться - у землян с их  размытым будущим, гораздо больше шансов укакошить друг-друга на много раньше, нежели они вплотную подойдёт к созданию этого самого ИИ. С каждым годом, становится всё больше и больше политических идиотов, которые находятся у ядерной кнопки и угрожают бабахнуть всё чаще и чаще. В общем - как бы от радиации не сдохнуть преждевременно.

Изменено 23 мая 2013 пользователем Igmar

[Alaress]

Дык сразу же, некая общественная организация встрепенулась потому, что их представитель, бабка лет 70-ти, высказал огромное беспокойство - мол, а если этот робот с голодухи, вдруг захочет съесть её собачку? А мне подумалось -  собачка то собачкой фиг с ней, а если ему взбредёт человеком закусить?

 

Извиняюсь , может грубо скажу  , но такие опасения ,лично мне , напоминают страхи , что ученные в БАК "вызовут" черную дыру, которая "засосет" всю землю.

 Да и если просто  логика : если его научили добывать из мяса энергию , не значит что он может самостоятельно добывать мясо , отделять его от кости и т.д. Даже  отличать мясо не факт что сможет. Только жевать готовое , запихнутое в рот.

[Igmar]

Alaress

 Всё правильно - но речь идёт об ошибке, глюке в башке ИИ, это просто предполагаемые угрозы для человека со стороны этого самого ИИ. Нафантазировать ситуаций можно много и все они могут быть реальными. Думаю, что не стоит их описывать.

Изменено 23 мая 2013 пользователем Igmar

[Stranger_71]

Ну... Еще о "восстании машин". Давно дело было: http://lenta.ru/news/2007/10/17/gun/

 

Так что вот. Все это ближе, чем кажется. Самосознание, цель существования, это все не нужно. Достаточно чтобы система приняла за цель  создателя.

[SAS_47]

А уж сколько скальпов сняли сверлильные станки и пальцев расплющили прессы с неисправной блокировкой.

И из ППШ народу самопоубивалось. Ужас.

 

Я не вижу разницы между дроном  и, например, управляемой ракетой, по конечному результату.

Изменено 23 мая 2013 пользователем SAS_47

[Graphite]

Возможно наши мысли и поступки тоже закономерны и на самом деле ничего нельзя изменить

[Kordhard]

Ох, братцы, как бы удивились наши отцы, если бы услышали в 70-е наши сегодняшние разговоры. А именно - то, с какой лёгкостью мы оперируем в быту термином "искусственный интеллект". Ведь тогда какие научные споры были о возможности его создания! Даже была такая наука (вскоре объявленная лженаукой) - кибернетика! Наука о создании искуственного интеллекта.

Так юмор в том, что то, что мы сегодня привыкли называть ИИ - не имеет ничего общего с тем, что под этим понимали в 70-е. Ни одна совремнная программа не умеет делать то, чего в неё не заложено программистом по умолчанию! Алгоритмы с того времени стали многократно сложнее, а вот сама стуть программ не изменилась. Это по-прежнему некое дерево вариантов "если - то". Дерево конечное и изначально прописанное вручную от и до. И никаких перспектив перехода на уровень самостоятельного анализа и принятия решений у машин как не было, так и нет. Не создан пока компьютер, способный сам в "творческом полёте" писать принципиально новые программы.

Отсюда следует простейший вывод: восстание машин технически невозможно.

 

Вс случаи, которые были раньше и будут позже, сводятся к техническим неполадкам или человеческому фактору, из-за которых происходили разовые несчастные случаи. Может ли боевой дрон из-за сбоя программы навернуть с ракеты по своим? Чёрт возьми, да может конечно! Но вероятность этого не выше, а скорее многократно НИЖЕ, чем при авиаударах, которые наносит пилот-человек. Сколько раз за войну в Чечне были случаи, когда наши горе-летуны путали не то что позиции своих и чужих, а целые СОПКИ, и били по соседней? В современных войнах потери от френдли-файра достигают иной раз 50% от всех потерь! Да, случаются разные несчастные случаи. Всегда были и всегда будут.

Вот, привели пример с заклинившей зениткой, которая перекосила целое отделение. Она не спутала своих и чужих - просто она механически сломалась. Там вообще никакого компьютера не было в ней!

Два "восстания машин" случились в боях на озере Хасан в 1938 году. Собственные кассеты РРАБ сбили один и подбили второй СБ, ещё несколько машин вернулись с пробоинами. После расследования был выявлен массовый брак - кассеты сняли с вооружения. И второй случай при ввинчивании взрывателей в подвешенные бомбы произошло нештатное срабатывание - оба оруженика побили мировой рекорд по спринту и остались живы, а горящие обломки взорвавшегося Р-5 упали на соседнюю машину и она сгорела тоже.

Ещё в Первую Мировую и вплоть до окончания Второй Мировой регулярно "восставали" синхронизаторы пулемётов, отстреливая собственные лопасти.

Несколько лет назад против моего знакомого "восстал" его собственный пистолет: оружие упало на ствол, произошёл инерционный накол капсюля, отдачей затвора сломало предохранитель и пистолет начал отбивать очередь на полу. Спасло хозяина и находившуюся рядом жену только то, что пистолет упал на правую сторону и его быстро заклинило от невыброшенной гильзы, упёршейся в пол. 

Ну и так далее.

Т.е. однократный разовый сбой из-за технической неисправности произойти теоретически может. И понятно, что чем более разрушительное нечто (не обязательно оружие) подверглось такому сбою - тем масштабнее могут быть последствия.

Однако, ни о каком сознательном принятии машиной и её программой какого бы то ни было решения вопреки воле создателей речь как ни шла, так и не идёт.

 

Я даже больше скажу: даже при создании полностью автономных космических станций-колоний - всё равно все машины будут действовать в рамках заданных программами задач и вариантов решений. Т.е. даже на 100% автономная станция по добыче минералов, которая умеет сама прилепляться к планетоиду, забуриваться, разворачиваться, эксплуатироваться и ремонтироваться - всё равно даже теоретически не способна будет "принять решение" о прекращении добычи минералов и о создании на базе планетоида "Звезды смерти" с целью уничтожения Земли.

[AnPetrovich]

[=KAG=Bacha]

Для того чтобы машины сознательно атаковали человека, нужно эти самые машины наделить сознанием. А человек ещё сам не разобрался, что такое сознание.

[-=StF=-Take-oFF]

 

Давайте на понятных аналогиях: автопилот "решил" что нужно перейти на снижение, и убил пару сотен человек.

А есть разница кто решил за снижение? Автопилот, которому, например, посадочный неправильно выставили, или представитель героической профессии, который думал, что вот еще чуть-чуть - и уже из тумана ВПП появится с огоньками?

 

Я вот думаю, чего будет если человечество "делегирует" УВД и пилотирование этим.. как их... программно-техническим комплексам...

Изменено 23 мая 2013 пользователем Take-oFF

[air_runner]

Сознание совсем необязательное условие. Некая система, умеющая менять собственные поведенческие алгоритмы в зависимости от изменяющихся условий окружающей среды и основной целью выжить.

[=KAG=Bacha]

Сознание совсем необязательное условие. Некая система, умеющая менять собственные поведенческие алгоритмы в зависимости от изменяющихся условий окружающей среды и основной целью выжить.

Если мы говорим об уничтожении человека, то возможно вы правы. Но если разговор о следующем звене эволюции, тут извините сознание необходимо.