Искусственный интеллект практически уже не нуждается в интеллекте человеческом.

новая дискуссия Дискуссия  500

Боевой робот во время боестолкновения принял самостоятельное решение без участия человека. 
Ударный квадрокоптер KARGU-2 в автономном режиме атаковал человека в ходе вооруженного конфликта между регулярными подразделениями Ливии и военной группировкой, которую возглавляет Халифа Хафтар.
Об этом сообщают СМИ, ссылаясь на отчет ООН (см. ссылки в комментариях).
По данным журналистов, смертоносный дрон, созданный в Турции, без какого-либо приказа нацелился на одного из солдат Хафтара, когда он пытался отступить.
Также сообщается, что квадрокоптер работал в "высокоэффективном" автономном режиме, который не требовал вмешательства человека, и это первый случай, когда боевой робот убил человека без приказа оператора.

я  вчера читал статью, что ИИ уже создает архитектуру новых чипов, без привлечения человека


https://ratel.kz/out…issindzher

"Вопрос: Насколько в условиях подобной риторики времен холодной войны, в ситуации, когда, возможно, дивизионы стратегических ракетных войск приведены в состояние повышенной боевой готовности, человечество может чувствовать себя спокойно?
Ответ: Это ключевой вопрос, даже если отставить в сторону вероятность реальной войны. Дело в том, что при существующей концепции ГВУ (гарантированного взаимного уничтожения) огромная роль отводится системе оповещения. Она основана на электронике: вычислительные машины, обработка данных радаров, спутниковых наблюдений и прочее. Мы знаем, что компьютерные системы могут ошибаться. Это означает, что человечество поставило себя в зависимость от какой-то малейшей ошибки. В свое время я занимался вопросами разоружения (это была моя вторая специальность), участвовал в многочисленных конференциях, встречах с американскими экспертами. И на одной из конференций в Америке обсуждался вопрос: чему или кому человечество обязано, что в течение десятилетий холодной войны смогло все-таки выжить? Приводились многочисленные примеры, говорилось, что системы разведки вовремя оповещают, превозносилась мудрость руководителей. А один из участников конференции сказал: "Вы знаете, можно философствовать бесконечно, но я думаю, что мы выжили благодаря счастливой случайности". И это не просто слова. Дело в том, что уже несколько раз человечество подходило к таким электронным ошибкам, ложным сигналам, когда и та, и другая сторона готовы были нажать на ядерную кнопку. И сейчас, когда мы погружаемся в болото новой, пусть даже не полномасштабной холодной войны, а холодного мира, снова возникает эта опасность".



Слова академика Сагдеева вспомнил не случайно. Высказанные им опасения на днях развил патриарх американской внешней политики Генри КИССИНДЖЕР.
Архитектор американо-китайских и американо-советских отношений времён холодной войны, выступая неделю назад на форуме по международным делам Sedona Forum (ежегодный форум организуемый McCain Institute), характеризуя набирающий обороты кризис в отношениях с Китаем как "самую большую проблему для Америки и мира", сказал следующее:
"Мы создали технологию, которая превосходит все, что мы могли вообразить 70 лет назад. Во время советско-американской конфронтации ядерное оружие служило серьезной угрозой. Теперь к ядерной технологии добавился искусственный интеллект. Китай и США – лидеры в этой сфере. Это еще более приближает угрозу "судного дня".
Применение искусственного интеллекта означает, что человек и машина становятся партнерами, и машины могут обрести способность принимать собственные решения. "В ходе военного конфликта между высокотехнологичными державами это имеет колоссальные последствия", - предупредил Киссинджер.
Будем честными, от опасений и Роальда Сагдеева, и Генри Киссенджера, и многих других вдумчивых учёных и политиков, есть желание отмахнуться. И то верно, мир сегодня к проблеме ядерного противостояния крупных держав как-то попривык и все больше обеспокоен состоянием мировой экономки, пандемией COVID-19, глобальным изменением климата, правами трансгендеров и легализацией наркотиков.
Однако с учётом услышанных не так давно от вице-президента по развитию WEB-технологий корпорации Amazon откровений, картина будущего, если задуматься, рисуется вполне тревожной.


Во время традиционного бизнес-завтрака Технологического Совета Северной Вирджинии (Amazon давно облюбовал Вирджинию для размещения своего бизнеса) вице-президент техгиганта Тереза КАРЛСОН (курировала проект Amazon по созданию для ЦРУ облачного сервиса) поведала присутствующим, что ввиду катастрофического дефицита на рынке труда специалистов по искусственному интеллекту, Amazon был вынужден приступить к обучению искусственного интеллекта (внимание!) навыкам самообучения. "И прогресс на этом направлении просто потрясающий и восхитительный!" - по-американски жизнеутверждающе подытожила докладчица.
Таким образом, Генри Киссинджер не так далёк от истины: искусственный интеллект практически уже не нуждается в интеллекте человеческом.
Интересно, что может думать прямо сейчас созданная людьми машина о своих создателях?
На день сегодняшний крупнейшие армии мира находятся в состоянии крайнего возбуждения. НАТО на европейском театре проводит беспрецедентные со времён холодной войны учения Defender Europe 2021. Россия осуществила масштабную концентрацию своих вооружённых сил у границы с Украиной. США на Аляске, для отработки противодействия Китаю в Арктике, развернули манёвры с участием 15 тыс. солдат и офицеров, морской пехоты, сухопутных войск, ВВС, ВМС, в том числе авианосца Theodore Roosevelt. Китай ускоренными темпами наращивает боевую группировку в Южно-Китайском море, а самолёты ВВС КНР систематически вторгаются в воздушное пространство Тайваня, намеренно провоцируя ПВО острова. И всё это, судя по заявлениям политиков, только начало.
Помнится, по сценарию голливудского блокбастера "Терминатор", искусственный интеллект Скайнет, получивший контроль над ядерными ракетами Соединенных Штатов, разочаровавшись в человечестве, запустил процесс ядерной катастрофы. Этот день стал известен впоследствии как "Судный день".
Кажется, уже не слишком рано задаться вопросом: станет ли художественный вымысел нашим сценарием в реальности? С ответом, надо полагать, тянуть не стоит, не тот случай.
время убыстряется так, что ужас - вчера  пришел вирус, сегодня пришел ИИ..

• +0.01 / 19