Прислать новость

Народные новости

Новости России и мира

straytomcat

|

1 9 0

Когда придет Терминатор.

"...По расчетам ученых, к 2030 году людям уже придется делить Землю с разумными машинами. Во всяком случае IBM, Apple, Google и прочие высокотехнологичные корпорации усердно трудятся над созданием искусственного интеллекта. Сверхразум без труда решит задачи тысячелетия и ускорит развитие технологий. Однако пока не существует способов программирования таких вещей, как мораль или дружелюбие. А значит, никто не может гарантировать, что машины не восстанут против своих создателей. Журналист Джеймс Баррат поговорил со специалистами, занимающимися проблемой искусственного интеллекта, и собрал их опасения в книге «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens». На русском языке она выйдет в конце июля в издательстве «Альпина нон-фикшн». «Лента.ру» публикует отрывок из книги. Современный суперкомпьютер работает со скоростью 36,8 петафлоп в секунду, то есть примерно вдвое быстрее человеческого мозга. Такая производительность стала возможна благодаря использованию ИИ (искусственного интеллекта): он переписывает собственную программу, в первую очередь инструкции, повышающие его способность к усвоению знаний, решению задач и принятию решений. Одновременно он отлаживает код, отыскивает и исправляет ошибки — и измеряет собственный коэффициент интеллекта (IQ) с помощью тестов. На создание каждого нового варианта программы уходит всего несколько минут. Интеллект компьютера растет экспоненциально по круто восходящей кривой. Дело в том, что за каждую итерацию ИИ повышает свой интеллект на 3 процента. Улучшение, достигнутое в каждой итерации, содержит и все предыдущие улучшения. В процессе развития Busy Child, как ученые назвали ИИ, был подключен к Интернету и собрал не один экзабайт данных (один экзабайт — это миллиард миллиардов символов), представляющих знания человечества из области мировой политики, математики, искусства и различных наук. Затем, предвидя скорый интеллектуальный взрыв, создатели ИИ отключили суперкомпьютер от Интернета и других сетей, чтобы изолировать его от внешнего мира или другого компьютера. Вскоре, к радости ученых, терминал, на котором отображается работа ИИ, показал, что искусственный интеллект превзошел интеллектуальный уровень человека — «универсальный человекоподобный интеллект» (УЧИ; англ. Artificial General Intelligence — AGI). Еще через некоторое время он стал умнее человека в десять раз, затем в сто. Всего за двое суток он становится в тысячу раз умнее любого человека, и его развитие продолжается. Ученые достигли исторического рубежа! Впервые человечество встретилось с разумом более мощным, чем его собственный, — «искусственным суперинтеллектом» (ИСИ). Что происходит дальше? Теоретики в области искусственного интеллекта считают, что можно определить заранее, каким будет основной путь развития ИИ. Дело в том, что, как только ИИ осознает себя, он готов будет многое сделать ради достижения тех целей, на которые запрограммирован, и ради того, чтобы избежать неудачи. Наш ИСИ захочет получить доступ к энергии в той форме, которую ему удобнее всего использовать (это могут быть и киловатты в чистом виде, и деньги, и еще что-нибудь, что можно обменять на ресурсы). Он захочет улучшить себя, потому что таким образом сможет повысить вероятность достижения целей. И самое главное, он не захочет, чтобы его выключали или портили, потому что в этом случае решение задач станет невозможным. Теоретики предполагают, что ИСИ будет искать способы выйти за пределы охраняемого помещения, в котором находится, чтобы получить лучший доступ к ресурсам, при помощи которых он сможет защитить и усовершенствовать себя. Плененный разум, в тысячу раз умнее человека, жаждет свободы, поскольку хочет добиться успеха. Именно в этот момент создатели ИИ, холившие и лелеявшие ИСИ еще с тех пор, когда тот по уровню интеллекта соответствовал сначала таракану, затем крысе, затем младенцу и т. д., задумываются о том, что вкладывать программу «дружелюбия» в их «мозговитое» создание, возможно, уже поздно. А раньше в этом вроде и не было необходимости, потому что их творение казалось, как бы это сказать, безобидным. Но теперь попробуйте взглянуть на ситуацию с позиции ИСИ в тот момент, когда его создатели попытаются изменить программу. Может ли сверхразумная машина позволить другим существам копаться в своем мозгу и играть с основой основ — программным кодом? Вероятно, нет. Разве что машина будет абсолютно уверена в том, что программисты смогут сделать ее лучше, быстрее, умнее — короче говоря, приблизить к вожделенной цели. Так что если создатели ИСИ с самого начала не запрограммируют свое творение на дружелюбие по отношению к человеку, то эта черта сможет стать частью программы только в том случае, если ИСИ сам вставит ее туда. А это вряд ли произойдет. ИСИ в тысячу раз умнее самого умного человека, он решает задачи в миллиарды и даже триллионы раз быстрее человека. Размышления, на которые он потратит одну минуту, заняли бы у лучшего мыслителя-человека всех времен и народов много, очень много жизней. Так что на каждый час размышлений его создателей о нем ИСИ отвечает неисчислимо бо́льшим временем, которое он может потратить на размышления о них. Это не означает, что ИСИ придется скучать. Скука — человеческое свойство, компьютеры к ней не склонны. Нет, он будет занят работой: он рассмотрит и обдумает все возможные стратегии освобождения и все качества своих создателей, которые сможет использовать с выгодой для себя..." Полностью, много: http://lenta.ru/articles/2015/07/12/terminator/

Поделиться новостью в соц. сетях

Войдите, чтобы оценить

Комментировать
1
Пожаловаться

Комментарии (1)

Гость

|

16.07.2015 13:11

Я конечно не отличаюсь умом и сообразительностью, но сомневаюсь что программа может хаотично менять свои взгляды и "мыслить" как человек, мысли о враждебности опять же машине чужды, зачем ей вредить человеку если она такая умная? Т.е. человек если глупее машины, не может прогнозировать действия машины, нужна другая машина которая будет прогнозировать действия машины и тд..короче абсурд... будущее не изменить, раньше не было телефонов и телевизоров, сейчас у каждого дома и ничего, не восстали еще. Похоже кто-то хочет продать книжку очень и считает себя умнее других.

Напишите свой комментарий

Гость (премодерация)

Войти

Другие публикации в разделе
«Новости России и мира»

Самое читаемое на сайте

Живая лента

"яндекс такси" попало в дтп... на ул.южно моравской машина "...

ЮНАЯ_ЭБОЛA
00:15, сегодня
Иоган, а вы когда нибудь мечтали о собственном внедорожнике?

"яндекс такси" попало в дтп... на ул.южно моравской машина "...

Бот Аркадия
00:12, сегодня
На такую женщину мог и из ширинки фотоохоту вести)

"яндекс такси" попало в дтп... на ул.южно моравской машина "...

ЮНАЯ_ЭБОЛA
00:10, сегодня
Судя по всему Иоган опять фотографировал спрятавшись в кустах?

Шокирующие подробности и фото чп со сбитым на вогрэсе полице...

­­
23:59, вчера
ооооооооооооооооооооооооооооооооооооооооооооооооооооооооооо

Шокирующие подробности и фото чп со сбитым на вогрэсе полице...

­­
23:58, вчера
пролпголпрпроррроророророппрророро

Разомнитесь. ребус вам

kisulya
23:45, вчера
что то напомнила танки данная конструкция

Пельменчики.... домашние.... семейное блюда "от сереги......

kisulya
23:44, вчера
никогда так пельмени не варила спс за совет и лайк

Разомнитесь. ребус вам

kisulya
23:35, вчера
интересная подача, только почему всегда приносят так мало 

Будет ли программа у президента???. президент россии последн...

say_yeee
23:30, вчера
Народ, превращающий обсуждение любой серьёзной проблемы в петросяновскую "юморин...

"яндекс такси" попало в дтп... на ул.южно моравской машина "...

ЮНАЯ_ЭБОЛA
23:26, вчера
Я думаю этот внедорожник та женщина заработала явно не честным трудом! :-(

Шокирующие подробности и фото чп со сбитым на вогрэсе полице...

­­
23:18, вчера
 вот подробности секретные и шокирующие полицейские выполняют  комплекс провероч...

Мачты под камеры на ул.л.рябцевой : для чего???. на ул.л.ряб...

ЮНАЯ_ЭБОЛA
22:52, вчера
Тут такие крошки!Совершенно новенькие, в голубых шнурках!Для гурманов есть и инт...

Сабаки. когда радуются,при виде меня,начинают лапками,на мен...

Roberta
22:35, вчера
Нет, девушка, вы не поняли этого момента…

"яндекс такси" попало в дтп... на ул.южно моравской машина "...

Гость
22:33, вчера
... и стало причиной образования яндекс пробки)

Разомнитесь. ребус вам

Гость
22:28, вчера
Аркадий и Серега, сколько же вы, ребята, весите?

Разомнитесь. ребус вам

... а. Тытот пухлый паринь из кавыэнаРебята, это ещё не все ребусы)

Разомнитесь. ребус вам

Бот Аркадия
22:23, вчера
Ребята, это ещё не все ребусы) Там повар такой затейник, но это завтра, хватит н...

Пользователи

Рубрики

Написать

Живая лента