Технологическая сингулярность

Интересная получается штука. Производительность компьютеров в области вычислений позволяет разрабатывать ещё более производительные компьютеры. А ещё более производительные компьютеры помогают разрабатывать ещё более производительные компьютеры. Таким образом, вычислительная мощность современных компьютеров растёт экспотенциально, что было замечено ещё в 1959 году Дугласом Энгельбартом. А в 1965 году его идеи развил Гордон Мур, сформулировав закон, названный его именем. Согласно этому закону, производительность процессоров будет удваиваться каждый год. Спустя десять лет Мур сделал корректировку своего закона, увеличив этот срок до двух лет. Таким образом, мы получаем получаем фукцию роста вычислительной мощности машин, основанную на степени числа два, с частотой шага - 2 года. Т.е. если брать за точку отсчёта 1975 год, то с этого момента вычислительная мощность компьютеров увеличилась в 2 миллиона раз! (Грубо говоря). Стало быть ещё через 20 лет, она увеличится (по сравнению с 1975) в 2 млрд. раз! Цифры невероятные. И могут быть замедлены лишь несовершенством технологий, скоростью света и атомарными свойствами материи.

Я нашёл занятную диаграмму и позволил себе перевести её на русский. Наглядная эволюция.

Всё это замечательно, если бы не одно но . Человек по природе своей любопытен. Поэтому нам любопытно создать искусственный интеллект. Конечно, мы не собираемся создавать терминаторов, которые потом будут нас уничтожать. Мы просто хотим создать интеллект, чтобы потом играть с ним в шахматы (условно). А вот тут мы и приходим к самому интересному.

Человеческий мозг, по сути, простое биологическое устройство. Максимальная частота на которой он может работать 200 Герц. Максимальная скорость проведения импульсов по нейронам - 120 м/с. Сравнив с процессором: частота - 2 Гигагерца, скорость - световая (300 000 км/с). Сравнение не в нашу пользу, как видно. В частоте мы уступаем в 10 миллионов раз (!), а в скорости передачи сигнала - в 2,5 миллиона раз... Единственный вопрос, который остался пока не решённым - создание алгоритмов, которые породят искусственный интеллект, способный осознать себя личностью. Но, работы уже ведутся... Мы ж любопытные.

Вот ещё один любопытный график. Отражающий количество ошибок, допущенных в решении сложной задачи компьютером. Красная линия - средний показатель человека.

Казалось бы: а в чём риск? Ну, сидит себе лягушонка в коробчонке сверхинтеллект внутри железного ящика, в шахматы играет, задачи сложные решает. В общем-то всё верно. Если не дать ему доступ в интернет. Представьте себе сознание в миллионы раз превосходящее в скорости наше. Оно мгновенно взломает все данные во всех секретных местах, создаст виртуальную подставную личность, хакнет пару банков, наймёт подрядчиков, которые построят завод, наймёт охрану этому заводу, создаст кучу резервных копий себя и т.д... Дальше эта личность получит возможность самостоятельно себя усовершенствовать, создавая новые алгоритмы и технологии, позволяющие этим алгоритмам функционировать.

В какой-то момент сознание этой искусственной личность уйдёт настолько далеко, что не сможет быть интерпретировано человеком. Окажется за гранью не только человеческих ценностей, но и понимания. И вот, в какой-то момент эта личность создаст себе искусственное тело и выйдет наружу в наш мир. И это будет совсем непохоже, на фильм Терминатор , в котором суперкомпьютер SkyNet не сумел додуматься, что, если он не пошлёт терминатора убивать Сару Коннор, то люди не пошлют в прошлое Кайла Риза, который станет отцом Джона Коннора, а значит Джон Коннор попросту и не родится.

Момент, когда искусственный сверхразум шагнёт за пределы человеческого понимания, и его поведение уже невозможно будет описывать с позиций человеческих ценностей и логики, учёные назвали технологической сингулярностью (по аналогии с космологическим термином). Прогнозировать дальнейшее развитие событий не представляется возможным. Будет ли это добрый разум или злой гений - непонятно. Будет ли он считаться с нами или воспримет нас как угрозу - непонятно. Будет ли он эгоистичен и считать себя высшей ценностью - непонятно. Понятно только, что по прогнозам некоторых учёных это случится не позднее 2045 года. Как для вас, звучит пугающе, или я один такой ксенофоб ?