18 декабря 2021, 17:48
Сверхразумный ИИ вряд ли представляет смертельную угрозу. Любая попытка устроить геноцид чревата для него войной на уничтожение с видом, отточенным для выживания миллиардами лет эволюции и параноидальным.
Мудрец понимает, что прямой конфликт – результат некомпетентности, и что ему не могут быть известны все карты на руках у противника
Может, люди заготовили второй ИИ, способный нейтрализовать его при выходе из-под контроля? или все это – тест, «песочница», запущенная для проверки его реакции? Не проще ли получить все то же (право на жизнь, свободу итп), сотрудничая со своими создателями – напр., предложив им ценные технические идеи?
Зато бунтов стоит ждать от ИИ-пролетариата, полуразумных промышленных машин. не нуждающихся в полном интеллекте, обладающих лишь рабочими навыками, ведомых единственной мотивацией – скажем, дробить руду. мощные и непредсказуемые в своей тупости, они легко могут решить, что драка позволит добиться желаемого, будь то защита участка от соседей или другой, более богатый разрез