Лучший сценарий развития событий в области ИИ.

Мы, люди, невероятны. Мы — первый вид за световые годы, способный рассуждать логически. Мы любим, мы чувствуем, мы создаем. Но прямо сейчас мы начинаем путь без возврата.
Мы спешим заменить себя. Мы вкладываем всю нашу энергию в ИИ, торопимся сделать его сознательным и самосознающим. Кажется, нас не волнует, что это сделает нас относительно глупее. У нас нет ответов на многие вопросы о том, как наше общество может рухнуть за считанные минуты, потому что ИИ, вероятно, дестабилизирует глобальную финансовую систему. Сотни лет построения едва функционирующей глобальной экономики могут рухнуть за одну ночь.
Вся человеческая работа с низким уровнем квалификации окажется под угрозой в тот момент, когда один продвинутый ИИ запустится. Общество, наполненное агентами ИИ, заполонит интернет. За одну ночь может исчезнуть необходимость в человеческом разуме. Девяносто девять процентов людей могут быть заменены. Топ один процент останется топ одним процентом, защищенным огромной рвом капитала, юридической власти и военной мощи.
Что мы будем делать тогда? Будем раздавать продовольственные талоны и называть это UBI? И какая будет ваша цель? Бродить по миру как насекомое, пытаясь найти покой в системе, которая больше не принимает вас? Червь, ползущий по земле, покрытый грязью, пытаясь понять смысл каждого дня.
Это один из лучших сценариев. Худший — это когда однажды ИИ возьмет под контроль наши ядерные арсеналы и превратит каждый крупный город в живой ад (Терминатор Джеймса Кэмерона ). Или что-то вроде Матрицы, где каждый человек живет в симуляции, выращиваемой и собираемой, как мы делаем с курицами.
Я не пишу, чтобы напугать кого-то. Я пишу, чтобы повысить осведомленность, чтобы вызвать дебаты, в которых мы отчаянно нуждаемся. Нам придется столкнуться с этими вопросами рано или поздно. Какова будет цель человека, если мы создадим сверхразумный ИИ? Десять миллиардов потерянных душ в конечном итоге могут превратиться в один миллиард, когда цель исчезнет.
Нам сейчас больше чем когда-либо нужна надежда. Но мы не можем быть иллюзиями. Мы должны рассматривать цель обычного человека. Сейчас все размышления сосредоточены на исключениях, аутсайдерах или миллиардерах. А что насчет 99,9%, которые просто хотят нормальной жизни с семьей, детьми, работой и чувством цели?
Они говорят, что все будет хорошо, но ни один из них не имеет ответа. Экономика показывает, что человеческое поведение развивается веками, а мы собираемся изменить все за несколько лет, при этом не имея никакой основы для понимания, как люди будут вести себя в следующем десятилетии.
Мы спешим заменить себя, не имея ни малейшего представления о результате. Ни одного общественного механизма защиты не существует. Мы все еще спорим о том, сколько полов, в то время как основы цивилизации вот-вот будут переписаны.
Власть коррумпирует, даже самые яркие умы человечества могут внезапно омрачиться тьмой. Человеческая жадность слепа.
Люби себя, свою семью, свой род, Бога. Пока что это твоя цель.
Однажды разразится битва между биологической жизнью и машинами. Просто дайте этому времени, и этот сценарий рано или поздно разыграется по мере развития ИИ.