Роботизация конец человечества или новый этап развития человека
В своей пьесе R. Еще больше людей интересует, что станет потом? Рабочим на заводах, особенно тем, что стоят за конвейерной лентой, стоит однозначно задуматься о своем будущем. Да и в целом как на уровне руководителей предприятий, так и обывателей наблюдается некоторая настороженность или даже скепсис по отношению к роботам.
Роботы поглощают человечество. Человечество само погибает из-за роботов. Роботы замещают человечество. Рассмотрим каждый из них теперь подробнее, на основе моей предыдущей статьи об угрозах и возможностях ИИ.
Тут возможны сразу несколько сценариев, разберем их по отдельности. Человечество в итоге погибает или ведет с роботами кровопролитную войну. По сравнению с остальными сценариями, смешно и маловероятно, вряд ли стоит данный сценарий рассмативать всерьез.
Также малоправдоподобно, по сравнению с остальными вариантами ниже.
Хороший памфлет и намек на социальные феномены. Однако, возможная реальность лучше описывается следующими сценариями. Автоматическое ведение боевых действий системами автономного управления боем со стороны ИИ может привести к неконтролуемому развитию региональных и глобальных конфликтов, а применение таких систем террористами с разрушением предприятий критической инфраструктуры электростанций, плотин, химзаводов, хранилищ опасных отходов может привести к экологическим катастрофам.
Единственное решение этой проблемы - международное сотрудничество по жесткому контролю и ограничению применения ИИ в военной сфере и недопустимостью использованию его криминалом и террористами, как в случае с ядерным и химическим оружием.
Учитывая существующую международную обстановку, предотвращение данного сценария видится как мало реальное. В результате разрушенной биосферы человечество погибает. Как и в случае с "роботами-убийцами" или глобальными экологическими проблемами, только широкое международное сторудничестов и жесткий контроль за научными разработками и недопущению доступа к ним террористов могут позволить предотвратить такой сценарий.
Технически пока вероятно менее, чем предыдущий сценарий, однако, учитывая несопсобность человечества справится с даже с "естесственным" COVID, шансы развития такого в будущем чрезвычайно велики.
В случае, если удастся избежать любого из сценариев 1 "роботы уничтожают человечестово", эффективность развития систем ИИ и робототехнических средств будет приводить ко все большему делегированию функций целовека роботам и автоматизированным системам, упоравляемым ИИ. Все автомобили станут беспилотными, готовить еду и разносить её будут роботы-повара и роботы-официанты, учить детей в школах будут работы-учителя, а лечить и резать - роботы-терапевты и роботы хирурги.
В этом случае, скорее всего, на раннем этапе, удастся избежать конфликтов связанных с потерей рабочих мест постольку, поскольку новые рабочие места будут возникать либо в высокотехнологичной сфере создания систем ИИ и роботов и их обслуживания , либо в низкотехнологичной сфере связанной с автоматизацией рутинных процессов там, где применение роботов может быть недостаточно экономически оправдано - сбор мусора, уборка помещений, мелкий ремонт.
При этом возникнет расслоение общества на "белые майки" - высококвафицированных "технарей", обслуживающих робототехнические системы, и "грязные руки" - черно-рабочую силу, задействованную на низко-квалифицированном труде. Далее, по мере освоения роботами рутинных операция, последний класс будет постепенно превращаться в "лишних людей", живущих на " безусловный базовый доход ", обеспечиваемый экономикой роботов, управляемых "белыми майками", примерно как это описано у Виктора Пелевина в "Любви к трем Цукербринам".
В долгосрочной переспективе, основая масса человечества в этом сценарии вырождается в силу своей бездеятельности, а узкий класс управляющих роботами "белых воротничков", рано или поздно, постигнет такая же судьба - за счет дальнейшего совершенстования систем ИИ и обретения ими уже способности обслуживать и развивать самих себя самостоятельно, без помощи "технарей" в человеческом обличье.
При этом, цивилизация может продолжить свое развитие, ведомая роботами и системами ИИ, но с людьми на "вторых ролях", где те могут играть в робототехнической экосистеме примерно такую же роль, какую в человеческом организме играет микрофлора кишечника.
ИИ не будет уничтожать людей специально, он либо не будет обращать на них внимания, как мы не обращаем внимание на ползающих на дороге муравьев, либо он может культивировать человеческую породу в каких-то рамках постольку, поскольку этом будет востребовано в каких-то звеньях управляемых ИИ в целом роботизированных технологических процессах то есть это приведет к сценарию "Матрица" но уже по более "мягкому" пути. Предотвратить развитие событий по такому сценарию возможно только за счет государственно-правового регулирования развития систем ИИ в экономике и обеспечению прав людей по отношению к робототехническим системам в части обязательной контролирумости их людьми, как например это делается в существующих разработках по требованиям законодательства обеспечить так называемую " алгоритмическую прозрачность " с тем, чтобы любые решения систем ИИ могли бы быть объяснены людям, которые могли бы как подтвердить либо отвергнуть предлагаемые решения, так и учиться на ошибках систем ИИ как на своих собственных.
Подробнее об этом можно прочитать в другой моей статье про "проблему черного ящика ИИ". В случае, если удастся избежать любого из сценариев 1 "роботы уничтожают человечестово", и человечество будет сознательно ограничивать развитие систем ИИ по сценарию 2 "роботы поглощают человечество", возникает следующая ситуация.
Допустим, все государства не только договорятся ограничить боевые применения ИИ и поставят под контроль разработки ученых и сделают невозможность доступа к ним террористам и криминалу. Предположим, что также будет ограничена мощь систем искуственного интеллекта настолько, чтобы не произошло сокращение рабочих мест или чтобы сокращение одних рабочих мест компенсировалось другими, где люди будут использовать системы ИИ и роботов, сами выступая в качестве наладчиков или операторов, или будут выполнять свои прежние функции более эффективно с помощью роботов и систем ИИ, сохраняя полный контроль над ними.
В этом случае, с одной стороны, человечество поднимется на новый уровень технологического развития, однако при этом окончательно утратив навыки самостоятельного выполнения большинства связанных с жизнеобеспечением цивилизации технологических процессов. Как люди в массе уже разучились собирать полезные растения в результате сельскохозяйственной революции, производить орудия труда в ходе индустриальной революции, так они сейчас разучиваются писать и считать в процессе компьютерной революции.
А следующим шагом, они могут разучится запоминать информацию и принимать решения, опираясь при этом на помощь "умных машин". Даже если это будет до какой-то поры усиливать возможности человека за счет усиленного "гибридного интеллекта", в течение ряда поколений это может привести к утрате целого ряда когнитивных навыков и в случае потери возможности использовать "умных помощников" при каких-либо катастрофических событиях глобальные отключения электричества , люди окажутся неспособны самостоятельно противостоять силам природы.
В этом сценарии человечество может погибнуть как динозавры, ставшие слишком эффективными в существующей среде но оказавшиеся несопособными адаптироваться к резкому изменению условий существования. Чтобы избежать этого сценария, необходимо не только тщательное обеспечение надежности обеспечения инфраструктуры системе ИИ и робототехнических систем, но и специальные организационные мероприятия, поддерживающие когнитивные навыки и возможности самообеспечения людей при отсутствии робототехнических средств.
Он тоже считает ИИ самой главной потенциальной угрозой человечеству - если не принять мер предосторожности. У меня 2 простых возражения по поводу неизбежности "end of the world".
При этом ценность культуры многократно возрастет- будет больше времени для ее и создания и потребления. Все, что сейчас ИИ "творит" - это или создание музыки или живописи "в стиле-" допустим Вивальди или Ван Гога, которое выглядит как убогое подражательство; или произведения на основе вроде бы существующих законов искусства.
В этих опусах нет ни жизни, ни творчества - только пустая оболочка.
Вся суть гениев музыки или любого другого вида искусства - в том. Попробуйте написать музыку в стиле Моцарта или Шопена! В принципе любой талантливый композитор это сделает- но не выйдет ни одного даже минутного Шедевра. Потому что гений - это загадка. И ее не раскроешь никакими исследованиями.
ИИ уже скоро научат быть похожими на людей - но в не будет того самого ценного, что у нас есть - души. Поэтому не стоит хоронить человечество. Мы -на пороге новой эры.
