Когда несколькими неделями раньше певица Граймс высказалась в ТикТоке о коммунизме и о том, что искусственный интеллект (ИИ) мог бы помочь его быстрее построить, это вызвало бурю в целевой аудитории. Но эта аудитория, что характерно, обсуждала вовсе не суть «предложений» инфлюенсера, с ними как бы все ОК, а то, «как она не стесняется говорить о том, насколько хорош коммунизм, в то время как ее муж — Илон Маск», главный капиталист мира. Потом Граймс заявила, что пошутила.
Так это или нет, но история с ее постом оказалась своеобразным исследованием подкорки представителей поколений Y и Z. В которой, похоже, легко прижились идеи о том, что развитие технологий может безвозмездно дать каждому все необходимое для жизни и комфорта, что ИИ может создать справедливое общество, эффективное государство и победить коррупцию. Чтобы разобраться, что здесь вероятно, а что откровенная ерунда, мы обратились к социологам и футурологам. Но прежде, чем рассказывать об их комментариях, напомним несколько тезисов из нашумевшего поста.
Вот что, собственно, написала Граймс: «Если задуматься, ИИ — самый быстрый путь к коммунизму. (…) ИИ мог бы автоматизировать все сельское хозяйство, отсеять систематическую коррупцию, тем самым приблизив нас к максимальному равенству как можно скорее. В общем, все то, что все любят в коммунизме, но без колхозов». А вот что она называет коммунизмом: «При правильной реализации ИИ теоретически может решить проблему изобилия. Мы можем попасть в ситуацию, когда некому работать, всем обеспечен комфорт».
Интеллект рулит?
Опрошенные нами эксперты, говоря о способности ИИ создать совершенное государство, разделились на две группы. Одни говорили о вполне обозримой перспективе развития ИИ, а вторые — о весьма дальней, и поэтому их оценки отличались существенно.
В обозримой перспективе, по мнению экспертов, ИИ будет оставаться просто средством решения задач, которые перед ним ставят люди. Поэтому поспособствовать созданию любых совершенных государств он сможет только если именно такой будет воля политических руководителей. Американских, китайских ли, без разницы.
Вот что об этом сказал Борис Кагарлицкий, руководитель Института глобализации и социальных движений, председатель редсовета журнала «Левая политика»: «ИИ будет отражать те интересы, на которые он будет запрограммирован. (…) Любой ИИ только оптимизирует те решения, те стратегии, которые выбирают люди».
О стратегиях, которые выбираются и будут выбираться теми самыми людьми в обозримой перспективе, высказался Дмитрий Давыдов, автор работ «Технологии отчуждения и призрак коммунизма», «Посткапитализм и классовая трансформация в современном обществе», старший научный сотрудник Института философии и права УрО РАН: «Сегодня речь должна идти о тенденциях (та же роботизация и автоматизация производств), способствующих катастрофическому росту неравенства, расколу общества на очень небольшую прослойку элит, состоящих из смеси буржуазии, творческих меритократов и персоналиата, и всех остальных — лишенных субъектности, «лишних», полностью выключенных из экономики».
Поддержал мнение коллег и футуролог Данила Медведев: «Государственная система должна быть построена на правильном стратегическом планировании и моделях экономики. (…) Если в основу стратегии лягут адекватная футурология и технологии усиления интеллекта, то может получиться круто. Если нет, то ИИ сам по себе не поможет, а только усилит ошибки и перекосы».
В более далекой перспективе, как считает футуролог Алексей Турчин, ситуация может оказаться совершенно иной. Дружественный ИИ, достигший уровня сверхинтеллекта, «может установить свою власть на всей Земле и стать синглетоном, как его называет Ник Бостром». Синглетон — это единый всемирный правитель, который может сформироваться как некая форма либо мирового правительства, либо искусственного интеллекта, либо диктатуры. Дружественный ИИ появляется в качестве мирового правителя лишь как вариант: ИИ может, получив глобальный контроль над управлением, проявить себя и как недружественный, заняться реализацией собственных планов, не обязательно предусматривающих благополучие и комфорт человечества. Но, даже если человечеству повезет с настроем ИИ, все не обязательно повернется хорошо. «Здесь есть и свои риски, например, если такой ИИ будет не вполне точно понимать человеческие ценности, он будет «причинять» людям добро так, как он его понимает. А это может быть смертельно опасно», — напоминает эксперт.
Без коррупции
Понятно, что роль ИИ в окончательном и повсеместном искоренении коррупции определяется его ролью в управлении. И если она такая, какой ее видят в обозримой перспективе эксперты, надежды на успех ИИ в искоренении общественных пороков, увы, минимальны.
Дмитрий Давыдов: «Никакие технологии, никакие распознаватели лиц, чипы и т.д. не способны переломить то, что лежит в самом основании общества. Коррупция — проблема общественная и системная. Общественная и системная проблема решается только путем структурных изменений, а не технологическими паллиативами, всегда имеющими разные возможности применения. (…) Пока «положительный» функционал использования этого инструмента в борьбе с коррупцией сомнителен».
Если же речь идет об очень дальней перспективе, то, как говорит Алексей Турчин, для дружественного ИИ, ставшего всемирным правителем, устранение коррупции не будет никакой проблемой. «Он, по сути, подменит собой все остальные функции государства, став этаким добрым всемирным царем. Согласятся ли на это государства добровольно? Вряд ли. Возможно, произойдет слияние отдельных ИИ и национальных государств. И хотя этого достаточно для победы над коррупцией и решения многих других проблем человечества, здесь есть и свои риски», — говорит футуролог.
Справедливость и изобилие без границ
Ситуация, когда неограниченные ресурсы доступны любому абсолютно безвозмездно, скорее всего, относится не к сфере футурологии и социологии, а к сфере безудержной фантазии. При этом эксперты говорят, что, даже если вообразить, что проблема с пропитанием всего человечества решена сельским хозяйством под управлением ИИ, это еще далеко не все.
«Допустим, мы накормим всех людей, дадим им жилье, базовый набор социальных благ и многое другое. Но бороться с «нуждой и необходимостью» можно бесконечно. Когда мы всех накормим, нужно будет бороться с раком. Когда победим рак, нужно будет бороться со старением. Когда отодвинем старение, начнутся проблемы с поломками в геноме. Когда решим и эту проблему — будем постоянно минимизировать те или иные риски и т.д. и т.п. Одни ресурсы приходят на смену другим», — говорит Дмитрий Давыдов, подчеркивая, что ИИ вряд ли под силу найти такой фантастический источник ресурсов.
Получается, что ИИ, если и сможет обеспечить некий справедливо распределяемый «прожиточный минимум», вряд ли сможет обеспечить неограниченное потребление. И это при том условии, что всемирный «синглетон» будет вполне дружественным и не будет иметь своих «соображений» по части оптимальной численности человечества, полезности тех или иных его групп, видов деятельности и т.д.
* * *
Ну, в общем, Граймс-то, конечно, пошутила. Но, придумывая шутку, она в очередной раз проявила большую чуткость к настрою и ожиданиям своей аудитории. То есть, будь затронутые в нашумевшем посте идеи и чаяния безразличны тем, кого Граймс решила подразнить, она бы точно выбрала другие.
