Фалько Владимир Иванович
Доцент кафедры «Педагогика, психология, право, история и философия»
Мытищинского филиала Московского государственного технического университета имени Н.Э. Баумана
Кандидат философских наук, доцент
vfalco@yandex.ru, +7(916)504-96-77
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И КОЛЛЕКТИВНЫЙ РАЗУМ
В КОНТЕКСТЕ УНИВЕРСАЛЬНОГО ЭВОЛЮЦИОНИЗМА
Falko Vladimir Ivanovich
Associate Professor of the Department of Pedagogy, Psychology, Law, History and Philosophy
Bauman Moscow State Technical University (Mytishchi Branch)
PhD in Philosophy, Associate Professor
vfalco@yandex.ru, +7(916)504-96-77
ARTIFICIAL INTELLIGENCE AND COLLECTIVE MIND
IN THE CONTEXT OF UNIVERSAL EVOLUTIONISM
Введение. Одной из самых актуальныхпроблемявляется коэволюция искусственного интеллекта (ИИ) и человеческого разума – не только индивидуального, но и коллективного интеллекта (КИ), вплоть до Oбщепланетарного Коллективного Разума (ОКР). Цель статьи: показать возможность такой коэволюции и пути её реализации.
Материалы и методы. Статья опирается на универсальный эволюционизм Н.Н. Моисеева, труды С.П. Никанорова, Б.И. Кудрина, других учёных и философов, материалы Моисеевских чтений 2020 г., программу настоящей конференции. Методы – системно-философский, диалогический.
Результаты исследования. Поставлен вопросо коэволюции КИ и ИИ, обоснован тезис о коэволюции индивидуальных и локальных интеллектов в процессе становления ОКР, эволюционном характере его формирования и развития и гипотеза бессубъектного, спонтанного характера возникновения ИИ. Определено информационное общество (ИО) как единство КИ и ИИ, показан диалогический характер коэволюции КИ и ИИ, необходимость верховенства КИ над ИИ, увязанность этих процессов с новым характером глобализации как единства многообразия цивилизаций.
Обсуждение. Сопоставлены аргументы «За» и «Против» тезиса о возможности коэволюции КИ и ИИ в концепциях российских учёных, проанализированы естественные и искусственные, спонтанные и субъектные механизмы коэволюции, сделан вывод о её возможности и вероятных позитивных результатах.
Заключение. Россия призвана и способна стать лидером процесса формирования ОКР и его коэволюции с ИИ, направленных на предотвращение глобальной антропологической катастрофы.
Ключевые слова: искусственный интеллект (ИИ),коллективный интеллект (КИ),Общепланетарный Коллективный Разум (ОКР), коэволюция, универсальный эволюционизм, информационное общество (ИО).
Introduction. One of the most pressing problems is the co-evolution of artificial intelligence (AI) and human intelligence – not only individual but also collective intelligence (CI), up to the General Planetary Collective Intelligence (OCD). Purpose of the article: to show the possibility of such co-evolution and the role of the spiritual factor in this process.
Materials and methods. The article is based on the universal evolutionism of N.N. Moiseev, works of S.P. Nikanorova, B.I. Kudrin, other scientists and philosophers, materials of the Moiseev Readings 2020, the program of this conference. Methods - systemic-philosophical, dialogical.
Research results. The question of the co-evolution of CI and AI is raised, the thesis of the co-evolution of individual and local intelligences in the process of OCD formation, the evolutionary nature of its formation and development, and the hypothesis of a subjectless, spontaneous nature of the emergence of AI are substantiated. The information society (IO) is defined as the unity of CI and AI, the dialogical nature of the co-evolution of CI and AI, the need for the supremacy of CI over AI, the linkage of these processes with the new nature of globalization as a unity of the diversity of civilizations are shown.
Discussion. The arguments "For" and "Against" the thesis about the possibility of co-evolution of CI and AI in the concepts of Russian scientists are compared, natural and artificial, spontaneous and subjective mechanisms of co-evolution are analyzed, a conclusion is made about its possibility and probable positive results.
Conclusion. Russia is called and is capable of becoming a leader in the process of ROC formation and its co-evolution with AI, aimed at preventing a global anthropological catastrophe.
Key words: artificial intelligence (AI), collective intelligence (CI), Planetary Collective Intelligence (OCD), coevolution, universal evolutionism, information society (IO).
Введение.
Одной из самых актуальныхглобальных проблемявляется коэволюция искусственного интеллекта (ИИ) и человеческого разума. Она была поставлена в Научной программе «Моисеев Н.Н. о России в ХХI веке: глобальные вызовы, риски и решения» и докладах на Международной научно-практической конференций – Моисеевских чтениях 2–6 марта 2020 г. В Программе Секции 2 Чтений говорится: «Следуя разработанной академиком Н.Н. Моисеевым теории развития цивилизации с учетом экологического императива, целесообразно изучать динамику развития этих компонент как попарно («природа-человек», «природа-искусственный интеллект», «человек-искусственный интеллект»), так и в 4D приближении (в пространстве и времени), не отдавая приоритета ни одной из компонент» [10, с. 52].
В докладе на Чтениях 2020 автор акцентировал внимание на том, что в коэволюции человечества и биосферы особую роль играет КИ, не сводящийся к сумме индивидуальных разумов и в перспективе развивающийся в ОКР, предсказанный Н.Н. Моисеевым [8]. Поэтому в развитии ноосферы нужно рассматривать также пары категорий: «человек–КИ», «ИИ–КИ», «природа–КИ».
Цель статьи: показать возможность коэволюции КИ и ИИ, возможные пути и механизмы её осуществления.
Материалы и методы.
Наше исследование опирается на универсальный эволюционизм Н.Н. Моисеева, разработку им концепции информационного общества ка единства КИ и ИИ, труды Г.П. Щедровицкого, А.И. Пригожина, В.Е. Лепского, Э.В. Гирусова, Б.И. Кудрина, С.П. Никанорова, В.А. Лефевра, В.А. Брынцева, других учёных и философов, материалы Моисеевских чтений, программу настоящей конференции.
В настоящем междисциплинарном исследовании ведущую роль играют философские методы и разрабатываемый автором системно-диалогический подход.
Результаты исследования.
В развитие идей Н.Н. Моисеева, автором статьи поставлен вопросо коэволюции КИ и ИИ в процессе формирования ОКР. Обоснованы тезисы о коэволюции индивидуальных и локальных интеллектов в процессе становления ОКР, эволюционном характере его формирования и развития и гипотеза бессубъектного, спонтанного характера возникновения ИИ. Определено ИО как единство КИ и ИИ, показан диалогический характер коэволюции КИ и ИИ, необходимость верховенства КИ на ИИ, увязанность этих процессов с новым характером глобализации как единства многообразия цивилизаций.
Обсуждение.
Необходимость рассмотрения коэволюции общества и природы в увязке не только между собой и будущим ИИ, но и с формирующимся ОКР, усматривается Н.Н. Моисеевым в самой природе ИО, в которое вступало человечество на рубеже нового тысячелетия: «…Вступление в информационное общество следует связывать с утверждением Коллективного Общепланетарного Разума, …а не только с электронной и компьютерной инженерией…» [8, c. 430]. ИИ – не искусственный разум, и он не может стать основой общемирового сознания, Разума общепланетарного субъекта. «Искусственный интеллект – это система, изобретаемая и создаваемая человеком, – отмечает учёный. – В отличие от него Коллективный Интеллект – природноеявление,результат сложнейшего эволюционного процесса, который до поры до времени проходил стихийно, без целенаправленного вмешательства личности и общества» [8, c. 438].
Следует, однако, уточнить, что КИ – не только природный, но и социально-культурный, духовный феномен, биологические основания которого опосредованы общественными отношениями и техническими факторами в ещё большей мере, чем индивидуальные сознания людей и локальные КИ, уже возникающие и функционирующие в мире. КИ формируется в условиях становления и развития ИО не только стихийно, но и в результате целенаправленного использования современных методологий и технологий. Это, например, сетевые методы в менеджменте, активно использующие компьютерные технологии, системомыследеятельностный подход Г.П. Щедровицкого [15] и «живая методология» А.И. Пригожина [12], включающие в себя игротехнику. Это социально-гуманитарные технологии в составе конвергенций, закладываемых в основание седьмого технологического уклада, в т. ч. методы и технологии сборки социального субъекта в работах В.Е. Лепского [5] и других российских учёных и философов.
Многогранный и многоуровневый, усложняющийся характер коэволюции требует переосмысления и развития самого этого понятия, опираясь на его определения в трудах Н.Н. Моисеева. «Еще один термин… – само понятие “коэволюция”. Я… пытался искать удобную интерпретацию самого термина «ноосфера». И его смысл мне казался достаточно очевидным: развитие человечества как составной части биосферы должно быть согласовано с развитием всей системы и не должно содействовать ее деградации» [7, п. 3].
Ноосферное развитие представляет собой единство естественных и социально-исторических процессов, поэтому необходимо открывать и учитывать в коэволюционной практике единые социоприродные законы, идею которых развивал ещё с 70-х годов ХХ века Э.В. Гирусов [2].
Важно учитывать также системный характер процесса формирования КИ, объединяющего локальные сознания: «Коллективный Разум – объединение локальных интеллектов. И эта система, очевидно, обладает некоторыми свойствами, которые не выводимы из свойств индивидуальных разумов…» [8, c. 442].
Весьма эффективным для отображения современного характера системных связей и отношений в социоприродных системах представляется системно-динамический подход В.А. Брынцева [1]. По оценке ряда учёных и философов, он содержит в себе прообраз будущей познавательной модели, основанной уже не на идее целостности, а на идеале гармонии и цветущего разнообразия, что соответствует сути коэволюции.
Автор этих строк предлагал вниманию участников Моисеевских чтений развиваемый им системно-диалогический подход [13], который позволяет отражать не только взаимодействие, но и общение в процессах коэволюции.
Диалогический характер обсуждения проблематики данной статьи обнаруживает тенденцию к достижению результатов, подтверждающих высказанные выше тезисы и гипотезы. Прежде всего, это спор о принципиальной возможности коэволюции природных и естественноисторических процессов с развитием искусственного мира.
Есть аргументы, направленные против этой идеи, сводящиеся, главным образом, к тому, что коэволюционировать могут только эволюционирующие системы, каковыми видятся природные и естественно-исторические процессы. Они рождаются и развиваются объективно, а не создаются искусственно, как технические объекты и системы. Из этого может быть сделан вывод, что коэволюция ИИ и КИ принципиально невозможна.
Однако за такую возможность можно выдвинуть аргументы, опирающиеся на исследования механизмов технического прогресса. Как показал Б.И. Кудрин, техногенез происходит путём информационного отбора, открытого им ещё в 1976 г. как аналога естественного отбора. Развитие техники – это эволюция, подобная биологической [3], [4].
Поддерживая вывод об эволюционном характере техногенеза, заметим, что прямая аналогия информационного отбора с дарвиновским естественным отбором сохраняет известные основания для критики такого механизма эволюции. Можно предположить, что богдановский подбор, который взяли на вооружение некоторые современные дарвинисты, может показать свои преимущества и в применении к эволюции техники.
Аргументы в пользу эволюционного характера технического прогресса, который представляет собой бессубъектный процесс, как и био-эволюция, выдвигаются и в работах С.П. Никанорова. Хотя он считает технические системы и конструкты субъектными по своей природе в силу перенесения на них человеком части своей субъектности, опровергается вывод о том, что развитие техники не может быть бессубъектным процессом: «Бессубъектный взгляд на развитие заложен в накопленных за сотни лет разработках теорий развития… Бессубъектность биологической эволюции естественна – в ней происходят мутации и естественный отбор. Техногенез рассматривается бессубъектно…» [11, c. 173, 174]. Поэтому можно заключить, что коэволюция КИ и ИИ возможна.
Субъектность искусственных систем не означает субъектности исторического процесса развития техники: «Однако, в антропогенезе бессубъектная точка зрения классического представления об “очеловечении человека” противостоит субъектной точке зрения…» [11, c. 173]. Исторический процесс диалогического взаимодействия его акторов и факторов, в силу своего системного характера, приобретает такие свойства, которых нет у разрозненных технических систем и конструктов. Вместе с тем, нужно учитывать роль субъектности технических, природных и социальных систем.
Естественные, искусственные и естественноисторические механизмы коэволюции КИ и ИИ, как составляющие социо-техно-природных комплексов и процессов развития, могут выступать как бессубъектные, осуществляемые механизмами отбора или подбора – естественного и информационного. Но возникновение человеческого сознания невозможно без субъектного воспитания и обучения, как и создание ИИ без субъектного творчества учёных и инженеров. Именно поэтому эволюция и ко- эволюция КИ и ИИ необходимы и возможны.
Согласно системно-динамической концепции, бессубъектные процессы самоорганизации, без участия направляющих воздействий со стороны более высокого уровня организации, не могут достичь согласованности, т. к. имеют тенденцию к разрушению коэволюционного цикла [1]. В то же время, для возникновения таких системных свойств ИИ и КИ, которые могут превосходить возможности индивидуального или негармонично организованного интеллекта, необходимы самоорганизация, спонтанность. Понятие спонтанности в развитии (автоматона) известно ещё из византийской философии, идея спонтанного эффекта в возникновении ИИ высказывалась в научно-фантастической литературе, а механизмы самоорганизации изучает синергетика. Но эти механизмы требуют своего теоретического осмысления и развития на новом уровне, как субъектного измерения, ортогонального объектности.
Для коэволюции в природно-социо-техническом комплексе недостаточно диалогического взаимодействия индивидуальных субъектов: нужно общение различных КИ, направленный на организацию КОР. Но пока не созрели условия для мировой гармонии, формируется бимультиполярная система мироустройства с двумя конфликтующими примирителями [14]: «Группа из двух конфликтующих пар субъектов и двух примирителей, находящихся в конфликте. Примирители …могут выбрать как путь наказаний, так и поощрений, а каждый из конфликтующих субъектов выбирает ненасильственный путь действий» [6, c. 88].
Субъектность ЛИ, интересов людей может закладывать предпосылки их согласования с естественноисторическим процессом формирования КР (КИ). Общение включает духовную составляющую, придающую формированию КИ синергийный характер и соответствие сверхценностным критериям единства. Однако достичь целерациональной согласованности этого процесса с эволюцией локальных интеллектов невозможно, в силу парадокса социального управления Моисеева. Вместе с тем, неподконтрольное субъектам их влияние на этот процесс делает непредсказуемым синергетический эффект появления системных свойств КИ, в чём видятся риски коэволюции ЛИ и КР.
Обсуждая вопрос о том, возможен ли общепланетарный Коллективный разум, Н.Н. Моисеев указывает на открытый им парадокс социального управления: «До последнего времени развитие Коллективного Интеллекта, как и всякий эволюционный процесс, носило чисто стихийный характер… И впредь …Человек не в состоянии сделать этот процесс управляемым. …Организация Коллективного Интеллекта из стихийного процесса должна превратиться в процесс, направляемый теми средствами, которые уже есть в распоряжении планетарного сообщества» [8, c. 449].
Идея направляемого развития, предложенная Моисеевым, актуальна и для обсуждаемой здесь проблемы: «Действительно – что такое Коллективный Разум? Это своеобразная информационная система, способная не только к накоплению и передаче информации, но и к анализу и выводам» [8, c. 442]. КР способен поэтому и вырабатывать общие цели развития, которые невозможно получить управляемым путём и, в то же время, без использования ИИ. ИО может бать лишь единством КИ и ИИ. «Итак, информационное общество – это такой этап истории человечества, когда Коллективный Разум становится не только опорой развития вида Homo sapiens, но и объектом целенаправленных усилий по его совершенствованию» [9, с. 177].
Главная опасность организации КИ и его коэволюциии с ИИ – возможная потеря человеком себя как личности, утрата обществом своей духовности, поскольку дух, человеческую душу, свободу воли невозможно создать искусственно. Человек должен стоять над технологиями, а не превращать себя в их объект, а ИО изначально должно ориентироваться на трансформацию в общество духовное.
Учитывая культурно-цивилизационную неоднородность планетарного человечества, глобальное ИО возможно только как единство многообразия: «Следующий шаг к информационному обществу – к его цивилизации ещё предстоит сделать, и он будет неизбежно синтезом цивилизаций Востока и Запада. … Итак, я думаю, что одной из особенностей информационного общества будет превращение совокупности цивилизаций в единую систему, подчеркну – не в единую цивилизацию, а систему, в которой каждая из цивилизаций сохранит столь нужные для человечества особенности» [8, c. 445–446].
Заключение.
Анализ роли и места нашей страны в решении обсуждаемых проблем, отражающейся в диалогическом характере её культрно-цивилизационных кодов, приоритете духовных ценностей и идеалов гармонии в русской философии и геополитике, предпосылках свободного отношения к технике и, наконец, в отечественной теоретико-методологической базе настоящего исследования, показывают, что Россия призвана и способна стать лидером процесса формирования Общепланетарного КИ и его коэволюции с ИИ, направленных на предотвращение глобальной антропологической катастрофы.
Список литературы
1. Брынцев В.А. Эволюция в движении: Циклические процессы природы и общества. – М.: ЛЕНАНД, 2017. – 152 с.
2. Гирусов Э.В., Фалько В.И. Законы социоприродного развития // Экология внешней и внутренней среды социальной системы (ЭкоМир-9): 9-я Международная научная конференция: материалы конференции. – М.: Изд-во МГТУ им. Н.Э. Баумана, 2019. – С. 4–6.
3. Кудрин Б.И. Онтология и гносеология технической реальности: Доклад на XXII Всемирном философском Конгрессе, 31 июля 2008 г., Сеул. Электронный ресурс. URL: https://www.kudrinbi.ru/public/10720/index.htm. Дата обращения: 12.02.2021.
4. Кудрин Б.И. Онтология технической реальности // Философские науки. 2017. № 6. – С. 96–103.
5. Лепский В.Е. Проблема сборки субъектов развития в контексте эволюционных технологических укладов // Глобальное будущее 2045. Конвергентные технологии (НБИКС) и трансгуманистическая эволюция. М.: ООО «Издательство МБА», 2013. – С. 67–81.
6. Лефевр В.А. Лекции по теории рефлексивных игр. – М.: «Когито-Центр», 2009. – 218 с.
7. Моисеев Н.Н. Еще раз о проблеме коэволюции // «Экология и жизнь». 1998. № 2.
8. Моисеев Н.Н. Информационное общество: возможность и реальность // Информационное общество. – М.: ООО «Издательство АСТ», 2004. – С. 428–451.
9. Моисеев Н.Н. Избранные труды. В 2-х томах. Т. 2. Междисциплинарные исследования глобальных проблем. Публицистика и общественные проблемы. – М.: Тайдекс Ко, 2003. – 264 с.
10. Моисеев Н.Н. о России в ХХI веке: глобальные вызовы, риски и решения: Материалы ХХVIII практической конференции, РАН, 2020. – М.: МНЭПУ- Государственный университет управления, 2020. – 102 с.
11. Никаноров С.П. Теоретико-системные конструкты для концептуального анализа и проектирования. – М.: Концепт, 2008. – 312 с.
12. Пригожин А.И. Методы развития организаций. – М.: МЦФЭР, 2003. – 864 с.
13. Фалько В.И. Системно-диалогический взгляд на концепцию коэволюции человечества и биосферы Н.Н. Моисеева // Вестник МНЭПУ, 2019. Т. 1. № 5. – С. 569–571.
14. Фалько В.И. Альтернативы однополярному миру: современность и перспективы // Развитие современной цивилизации: ответы на вызовы времени // сборник трудов по материалам международной научно-практической конференции. – М.: «Научный консультант», 2016 г. – С. 94–102.
15. Щедровицкий Г.П. Избранные труды. – М.: Шк.Культ.Полит., 1995. – 800 с.
Literature
1. Bryntsev V.A. Evolution in motion: Cyclic processes of nature and society. M.: LENAND, 2017. 52 p.
2. Girusov E.V., Falko V.I. The laws of socio-natural development // Ecology of the external and internal environment of the social system (EcoMir-9): 9th International Scientific Conference: conference proceedings. M.: Publishing house of Bauman MSTU, 2019. P. 4– 6.
3. Kudrin B.I. Ontology and epistemology of technical reality: Report at the XXII World Philosophical Congress, July 31, 2008, Seoul. Electronic resource. URL: https://www.kudrinbi.ru/public/10720/index.htm. Date of access: 12.02.2021.
4. Kudrin B.I. Ontology of technical reality // Philosophical Sciences. 2017. No. 6. P. 96–103.
5. Lepskiy V.E. The problem of assembling the subjects of development in the context of evolutionary technological orders // Global Future 2045. Convergent technologies (NBICS) and transhumanistic evolution. M.: "Publishing house MBA", 2013. P. 67–81.
6. Lefebvre V.A. Lectures on the theory of reflexive games. M.: "Kogito-Center", 2009. 218 p.
7. Moiseev N.N. Once again about the problem of coevolution // Ecology and Life. 1998. No. 2.
8. Moiseev N.N. Information Society: Opportunity and Reality // Information Society. M.: OOO "AST Publishing House", 2004. P. 428–451.
9. Moiseev N.N. Selected Works. In 2 volumes. V. 2. Interdisciplinary research of global problems. Journalism and social problems. M.: Tydeks Co, 2003. 264 p.
10. Moiseev N.N. on Russia in the XXI century: global challenges, risks and solutions: Proceedings of the XXVIII practical conference. M.: MNEPU - State University of Management, 2020. 102 p.
11. Nikanorov S.P. System-theoretic constructs for conceptual analysis and design. M.: Concept, 2008. 312 p.
12. Prigogine A.I. Organization development methods. M., 2003. 864 p.
13. Falko V.I. System-dialogical view on the concept of co-evolution of mankind and biosphere N.N. Moiseeva // Bulletin of the MNEPU, 2019. T. 1. No. 5. P. 569–571.
14. Falko V.I. Alternatives to the unipolar world: modernity and prospects // Development of modern civilization: responses to the challenges of the time // collection of works based on the materials of the international scientific and practical conference. M.: "Scientific consultant", 2016. P. 94–102.
15. Shchedrovitsky G.P. Selected Works. M.: Shk.Kult.Polit., 1995. 800 p.
Reference
1. Bryntsev V.A. ‘ Evolutsia v dvizhenii: Tsyklicheskiye processy prirody i obshzhestva ’. M.: LENAND, 2017. 52 p.
2. Girusov E.V., Falko V.I. ‘ Zakony sotsioprirodnogo razvitia’ // Ecologia vneshney i vnutrenney sredy sotsialnoy systemy (EcoMir-9): 9-ya Mezhdunarodnaya nauchnaya konferentsiya: materialy konferentsii. M.: Publishing house of Bauman MSTU, 2019. P. 4–6.
3. Kudrin B.I. ‘ Ontologiya i epistemologiya technicheskoy realnosti: doklad na XXII vsemirnom Philosophskom Kongresse, Iul 31, 2008, Seoul’. URL: https://www.kudrinbi.ru/public/10720/index.htm. Date of access: 12.02.2021.
4. Kudrin B.I. ‘ Ontologiya technicheskoy realnosti ‘// Philosophskiye Nauki. 2017. No. 6. P. 96–103.
5. Lepskiy V.E. ‘ Problema sborki subyektov razvitiya v kontekste evolutsionnyh tehnologicheskih ukladov’ // Globalnoye budushchee 2045. Konvergentnye tehnologii (NBICS) i transgumanisticheskaya evolutsia. M.: "Publishing house MBA", 2013. P. 67–81.
6. Lefebvre V.A. ‘ Lektsii po teorii reflexivnyh igr ’. M.: "Kogito-Center", 2009. 218 p.
7. Moiseev N.N. ‘ Eshcho raz o probleme koevolutsii’ // " Ecologia i zhizn ". 1998. No. 2.
8. Moiseev N.N. ‘ Informatsionnoye obshchestvo: vozmozhnost i realnost’ // Informatsionnoye obshchestvo. M.: "AST Publishing House", 2004. P. 428–451.
9. Moiseev N.N. Izbrannye trudy. V 2 t. T. 2. Mezhdistsiplinarnye issledovania globalnyh problem. Publitsistika i obshchestvennye problemy. M.: Tydeks Co, 2003. 264 p.
10. ‘ Moiseev N.N. o Rossii v XXI veke: globalnye vyzovy, riski i reshenia: Materialy XXVIII practicheskoy konferentsii, RAN. M.: MNEPU - State University of Management, 2020. 102 p.
11. Nikanorov S.P. ‘ Systemno-theoreticheskiye konstrukty dlya kontseptualnogo analiza i proektirovania’. M.: Concept, 2008. 312 p.
12. Prigogine A.I. Metody razvitia organizatsii. M., 2003. 864 p.
13. Falko V.I. ‘Systemno-dialogicheskiy vzgliad na kontseptsiyu koevolutsii chelovechestva i biosfery N.N. Moiseeva // Bulleten MNEPU, 2019. T. 1. No. 5. P. 569–571.
14. Falko V.I. ‘ Alternativy odnopolarnomu miru: sovremennost i perspektivy’ // Razvitiye sovremennoy tsivilizatsii: otvety na vyzovy vremeni // sbornik trudov po materialam mezhdunarodnoy practicheskoy konferentsii. M.: "Scientific consultant", 2016. pp. 94–102.
15. Shchedrovitsky G.P. Izbrannye trudy. M.: Shk.Kult.Polit., 1995. 800 p.