Статья посвящена анализу потенциальных негативных последствий массового внедрения и бесконтрольного использования технологий искусственного интеллекта. Рассматриваются три основных неблагоприятных сценария. Первый сценарий описывает возможность массовых техногенных катастроф, вызванных непрозрачными алгоритмами. Второй сценарий связан с гносеологической катастрофой, обусловленной информационным шумом, генерируемым ИИ. Третий сценарий предполагает экономическую катастрофу, которая может возникнуть в результате интеллектуализации средств производства. В статье не рассматриваются способы смягчения описанных угроз, автор предлагает непрерывно мониторить возникновение новых технологических, экономических и социальных рисков, порождаемых дальнейшим прогрессом в области внедрения технологий искусственного интеллекта. Своевременное прогнозирование и управление этими рисками позволят снизить вероятность негативных эффектов и направить развитие технологий в позитивное русло.
Идентификаторы и классификаторы
Помимо очевидных плюсов [Яковлева и др, 2023; Невмывако, 2020], которые приносит развитие и внедрение любых новых технологий, возможны и негативные последствия бесконтрольного и широкого использования искусственного интеллекта. Возможны три основных неблагоприятных сценария и различные их комбинации. Сценарии даны в порядке возрастания их опасности и сложности нивелирования последствий.
Первый сценарий – массовые техногенные катастрофы, порожденные непрозрачными алгоритмами, на которых строятся технологии искусственного интеллекта.
Второй – катастрофа гносеологическая, порожденная информационным шумом, создаваемым искусственным интеллектом.
Список литературы
1. Распоряжение Президента Российской Федерации от 17.06.1999 г. № 194-рп “О неотложных мерах по решению “Проблемы 2000” в Российской Федерации”.
2. Аверкин, А.Н. и др. (1992) Толковый словарь по искусственному интеллекту / Авторы-составители А.Н. Аверкин, М.Г. Гаазе-Рапопорт, Д.А. Поспелов. М.: Радио и связь, 1992. -256с.
3. Андрейчиков, А. В. (2004) Математические модели и программные средства принятия и синтеза решений в экономике и бизнесе: монография / А. В. Андрейчиков М-во образования Рос. Федерации, Волгогр. гос. техн. ун-т. - Волгоград: Политехник, 2004. EDN: QQGPWT
4. Аннаоразова, А. и др. (2024) Современные Достижения в Нейрохирургической Робототехнике: Будущее Точной Хирургии / А. Аннаоразова, Д. Какамырадова, М. Гайтназарова // Научные открытия 2024: Сборник материалов LV-ой международной очно-заочной научно-практической конференции. В 3-х томах, Москва, 22 ноября 2024 года. - Москва: Научно-издательский центр “Империя”, 2024. - С. 37-41. EDN: AXWODV
5. Берберов, А. Б. (2017) Роботизация и технологическая безработица XXI века: возрождение луддизма? / А. Б. Берберов // Московский экономический журнал. - 2017. - № 3. - С. 20. EDN: ZMNUTZ
6. Ваганов, А. Г. (2019) Психология луддизма в XXI веке / А. Г. Ваганов // Энергия: экономика, техника, экология. - 2019. - № 10. - С. 7-11. EDN: BSZJXI
7. Джексон, Т. (2013) Inside Intel. История корпорации, совершившей технологическую революцию XX века - М.: Альпина Паблишер, 2013. - 328 с.
8. Дрожащих, Н. В. (2022) Цифровой тьютор в Тюменском госуниверситете: опыт внедрения и использования / Н. В. Дрожащих, И. Е. Белякова // Вестник Московского университета. Серия 19: Лингвистика и межкультурная коммуникация. - 2022. - № 2. - С. 141-151. EDN: GEPDVE
9. Евлоева, Ф. Р. (2019) Проблема отчуждения человека в российском обществе и глобальном мире / Ф. Р. Евлоева // Вестник Бурятского государственного университета. - 2019. - № 2. - С. 74-82.
10. Моттаева, А.Б. и др. (2020) Влияние искусственного интеллекта на рынок труда / А.Б. Моттаева, В.Л. Кашинцева, О.Ю. Покровский // Вестник Московского государственного областного университета. Серия: Экономика. - 2020. - № 4. - С. 82-88. EDN: NLZZFF
11. Невмывако, В. П. (2020) Всеобщая цифровизация и искусственный интеллект в системе управления стратегическим развитием России в условиях перехода в Индустрию 4.0 / В. П. Невмывако // Экономика и социум: современные модели развития. - 2020. - Т. 10, № 4. - С. 331-344. EDN: UJRRUP
12. Паньшин, И. В. (2020) Эффект цифровизации при отчуждении труда: новый взгляд на формирование информационного капитала / И. В. Паньшин, И. Ф. Жуковская // Экономика труда. - 2020. - Т. 7, № 10. - С. 867-886. 13. Певзнер, Л. Д. (2002) Теория систем управления: Учебное пособие / Л. Д. Певзнер. - Москва: Московский государственный горный университет, 2002. - 469 с. EDN: WYTJDD
13. Петренко, Т. В. и др. (2014) Возрастные этапы процесса сепарации в русле психоаналитических теорий / Т. В. Петренко, Л. В. Сысоева // Актуальные вопросы развития науки: сборник статей Международной научно-практической конференции: в 6 частях, Уфа, 14 февраля 2014 года - Уфа: Башкирский государственный университет, 2014. - С. 110-112. EDN: QHXYHX
14. Петренко, Т. В. и др. (2016) Возрастные этапы процесса сепарации от родителей / Т. В. Петренко, Л. В. Сысоева // Акмеология. - 2016. - № 4 (60). - С. 180-185. EDN: XIOVPD
15. Стригун, А. И. (2014) Компьютерные интеллектуальные тьюторы / А. И. Стригун // Образовательные технологии (г. Москва). - 2014. - № 4. - С. 99-108. EDN: TJKPLF
16. Талалаева, Е. Ю. (2020) Этноконфессиональные иммигрантские гетто как проблема национальной безопасности в современном общественно-политическом дискурсе Дании / Е. Ю. Талалаева, Т. С. Пронина // Балтийский регион. - 2020. - Т. 12, № 3. - С. 55-71. EDN: ZWQQMF
17. Терелянский П.В. (2018a) Цифровая экономика, искусственный интеллект, индустрия 4.0 // Тенденции развития Интернет и цифровой экономики / Труды I Всероссийской с международным участием научно-практическая конференции, Симферополь-Алушта, 29-31 мая 2018. - с.91-96.
18. Терелянский, П. В. (2009) Непараметрическая экспертиза объектов сложной структуры: монография / П. В. Терелянский; П. В. Терелянский; Изд.-торговая корпорация “Дашков и К°”. - Москва: Дашков и К°, 2009. EDN: PCAWED
19. Терелянский, П. В. (2009) Системы поддержки принятия решений. Опыт проектирования: монография / П. В. Терелянский Федеральное агентство по образованию, Волгоградский гос. технический ун-т. - Волгоград: ВолгГТУ, 2009. EDN: QMUYJX
20. Терелянский, П. В. (2018b) Искусственный интеллект в индустрии 4.0 / П. В. Терелянский // Цифровая экономика. - 2018. - № 3(3). - С. 42-49.
21. Хэвен, Д. (2019) Искусственный интеллект. Что надо знать о наступающей эпохе разумных машин/ пер. с англ. О. Д. Сайфудиновой. - М.: АСТ, 2019. 352 с.
22. Яковлева, Е. А. и др. (2023) Роль технологий искусственного интеллекта в цифровой трансформации экономики / Е. А. Яковлева, А. Н. Виноградов, Л. В. Александрова, А. П. Филимонов // Вопросы инновационной экономики. - 2023. - Т. 13, № 2. - С. 707-726. EDN: PKODZB
Выпуск
Другие статьи выпуска
В статье рассмотрена новейшая технология Банк-как-Сервис (Banking-as-a-Service, принятое сокращение BaaS) в финансовой индустрии, история платёжных решений, предпосылки появления BaaS, особенности применения, преимущества использования этого решения для банков и небанковских компаний, а также вызовы для консервативного банковского сообщества.
Статья посвящена истории помощи советских ученых, прежде всего Анатолия Ивановича Китова, Исаака Семёновича Брука, Сергея Алексеевича Лебедева и Николая Андреевича Криницкого, китайским коллегам в становлении компьютерного производства. В статье прослеживается связь первых достижений китайских ученых в области информатики с историей создания вычислительной техники в СССР. Её актуальность обусловлена тем, что недавние исследования в области истории вычислительной техники, опубликованные на английском языке западными историками, могут создать у ученых впечатление, что влияние советских ученых на китайских коллег на начальном этапе компьютерной эры в Китае было весьма незначительным. Исследование основано на анализе научных работ по истории вычислительной техники, материалах Виртуального компьютерного музея, фондах Государственного политехнического музея России, архивах Российского экономического университета им. Г. В. Плеханова, а также на личных встречах авторов с китайскими учеными и переводчиками.
Изменения, происходящие в мировой экономической системе, поставили под сомнение всю аксиоматику типа Вашингтонского консенсуса и актуализировали научные исследования, в частности, по налоговым и таможенным системам. Эти проблемы важны и для нашей страны, но, к сожалению, подходы к их решению носят в основном вербальный характер и далеки от универсальности. В настоящей работе выполнено компаративное цифровое моделирование сравнительной эффективности налога с оборота и налога на добавленную стоимость для диаметрально различных по ресурсообеспеченности стран. Одна из них обеспечена ресурсами с хорошим запасом на будущее, но ее экономика сосредоточена на низких переделах. У второй полностью отсутствуют природные ресурсы, но есть технологическое превосходство, выражающееся в доминировании высоких переделов. На цифровых моделях показано, что при всех реалистичных уровнях технологического превосходства и уровнях налогообложения, а также полном отсутствии таможенных пошлин, выбор оптимального налога для страны с высокой ресурсообеспеченностью и высокотехнологичной страны диаметрально различен. Полученные в ходе цифрового моделирования результаты дополнительно, наряду с традициями и историей, аргументируют правомерность гипотезы об обоснованном отказе США от НДС. Сегодня США, как и Россия, относится к ресурсообеспеченным странам, поскольку три из четырёх первых позиций в её экспорте занимают нефть, продукты ее переработки и газ. На основе результатов цифрового моделирования сделан вывод о том, что в настоящее время у России имеется ещё больше оснований от отказа от НДС, чем у США.
Рассмотрено влияние искусственного интеллекта на сферу маркетинговой деятельности. Дано описание нейросетей и их применения в современном маркетинге. Представлены преимущества, которые дает интеграция ИИ и нейросетей с рекламными технологиями для анализа данных о потребностях клиентов, прогнозировании спроса на продукцию. Исследована возможность обучения нейронных сетей. Дана оценка скорости их развития и адаптации к исследуемым запросам.
Авторами представлены уточненный эконометрический прогноз на 2024 г. темпа роста ВВП России в условиях специальной военной операции, выполненный на основе народнохозяйственной производственной функции, и точность его исполнения. После публикации Росстатом и Мировым Банком фактических данных за 2024 г. оказалось, что значения таких факторов как уровень загрузки производственных мощностей и мировой цены на нефть марки «Юралс» оказались несколько меньше ожидаемых авторами. В результате значения уточненных прогнозных темпов роста ВВП немного снизились, составив 4,1-4,2% против изначально прогнозируемых 5,4-5,5%, и таким образом, почти совпали с фактическим темпом роста в 4,1%, согласно первой оценке Росстата. Основными факторами роста в 2024 г. послужили основные фонды, уровень их загрузки в промышленности, мировая цена на нефть, в то время как уровень занятости оказал на него относительно слабое влияние. Исследованная производственная функция может быть успешно использована для дальнейшего прогнозирования динамики экономического роста в России в обстановке нарастающего санкционного давления со стороны коллективного Запада.
В статье приведен обзор организационной и процессной проблематики цифровой трансформации торгово-промышленных предприятий. Разработан подход к проведению качественной и эффективной цифровой трансформации и построению инновационной бизнес-модели.
Методы исследования. Основным методом исследования является системный анализ современных подходов в области трансформации организационной и процессной моделей предприятия, которые помогают крупным компаниям не только осуществить трансформацию, но и совершить прорыв (Disrupt) с помощью ИТ как ключевого драйвера изменений.
Результаты и дискуссия. Основным результатом работы является подход к проведению качественной и эффективной цифровой трансформации и построению инновационной бизнес-модели. Опыт авторов и многочисленные бизнес-кейсы иностранных (Apple, Netflix, Amazon, др.) и отечественных компаний (Сбер, Х5, Ингосстрах, др.) показывают, что компании находятся в постоянном поиске применения современных технологий, что требует быстрой реализации идей от инициации до реализации (MVP - начальная версия продукта) и до вывода продукта на рынок. Скорость является основным конкурентным преимуществом и ограничением. Каждый отдельный продукт может стать как прорывным, так и неудачным, поэтому необходимо быстро и недорого тестировать гипотезы на каждом этапе создания продукта (модель Stage-Gate). При этом компании разделяют технологии, приносящие добавленную стоимость (операционные) и управленческие (регуляторные). Первые являются зачастую уникальными разработками (НИОКР), тогда как вторые - стандартами конкретного рынка/отрасли (ERP, CPM, др.). Они взаимосвязаны и интегрированы между собой. Поэтому предприятие должно инвестировать в первые и контролировать затраты на вторые.
Заключение. Важнейший вывод данной статьи заключается в том, что российские компании, которые занимаются проблемой обеспечения технологического суверенитета и хотят сохранить/получить лидерство на рынках, должны обратить внимание на современные подходы по построению эффективной модели цифрового предприятия перед тем, как внедрять те или иные ИТ-решения.
Статья является заключительной в серии статей, описывающих разработку языка программирования Тривиль и его реализацию. В предыдущих статьях речь шла о разработке собственно языка. Эта статья посвящена реализации языка. В ней рассматривается архитектура компиляторов, ход разработки и влияние решений на трудоемкость и скорость разработки. В статье также описывается область применимости языка.
Статья является третьей из серии статей, в которых описывается разработка языка программирования Тривиль. В предыдущих статьях были определены цели языка, требования к языку и описаны основные языковые решения. Эта статья рассматривает сложные языковые конструкции, в разработке которых основное внимание уделялось балансу между полнотой языковой конструкции и сложностью языка и компилятора. Как и вся серия, статья нацелена, большей частью, не на программиста, который использует язык, а на разработчика языков программирования.
В статье рассматривается интеграция методологии CODE (Codebase Operations and Development Practices) в процесс разработки программного обеспечения через создание плагина для интегрированной среды разработки IntelliJ IDEA. Методология CODE, основанная на адаптации цикла Деминга-Шухарта (PDCA), включает четыре этапа: Prepare, Develop, Control и Apply, каждый из которых направлен на стандартизацию и автоматизацию управления кодовой базой. В работе обоснована необходимость практической реализации методологии в виде инструмента, интегрированного в среду разработки. Показано, что создание плагина для среды разработки позволяет разработчикам эффективно соблюдать стандарты, улучшать качество кода и ускорять выполнение повседневных задач. В статье описаны логика работы плагина, ключевые функции на каждом этапе методологии и примеры действий, инициируемых пользователем, таких как создание новых веток, проверка соблюдения стиля написания кода, запуск тестов и управление процессом слияния изменений. Особое внимание уделено начальной стадии разработки плагина, включая настройки проекта и использование API IntelliJ IDEA для взаимодействия с системами контроля версий, анализа кода и тестирования. Предложены концептуальные примеры кода, иллюстрирующие реализацию функциональности. Рассмотренные аспекты демонстрируют потенциал использования плагина для упрощения внедрения методологии CODE в реальную практику командной разработки. Продолжением этого исследования может стать непосредственная техническая реализация плагина. Представленные идеи закладывают основу для практического применения методологии CODE, направленного на повышение эффективности и стандартизации процессов разработки.
Авторами исследуется концепция «Логистика 4.0», которая формируется на принципах «Индустрии 4.0» и направлена на цифровую трансформацию логистических процессов с использованием искусственного интеллекта и других цифровых технологий. Использование в логистике интернета вещей (IoT), киберфизических систем, больших данных и облачных вычислений позволяет создавать цифровые двойники логистических систем. Это способствует повышению экономической, социальной и экологической устойчивости, обеспечивая прозрачность, безопасность и оперативность управления цепочками поставок. Эффективным инструментом моделирования для создания цифровых двойников является унифицированный язык моделирования (UML). Российские и зарубежные исследования демонстрируют его хорошую применимость для описания архитектуры, функциональности и поведения логистических систем. Интеграция UML с другими методами, например моделью спецификации дискретных событий, расширяет его возможности как инструмента концептуального моделирования. В статье рассматривается применение генеративного искусственного интеллекта (ГИИ) для создания диаграмм прецедентов при разработке цифрового двойника логистической системы. Хотя предложенное ГИИ решение не является идеальным, оно демонстрирует потенциал ГИИ в решении подобных задач, и созданная модель может служить отправной точкой для дальнейшей разработки информационной системы. В будущем интеграция ГИИ в программные средства для создания информационных систем откроет новые возможности формирования логистических процессов.
Издательство
- Издательство
- ЦЭМИ РАН
- Регион
- Россия, Москва
- Почтовый адрес
- 117418, Москва, Нахимовский пр, 47
- Юр. адрес
- 117418, Москва, Нахимовский пр, 47
- ФИО
- Альберт Рауфович БАХТИЗИН (Директор)
- E-mail адрес
- albert.bakhtizin@gmail.com
- Контактный телефон
- +7 (499) 1290822