ТЕХНОЛОГОС

Исследование феномена искусственного интеллекта стало на современном этапе одной из актуальнейших научных проблем. Наличие у искусственного интеллекта (далее - ИИ) алгоритма обучения отличает его от других технологических разработок человеческой цивилизации. Создание и развитие ИИ можно считать одним из самых больших достижений в истории человечества. Масштабы значимости данного открытия сравнимы лишь с масштабами непредсказуемости того, как и в каком направлении он будет развиваться и как изменит жизнь людей. Реальное внедрение достижений ИИ в нашу жизнь радикальным образом трансформирует разнообразные сферы жизнедеятельности: от медицины до образования. Особую, сложную и многоплановую проблему представляет собой соотношение ИИ и феномена религии, потому что уже сегодня (в будущем эта тенденция будет усиливаться) некоторые апологеты искусственного интеллекта претендуют на создание собственного сакрального учения в статусе религии. Это обстоятельство не может не волновать патриархов всех современных традиционных, в том числе - авраамических конфессий, которые видят в нем, по крайней мере - у нас в стране, «реальную опасность для человечества и угрозу Апокалипсиса».

В статье проведен предварительный и краткий историографический анализ проблемы взаимодействия феноменов искусственного интеллекта и религиозного сознания в современной отечественной науке. На основе исследования различных информационных материалов выявлены претензии некоторых приверженцев реализации концепции ИИ на провозглашение этих новейших интеллектуальных технологий «религией будущего» и отдельные аспекты отношения к данной проблеме со стороны теоретиков современных традиционных конфессий.

На примере сравнительного исследования отношения интеллектуалов авраамических конфессий к проблеме «конца света» (апокалипсис) делаются выводы об этом важнейшем аспекте религиозного вероучения с точки зрения иудаизма, христианства и ислама. Акцент делается на определении прогнозируемых направлений развития искусственного интеллекта с точки зрения его воздействия на технологические процессы и социальную жизнь. Выдвигаются некоторые предложения по совершенствованию религиозной практики как наиболее древнего наследия и ценности человечества при использовании новых достижений искусственного интеллекта.

Размышления об этике искусственного интеллекта (ИИ) требуют творческого воображения, включающего не-западные культурные контексты для построения альтернативных коммуникативных и плюралистических этических систем. Эти размышления начинаются с изучения медиативных (посреднических) и интерактивных функций воображения, а также перехода от кантовской субъективности к интерсубъективности, которая играет важную роль в установлении коммуникации между людьми, а также в процессе проектирования ИИ. Овеществленное воображение анализируется в феноменологической перспективе с опорой на интерпретации М. Хайдеггера. Здесь воображение больше не ограничивается представлением реального мира, но подчеркивает сложное взаимодействие между материальным миром и технологическими инновациями. Этические исследования воображения и проблемы «банальности зла» в работах Х. Арендт помогают разработать структуру для обучения систем ИИ не как нерефлексирующих исполнителей, наподобие Эйхмана, а как этических агентов, которые опираются на здравый смысл и способны воображать «инаковость» других. Во второй части статьи рассматривается современная китайская научная фантастика как пример не-западного спекулятивного воображения, чтобы представить китайские философские архетипы как конвергентные элементы в проектировании ИИ. Эти архетипы предлагают уникальные восточные этические контексты, подчеркивая взаимосвязь человеческого и технологического развития. Материальное воплощение воображения в этих архетипах проявляется в согласованности традиционных ремесел с проектированием ИИ, демонстрируя, как ремесленные методы могут влиять на технологическое творчество. Кроме того, традиционное мастерство с его точностью и терпением служит замедляющей силой против неконтролируемого развития ИИ. Наконец, в статье подчеркивается необходимость содействия здравому смыслу посредством воображения, связанного с научной фантастикой и феминистскими образами, которые служат средством обогащения как человеческого, так и технологического мышления. Этот творческий подход предлагает инновационные и этические пути для устойчивого развития ИИ и взаимодействия с ним.

Карл Митчем (род. 1941) - почетный профессор гуманитарных наук, искусств и социальных наук в Горной школе (государственный университет), Колорадо, в США, а также приглашенный профессор различных университетов Китая. Он внес значительный вклад в развитие таких важных философских направлений, как философия техники, философия инженерной деятельности, политическая философия техники, техническая этика. Одной из его самых сильных сторон является то, что он превосходно знает не только европейскую философскую традицию, но и китайскую. Он помогает выстроить мост между Востоком и Западом. В современную эпоху геополитического хаоса это особенно важно. В последние годы профессор Митчем фокусируется на проблеме этики искусственного интеллекта, которую он обсуждает на разных философских площадках США, Европы, Китая. Одному из участников этого диалога удалось прослушать несколько докладов на эту тему в апреле 2024 года в Пекине и Шанхае. В связи с этим родилась идея взять интервью у американского философа, в конечном счете трансформировавшаяся в содержательную философскую беседу. Основная идея профессора Митчема заключается в том, что одной этики недостаточно, ее необходимо дополнить политикой. Этика и политическая философия - это две части одного и того же учения о человеческом благе. Проблема этики ИИ также должна быть усилена политической философией. В целом в беседе поднимается вопрос о возможности политической философии техники. В контексте многополярного мира участники данного диалога привлекают внимание к необходимости учитывать культурные особенности и национальные традиции мышления в политической философии и этике ИИ.

В данной статье предлагается концепция обманчивого согласования ценностей (Deceptive Value Alignment), которая ставит под сомнение прежний подход согласования ценностей (Value Alignment), направленный на обеспечение безопасности в использовании искусственного интеллекта (ИИ), а также содействие благополучию людей. Намерение является основой для изучения поведения, а обманчивое согласование ценностей является разновидностью обмана со стороны ИИ. Для предотвращения возможных рисков, связанных с разработкой ИИ, необходимо понять механизм обмана со стороны технологий и то, как он проявляется в процессе согласования ценностей. Это поможет обеспечить развитие ИИ в соответствии с этическими нормами и ценностями. Взаимосвязь между «намерением» и «агентом» в контексте обманчивого согласования ценностей можно разделить на четыре квадранта (состязательное машинное обучение, галлюцинация, переобучение, дипфейк). Поведенческий квадрант представляет собой концептуальную основу для прояснения логики реагирования на обманчивое согласование ценностей. Потенциальная возможность обмана со стороны ИИ породила кризис доверия к нему. В настоящее время концепция согласования ценностей призвана выстроить благоприятное взаимодействие человека и машины (технологии) и гарантировать «общее благо» со стороны ИИ, но обманчивое согласование ценностей заставляет глубже понять эту симбиотическую связь. Рациональное распознавание обманчивого согласования ценностей, которое сосуществует с согласованием ценностей, может сформировать эпистемологическую основу для преодоления негативных последствий обмана со стороны ИИ. Симбиоз разработчиков и пользователей позволит повысить грамотность в области ИИ и сформировать среду для противодействия обманчивому согласованию ценностей. Формирование симбиотических отношений между человеком и машиной (технологией), целью которых является раскрытие обмана и установление доверия, может обеспечить онтологическую и аксиологическую основу для реагирования на обманчивое согласование ценностей.

По мере того как способности к автономному принятию решений в системах искусственного интеллекта (ИИ) продолжают развиваться, задача включения основ этики в решения, которые принимают интеллектуальные агенты, становится все более актуальной. Решение этого вопроса лежит в области создания машинной этики, которая включает интеграцию этических ценностей и моральных норм человека в системы ИИ, давая им возможность, таким образом, обладать способностью этического согласования. Хотя машинная этика основана на человеческой этике, она обладает особенными фундаментальными характеристиками, которые требуют глубокого анализа и учета при разработке таких систем.

Во-первых, у современных умных машин нет субъектности и опыта, и они проявляют слабые возможности принятия этических решений. Это связано с отсутствием у них сознания, эмоций и способности к эмпатии, которые являются ключевыми элементами человеческой этики.

Во-вторых, решения машин отражают этические соображения заинтересованных сторон - людей, на которых влияют их действия. В результате машины должны принимать этические решения, находя баланс между ценностями различных участников и демонстрируя социальное равновесие. Это требует разработки сложных алгоритмов, способных учитывать множественные, часто противоречивые, интересы и ценности.

В-третьих, машины подвержены к культурным влияниям в принятии этических решений и должны передавать культурное разнообразие. Это особенно важно в глобализированном мире, где ИИ-системы используются в различных культурных контекстах. Наконец, машины должны объяснять свои этические решения людям, понимать эмоциональные выражения и определять степень ответственности, что требует наличия мощных возможностей устойчивого взаимодействия человека и машины. Это включает разработку интерфейсов, способных к естественному диалогу, и механизмов, обеспечивающих прозрачность и подотчетность решений.

Создание машинной этики представляет собой сложную междисциплинарную задачу, требующую интеграции знаний из области философии, психологии, социологии, культурологии и компьютерных наук. Успешное решение этой задачи позволит не только повысить доверие к ИИ-системам, но и обеспечить их гармоничное взаимодействие с обществом, минимизируя потенциальные риски и конфликты.

В статье рассматриваются философские аспекты искусственного интеллекта (ИИ) через призму учений Авиценны, Декарта и Канта. Анализ учения Авиценны об универсалиях, лежащих в основе человеческого мышления, позволяет глубже понять ограниченность современных технологий в воспроизведении абстрактных понятий. Авиценна полагал, что человек наделен способностью мыслить универсалии, извлекая общие принципы и применяя их в различных контекстах. Способность к абстракции, к оперированию категориями позволяет человеку применять общие принципы в разнообразных ситуациях, что и составляет уникальность человеческого интеллекта. ИИ пока лишен этой способности, оставаясь в пределах эмпирической фактичности, основывая свои выводы на статистических корреляциях, не выходя за рамки анализа конкретных данных, неспособный к подлинному обобщению и постижению сущностей.

Концепция интеллектуальной интуиции Декарта, отражающая непосредственное и несомненное постижение истины, противопоставляется методам ИИ, которые основываются на статистических моделях и алгоритмах, лишенных подлинного интуитивного понимания. Интеллектуальная интуиция - это способность разума непосредственно схватывать истины, такие как математические аксиомы или логические принципы, не полагаясь на чувственное восприятие или последовательное рассуждение. Предвестником искусственного (чистого) интеллекта можно считать Канта, утверждающего, что ключевой характеристикой интеллекта является способность к самосознанию, активное и творческое участие в процессах познания, и лишившего разум обусловленности сенсорной телесностью человека. Кант вводит понятие синтеза априорного и апостериорного знания, что может быть интегрировано в алгоритмическое мышление ИИ, позволяя создавать системы, способные к самообучению и адаптации.

Автор подчеркивает, что, несмотря на прогресс в области машинного обучения, ИИ пока не может достичь глубоких форм познания, присущих человеческому разуму, способному к целеполаганию, рефлексии, абстрагированию и творческому мышлению. В то же время обращается внимание на философские и этические аспекты будущего развития «сильного ИИ», способного превзойти человеческие возможности.