Я нашел ошибку
Главные новости:
Наверх
Самара  -11 °C, Тольятти  -9 °C
Курсы валют ЦБ РФ:
USD 74.14
0.47
EUR 83.71
0.6
  • Публикуем решение суда
  • Персональные данные

Профессор Александр Нестеров: "Вся наша субъективность - это набор предрассудков"

26 октября 2021 17:03
1940
Александр Нестеров ответил Волга Ньюс на вопросы - как обычным людям взаимодействовать с системами, использующими искусственный интеллект, и нужна ли философия современному инженеру.

Директор Социально-гуманитарного института Самарского университета, заведующий кафедрой философии профессор Александр Нестеров ответил Волга Ньюс на два фундаментальных вопроса - как обычным людям взаимодействовать с системами, использующими искусственный интеллект, и нужна ли философия современному инженеру.

- Американский философ Ричард Рорти недавно написал: "Философия не является наукой, понимаемой как последовательное преумножение нерушимых истин". Скажите, в чем предназначение философии и зачем ее нужно изучать будущим инженерам?

- Мы используем более конкретные определения философии. Это ни в коей мере не преумножение нерушимых истин: если в двух словах, это предельное вопрошание, в одном слове - методология, а если в трех - рефлексивная метамировоззренческая теория, создающая основание для науки и возможность научного мышления как такового.

Можно сказать, что наука возникла благодаря философии. Отсюда интерес инженеров к философии и философов к инженерам. Поэтому философия должна преподаваться в вузах, и эту традицию ни в коем случае нельзя терять.

Философия достойна того, чтобы ею заниматься, вкладывать в нее деньги, сохранять и развивать ее достижения. Тем более что ей самой присущи самые важные характеристики науки - способность к прогрессу, к генерации более сложных форм знания, которые снимают или включают в себя старые формы. И способность к прогнозу, конечно.

- И еще одна цитата из Рорти: "Подобно инженеру и юристу, философ полезен в решении определенных проблем, возникающих в определенных ситуациях - когда язык прошлого пришел в конфликт с потребностями будущего".

- Работа философа начинается, когда речь заходит о методологии. По сути, вся физика и большая часть химии ХХ века - это решение философских вопросов: прежде чем описывать мир как он есть в категориях пространства и времени, исследователи должны были ответить на вопрос, что такое "пространство" и "время".

По факту огромное количество научных дисциплин (например, теоретическая физика и высшая математика) являются философскими, поскольку они описывают не саму действительность, а те способы, с помощью которых человек эту действительность учитывает, осваивает или преобразует.

Философия - единственная дисциплина, которая создает системную картину мира, выражая наиболее общую метамировоззренческую рефлексию.

- В буквальном переводе слово "философия" означает "любовь к мудрости". А что такое мудрость?

- Со времен Пифагора известно, что люди не мудры: мудрость - состояние нечеловеческое, и обычный человек не может к нему приблизиться. Отсюда такие формулировки, как "философом нужно родиться", и спекуляции мистического плана. Когда я в своих лекциях для студентов комментирую этот вопрос, обычно привожу пример из Карлоса Кастанеды.

Человек видит мир определенным образом, использует для его интерпретации определенный язык и определенные схемы, связывающие язык с внутренней жизнью данного субъекта. И этот комплекс человеческого ограничен, он не изменяется. Человек как был человеком пять тысяч лет назад, так и остается таким же человеком. Условно говоря, существом двуногим без перьев, которое может воспроизводить звуки некого языка.

А вот если я, глядя на вас, вижу не двуногое без перьев, а, по выражению Кастанеды, "клубок светящихся нитей", тогда я не человек. Отсюда первое условие мудрости - быть не человеком. Второе условие мудрости - способность с помощью этого иного взгляда на своего собеседника, на мир, на самого себя увеличить количество и качество знания о собеседнике в рамках общечеловеческого взгляда.

С XVII века фигура мудрости заменяется фигурой объективного знания, и это социальный прогресс, потому что каноническую функцию мудреца, жреца, шамана (словом, того, кто видит иначе и за счет этого видения может изменить жизнь человека и сообщества) берет на себя ученый. А если понятие "мудрость" вывести за пределы мистики, становится ясно: мудрец - это не тот, кто выражается афоризмами, но тот, кто преумножает знания.

- Тот, кто сам выходит на некий метауровень и старается вывести на него других?

- Да, это принадлежащая Платону метафора выхода из пещеры. Платон полагал: чтобы выйти из пещеры, нужно изучать математику, исследовать математические структуры и объекты. После Галилея к фундаментальным характеристикам мудрости добавилась способность спрашивать природу, вести с ней диалог. Математика и диалог с природой - это западная форма медитации на пути к тому, что индусы называют просветлением или приближением к реальности, а мы - увеличением количества объективного знания о мире.

Возвращаясь к предназначению философии, замечу, что она проясняет способы познания и деятельности, направленные на создание нового, будь то материальные объекты или структуры разума. И инженерная деятельность - это квинтэссенция философской рефлексии.

- Поясните эту мысль.

- Всякая деятельность проходит три этапа - построение идеи, построение конструкции и построение нового объекта. И деятельность по созданию нового - инженерная деятельность - это высшая форма выражения рефлексивного самопознания субъекта. Отдельного индивида и человечества в целом. Кроме того, создание чего-то из ничего - это высшее проявление человечности, данное нам Богом или природой. Ведь ни одно животное нового не производит.

- А те, к кому вы обращаетесь, эту мысль понимают, и она помогает им проектировать, скажем, новый авиадвигатель?

- Я надеюсь, понимают. И потом мир меняется, задачи просто построить какой-нибудь двигатель не стоит, требования к изделию чрезвычайно высоки, а чтобы качественно изменить его конструкцию, нужно мыслить не так, как мыслили инженеры полвека назад. Но чтобы изменить мышление, нужно понимать, как строится структура мысли. Я понимаю функцию философии как функцию обслуживания: мы помогаем людям понять, кто они такие в их труде.

Я в основном работаю с аспирантами, и все они читают "Теорию творчества" Петра Энгельмейера и "Спор о технике" Фридриха Дессауэра. Это классические монографии о том, что такое творчество, техника и кто такой инженер. Может быть, им что-то остается непонятным, но основополагающие идеи, я надеюсь, они запоминают.

- В конце нынешнего апреля вы проводили международную конференцию "Человек в информационном обществе". Как человеку взаимодействовать с искусственным интеллектом (ИИ), чтобы, с одной стороны, развивать его к своему благу, а с другой, оставлять за собой контролирующие функции?

- Это очень сложный вопрос, потому что понятие информационного общества до сих пор не до конца прояснено. Есть три типа искусственной среды, в которой жил и сейчас живет человек, они определяются уровнем развития техники.

Примерно до 1945 года доминирующее влияние на человека оказывали машины по производству энергии. До появления кибернетики и информационно-вычислительной техники люди жили и работали так, как будто они были божественными существами, доступа к рассудку и разуму которых не имел никто, кроме них самих.

С распространением ЭВМ складывается второй тип искусственной среды, где главенствуют машины по переработке информации. Эту мысль отчетливо сформулировал Готтхард Гюнтер. Человеку уже не нужно тратить силы на выполнение таких рутинных процессов, как сложные вычисления или перевод текстов с одного языка на другой. И это радикальным образом изменило способ его жизнедеятельности.

А в данный момент человечество находится на пороге формирования третьего типа искусственной среды, когда все шире распространяются действующие независимо от человека машины, которые производят информацию. Это другой мир с новым уровнем самопознания, ответственности и прозрачности, мир, который регулируется агентами не человеческой и даже не антропоморфной природы. Так, мы уже не удивляемся, когда нас штрафуют камеры автоматического видеонаблюдения, и с удовольствием пользуемся интернетом вещей.

Давать оценки этому миру пока рано: для этого еще нет ни нормативного регулирования, ни этических принципов. В такой ситуации человечество живет уже лет 70 (с момента появления машин по производству информации), и именно отсутствие этики информационного общества, нравственных регламентов второй искусственной природы является причиной идеологического кризиса во всем мире, когда нет никаких нравственных ориентиров и никаких критериев успеха, кроме финансово-экономических.

Сейчас, как никогда, важна сформулированная Кантом максима эпохи Просвещения: осмелься знать. Человеку необходимо развивать собственные системы обоснованных истинных убеждений, знать, как работают машины, производящие информацию.

- Для иллюстрации этого посыла нужен пример.

- Когда вы садитесь за руль автомобиля с автоматической коробкой передач и множеством гаджетов, якобы помогающих водителю, вы обязаны - хотя бы на уровне пользователя - знать, как эти гаджеты работают. Иначе при изменении внешних условий (например, погоды) вы не сможете понять, какие алгоритмы включаются в работу и как именно они адаптируют ваше авто к новой дорожной ситуации. А тут уже недалеко до аварии.

Незнание того, как работают технические системы, частью которых вы в данный момент являетесь, смертельно опасно, и такого рода риски возрастают с каждым днем. Получается, что нам придется освоить симбиоз с машинами, сформировать гибридную сеть, включающую и человеческий, и машинный интеллект. Это новый мир, который требует внятно построенных теорий сознания и познания.

И судя по нынешним темпам прогресса в этих областях, можно надеяться, что уже в этом веке мы - в рамках материалистической теории информации - получим ответы на вопросы, как человек вписан в окружающий мир, как эту вписанность можно расширить, на каких уровнях и куда мы можем дописывать информацию, а куда не можем. Это вопросы уже не философские, а научные. Они изучаются, в частности, в Курчатовском институте, у академика Анохина. В эти исследования за последние десять лет вложены миллиарды.

- При взаимодействии с ИИ важно обеспечить прозрачность его работы для человека.

- Полную прозрачность обеспечить невозможно. Мы не видим, каким образом принимается решение, и нужны дополнительные языки, чтобы понять, что именно происходит внутри черного ящика, как там весовые коэффициенты изменяются. Но прозрачность научная достижима: мы знаем физические принципы, которые определяют принципы функционирования той или иной системы ИИ.

- Совместно с Институтом искусственного интеллекта Самарского университета под руководством профессора Артема Никонорова вы занимаетесь разработкой цифровых моделей в эстетике. В чем вы, философ, видите практический смысл этого весьма амбициозного проекта?

- В XX веке были попытки дать если не математическое, то алгоритмическое выражение для чувства прекрасного. К примеру, Юрий Лотман в работе "Анализ поэтического текста" очень удачно иллюстрирует возможности применения математического аппарата для интерпретации эффекта художественности текста.

Амбициозность этой задачи в том, что искусство - это первая форма, в которой абсолютный дух узнает себя. За искусством следует религия, за религией - философия. Это мысль Гегеля. И выразить то, что позволяет нам назвать закат на Волге прекрасным, в терминах математики означает дать возможность духу реализоваться в математизированном (формализованном) искусстве.

Здесь мы включаемся в контекст вычислительной эстетики, которая сейчас бурно развивается в России и в мире. Мы с профессором Никоноровым изучаем, могут ли современные нейросети, анализируя, скажем, симметрию данной картины и число точек в ней, что-то сказать нам о ее восприятии людьми, о причинах ее популярности, а также удостоверить ее принадлежность данному художнику.

Мы видим свою задачу в том, чтобы научиться формализовывать эстетическое содержание живописных произведений классической эпохи. И таким образом ответить на вопрос, что делает их значимыми для человеческой культуры. При этом мы понимаем, что для этого, возможно, требуется метаязык такого уровня, до которого математика пока не добралась.

- А как быть с субъективным фактором? То, что кажется красивым одному, может не впечатлить другого, и наоборот.

- Я не склонен переоценивать субъективный фактор. Вся наша субъективность, как писал век назад Эдвард Бернейс, - это всего лишь набор предрассудков, заложенных в нас извне посредством самых разных языков и схем манипулирования ими. В терминах постмарксизма это ложное сознание. Как только мы проанализируем нормы той или иной эпохи и личный опыт конкретного человека, от субъективности останется очень мало. Тогда мы поймем, где границы этого опыта можно нарушить, где может родиться новый синтез. Между прочим, так работает вся система продаж, а искусство, особенно современное, - это не что иное, как специфическая сфера продаж.

Вся разность человеческих вкусов сводима к нескольким образцам. А то, что в обиходе называют субъективностью, есть наложение множества внешних и внутренних структур опыта и языков, которые в принципе формализуемы.

Сложности возникают с формализацией только тех образов (фантазмов), которые порождены биологическими и физиологическими особенностями конкретной личности и которые эстетикой (да и другими науками) пока недостаточно изучены.

- В конце октября в Москве пройдет международный форум "Этика ИИ: начало доверия". Основной вопрос его повестки - обсуждение этических принципов разработки и применения ИИ. Так что же такое этика ИИ?

- Это открытая проблема. Исторически у нас есть законы Хаммурапи, заповеди Ветхого Завета, то есть архаическая этика, которая требует поступать с другим так, как он с тобой поступает. Иными словами, око за око, зуб за зуб. Для первой искусственной природы работает уже другой принцип, зафиксированный в аврамических религиях: относись к другому так, как ты хочешь, чтобы он относился к тебе: "кто любит, тот любим, кто светел, тот и свят".

А вот в мире, где важнейшую роль играют машины по переработке информации, этического кодекса нет, есть лишь предварительные версии. Одна из них - этика содействия (кооперации) человека и созданных им (но зачастую уже не зависящих от него) автономных машин, способных принимать в той или иной мере самостоятельные решения. И хотя эта этическая доктрина возникла еще до появления ИИ, именно сейчас она оказалась работоспособна: технология применения систем с ИИ должна исключать ситуации, где нужно выбирать, кому и за чей счет нанести вред.

Я бы еще напомнил, что этика - это системный ответ на вопрос, как в целях выживания следует поступать тому, кто называет себя "я". Этот ответ зависит от того, поступаю ли я относительно самого себя (в единственном и множественном числе), относительно другого (в единственном и множественном числе) и относительного чужого (он, она, оно в единственном и множественном числе). И я не думаю, что этика ИИ, как и любой другой кодекс профессиональной этики, скажет нам что-то принципиально новое. Впрочем, обсуждать эту тему пока рано.

- Стало быть, вы пока не собираетесь читать курс этики на естественнонаучных факультетах?

- Я не думаю, что в настоящий момент это осмысленное занятие. Курс этики должен читаться там, где обучают гуманитариев. Для инженера этика прошита в самом способе его деятельности, в профессии. В конце концов, это же просто навыки поведения в сообществе: курс такого рода будет важен тогда, когда инженеры будут участвовать в проектировании и исполнении искусственных социальных структур так, как они сейчас участвуют в создании технических объектов физического плана.

- Но есть же множество видов деятельности, которые снабжены некими регламентами.

- Если речь идет о переднем крае науки и техники, где трудятся разработчики систем ИИ, там этического кодекса нет - мы ждем его появления. Я надеюсь, что он будет базироваться на категориях содействия и взаимопомощи.

 

Фото:  Самарский университет

Добавить комментарий

Введите своё имя
Допускаются тэги <b>, <i>, <u>, <p> и ссылки на YouTube (http://youtube.com/watch?v=VIDEO_ID)
Добавляя свой комментарий Вы автоматически соглашаетесь с Правилами модерации.
Прикрепить файл
Прикрепить фотографии (jpg, gif и png)
Код с картинки:*