4. Встреча 02 марта 2018 г. Совместная встреча семинара «Философия цифровой эпохи» (философия сложностности) и футурологического клуба «Проектирование будущего» на тему «Как ИИ изменит государство, общество и человека»

Искусственный интеллект

план доклада

Игорь АРТЮХОВ,

26-02-18

Какой бывает ИИ?

Последние достижения в ИИ

Некоторые возможные применения ИИ

Медицина

Управление

Искусство и т. д.

Некоторые перспективы ИИ в обозримом будущем

Взаимодействие с другими прорывными технологиями

ИИ и искусственные личности

Глобальный распределённый ИИ

Квантовый ИИ

Опасности ИИ: надуманные…

… и настоящие

Этика и ИИ

Саморазвивающийся ИИ и концепция Социально-технологической сингулярности

Посмотреть презентацию Игоря Артюхова "Искусственный интеллект: ожидания, ограничения и опасности"

Какую нишу на рынке труда оставят человеку ИИ?

тезисы

Константин ФРУМКИН,

27-02-18

Развитие искусственного интеллекта ставит вопрос о технологической безработице нового типа. Автоматизация коснется тех видов труда, которые считались до сих пор защищенными от конкуренции машин- умственного, творческого и управленческого. Это ставит вопрос о том, какого рода умственные и творческие способности сделают человека конкурентоспособными даже в эпоху искусственного интеллекта. При этом, мы видим что человеческие когнитивные навыки уже адаптируются к эпохе развития информационных технологий - символом этой адаптации стало понятие «клипового мышления», Однако, нет доказательств, что эта адаптация позволит человеку нащупать именно те ниши, которые будут оставлены ему искусственным интеллектом. Ясно одно, что у человека остается политическая функция – которая в широком смысле слова включает в себя установление приоритетов и ценностей для ИИ.

Возможность искусственного интеллекта

тезисы

Владимир АРШИНОВ,

27-02-18

Возможность искусственного интеллекта (ИИ) с самого начала связывалась с гипотезой критического порога сложности самоорганизующейся системы, в контексте которой он и должен был как таковой возникнуть. На заре становления кибернетической парадигмы проблема сложности в разных контекстах рассматривалась Н.Винером, фон Нейманом и А.Колмогоровым. Одним из примечательных трендов современного научного познания является формирование в нем в качестве ядра постнеклассической науки 21 века качественно новой междисциплинарной (и, возможно, трансдисциплинарной) «парадигмы сложности», имеющей сразу несколько «точек роста». Издательство «Шпрингер», год назад объявившее о запуске новой серии монографий «Шпрингер: Сложностность. Понимание сложных систем» предваряет ее следующими словами: «Сложные системы – это системы, которые состоят из множества взаимодействующих частей, обладающих способностью порождать новые качества на уровне макроскопического коллективного поведения, проявлением которого является спонтанное формирование различимых темпоральных, пространственных или функциональных структур».В свою очередь в моделировании таких систем «можно выделить следующие главные концепции и инструменты: самоорганизация, нелинейная динамика, синергетика, теория турбулентности, динамические системы, катастрофы, нестабильности, стохастические процессы, хаос, графы и сети, клеточные автоматы, адаптивные системы, генетические алгоритмы и компьютерный интеллект» [Castellani, Yafferty, 2009]. Конечно, этот перечень (который можно продолжить) сам по себе порождает впечатление, что термин «сложность» играет роль «зонтичного термина с пустым означаемым». Так что говорить о существовании в современном научном познании некоей «парадигмы сложности» сегодня, быть может, еще преждевременно. Отчасти соглашаясь с этим, хотелось бы подчеркнуть, что ее становление должно быть сопряжено с формированием нового способа «постнеклассического мышления», ориентированного на синергийную конвергенцию современной «философии сложности», когнитивных наук и «наук о природе», как эпистемической культуры, интеллектуальным пиком которой является квантовая механика. Новое «мышление в сложности» [Mainzer, 2004] должно сформироваться в конкретной когнитивной практике как один из результатов реализации таких масштабных трансдисциплинарных проектов, как проект создания ИИ. С другой стороны, (само) формирование «мышления в сложности» окажется результативным и конструктивным, если оно с самого начала будет выступать в роли «трансдисциплинарного» стратегического навигатора в когнитивно-гетерогенной среде многообразия разных научных дисциплин и технологических проектных практик. И эта ситуация «зацикленности» одного на другое, сама по себе, является характерным примером той «рефлексивно-рекурсивной» эпистемологии сложности, которая должна лежать в основе современных подходов к проблеме создания ИИ в контексте «сложностного мышления». Рефлексируя над этой зацикленностью, мы приходим к фигуре «наблюдателя сложности» как мета-наблюдателю «второго порядка»; фигуре, если иметь в виду традицию «наук о природе» ведущую свою родословную от квантово- механического наблюдателя Н.Бора и В.Гейзенберга и наблюдателя времени в теории диссипативных структур И.Пригожина. Включение наблюдателя сложности в контекст проблемы ИИ дает возможность рассматривать их в перспективе конструктивного коэволюционного процесса, в результате которого возникающий ИИ окажется его (наблюдателя сложности) воспроизведением. Возможным итогом этого процесса станет и новое (трансдисциплинарное) прочтение философской проблемы интерсубъективности как возникновение процесса герменевтического взаимопонимания естественного и искусственного интеллектов, их симбиоза в контексте автопоэтического структурного сопряжения их «жизненных миров».

НЕСКОЛЬКО СЦЕНАРИЕВ С ИИ

тезисы

Леонид ЖУКОВ,

25-02-18

Следует различать Искусственный интеллект (ИИ), как интеллектуального помощника людей, и то, что Александр Жданов называет Автономным искусственным интеллектом (АИИ), который мог бы существовать сам по себе.
ИИ в качестве интеллектуального помощника это, образно говоря, сильно усовершенствованный калькулятор. Такого рода помощников и сегодня вокруг нас уже полно – фактически это все, что относится к компьютерному софту. Проблема тут в том, что по мере усложнения софта, люди перекладывают на него часть своих функций, которые могут оказаться критически значимыми для окружающего общества (например, в случае беспилотных автомобилей). По сути, это правовая проблема, как разграничить ответственность человека от ответственности, так сказать, робота, а вернее сказать разработчиков программного обеспечения (чем давеча озаботились депутаты Госдумы РФ), поскольку робот, будучи лишенным субъектности, никакой ответственности не несет. Можно предположить, что со временем общество тут выработает такие же решения, как в свое время выработало в сфере, например, фармакологии.
Я могу предположить, что мир в оболочке ИИ станет проще в эксплуатации, но и существенно сложнее в ориентации, поскольку чтобы не попадать на каждом шагу впросак с техникой, которая имеет свойство ломаться и зависать (как бы надежна она не была), человеку потребуется существенно повысить свою компьютерную грамотность.
Принципиально иной вызов бросает человеческой цивилизации АИИ. Это то, чем пугают человечество фантасты, живописуя образы машинной цивилизации, вытесняющей человеческую. Впрочем, поскольку загадка человеческого сознания до сих пор не разгадана, остаются сомнения, возможно ли создание такого интеллекта в принципе. Проблема здесь в том, что независимо от создания теории сознания, его кибернетический аналог может быть создан практически, причем (как предполагают некоторые авторы), независимо от воли создателей программных продуктов. АИИ таким образом выглядит как материализовавшийся ужас луддитов – образ машины, замещающей человека не только на его рабочих местах, но вообще на планете Земля.
Независимо от того, будет создан АИИ или нет, не трудно представить себе сегодня, развитие технологии, как машинной, так и био, до такой степени совершенства, что человек, сохранив свой мозг, получит полностью искусственное тело. Это один из вариантов, рассматриваемых трансгуманистами. Не успели люди смириться гендерной революцией, а к ним уже приближается революция киборгов. В пределе тут мы приходим к философскому вопросу поставленному Станиславом Лемом в известном рассказе об автогонщике, ставшем роботом – остался ли он человеком?
Одна из фантастических способов создания АИИ основывается на идее перезаписи человеческого сознания на искусственный носитель. Если такого рода технология станет возможной, то не трудно вообразить себе полностью виртуальный мир, куда, надо полагать, пожелает переселиться часть человечества (либо путешествовать по этой виртуальности, как в сущности, уже сегодня путешествуют по игровым мирам компьютерные игроки). О таком варианте развитии событий тоже размышлял Лем.
Наконец, если все же вернуться к теории сознания и возможности его моделирования в форме АИИ, одна из важных проблем здесь упирается в идею множественности сознаний – насколько мое сознание единственно. Феномен людей с расщепленным состоянием личности показывает, что один человек может быть носителем многих сознаний. Отсюда проистекает гипотеза, что и в нормальном случае во мне может быть несколько личностей, просто они подавлены, недоразвиты, находятся в подчиненном положении относительно одной, главной, которую я числю своим «я». Эти субличности не трудно представить себе как свои социальные роли или свои мировоззренческие установки в той части, где они амбивалентны. Вопрос тут заключается в том, в какой мере сознанию необходимо общество – и в частности, другие сознания. Не случайно ведь появилась формула, согласно которой «человек – это общественное животное». Действительно ли, продолжая линию размышлений Лема, сознание может существовать в одиночестве, как мыслящая планета Солярис?
Как жизнь зародилась в первичном океане сразу во множестве протобиотических существ, как новый вид возникает в популяции, а не в единичном экземпляре, как прообраз человеческого сознания появился не у одно лишь гоминида, так и АИИ, можно предположить, будет создан (если будет создан) не в единичном образце, а сразу во многих вариантах, которые при этом будут несовместимы друг с другом в смысле сохранения своей «субъектности». Впрочем, тут следует учитывать феномен единства множественности сознаний, если не в одном субъекте, то в сообществе.
Итак, стратегически я вижу два сценария развития ИИ в относительно близком будущем: (1) технологизация естественного человека (трансгуманистический) и (2) создание АИИ (чисто технический), изначально искусственного.
Если попробовать сделать еще один шаг – шагнуть в будущее будущего, то можно представить, что решение проблемы материального носителя сознания (будь то трансгуманистическое решение или чисто техническое), запустит в ход эксперименты с разными носителями. Почему тогда не представить себе, что в какой-то момент времени появится вариант чисто полевого решения – сознание в форме определенным образом устроенного поля. Why not?
А может, такое полевое сознание уже присутствует и наша Вселенная пронизана им? Ведь маловероятно, что человеческая цивилизация единственная в космосе. А если не единственная, то должны быть цивилизации в миллионы раз более развитые, нежели наша. Здесь воображение смыкается с философским суждением.

ОТЧЕТ О ВСТРЕЧЕ

Чего ожидать от ИИ, какие ограничения и опасности есть у инновационных информационных систем, рассказал биофизик, ведущий эксперт Института биологии старения Игорь Артюхов.

Ученый отметил, что в области царит терминологический хаос. Чаще всего используется формулировка 70-летней давности, данная американским инженером, автором термина «искусственный интеллект» Джоном Маккартни. Он определил ИИ как некую систему, устройство или их сеть, которые способны решать интеллектуальные задачи. Игорь Артюхов подчеркнул, что интеллект не является синонимом ума, а характеризует способность работать со знаниями, с данными.

Классификаций алгоритмов тоже множество. До недавнего времени, по словам Игоря Артюхова, господствовали экспертные разработки (сверху вниз), но они не оправдали надежд ни создателей, ни пользователей, и началась зима ИИ. Возрождение было вызвано развитием нейронных сетей, которое вошло в активную фазу в 2015-2016 гг. Эти разработки были вдохновлены исследованиями головного мозга человека. Нейросети во многом повторяют общие принципы функционирования мозга, хотя искусственные нейроны могут отличаться от естественных. На сегодняшний день существует «зоопарк» нейронных сетей, и большинство из них в последнее время получены с помощью технологии глубокого обучения.

«Интеллектуальная» революция 17-го года
Тема ИИ стала мегапопулярной в 2016 году, когда программа AlphaGo победила чемпиона мира в игре го, которая считается намного более сложной, чем шахматы. Это произошло на 10 лет раньше, чем прогнозировалось. Достижения программы от Google DeepMind перевели дискуссию из плоскости «возможен ли ИИ?» в плоскость «на что он способен?».

Сегодня ИИ может автоматизировать любую функцию человека с таким же качеством или выше, – уверен член клуба, доктор физико-математических наук Юрий Визильтер.

«В 2017 году все принципиальные “дыры” на пути создания полноценного ИИ были закрыты. Прежние прогнозы говорили, что этот порог будет перейден в 2025-2030 году. Но произошло это уже в апреле прошлого года, – подчеркнул Юрий Визильтер. – Есть два вида ИИ – один пытается имитировать человеческие рассуждения и представляет собой прозрачный ящик, в котором есть логика, есть познание, есть работа со структурированными моделями и с языками. Второй тип – глубокие сети, которые способны к обучению, или Черный ящик. Прежде невозможно было соединить удобным способом эти две части ИИ. В прошлом году появились глубокие нейронные сети, которые способны писать программы на логических языках, способны работать с базами логического вывода и со структурами».

Страх перед искусственным
Сферы, в которых возможно применение искусственного интеллекта, множатся. Программы разрабатывают новые формулы лекарств, проводят сложные генетические анализы, «управляют» беспилотными автомобилями и кораблями… В обозримом будущем мы увидим искусственные личности, прообразом которых сегодня являются Siri и подобные ей программы. Уже сейчас идут эксперименты по созданию глобального ИИ на блокчейне, то есть для решения суперсложных задач будут использоваться распределенные вычисления, в том числе на частных компьютерах и устройствах. Не за горами и появление квантового искусственного интеллекта. В теории, квантовые вычислители преодолели предел досягаемости обычных компьютеров: им под силу формирование квантовых нейросетей. Если идеи разработчиков будут воплощены, это приведет к появлению ИИ нового качества.

Возможен ли выход ИИ из-под контроля? На этот вопрос Игорь Артюхов отвечает так:

«Да, уже сейчас ИИ иногда работает непонятно для разработчиков. Но и люди не всегда действуют по общепринятой логике».

По мнению биофизика, многие опасности ИИ надуманные и являются всего лишь проекцией на машинный интеллект человеческих инстинктов, сформированных дарвиновской эволюцией. Игорь Артюхов считает, что ИИ чужд инстинкт самосохранения. К появлению «плохого» ИИ могут привести программные ошибки (а они есть в любом коде и в течение жизни алгоритма исправляются), ошибки обучения и злой умысел, т.е. опасность представляет не ИИ, а человеческая глупость.

Участники заседания пришли к выводу, что первостепенной становится задача разработки этики для ИИ и подготовки учителей для роботов.

Цифровая трансформация человека
Один из самых распространенных страхов – боязнь того, что ИИ приведет ко всеобщей безработице. Шеф-редактор журнала «Инвест-Форсайт», кандидат культурологических наук Константин Фрумкин попытался ответить на вопрос «Какую нишу на рынке труда оставит человеку ИИ?». По его мнению, бенефициар технологической революции XX века – городской интеллектуал – летит в ту же бездну, в которую попал ремесленник или крестьянин с началом индустриализации.

«В ближайшее время мы будем наблюдать вытеснение искусственным интеллектом человека из сферы умственного труда, – уверен Константин Фрумкин. – Мы уже видим трансформацию человеческих способностей, когнитивного стиля и мышления: так происходит адаптация к эпохе цифровых технологий. Символом этой адаптации стало понятие “клипового мышления“».

Однако нет доказательств, что эта адаптация позволит человеку нащупать именно те ниши, которые будут оставлены ему искусственным интеллектом. Важнейшая область, которую, как считает Константин Фрумкин, нельзя отдавать роботам – поле постановки целей. Поскольку государственная власть дигитализируется, установление приоритетов и ценностей для ИИ становится неотделимо от политики и права. Это занятие, по мнению Константина Фрумкина, способно обеспечить массовую занятость в будущем.

Интеллект искусственный, тело – человеческое
Будущее больше невозможно прогнозировать, так как скорость изменения очень высока, считает Юрий Визильтер. Однако профессор НИИ ВШЭ и специалист по data science Леонид Жуков предложил участникам встречи обсудить несколько сценариев развития.

«Я вижу два сценария развития ИИ в относительно близком будущем: трансгуманистический (технологизация естественного человека) и чисто технический (создание автономного искусственного интеллекта, АИИ), изначально искусственного, – отметил Леонид Жуков. – Второй путь – то, чем пугают человечество фантасты, живописуя образы машинной цивилизации, вытесняющей человеческую. Впрочем, поскольку загадка человеческого сознания до сих пор не разгадана, остаются сомнения, возможно ли создание такого интеллекта в принципе. Независимо от того, будет создан АИИ или нет, не трудно представить себе сегодня развитие технологии, как машинной, так и био, до такой степени совершенства, что человек, сохранив свой мозг, получит полностью искусственное тело».

Как полагает Леонид Жуков, один из фантастических способов создания АИИ основывается на идее перезаписи человеческого сознания на искусственный носитель.

«Если такого рода технология станет возможной, нетрудно вообразить себе полностью виртуальный мир, куда, надо полагать, пожелает переселиться часть человечества (либо путешествовать по этой виртуальности, как, в сущности, уже сегодня путешествуют по игровым мирам компьютерные игроки)», – размышляет ученый.

Автор: Анна Орешкина

Отчет опубликован в журнале "Инвест-Форсайт" https://www.if24.ru/chem-opasen-ai/