English 0 позиций в запросе!   Отправить?
Подписка на новости
Задать вопрос

Имя *

E-Mail *

Компания *

Телефон *

Вопрос *

Нажимая на кнопку, вы даете согласие на обработку своих персональных данных

Заказать образцы

Имя *

E-Mail *

Телефон *

Сайт

Компания *

Описание проекта *

Образцы предоставляются под проект

Нажимая на кнопку, вы даете согласие на
обработку своих персональных данных и
обратную связь со специалистами PT Electronics

Подписка на новости

Назад

Роботы, искусственный «интеллект» и мы. Как нам жить вместе? Часть 1

22 Авг 2019

Человек всегда старался облегчить себе жизнь, приручал и заставлял работать животных, создавал механизмы. Можно шутить, что не было бы у человека склонности к лени — не было бы и пылесоса. На очередном витке эволюции мы пришли от автоматов и роботов к созданию того, что мы называем искусственным интеллектом (ИИ). Но будет ли он безопасен, если, перешагнув черту, приблизится к нам в эмоциональном смысле? И останемся ли мы, при его широком внедрении, людьми в нынешнем понимании? Звучит странно, но не станем ли мы в итоге такими себе детьми, которых заботливая мать, в данном случае — машина или программа, начнет опекать и принимать за нас все решения? Частично это уже так. Не лишит ли нас ИИ самостоятельных действий, превратив в свой придаток, и мы просто уже не сможем существовать без него как биологический вид? Или ИИ решит, что мы ему мешаем? В этой статье вы вряд ли найдете ответы на все эти вопросы, а ее некоторые положения могут идти вразрез с общепринятым взглядом на теории сознания и проблемы ИИ и выражают исключительно мнение ее автора.


Опубликовано в номере: Control Engineering Россия июнь 2019

Автор статьи Владимир Рентюк – Rvk.modul@gmail.com

PDF версия


Начнем с определения того, с чем мы имеем дело, то есть с истоков. «Ты помнишь, как все начиналось? Все было впервые и вновь» (А. Макаревич). Что касается понятия «робот», то, уже судя по названию, — это машины для выполнения подневольного труда. Что же касается официальной трактовки, здесь мы увидим два совершенно противоположных и даже взаимоисключающих определения. Вот, посмотрите, робот — это автоматическое устройство, предназначенное для осуществления различного рода механических операций, которое действует по заранее заложенной программе. Робот обычно получает информацию о состоянии окружающего пространства посредством датчиков (технических аналогов органов чувств живых организмов). Робот может самостоятельно осуществлять производственные и иные операции, частично или полностью заменяя труд человека. Если «действует по программе», то это не самостоятельный робот — это автомат, а если «может самостоятельно», то нужно дать машине свободу действий и провести то, что в робототехнике называется «обучение», которое без того или иного интеллекта (здесь мы подразумеваем, конечно, искусственный) не работает.

В общем, робот — это механизм, а задача механизма, хоть и наделенного неким «интеллектом» и быстро соображающего, — эффективно работать, а не ходить в юбке и строить для достижения цели глазки, как это можно видеть в весьма впечатляющем британском научно-фантастическом фильме «Ex Machine» (Alex Garland, 2015, в нашем прокате он известен под названием «Из машины) или англо-американском научно-фантастическом телесериале того же 2015 года — «Humans» (создатели Sam Vincent и Jonathan Brackley, в нашем прокате «Люди», за его основу взята шведская научно-фантастическая телевизионная драма «Real Humans», автор Lars Lundström), которые мы возьмем за некую базу в нашей дискуссии (рис. 1). Фильм и сериал исследуют тему ИИ и робото­техники, сосредоточив внимание на социальном, культурном и психологическом аспектах изобретения антропоморфных думающих роботов. Можно сказать, что такой подход не только пока весьма далек от практической реализации, но и, на мой взгляд, полностью лишен какого-либо практического смысла в реальной жизни. Однако это сейчас, а потом?

Рис. 1. Кадры из трейлеров фильмов «Ex Machine» и «Humans»

Наше любопытство безгранично, а что порой творится в головах ученых — это одному Богу известно, и то, думаю, не всегда. Пока, если вспоминать сюжет «Ex Machine», эксперименты с ИИ, проведенные его разработчиком — ученым Нейтоном, закончились, как следовало и не следовало ожидать. Робот Ава показала блестящие результаты, пройдя тест Тьюринга. Это эмпирический тест, идея которого была предложена Аланом Матисоном Тьюрингом (Alan Mathison Turing) — английским математиком, логиком и криптографом, человеком весьма нелегкой судьбы, оказавшим существенное влияние на развитие информатики (рис. 2). Он описал суть теста в статье «Computing Machinery and Intelligence» («Вычислительные машины и разум»), опубликованной в 1950 г. в философском журнале Mind[1], когда задался целью определить, может ли машина мыслить и как это доказать. Работа Тьюринга повлияла на множество интеллектуальных дисциплин, в том числе на ИИ, робототехнику, эпистемологию, философию разума. Заслуга Тьюринга в том, что он помог сформировать общественное мнение (таким, какое оно есть сейчас) о границах и возможностях нечеловеческого, но созданного человеком искусственного интеллекта.

Статуя Алана Матисона Тьюринга

Рис. 2. Статуя Алана Матисона Тьюринга в Университете Суррея (Англия)

Продолжая в этом ключе нашу тему — программист-испытатель Калеб Смит, герой «Ex Machine», во время проведения теста, даже зная, что это робот, влюбился в антропоморфную машину Аву. В итоге она выполнила скорректированную ею самой исходную программу, «вырвалась на свободу» в человеческий мир, уничтожив все преграды, включая и своего создателя, влюбленного в нее испытателя. В последнем кадре фильма Ава остановилась посреди улицы в толпе людей, не зная, что делать: программа завершилась, цель достигнута, еще и батарея заканчивается. Как можно видеть, машина не стала человеком, так как что делать со своей желанной свободой — она уже не знала. Надеюсь, авторы фильма не погонятся за прибылью и не превратят его в очередную дешевую поделку с превращением Авы в человека. Но как она подчинила Калеба? Здесь мы касаемся эмоциональной составляющей ИИ, о чем будем предметно рассуждать в следующей части статьи.

А вот в сериале «Humans», где роботы тоже боролись за свободу, его героиня Анита/Миа сознательно принесла себя в жертву за понимаемые ею «идеалы свободы думающей машины». Конечно, даже далеко не все люди знают, что с этой свободой делать, но у нас всегда есть как минимум свобода выбора — быть свободными, но отвечать за свои поступки и решения, или «не надо думать — с нами тот, кто все за нас решит» и пойти за очередным фюрером: «Первый, шаг вперед! — и в рай… А каждый второй тоже герой, в рай попадет вслед за тобой» (В. Высоцкий). Здесь, если обратиться к Фрейду, то: «Большинство людей в действительности не хотят свободы, потому что она предполагает ответственность, а ответственность большинство людей страшит». Однако именно свобода и то, о чем мы будем говорить далее, — эмпатия — делает нас людьми. Но сделает ли это «людьми» машины, пусть и с искусственным, но все же интеллектом? И чем это грозит нам как биологическому виду?

Существует точка зрения, согласно которой интеллект может быть только биологическим феноменом [2]. Кроме того, здесь, через призму нашей культуры и ментальности, мы сталкиваемся с особенностями нашего личностного восприятия. В английском языке с его более четкими определениями (наверное, потому он и стал языком техники, как в свое время латынь — языком науки) словосочетание artificial intelligence («искусственный интеллект») в действительности не несет антропоморфной окраски, которую оно приобрело в традиционном русском, и не только, переводе. Слово intelligence в данном контексте скорее означает «умение рассуждать разумно» или «интеллектуальная обработка данных», а вовсе не «интеллект» в общем понимании, для которого есть английский аналог intellect [3]. В научном понимании «интеллект» — это качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой.

Хотя искусственный «интеллект» пока даже близко не подошел ни к универсальности человеческого мышления, ни даже к Аве из упомянутого кинофильма, не говоря уже про Аниту/Мию из сериала, вопросы остаются. Например, если мы обучили машину с ИИ анализировать игральные карты по цвету, форме и надписям (автор статьи как раз и занимался решением таких задач на основе обучения), она будет делать это лучше и быстрее нас, ведя при этом реальную игру, скажем блэк-джек реальными картами, — как дилер, с характерными разветвленными математическими подсчетами (правила, дилер плюс шесть игроков, страховки, сплит на четыре). Но если нет «живого» дилера, вы лишитесь эмоциональной составляющей игры, и машина не будет играть с вами в «дурака» (хотя нашу можно и обучить) или шахматы, как бы вам этого ни хотелось. Как вывод — мы можем создать «думающую» машину, но пока нам далеко до копирования нашего универсального, самостоятельно адаптирующегося к ситуации мышления и способности расположить к себе. Тем не менее…

Джон Маккарти

Рис. 3. Джон Маккарти — автор термина «искусственный интеллект». 2006 г.

 

Кроме того, а всегда ли робот — это физический механизм? Я задал этот вопрос в общем. Ответ: нет. Мы уже сейчас имеем программы, которые могут быть представлены как роботы, но они не имеют четко выраженной физической оболочки, например они могут существовать в облаке. Часто именно они, а не конечные механизмы, выделены в такое понятие, как «искусственный интеллект». И хотя с момента появления этого термина прошло уже много лет, он был озвучен Джоном Маккарти (рис. 3) на конференции в Дартмутском университете и не был связан напрямую с пониманием интеллекта у человека, мы до сих пор не имеем о нем четкого представления, только туманное определение: «свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека». Однако здесь срабатывает феномен уже нашей психологии — мы хотим видеть, а не просто знать, что что-то есть.

Внедрение интеллектуальных роботизированных систем — требование, вызванное изменениями в промышленности и, как уже было сказано, в социуме, с которыми нам следует считаться. Более того, это то, к чему нам надо быть готовыми уже сейчас. Уже существуют «умные» вещи, дома, города и фабрики [6, 7]. В этом контексте становится все более важным обеспечить, чтобы сотрудники могли быстро и интуитивно адаптироваться к новым задачам. Это требует новых форм сотрудничества между людьми, машинами и программным обеспечением. Что касается производства, уже сейчас ключевую роль здесь начинают играть системы с ИИ на основе самообучения и роботизированные решения автоматизации, которые могут работать рука об руку с оператором-человеком и создавать конечный продукт путем непосредственного прямого общения друг с другом [4, 5] — коллаборации (рис. 4).

искусственный «интеллект»

Рис. 4. Интеллектуальное рабочее место BionicWorkplace и коллаборативный бионический робот от компании Festo

Но все это лишь груда металла, пластмассы и электронная начинка. У нас нет ни Авы, ни Аниты/Мии. Те роботы, которые мы создали, — это лишь машины для облегчения нашего труда (еще раз спасибо нашей лени), мы не чувствуем к ним, в буквальном смысле, ничего: сломалась, ну, жалко, что ж — возьмем со склада другую. А что будет, если дать машине эмоции, например эмпатию? Приблизит ли это машину к нам? Очеловечит ли это ее? Об этом пойдет речь в следующей части статьи.