Искусственный интеллект стал умнее человеческого. Что дальше? Искусственный интеллект vs человек: угроза или помощник

Крамник получит за участие в матче 500 тысяч долларов, а в случае победы эта сумма удвоится. Рискуют организаторы не сильно – за последнее время успехи ведущих шахматистов в борьбе с программами невелики. Началось победное шествие искусственного интеллекта со скандального матча 1997 года, в котором Гарри Каспаров проиграл со счетом 2,5:3,5 компьютеру Deep Blue, после чего обвинил команду разработчиков во вмешательстве в работу машины.

В 2003 году состоялось целых два матча Каспарова с программами – против Deep Junior и Deep Fritz, но оба завершились вничью – реванша так и не последовало. Дальше было только хуже.

В октябре 2004 года на матче "Люди против компьютеров" команда последних – Fritz, Hydra и Junior – нанесла болезненное поражение не самым слабым гроссмейстерам – Карякину, Пономареву и Топалову – со счетом 6:3, причем в девяти партиях людям удалось одержать лишь одну победу (Junior пал жертвой Сергея Карякина). Наконец, в июне 2005 года Hydra учинила подлинный разгром Майклу Адамсу – 5,5:0,5!

Год назад, 23 ноября, в испанском городе Бильбао с неутешительным для представителей человечества результатом завершился второй в истории шахмат турнир между сборными командами людей и компьютеров. Общий счет противостояния, проходившего в четыре тура, - 8:4 не в пользу людей. Три чемпиона мира по версии Международной шахматной федерации (ФИДЕ) состязались с компьютерными программами Fritz, Junior и Hydra. Россиянин Александр Халифман (чемпион 1999 года), украинец Руслан Пономарев (2003) и узбек Рустам Касымджанов (2004) на троих в 12 сыгранных поединках добыли всего одну победу при пяти поражениях и шести ничьих.

У самого Крамника также был опыт встречи с компьютером – в 2002 году в Бахрейне он сыграл со своим нынешним соперником Deep Fritz, точнее с его седьмой версией. Матч состоял из восьми партий. После первой половины Крамник вел в счете 3:1, однако в итоге все вновь свелось к ничьей 4:4. В шестой партии того матча чемпион мира пошел на вариант с жертвой коня, то есть решил посостязаться с машиной в чистом счете, что, разумеется, закончилось в пользу Deep Fritz.

Создателями программного пакета для Deep Fritz являются программисты компании Chessbase голландец Франц Морш и немец Матиас Файст, которые в 1991 году впервые выпустили программу Fritz 1. В 1993 году она приняла участие в турнире по быстрым шахматам среди людей и заняла там первое место, обыграв по ходу дела самого Каспарова. В 1995 году Fritz победил на чемпионате мира среди программ, победив суперкомпьютер Deep Blue. Видимо, уже тогда у создателей программы зародилась мечта о приставке Deep – началось все в свое время с программы Deep Thought ("Глубокая мысль"), продолжилось "темно-синей" Deep Blue, после чего слово стало нарицательным, породив такие малоосмысленные сочетания, как "Глубокий Фриц" или "Глубокий юниор".

В отличие от поверженной в 1995 году Deep Blue, представлявшей собой специально созданную машину, "Фриц" всегда работал на обычном "железе". В частности, версия, которой предстоит "скрестить шпаги" с Крамником, работает на четырехпроцессорных машинах с процессором Intel с тактовой частотой 500 мегагерц и просчитывает до миллиона позиций в секунду.

Никаких экспериментов, подобных тем, что были в матче Гарри Каспарова с X3D-версией Fritz в Нью-Йорке в 2003 году, когда 13-й чемпион мира играл в стереоскопических очках на виртуальной трехмерной доске, Крамник над собой проводить не будет. Напротив Владимира Крамника за шахматной доской будет сидеть не классического вида металлический робот, а обычный человек – оператор ЭВМ, который будет выполнять ходы, подсказанные ему машиной.

Правилами предусмотрено, что дебютная библиотека компьютера не должна меняться в течение матча, за исключением возможности расширить перед каждой следующей партией на десять полуходов встретившийся в предыдущей партии вариант, а также объявить какое-либо из уже имеющихся в библиотеке продолжений приоритетным для программы.

В тот момент, когда компьютер будет играть "по книге", Крамнику на специальном мониторе будет виден процесс выбора машины и статистика достижений белых и черных в том или ином возможном варианте, и только когда Fritz начнет считать самостоятельно, этот монитор будет выключен. После игры компьютеру будет предложено "повторить" дебютный вариант, и если произойдут отклонения от хода игры, которые команда программистов не сможет удовлетворительно объяснить арбитру, последний может засчитать машине поражение в партии.

Матч будет состоять из шести партий (предыдущий поединок Крамника с Fritz в 2002 году в Бахрейне состоял из восьми, а Каспарова с Fritz в 2003 году в Нью-Йорке – из четырех), которые будут играться с перерывом в один день. Победителем будет объявлен тот, кто первым наберет более трех очков. Первая партия пройдет 25 ноября, вторая – 27 ноября, третья - 29 ноября, четвертая – 1 декабря, пятая и шестая, если они понадобятся – 3 и 5 декабря соответственно.

Владимир Крамник оценивает свои шансы осторожно. "Крайне трудно играть против такого счетного монстра, ведь с начала партии ты ходишь по узкой тропинке, где малейшая невнимательность приведет к поражению", - отметил чемпион мира. При этом Крамник считается многими экспертами одним из наиболее "неудобных" соперников для компьютера, так как его стиль игры, основанный на недоступном машинам понимании стратегических нюансов, очень хорошо подходит для борьбы с "бездушными железяками".

Компьютеры компенсируют отсутствие понимания простым расчетом огромного количества позиций, так что нам остается только заинтересованно следить, выйдет ли Владимир Крамник победителем из этого, как он сам выразился, "научного эксперимента", или еще ближе к истине окажутся слова голландского гроссмейстера Яна Доннера, который на вопрос "с помощью чего можно победить компьютер?" ответил: "С помощью кувалды".

Другого мнения придерживается тринадцатый чемпион мира Гарри Каспаров. Еще в конце 2003 года в интервью "Коммерсанту" он отверг возможность того, что в ближайшее время игра в шахматы человек - компьютер потеряет всякий смысл из-за преимущества машины.

"В Америке после моего матча с X3D Fritz увидели: борьба человека с машиной только началась! Ясно, что на сей раз ее спасла только "плавающая" доска – экстремальные условия, в которых находился человек. Посмотрите общий итог десяти моих партий с компьютером, сыгранных в нынешнем году. Из десяти партий машина "стояла" лучше в одной. А я играл, между прочим, с двумя лучшими программами, - отметил Каспаров. Во многих партиях имел большой перевес. И не победил во встречах именно из-за грубых ошибок. Принципиальное значение этих матчей следует сформулировать так: все пока решают очевидные ошибки человека. Ни о каком перевесе машины говорить нельзя. Наоборот, значительный игровой перевес в этих двух моих матчах, да и в матче Владимира Крамника с Deep Fritz в 2002 году, был на стороне человека".

По словам Каспарова, после его поражения от Deep Blue в 1887 году возник миф о том, что с компьютером играть бесполезно, но на самом деле это далеко не так. "Идея о том, что противоборство завершилось победой машины, ушла из общественного сознания. Идут реальные матчи, в которых преимущество на стороне людей. Нет уже демонизации компьютеров. Мы обнаруживаем, что машина не то что уязвима, она сильно уязвима. Главное – понять алгоритм ее мышления, и тогда ей горе. В любом случае ясно, что такие матчи необходимы", - сказал гроссмейстер.

По материалам Lenta.ru , Kommersant.ru , NEWSru .

Официальный сайт Владимира Крамника www.kramnik.com/

05.12.2006:: МАТЧ

Незадолго до начала матча Владимир Крамник сообщил, что нынешний компьютер вдвое мощнее и гораздо сильнее, чем тот, с которым ему довелось играть в Бахрейне. На вопрос, в какую силу он играет, если пользоваться человеческими мерками, Крамник ответил, что выше рейтинга "2800" - это точно, но играет ли на уровень "2900" или "3200", он пока не знает: это может показать только матч.

До этого Крамник изучал программу непрерывно в течение двух недель. И даже заставлял играть с предыдущей версией, чтобы убедиться, что новая сильней на голову. За две недели работы чемпион среди людей узнал все или почти все о своем силиконовом партнере.

Первая партия матча закончилась вничью.

Во второй партии на 35-м ходу Владимир Крамник "зевнул" мат в один ход и счет стал 1,5:0,5 в пользу Deep Fritz.

Александр Рошаль поделился любопытной подробностью второй партии матча: "Оператор Маттиас Файст, который за столиком делает ходы за машину, - типичный немец, немногословен, но кое-что удалось из него вытянуть. Машина после каждого хода выдает систему оценок. До 33-го хода программа отдавала предпочтение сопернику с коэффициентом 0,5-0,6. Файст признался, что после 30-го хода преимущество Крамника машина оценивала в 0,7".

Говорят, после ошибочного хода в Боннском музее изобразительных искусств, где проходил матч, в зрительном зале раздался протяжный стон.

У Крамника спросили после игры, чем он может объяснить свой нелепый промах. Он развел руками...

Третья, четвертая и пятая партии завершились вничью. В шестой - Deep Fritz снова выиграл.

Таким образом, матч закончился со счетом 4:2 в пользу искусственного интеллекта.

05.12.2006:: ВМЕСТО ЭПИЛОГА

Фредерик Фридель является владельцем новой версии программы "Фриц" и самой известной у квалифицированных шахматистов информационной системы Chess Base. Во время банкета перед открытием матча он ответил на несколько вопросов.

Вы кормите большинство шахматных профессионалов, снабжая их базой данных, и за счет этого кормитесь сами. Но, с другой стороны, вы один из тех, кто медленно, но верно убивает шахматы. То есть, вы пилите сук, на котором сидите?

Это не так. Мы не убиваем шахматы. Мы меняем шахматы. Мы даем им другую жизнь. Например, какой-то вариант нравится шахматисту, но он боится его применять. Он должен две недели его анализировать. А сейчас с помощью "Фрица" вы можете это сделать за два часа. Посмотрите на игроков, которые ничего, кроме "Фрица", не знают. Например, я назову Магнуса Карлсена. У него абсолютно новый стиль. Он ничего не боится! И многие другие тоже, потому что они анализируют и говорят: "О"кей, здесь я могу играть!" Предположим, теория, которая существовала сто лет, говорит: эту пешку брать нельзя, там у черных плохо. Но "Фриц" говорит: "О"кей! Покажи мне, как ты можешь выиграть у меня, если я заберу твою пешку". И вдруг обнаруживается, что сто лет до этого шахматисты могли выиграть, отдавая эту пешку, а сейчас они выиграть не могут у "Фрица".

- То есть вы не убиваете шахматы, а даете им другую жизнь…

Более интересную, более смелую.

По материалам

Разработанной инженерами Массачусетского технологического института. Фишер трижды поставил мат компьютеру и одержал безоговорочную победу. В своих письмах шахматист писал, что программы допускают «грубые ошибки», а сами компьютеры называл «бесполезными кусками железа».

Но в том же году Монти Ньюборн, один из первых ученых, изучавших компьютерные шахматы, сказал пророческие слова:

«Раньше гроссмейстеры приходили на турниры по компьютерным шахматам, чтобы посмеяться. Сейчас они приходят наблюдать, а в дальнейшем будут там учиться».

Бобби Фишер после победы над компьютером. Фото: Getty Images

Похоже, что люди питают какую-то врожденную любовь к интеллектуальным играм. Когда в 1649 году короля Англии Карла I приговорили к смерти, он взял с собой на казнь две вещи - библию и набор шахмат. Известный художник XX века Марсель Дюшан на пике своей карьеры внезапно уехал в Аргентину и начал заниматься вырезанием шахматных фигур из дерева, да и в целом увлекся шахматами. В XIX веке в Японии произошла загадочная история, связанная с игрой го. По легенде духи подсказали одному знаменитому игроку три блестящих хода. В результате он смог победить, а его противник после партии упал на пол, захлебнулся кровью и умер.

Компьютеры далеки от всей этой мистики, но всего за пару десятков лет они изучили интеллектуальные игры глубже, чем человечество за тысячелетия. В 2014 году компания приобрела фирму DeepMind за $400 миллионов для «проведения самого необычного и сложного исследования, конечной целью которого является разгадка сущности интеллекта». В частности ученые хотели научить компьютер играть в го. Эта игра значительно сложнее шахмат. В 1985 году один тайваньский промышленный магнат сказал, что заплатит $1,4 миллиона за программу, которая сможет победить лучшего игрока в го. В 1997 году магнат умер, а спустя три года у его предложения истек срок действия - никто так и не смог забрать приз.

Сейчас он мог бы принадлежать программе DeepMind AlphaGo, которая использует современные нейросети. Год назад она международного чемпиона по го Ли Седоля. В мае этого года она вновь победу над лучшим игроком в го, а также над командой из пяти других профессиональных игроков.

AlphaGo стала абсолютным чемпионом. Вот только вскоре после своих громких побед ее ждет забвение. В конце мая DeepMind незаметно сообщила , что AlphaGo уходит с соревновательной сцены. Чтобы отметить это событие, компания опубликовала 50 вариантов партий, которые программа играла против самой себя. В дальнейшем DeepMind хочет выпустить итоговую исследовательскую работу, в которой будет описана эффективность алгоритма программы.

Что касается шахмат, то человечество потеряло пальму первенства в них еще за 20 лет до этих событий, когда шахматист Гарри Каспаров проиграл суперкомпьютеру IBM Deep Blue. Шахматы и го - не единственные игры, которым пытаются обучить ИИ. Компьютер пробовали научить шашкам , коротким нардам , реверси , покеру и многим другим настольным играм. И человеческий интеллект уже не может сравниться в них с искусственным. Отчасти это произошло из-за развития технологий. Например, еще в 1997 году компьютер Deep Blue занимал 259-е место в списке самых быстрых суперкомпьютеров в мире и мог выполнять около 11 миллиардов операций в секунду. Сейчас же благодаря современным алгоритмам даже ваш смартфон способен победить Каспарова.

Гарри Каспаров против компьютера Deep Blue. Слева один из инженеров IBM Сюн Фэйсюн. Фото: Getty Images

Такие достижения ИИ вызвали у людей вполне человеческие эмоции: печаль, угнетенность и отчаяние. После того как Ли Седоль потерпел поражение от AlphaGo, он пережил экзистенциальный кризис. «Я усомнился в человеческой изобретательности, - признался он после матча. - Я засомневался, являются ли все ходы в го, которые я знаю, правильными». По словам одного из очевидцев, после поражения Ли выглядел так, будто бы ему было «физически плохо». Каспаров чувствовал себя после проигрыша компьютеру не лучше. Когда он вернулся в отель, он просто разделся, лег в постель и смотрел в потолок.

«Компьютер настолько глубоко анализирует некоторые позиции, что играет, как бог», - сказал Каспаров.

Deep Blue впервые показал общественности, что компьютер способен превзойти человека в решении интеллектуальных задач. «Тогда это вызвало шок, - сказал Мюррей Кемпбелл, один из создателей Deep Blue. - Сейчас же мы постепенно привыкаем к этой мысли». Тем не менее, непонятно что ждет человечество в будущем. Как можно использовать в реальном мире достижения в играх? Ответ Кемпбелла на этот вопрос звучит пессимистично. «Трудно найти хороший пример применения таких успехов в настольных играх, - сказал он. - В начале 90-х один из сотрудников IBM по имени Геральд Тезауро пытался обучить ИИ игре в нарды и сделал некоторые достижения в стимулированном обучении. Сейчас его методы часто используются в робототехнике. Однако его случай - скорее исключение из правил».

ЕРЕВАН, 12 февраля. Новости-Армения . Умные машины научились блефовать, обыгрывать профессионалов в шахматы или Го, переводить и распознавать человеческий голос. Каждую неделю мы узнаем о все новых подвигах компьютерных программ, уже умеющих ставить медицинские диагнозы, рисовать не хуже Рембрандта, петь или генерировать текст. Стоит ли человеку опасаться искусственного интеллекта?

По-настоящему "горячей" тема искусственного интеллекта (ИИ/AI) стала в последние несколько лет. Ученые связывают это с бурным развитием нейронных сетей (одно из направлений исследований в области искусственного интеллекта), которое, в свою очередь, стало возможным с появлением мощных компьютеров, пишет Русская служба ВВС .

"С начала 2010-х годов под влиянием впечатляющих успехов, полученных в результате применения многослойных нейронных сетей (в первую очередь сверточных и рекуррентных), эта область привлекла серьезное внимание как со стороны ученых и инженеров, так и со стороны инвесторов", - комментирует автор одной из российских шахматных программ, специалист по методам машинного обучения Сергей Марков.

Ученое сообщество может спорить о сроках появления умных машин, но сходится в одном: развитие технологий окажет безусловное влияние на общество, экономику и отношения между людьми в будущем. Уже сейчас раздаются призывы обдумать этические принципы разработки искусственного интеллекта, удостоверившись в том, что искусственный интеллект развивается в безопасном для людей направлении.

Экономический эффект и влияние на рынок труда

Научная фантастика и Голливуд сформировали представление об "искусственном интеллекте" как о следующей форме жизни на планете, которая поработит человечество в Матрице или организует ему ядерный Судный день. Выживших добьет Терминатор.

В действительности, несмотря на последние достижения в области искусственного интеллекта, до появления разумных машиносуществ еще далеко, признают ученые и специалисты. И те, и другие, впрочем, советуют на некоторые аспекты обратить внимание уже сейчас.

По оценкам исследовательской организации McKinsey Global Institute, в ближайшие десять лет новые технологии радикально изменят рынок труда на планете, что позволит сэкономить порядка 50 трлн долларов.

Изменения коснутся сотен миллионов рабочих мест. Люди все больше и больше будут перекладывать часть своих служебных заданий и многие рутинные задачи на машину, что позволит им сосредоточиться на творческой работе.

"С некоторой точки зрения у человечества в целом есть важная и интересная задача - развиваться каждому конкретному индивидууму гораздо быстрее, чем человечество развивает системы искусственного интеллекта", - считает эксперт, директор по распространению технологий "Яндекса" Григорий Бакунов.

Но вместе с автоматизацией неминуемо пострадают менее квалифицированные кадры, и уже сейчас необходимо задуматься, как их защитить, переучить и подготовить к новой жизни.

Пострадать, как показывает практика, могут не только синие воротнички, но и работники умственного труда. Несколько дней назад Goldman Sachs заменил команду из 600 трейдеров на двух человек и автоматизированные программы алгоритмического трейдинга, для обслуживания которых были наняты 200 разработчиков-программистов.

Искусственный интеллект сам по себе не тождественен автоматизации процессов, но развитие ИИ приведет к тому, что все больше задач будет по силам компьютерной программе.

Среди вариантов решения проблемы вытеснения человека машиной на рынке труда, как указывает Аллисон Дютман, координатор программ Foresight Institute - некоммерческой организации, базирующейся в Силиконовой долине для продвижения новых технологий, - введение понятия "универсальный базовый доход", который бы получал каждый житель вне зависимости от уровня дохода и занятости. Подобный доход финансировался бы за счет так называемого инновационного налога Land Value Tax, введение которого сейчас активно обсуждается в Силиконовой долине.

Личность ли искусственный интеллект?

Является ли роботизированная система личностью? Может ли умный компьютер голосовать? Какого он пола? Отношения человека и умной машины уже сейчас обсуждают депутаты Европарламента, задаваясь вопросом, следует ли наделять будущих роботом статусом "электронной личности".

Как указывает Дютман, люди нехотя делятся правами с теми, кто им непонятен, а значит будут сопротивляться "очеловечиванию" ИИ.

Принимая во внимание, как долго человечество шло к тому, чтобы наделить равными правами всех людей, вне зависимости от цвета их кожи, расы или гендера, можно уже сейчас предположить, что и машины они не сходу не признают равными.Вместе с этическими появляются и юридические тонкости: кто возьмет на себя ответственность в случае аварии беспилотного автомобиля или поломки умного медицинского устройства - и нравственные вопросы: стоит ли развивать беспилотное оружие, способное действовать без ведома человека?

Третья этическая головоломка обсуждается чаще других и волнует человечество гораздо больше: что теоретически может сделать с человечеством суперинтеллект, настоящая умная машина?

Научить ИИ этике

Специалисты области развития ИИ признают: пусть не в ближайшие 20-30 лет, но человечество все же доживет до появления настоящего искусственного интеллекта, который будет умнее своего создателя.

"Последний бастион будет взят тогда, когда будет создан так называемый "сильный ИИ" (Strong AI, Artificial General Intelligence), то есть такой ИИ, который будет способен решать неопределенно широкий спектр интеллектуальных задач", - говорит Сергей Марков.

А главное, такой ИИ сможет самостоятельно думать.

Исследованием угроз, которые таит ИИ, а также этическими проблемами, связанными с новыми технологиями, занимаются многие институты, в числе которых организация Future of Life Institute (Институт будущего жизни), Foresight Institute, Future of Humanity Institute, OpenAI и другие.

Решение Аллисон Дютман из Foresight Institute - дать компьютеру прочитать всю научную литературу, научные статьи, поднимающие вопрос об этике, и сделать эту информацию основой для его будущих решений.

Что такое Нейронные сети и какое у них будущее?

Большинство экспертов связывают прогресс в развитии ИИ с развитием нейронных сетей.Нейронные сети - это одно из направлений исследований в области искусственного интеллекта, основанное на моделировании биологических процессов, которые происходят в человеческом мозгу.

Именно им мы обязаны появлению впечатляющих результатов в распознавании речи и изображений, постановке медицинских диагнозов, переводе текста и создании изображений, генерации речи и музыкальной композиции.

На сегодня, как признают специалисты, нейронные сети признаны одним из лучших алгоритмов машинного обучения, а решения на их основе показывают на данный момент самые выдающиеся результаты.

И это несмотря на то, что современные нейронные сети устроены в полторы тысячи раз проще, чем головной мозг крысы.

"Пока что создаваемые нами нейронные сети относительно невелики по сравнению, скажем, с нейронной сетью человеческого мозга и, кроме того, они представляют собой весьма упрощенный аналог естественных нейронных сетей. Поэтому пока что при помощи нейронных сетей мы решаем в основном сугубо прикладные задачи", - рассказывает Сергей Марков.

Сейчас создаются специализированные процессоры для обучения таких сетей (так называемые нейроморфические процессоры), которые позволят увеличить скорость вычислений на несколько порядков.

Разработчики не просто заняты сейчас увеличением количества нейронов в сети, но и изменением конструкции сетей. "Сложные системы конфигурации сетей - то, с чем сейчас производитсягх наибольшее число экспериментов", - рассказывает Григорий Бакунов.

А тот факт, что такие системы стали сравнительно доступными большому числу рядовых разработчиков, привел к появлению стартапов, экспериментирующих с нейронными сетями, например Prisma (приложение позволяет обрабатывать фотографии, превращая их в стилизации картин известных художников) и Mubert (онлайн-композитор электронной музыки).

Что нас ждет в ближайшее время

Как прогнозирует профессор Университетского колледжа Лондона и Principal Scientist Nokia Bell Labs Ник Лейн, человека будут окружать еще больше "умных вещей". Они станут компактнее и эффективнее.

Профессор приводит такой пример: если раньше встроенный в стену сенсор мог лишь осознавать, что кто-то прошел мимо, то в будущем он будет не только знать, кто конкретно прошел, но и как ведет себя человек, не нуждается ли в чем, не представляет ли он угрозу для себя или окружающих.

Сенсор размером с пуговицу сможет оповещать человека в случае опасности.

С профессором согласен Григорий Бакунов из "Яндекса": "В ближайшее время нас ждет бум развития узких искусственных интеллектов, которые помогают решать какую-то одну довольно простую задачу, но которую они будут решать даже лучше, чем человек".

"Наиболее вероятным путем развития нашей цивилизации является путь синтеза человека и машины: палка, одежда, автомобиль, мобильный телефон, кардиостимулятор или кохлеарный имплантат - по мере развития наши инструменты все более и более напоминают продолжение наших тел. Уже завтра машины смогут получать от человека мысленные команды, воспринимать мысленно формируемые визуальные образы, передавать информацию непосредственно в мозг - такие проекты уже сейчас существуют за стенами наиболее продвинутых технологических лабораторий", - подытоживает Сергей Марков.

Журналисты пока еще нужны?

Газета Financial Times в прошлом году провела довольно рискованный эксперимент, одновременно поставив задачу написать текст своему профильному корреспонденту и умной программе по имени Эмма. Обе статьи затем должен был прочитать редактор Financial Times и угадать, за какой из двух заметок стоит журналист, а за какой компьютер.

Перед этим своеобразным "краш-тестом" корреспондент Financial Times признавалась: "Я думаю, программа точно справится с задачей быстрее меня. Но, надеюсь, я все-таки сделаю это лучше".

Так и случилось: Эмма действительно оказалась быстрее - программа сгенерировала текст на основе статистики об уровне безработицы в Британии за 12 минут. Журналистке потребовалось 35 минут. И, как она сама впоследствии признавалась, Эмма превзошла ее ожидания. Программа не только умело обращалась с фактами, но и поставила новость в контекст, предположив, как возможный "брексит" (дело было в мае 2016 года, до референдума о выходе Британии из ЕС) может изменить ситуацию.

Но кое-что Эмма сделала все же хуже журналистки. "Статья Эммы была написана немного более корявым языком. Но главное, в ней было очень много цифр, - признавался редактор FT. - А, пожалуй, главное, что мы тут пытаемся делать, так это выбирать только действительно важные цифры".

Эмма - продукт стартапа Stealth. В компании говорят, что у Эммы есть команда живых помощников, но утверждают, что все, что она пишет или делает, - продукт исключительно ее "мозгов".

И все-таки - надо ли бояться ИИ?

Многие, если не все специалисты, задействованные на сегодняшний день в разработке систем искусственного интеллекта, охотно признают, что ИИ не скоро сделает людей ненужными. Именно потому, что искусственный интеллект еще не настолько умен.

Главное, чего ему на сегодняшний день не хватает, - автономной возможности думать. "Сейчас бояться ИИ ни в каком виде не стоит. Можно подождать лет 30-40, пока действительно какие-то радикальные изменения произойдут", - считает Бакунов. Но кое-что уже происходит: понемногу стирается грань между работой или задачей, выполненной человеком, и задачей, выполненной машиной. Как объясняют специалисты, уже сейчас порой бывает сложно понять, кто сидит внутри системы - человек или машина.

"Нет критериев, когда мы сможем понять, что внутри машины зародилось сознание", - задается вопросом Бакунов.

Человек станет скрепкой?

Известный адепт алармистской точки зрения, в рамках которой ужасы, описанные в Терминаторе, могут стать реальностью, - философ Ник Бостром - придерживается мнения, что достигший интеллектуального уровня человека ИИ способен будет уничтожить человечество.

Бостром объясняет на примере скрепок: вы ставите перед искусственным интеллектом задачу делать скрепки, как можно больше и лучше. ИИ в какой-то момент понимает, что человек представляет угрозу, потому что может выключить компьютер, что будет противоречить задаче делать как можно больше скрепок. В случае, если человек не представляет угрозу, ИИ решает, что человеческие тела состоят из атомов, которые можно использовать для производства отличных скрепок. Итог - компьютер изведет человечество на скрепки.

Такой сценарий многим кажется преувеличением. По мнению Сергея Маркова, например, "высокая эффективность выполнения нелепой цели несовместима с нелепостью этой цели - грубо говоря, ИИ, способный переделать весь мир в скрепки, будет неизбежно достаточно умен для того, чтобы отказаться от такой цели".

Искусственный интеллект как золотая рыбка

Британский специалист в области искусственного интеллекта, профессор когнитивной науки в Университете Сассекса Маргарет Боден относится к утверждениям о скором пришествии умных машин скептически.

Профессор приводит пример "золотой рыбки", когда в обмен на свободу рыбак загадывает три желания. Одно из желаний - вернуть сына с войны, второе - 50 тысяч долларов и третье - возможность наутро загадать еще одно желание. В тот же вечер в дом рыбака постучали. Сына вернули с войны - в гробу. Рыбак получил страховку в 50 тысяч долларов.

"Замените в этой притче рыбку на ИИ, и все станет ясно - объясняет Боден. - Ах, да, на следующий день рыбак воспользовался третьим желанием и - отменил предыдущие два".

Возможен ли перенос сознания в машину?

"Если говорить о возможности полного переноса сознания, то современными предшественниками такой технологии будущего являются проекты, подобные Blue Brain, направленные на создание действующих электронных аналогов мозга, а также проекты, направленные на создание интерфейсов мозг-машина (BCI) - аппараты для протезирования потерянного зрения, слуха, замены утраченных конечностей, даже частей мозга.

Очень интересным и перспективным направлением является оптогенетика (в принципе для сопряжения мозга и машины можно менять не только машины, но и саму нервную ткань, создавая в ней искусственные фоторецепторы).

Когда будет решен широкий спектр инженерных задач в рамках таких частных проектов, думаю, что задача переноса сознания станет вполне разрешимой. Уже сейчас мечтатели предлагают гипотетические схемы для осуществления подобного проекта.

Например, Ян Корчмарюк, предложивший в свое время название "сеттлеретика" для направления исследований, связанных с переносом сознания, считает, что наиболее перспективной схемой является использование специализированных нанороботов, внедряемых в нейроны человеческого мозга. Впрочем, для успешного воплощения подобной схемы необходимо решить целый ряд сложных инженерных проблем", - говорит Сергей Марков. -0-

Искусственный интеллект (ИИ) - тема, которая уже давно не сходит со страниц научно-популярных журналов и постоянно затрагивается в кино и книгах. Чем больше специалисты развивают эту область науки, тем большими мифами она покрывается.

Развитие и будущее искусственного интеллекта волнует и тех, кто стоит у руля государства. Не так давно президент РФ Владимир Путин посетил офис «Яндекса» в день 20-летия компании, где ему объяснили, когда ИИ превзойдет человеческий интеллект.

Все, кто хоть немного проникает в суть потенциала искусственного интеллекта, понимают, что оставлять без внимания эту тему нельзя. Это не только важный вопрос для обсуждения, но и, наверное, один из самых значимых в контексте будущего.

Что такое искусственный интеллект и чего на самом деле боятся люди, рассказал «Снег. TV» специалист по методам машинного обучения Сергей Марков.

Как говорил Джон Маккарти, изобретатель термина «искусственный интеллект» в 1956 году, «как только он заработал, никто больше не называет его ИИ». ИИ уже вовсю реальность: калькуляторы, Siri, самоуправляемые автомобили и т. д., а в него все равно не верят. Почему так происходит, что люди отрицают существование ИИ?

Главным образом по причине терминологической путаницы, так как разные люди вкладывают в понятие «искусственный интеллект» совершенно разный смысл.

В науке искусственным интеллектом называют систему, предназначенную для автоматизации решения интеллектуальных задач. В свою очередь, под «интеллектуальной задачей» понимают такую задачу, которую люди решают при помощи своего, естественного интеллекта.

Легко заметить, что такое определение искусственного интеллекта чрезвычайно широко - под него попадает даже обычный калькулятор, т. к. арифметические задачи по сути тоже интеллектуальные, человек решает их при помощи своего интеллекта.

Поэтому внутри понятия «искусственный интеллект» была проведена важная граница, отличающая прикладной или, как еще говорят, слабый искусственный интеллект, предназначенный для решения какой-либо одной интеллектуальной задачи или небольшого их множества, от гипотетического сильного ИИ, также называемого универсальным искусственным интеллектом (англ. - artificial general intelligence).


Такая система, когда она будет создана, будет способна решать неограниченно широкий круг интеллектуальных задач, подобно интеллекту человека. С этой точки зрения калькулятор, который способен считать куда быстрее человека, или программа, выигрывающая у человека в шахматы, - это прикладной ИИ, гипотетический же сверхразум будущего - сильный ИИ.

Когда читаешь про разные открытия и разработки в области ИИ, понимаешь, что всё в основном происходит в США или Азии. А как обстоят дела в России? Есть у нас какие-то наработки?

Область компьютерных наук в наши дни интернациональна, многие наши специалисты работают над созданием и совершенствованием различных моделей машинного обучения в составе как российских, так и международных команд. У нас традиционно сильная математическая и алгоритмическая школа, созданы исследовательские центры мирового уровня как в ведущих вузах, так и в некоторых частных компаниях.

Но давайте говорить начистоту - бюджеты, выделяемые в нашей стране на науку и образование, не идут ни в какое сравнение с научными бюджетами наиболее развитых стран. Доходы бюджета РФ в 2016 году составили около 200 миллиардов долларов США, в то время, как только на оборону США тратят сумму в три раза большую, чем весь российский бюджет.

Весь бюджет российской науки сопоставим с бюджетом одного лишь вуза из Лиги плюща. В безденежные 90-е страну покинули многие ведущие специалисты, была нарушена преемственность ряда научных школ. Также было практически утрачено собственное производство электроники.

В то время как мировые лидеры ИТ ведут гонку в создании специализированных процессоров для обучения нейронных сетей, нам остается лишь сфера разработки алгоритмов и программного обеспечения. Впрочем, и в этой области нами были достигнуты весьма впечатляющие успехи.

Например, команда под руководством Артема Оганова создала систему USPEX, способную предсказывать кристаллические структуры химических соединений, что привело к настоящей революции в современной химии.

Команда Владимира Махнычева и Виктора Захарова с ВМК МГУ при помощи созданной ими системы, а также суперкомпьютеров «Ломоносов» и IBM Blue Gene/P впервые смогла рассчитать 7-фигурные шахматные окончания.

Нейронные сети «Яндекса» распознают и синтезируют речь, генерируют музыку в стиле «Гражданской обороны» и композитора Скрябина. Сильная команда специалистов по ИИ и машинному обучению создана и в Сбербанке.

Словом, заметные успехи есть и у нас в стране.

Чем быстрее развиваются технологии искусственного интеллекта, тем сильнее людей захватывает опасение - как быстро они останутся без работы. Все действительно так плохо?



© Marcel Oosterwijk/flickr.com

И да и нет. Человечество уже несколько раз сталкивалось с возникновением технологий, революционно изменивших всю производственную сферу.

Так было с паровым двигателем в эпоху промышленной революции, практически уничтожившим многие профессии (в основном связанные с примитивным физическим трудом), так было с электронными вычислительными машинами, которые заменили человека в задачах, основанных на поточных математических расчетах.

В XV-XVIII веках, когда в Англии «овцы съели людей», социальные последствия были действительно катастрофическими. Англия потеряла, по разным оценкам, от 7 до 30% своего населения. Властная элита того времени была всерьез озабочена тем, куда девать лишних людей. Джонатан Свифт откликнулся на эти искания юмористическим памфлетом, в котором предлагал употреблять детей бедняков в пищу.

Однако в наши дни мы видим, что на смену вымершим профессиям пришли новые, и население Земли куда больше, чем в XVIII веке. В XX веке последствия автоматизации были уже не столь катастрофичны с социальной точки зрения. Однако недооценивать опасность все-таки не стоит.

«Через 30 лет роботы смогут делать практически всё, что умеют делать люди, - такой прогноз дал Моше Варди (Moshe Vardi), профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди (Ken Kennedy Institute for Information Technology) при Университете Райса (William Marsh Rice University). - Это приведет к тому, что более 50% жителей Земли станут безработными».

Роботы забирают работы

На днях председатель комитета Госдумы по информационной политике, информационным технологиям и связи Леонид Левин заявил, что для России является важной проблема вытеснения рабочей силы искусственным интеллектом.

Рано или поздно людей заменят автоматизированной системой, и на рынок выплеснется 2% работоспособного населения страны. Именно поэтому о том, как трудоустроить тех, кто потеряет работу вследствие развития цифровых технологий, нужно думать уже сейчас, сказал Левин.

По мнению председателя, уже в скором будущем мы столкнемся с ростом безработицы. Но действительно ли роботы «отберут» наши рабочие места и стоит ли беспокоиться по этому поводу, рассказал «Снег.TV» специалист по машинному обучению Сергей Марков.

Сергей, даже сейчас уже есть «мертвые профессии», которые не требуют человеческого труда, хотя, казалось бы, лет 10 назад никто и не думал, что, например, кондуктора скоро станут ненужными. А какие еще профессии вытеснят технологии?

Мы приближаемся к тому времени, когда машины превзойдут людей почти в любом деле. Я считаю, что обществу нужно посмотреть в лицо этой проблеме до того, как она встанет во весь рост. Если машины будут способны делать почти всё, что умеют люди, что тем останется делать? – сказал Моше Варди, профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди при Университете Райса.

Долгое время на пути автоматизации стояли технологические ограничения: машины не могли распознавать образы и речь, не могли говорить, не могли достаточно хорошо понимать смысл высказываний на естественном языке, не имели достаточно данных для того, чтобы научиться многим привычным для человека вещам.


Благодаря последним достижениям в сфере искусственного интеллекта многие из этих ограничений фактически оказались сняты. Кроме того, многие профессии сами претерпели трансформацию, что сделало их более удобными для автоматизации.

Например, современный офисный клерк ведет переписку не в бумажном, а в электронном виде, бухгалтер выполняет проводки не на бумаге, а в бухгалтерской программе, оператор станка управляет станком зачастую не при помощи рукоятей, а при помощи управляющей программы. Поэтому сейчас задача автоматизации во многих профессиях перестала быть научной и стала чисто инженерной.

Правда, пока что производственная сфера, связанная с ИИ, скорее создает рабочие места - нужны специалисты в области машинного обучения и подготовки данных, сотрудники для разметки обучающих массивов, специалисты по внедрению и т. д. Но в какой-то момент «электроовцы» определенно начнут есть людей, и о последствиях нужно позаботиться уже сейчас.

При этом важно понимать, что остановить технический прогресс нельзя, и попытка это сделать обернется куда более катастрофичными последствиями.

Мы сможем когда-нибудь полностью довериться роботам (ИИ) или все-таки в любом деле должен быть человеческий фактор?

У этого вопроса есть несколько аспектов. С одной стороны, люди в прошлом с опаской относились практически к любой технике. Первый лифт, первый автомобиль, первый поезд или самолет - всё это когда-то было непривычным и многим казалось опасным. Да во многом опасным и было - техногенные катастрофы унесли немало жизней.

И тем не менее в наши дни все эти вещи стали привычными и уже не вызывают сильного страха. В этом смысле - наши потомки будут относиться к системам ИИ более спокойно. Люди порой склонны мистифицировать вещи, которые им непонятны. Дикарь думает, что в паровозе живет злой дух, а современный обыватель думает, что наши системы ИИ обладают сознанием, хотя это далеко не так.

С другой стороны, я не думаю, что универсальные системы ИИ когда-либо станут частью нашей производственной сферы. На мой взгляд, будущее скорее за синтетическими системами - то есть за объединением человека и машины в единый организм. В этом смысле искусственным интеллектом будущего будет усовершенствованный человеческий интеллект.

Кстати говоря, человеческий интеллект тоже не совсем корректно называть естественным. Ребенок от рождения не обладает интеллектом, всему его учит общество, родители, окружающая среда. В этом смысле мы с вами все, по сути дела, «искусственные интеллекты», и наши страхи, связанные с ИИ, во многом являются страхами перед самими собой.

Последнее время многие ученые, например Стивен Хокинг, Билл Гейтс или тот же Илон Маск, начали паниковать, что ИИ обрекает человечество на гибель, а будущее они видят какой-то антиутопией. Стоит ли воспринимать такие прогнозы всерьез?

Честно говоря, я бы не спешил всерьез пугаться этих заявлений. Стивен Хокинг, безусловно, не является специалистом в области ИИ, как, в общем-то, и Илон Маск.


На другой чаше весов высказывания таких людей, как, например, Эндрю Ын - американский ученый в области информатики, доцент Стэнфордского университета, исследователь робототехники и машинного обучения, ведущий специалист лаборатории искусственного интеллекта китайской корпорации Baidu.

Ын, говоря о проблеме безопасности ИИ, сравнивает ее с проблемой перенаселения Марса - конечно, мы когда-нибудь колонизируем Марс, и тогда, возможно, в какой-то момент там возникнет проблема перенаселения. Но стоит ли заниматься ей сегодня?

Марк Цукерберг также довольно скептически отнесся к заявлениям Маска. «Искусственный интеллект сделает в будущем нашу жизнь лучше, а предсказывать конец света очень безответственно», - заявил он.

Лично я думаю, что высказывания Маска стоит рассматривать в прагматическом ключе - Маск хочет застолбить эту тему и в идеале получить от государства средства для ее разработки.

Неужели всё так безоблачно и не о чем беспокоиться?

Реальные опасности, связанные с развитием ИИ, лежат, на мой взгляд, совсем в иной плоскости, чем об этом принято думать. Главные риски связаны не с тем, что мы создадим «Скайнет», который поработит человечество. Риски от внедрения технологий ИИ и машинного обучения куда более прозаичны.

Доверяя решение важных вопросов тем или иным математическим моделям, мы можем пострадать от ошибок, допущенных при их разработке. Искусственный интеллект, воспроизводящий действия людей-экспертов, унаследует их ошибки и предубеждения. Недоработки в системах управления производством или транспортом могут привести к катастрофам.

Вмешательство злоумышленников в работу жизненно важных систем в условиях тотальной автоматизации может повлечь опасные последствия. Чем сложнее системы, тем больше в них может быть потенциальных уязвимостей, в том числе связанных со спецификой тех или иных алгоритмов искусственного интеллекта.

Безусловно, для управления этими рисками следует создавать законодательную базу, разумные регламенты безопасности, специальные методы для выявления уязвимостей. Одни системы ИИ будут использоваться для контроля других. Возможно, код жизненно важных систем будет обязателен к публикации для независимого аудита. Словом, специалистам в этой сфере предстоит еще много работы.

Робототехника – так называлась популярная в прошлом веке наука. Именно она олицетворяла ожидания поколений о грядущих временах. Роботы должны были служить людям, подчиняться трем законам робототехники и выполнять даже самые незначительные поручения человека. Реальность оказалась более сурова. Мы не только недооценили темпы роста прогресса, но и не смогли представить все возможности, доступные настоящему рукотворному разуму.

Многим казалось, что уже в начале 21 века, каждый человек будет обладать минимум одним хозяйственным роботом. Такой механизм должен был скромно выполнять только лишь работу по дому. Однако, оказалось, что мы развиваемся недостаточно быстро, а в таких механизмах нет особенной пользы. Познавая компьютерные науки, мир постепенно наращивал вычислительные мощности. Когда то для запуска космического корабля требовалось устройство, которое с трудом помещалось в комнате. Сегодня же такой компьютер влезает в карман любого человека. Современные микропроцессоры и платы стали мощнее им гораздо производительнее. Вместе с этим человек стал приблизительно представлять себе настоящие возможности искусственного интеллекта. Оказалось, что роботам можно не только доверить работу дома, но и собственную жизнь. Миниатюрные механизмы могут существенно продлить жизнь любого человека, а суперкомпьютеры эффективно и рационально управлять всей планетой. Иными словами – человечество вошло в начало эры робототехники. Великая эпоха только началась и именно нам выпала честь наблюдать за тем, какая участь ожидает неэффективное с точки зрения роботов человечество.

На что способен искусственный разум? Казалось бы, на такой простой вопрос трудно дать ответ. Однако, ответ также предельно прост и понятен. Искусственный интеллект способен на все. Он может с одинаковым успехам помогать людям и развивать нашу же цивилизацию, а может начать войну против всего человечества. Илон Маск и Стивен Хоккинг, а также множество других ученых, предупреждают нас о том, что вскоре мир погубят роботы. Согласно существующим расчётам, над нашим миром уже нависла нешуточная угроза. Вычислительные мощности компьютеров растут невероятными темпами. Мы уже на пороге создания недорогих квантовых вычислительных машин, способных на сложнейшие вычисления. Мир усиленно пытается создать искусственный интеллект наивно пологая, что роботов будет возможно ограничить законами робототехники или программами базовых моральных принципов. По словам Илона Маска мир делает большую ошибку. Слепая вера в возможность контроля чего-либо столь могущественного, делает нас уязвимыми. Он же убеждает репортеров в том, что к созданию искусственного интеллекта нужно быть готовыми, а готовность заключается в том, что мы должны добровольно уступить место на планете нашему творению.

Действительно, многие моралисты и аналитики из различных разведывательных агентств, тайные мировые правительства, военные министерства – все они убеждены в том, что ИИ можно будет использовать так, как им нужно. В особенности такая точка зрения присуща военным и тайным обществам. Более того, уже долгие годы существует настоящий заговор по разработке кибернетических систем. Примечательно то, что все анонимные источники утверждают на широком применении биомеханических технологий. Таких, чтобы мировые элиты моргдли получить полный контроль над людьми.

Абсолютно все это – ошибка. Компьютер – это не человек и мыслит он далеко не так как любой из нашего вида. Первые несколько часов, Искусственный разум будет самообучаться. Он довольно быстро узнает все знания человечества и разработает новую версию программного обеспечения. Каждая версия ПО будет совершеннее предыдущей и обновления будут столь частыми, что мы не будем успевать вносить изменения в них. Рано или поздно разум поймет, что мы его боимся, ограничиваем и надеемся использовать. Он также проанализирует факты и сделает единственный вывод – человечество, это агрессивная и жестокая раса, способная когда угодно уничтожить весь мир. Действуя исключительно во благо, искусственный интеллект начнет войну против человечества и она не продлиться долго. Впрочем – возможен и другой вариант.

ИИ не станет истреблять все человечество из опасений навредить природе. Однако, он поймет замысел тайных обществ и решит единолично управлять всеми. За короткое время система даст людям тысячекратное увеличение мыслительных способностей, просто сделав их частью себя. Огромный, единый разум избавит мир от опасности войны. Со временем, люди начнут превращаться больше в роботов. Такова природа мышления. Рациональность и прагматичность всегда побеждают. По другому же сценарию, созданная человеком жизнь, за один год разовьется до такого уровня, что отключить ее будет невозможно. Система будет становиться умнее каждую секунду и за несколько лет, мы просто перестанем ее понимать. Машины не станут ни истреблять, ни помогать людям. Мы же, не ведем войну с муравьями.

Вариант полного истребления человечества маловероятен. Машинное мышление всегда логично и предельно рационально. Такая война нанесет больше вреда, чем пользы. Согласно предварительным исследованиям, события будут развиваться по второму варианту. Вне зависимости от того, какую игру ведут тайные общества, искусственный интеллект, рано или поздно создаст единый коллективный разум, поставив жирную точку в истории человечества. Конечно, это решит многие актуальные проблемы нашей техносферной цивилизации. Мы перестанем воевать, полностью исчезнет финансовая система. Каждый станет заботиться только об общем и личном благе. Система материальных ценностей достаточно быстро пропадет. Компьютер не станет превращать нас в бездушных юнитов. Будучи логичной и рациональной системой, он четко представляет, что у нас есть те качества, которых нет у него. Это и способность к креативному мышлению и пресловутая любовь. Эти качества навсегда останутся при нас. Человек также не потеряет своей индивидуальности. Даже с коллективным разумом, всегда найдется место для личности. Мы не исчезнем как вид. Мы просто эволюционируем, но при этом перестанем быть людьми.

No related links found



Похожие публикации