Интервью с Николаем Горькавым

Николай Горькавый — автор трилогии «Астровитянка», согласился ответить на несколько вопросов Алексея Аншакова, основателя команды webRunes, которая разрабатывает open source платформу IA – Individual Assistant.

Николай Горькавый — астрофизик, писатель, доктор физико-математических наук. Закончил физический факультет Челябинского государственного университета и аспирантуру в Институте астрономии РАН. 12 лет работал в Симеизской обсерватории.
Лауреат Государственной премии СССР 1989 года за предсказание спутников Урана. Вместе с Джоном Мэтером теоретически предсказал экзопланеты возле Веги и Эпсилон Эридана. В настоящий момент живет в США и работает в группе обработки данных спутника «Суоми». Именем Николая Горькавого назван астероид 4654 Gor’kavyj.

Инка — искусственный интеллект описанный автором в последней книге трилогии «Возвращение Астровитянки».

Дисклаймер: во избежание подозрений в рекламе, мы не даем никакой информации о себе или проекте, просим понять — это не потому что мы такие скрытные. Но в дальнейшем мы будем делиться с Хабр-сообществом полезной информацией и опытом разработки.

Интервью

Алексей: Добрый день, Николай. Спасибо, что согласились дать интервью. Когда я впервые поделился идеей IA, один из знакомых порекомендовал мне прочесть «Астровитянку» и, уже читая третью часть, я был вдохновлен близкими по духу идеями, описанными вами касательно искусственного интеллекта. Как вы думаете, много ли людей сейчас живут идеей создания Инка-подобных технологий и как долго нам осталось ждать первых версий киберсистем?

Николай: Людей, которые занимаются искусственным интеллектом, немало. И они занимаются этим давно. У меня на полке стоят два толстенных тома «Применение искусственного интеллекта в космосе», кажется, 1978 года издания. Списано из библиотеки НАСА из-за бесполезности. Полезных результатов в области ИИ сделано поразительно мало. Пока решаются задачи типа оптимального выбора маршрута кибером, или автоматической стыковки кораблей. Но лет 15 назад роботы были экзотикой для чудаков, а сейчас это целая индустрия, созданная по запросам военных, врачей и спасателей. Так что прорывы возможны.

Алексей: Как сетовал Рэй Брэдбери, человечество разучилось мечтать о глобальном, о космосе и погрязло в потребительстве и мелких желаниях. Но как бы вы оценили идею исследования и колонизации космоса с помощью ИИ в наши дни?

Николай: Я описал в своей книге вариант колонизации тел Солнечной системы, когда вперёд посылаются роботы с ИИ, которые способны построить базу из местных материалов и без непосредственного участия человека. И человек прилетает уже не в пустыню, а в благоустроенный город. Так что для колонизации космоса ИИ, пожалуй, будет поважнее мощных ракетных двигателей.

Алексей: Писатели научной фантастики всегда были далеко впереди прогресса, потому как они ограничены лишь своей фантазией, а не развитием науки. Как вы думаете, возможно ли вовсе создание ИИ сродни описанному вами Инки и, если да, то какой прогноз появления первого ИИ по времени, хотя бы в ключе: эта половина века, вторая, следующий век? И что вы думаете в этом свете о Китайской комнате?

Николай: Я полагаю, что нужно лет пятьдесят, чтобы появились первые версии реального искусственного интеллекта, подобному Инке, с которым можно разговаривать, не раздражаясь на его непонятливость или на то, что он не воспринимает вашу речь, хотя вы вышли от дантиста два часа назад, и ваша замороженная челюсть уже практически оттаяла. Такой ИИ должен быть не пустобрехом, а системой, способной на самостоятельный поиск и анализ важной для вас информации, а также на практически полезные советы.

Вопрос о Китайской комнате – это скорее философский вопрос, чем кибернетический. Фокус в том, что разум воспринимается нами, как некий качественный – и пока непонятный — скачок над сортировкой бинарных чисел. Здесь есть элемент восторженного восхищения. Самовосхищения, если угодно. Когда мы досконально понимаем – как функционирует киберсистема, то нам трудно признать её разумной. Тайны нет! Поэтому нам не хочется приписывать интеллект Китайской комнате любого масштаба. Кто знает, когда мы разберемся в деталях – как функционирует мозг у человека, — не откажем ли мы в разумности большей части человеческой расы? Подумаешь, ходит двуногая толпа Китайских комнат с граммофончиками в голове и с несложной логикой вызова поведенческих подпрограмм.

Алексей: Как тут не вспомнить фразу Булгакова сказанную устами профессора Борменталя:
— То есть он говорил? Это еще не значит быть человеком.
К сожалению всё, что бы не изобреталось, используется человечеством в первую очередь в военных целях. Но с каких сфер, на ваш взгляд, стоило бы начать использовать ИИ с коммерческой точки зрения, а в каких для человечества в целом?

Николай: Я думаю, что настало коммерческое время для простеньких, но полезных ИИ. Не нужен распознаватель и синтезатор речи, не надо замахиваться на киберпоэта или киберпсихиатра – надо сделать для начала хоть что-то полезное, способное к самостоятельной работе. Например, сейчас поисковики по заданным словам почти мгновенно выдают кучу информации, которую приходится перебирать самому человеку. Теперь представим поисковик, которому человек задает 10–20 ключевых слов, а также предельный объем файла – 10 страниц — и сам уходит спать. Утром его ждет файл, в котором собраны полсотни наиболее интересных абзацев из разных источников, с их списком внизу, как в обычной статье. Просмотрев этот материал и самые интересные ссылки, школьник в два счета сделает нужный реферат, а учёный поймёт на каком уровне находится тема, которая его заинтересовала.

Или другой пример. Если взять большую базу данных – например, землетрясений, то она образует, как минимум, пространство пяти измерений – три координаты, время и магнитуда толчка. Зададимся простой задачей – сравнить сейсмоактивность в двух прямоугольных областях этого пространства и вычислить коэффициент корреляции между сейсмичностями, как функциями от времени. Легко понять, что выбор одной прямоугольной области по координатам и магнитуде дает 8 переменных. Вторая область даст ещё 8 переменных. Значит, чтобы перебрать хотя бы по 10 значений каждой переменной, нужно сделать 1016 (десять миллионов миллиардов) выборок из базы и вычислений коэффициента корреляции. В году 30 миллионов секунд. Сколько лет понадобиться обычному компьютеру, чтобы завершить эту задачку? Мы уж не говорим о том, что временная функция может иметь разный шаг усреднения, да хорошо бы проверить корреляцию и при временных сдвигах. Как решает эту задачу человек? Он делает расчеты и всё время анализирует – не блеснет ли где признак корреляции, который потребует углубления в данном направлении? И конечно, он может просмотреть нужную тропинку – рабочий день закончился, а со следующей недели в отпуск пора… Хоть бы кто сделал самостоятельный анализатор данных – пусть с интеллектом муравья, — который бы мог круглосуточно ползать по заданной рыхлой куче чисел в поисках жемчужин закономерностей и докладывать человеку раз в день: «Вот чего я нашёл, хозяин!»

Для человечества в целом важнее всего обучающие интернет-системы, которые бы позволили каждому подростку иметь персонального учителя, обладающему бесконечным терпением и готовому адаптироваться под уровень любого школьника, не насмехаясь над ним.

Алексей: В сегодняшнем мире огромное количество одиноких людей, которых не понимают, не воспринимают с их недостатками. И вами была описана сцена в третьей части «Астровитянки», в которой подобные люди находили утешение в общении с Инкой. Не думаете ли вы, что со временем очень многие люди станут искать убежище в общении с умной, но машиной, а не пытаться строить межличностные отношения, подразумевающие такие понятия как: компромисс и терпимость к недостаткам близкого человека, верность, необходимость следить за собой, думать прежде чем сказать и многое другое? Ведь чтобы понравиться другим, люди зачастую стараются быть лучше. А с андроидом все это не нужно, он будет с тобой, что бы ты ни делал, достаточно всего лишь иметь на счету необходимую сумму на его приобретение.

Николай: Проблема эскапизма уже не раз возникала перед человечеством. Люди уходят от общения с другими людьми в запойное чтение книг. Люди азартно режутся в карты, наплевав на семью и детей. Телевизор всосал большую часть свободного времени большей части населения. Теперь интернет и социосети дали ещё больше возможностей добиваться не реальных, а виртуальных успехов. Да, новый виток этой проблемы неизбежно возникнет, когда появится ИИ и даже человекоподобные андроиды. Помните, как героиня «Терминатора» смотрит на робота, играющего с её сыном, и думает – какой хороший отец! Не напьется и не обидит. Будем надеяться, что реальные девушки всегда останутся для большинства юношей привлекательней любых кукол.

Алексей: И, как продолжение предыдущего вопроса, не столкнемся ли мы с проблемой войны с машинами? Ведь интеллект подразумевает под собой самосознание, какие мысли будут у создания, которое со временем станет намного более умным нежели любой из живущих людей? Презрение? Жалость? Какие-то намного более сложные чувства, которые нам даже не известны и вряд ли будут понятны из-за естественных человеческих ограничений? Возможно ли будет заложить пресловутые правила, сформулированные Айзеком Азимовым, чтобы защитить человечество от своего же порождения?

Николай: Утверждение, что «интеллект подразумевает под собой самосознание» пока висит в воздухе: мы не знаем, что такое интеллект – потому что мы не построили его работающую модель, и не знаем, что такое самосознание и на каком этапе развития киберсистемы оно возникает. Непростым является и вопрос о таких эмоциях как жалость и презрение. Насколько они антропоморфны и связаны с работой нашей гормональной системы? Насколько возможно внедрение человекоподобных эмоций в киберсистему? Не будет ли это простенькой имитацией, китайской эмоциональной комнатой?

Законы Азимова в роботов обязательно будут закладываться – войну машин и сейчас легко устроить, потому что уже серийно выпускаются роботы с пулеметами. Но среди разработчиков нет достаточного количества идиотов, чтобы вложить в программное обеспечение таких машин возможность выхода из-под контроля.

Примечание:
Вот, что говорят о сознании исследователи Blue Brain Project:
«Если сознание появляется в результате критической массы взаимодействий — тогда, это может быть возможно. Но мы действительно не понимаем, что есть сознание, поэтому трудно об этом говорить.»
Оригинальный текст:
«If consciousness arises because of some critical mass of interactions, then it may be possible. But we really do not understand what consciousness actually is, so it is difficult to say.»

Алексей: Создаст ли машина мир, где все что можно автоматизировано и работает максимально эффективно? Какие профессии останутся? Что делать с огромными массами ставших ненужными людей? Столкнемся ли мы с новыми луддитами?

Николай: Мы давно уже живем в мире, где большая часть профессий и людей не связана с производством еды, одежды или станков. Врачи, юристы, журналисты, автомеханики, официанты, продавцы, банкиры, художники, писатели, все обитатели мира телевидения, кино, спорта, моды и музыки с песнями – давно уже самообслуживают общество, то есть работают на самих себя. Это благодаря тому, что один фермер кормит сотню не-фермеров, а один рабочий делает штаны, автомобили и холодильники десятку не-рабочих. Если поднять автоматизацию до ста процентов, то просто последние рабочие вольются в и без того многочисленные ряды говорунов и плясунов.

Алексей: Николай, вы затрагивали данный вопрос в своей трилогии, но как вы думаете, сможет ли машина когда-нибудь творить? Создавать нетривиальные картины, придумывать красивую музыку, песни, шутки, изобретать?

Николай: Может, но зачем отбирать у человека эти жизненные ниши? Изобретать можно без особого творчества, просто перенося идеи из одной области в другую и компьютеры это будут делать, потому что полезно. Можно сделать машину, которая специализируется в абстрактной живописи – и она переплюнет многих нынешних авторов. Но зачем их так обижать? Люди всё-таки.

Алексей: Николай, и последний вопрос. Возможно, вы хотите что-нибудь сказать или порекомендовать потенциальным разработчикам «умных систем», которые сейчас читают интервью?

Николай: Выше я уже описал пару интеллектуальных программ, которые хорошо бы создать. Не надо гнаться за эффектностью, сделайте что-нибудь эффективное, минимально полезное большому количеству людей. И тогда люди потянутся к вашему интеллекту!

Алексей: Спасибо вам, Николай, за ответы!
И к нашим читателям: если вы хотите, чтобы Николай Горькавый ответил на ваши вопросы, пожалуйста, задавайте их в комментариях. Список вопросов будет передан Николаю, а его ответы опубликованы в следующей статье.
Спасибо.

https://habr.com/ru/post/151075/

UPDATE: ответы на вопросы к интервью

DartRaven:
В книге как-то очень легко, с пол-пинка решен вопрос с обеспечением человечества энергией. Как вы думаете, нечто подобное действительно возможно? То есть, технология, позволяющая без (видимых) последствий и затрат ресурсов обеспечивать необходимые мощности?

Николай Горькавый:
Если учесть, что открытие практически бесконечного источника энергии я отнес на середину 23 века, то имеет право и совершенно противоположная точка зрения: «в книге утверждается, что вопрос с обеспечением человечества энергии будет решаться медленно и трудно, в течение сотен лет...» Профессор Лвин полжизни убил на свой напряжометер, королева лишь помогла ему на финальной стадии.

Насчет реальности такого энергетического скачка. Я считаю, что это вполне возможно. Посудите сами: согласно господствующим космологическим взглядам, 96% энергии (вещества) нашего мира содержится в непонятных пока темных формах. Почему бы не предположить, что рано или поздно мы научимся использовать эти формы энергии? Никаких принципиальных ограничений на это нет. Можно ссылаться на то, что эти темные формы рассеянны и трудно извлекаемы, но это чисто техническая трудность. Причем она вполне может быть преодолима, потому что я лично считаю, что эти 96% — это просто квази-классическая интерпретация поверхностного слоя гораздо более глубокого океана энергии. Раньше тоже считалось, что энергия горячей болванки при остывании стремится к нулю. А потом открыли ещё и эмце-квадрат…

elfuegobiz:
Николай Николаевич, добрый день. Скажите, а почему вы считаете, что ИИ сможет творить? Ведь любой акт творчества, как результат таланта, подразумевает наличие дара, искры Божьей. Вы считаете, что ИИ также получит Божью искру, или вы смотрите на это с позиции атеиста?

Николай Горькавый:
Конечно, я атеист, как и 95% учёных нашей планеты. Для объяснения этого мира учёные не используют гипотезу о боге. Но и оставшиеся 5% никогда не скажут, глядя на предмет своего изучения – на спектры звезд или деление клетки – «это результат божественного вмешательства». Это не ответ, это уход от ответа.

Чтобы осмысленно рассуждать на тему творчества, надо определить – а что же такое творчество? Определение «творчество – это результат таланта» ничего не дает, потому что это де-факто тавтология, самоопределение («талант – это дар, позволяющий творить»).

Разделим творчество на две части – научное и художественное. Я не вижу никаких причин полагать, что будущий ИИ не будет способен на творческие научные прорывы, даже самого высокого полета, вроде общей теории относительности. Да он будет успешнее Эйнштейна! Переберёт все варианты релятивистской теории гравитации и смело предложит единственно правильный. Без всякого человеческого сомнения и божественного искрения.

Естественно, художественное творчество, тесно завязанное на такие сугубо человеческие чувства и способности, как любовь, ревность и похмелье, может оказаться вне поля деятельности ИИ. Ну и пусть, зачем же отнимать у человека его любимые способы самовыражения? Но я подозреваю, что издатель научит «электронного писателя» так ловко имитировать человеческие чувства, что массовый читатель всё примет на веру и обрыдается…

tick:
В третьей Астровитянке вы выдвинули лозунг «Вся власть учёным!». Нужна ли сейчас учёным своя политическая партия? И есть ли корреляция между успехом в науке и политическим предпочтениями?

Николай Горькавый:
Где, где я сказал такую глупость как «Вся власть учёным»?! Процитируйте, чтобы я вычистил это место в новой редакции.

Привожу отрывок (из третьей книги), который показывает, что всё, что требует учёное сообщество – 1% оборота от продаваемой в мире наукоёмкой продукции. И вся «власть» учёных распространяется лишь на их научное сообщество, на их «профсоюз».

«Мы учреждаем Независимую академию наук — общемировую организацию учёных, независимую от политики государств и корысти олигархов.
Мы исходим из самоочевидной истины, что все творцы равны и наделены определёнными неотчуждаемыми правами на свои творения. Мы не хотим привилегий для учёных, мы требуем для учёных справедливости.

Коллективным собственником Академии и её результатов будут сами учёные. На результаты интеллектуального труда должны распространяться общепризнанные авторские права.

Мы провозглашаем принцип открытого авторского права: все достижения Независимой академии наук будут открыты для творческого и коммерческого использования всеми желающими без каких-либо разрешений и согласований. Но производители и продавцы коммерчески распространяемых изделий, созданных на основе работ сотрудников Академии, должны перечислять ей научный сбор: 1% от стоимости изделия.»

Вы же не говорите, что Союз писателей хочет захватить власть над миром? Всё, что хочется – чтобы учёные имели такие же права на свою интеллектуальную собственность, как и писатели.

А это отрывок, который просто отвечает на Ваш вопрос про учёных и власть:

«Тим был одет в свободную рубашку и летние светлые брюки. В его лице уже проступала пожилая худоба, но он, как всегда, был раскован и дотошен:
— Некоторые эксперты называют политическое устройство Гринвич-Сити новой ноократией, другие — прообразом общества, где всю власть захватили коварные учёные.

Королева Никки усмехнулась:

— Глупости. Власть должна быть водопроводчиком в обществе. Правители или менеджеры должны не властвовать над думами и жизнями, а обеспечивать подвод ресурсов и отвод отбросов. Заставлять учёных управлять государством – значит не уважать их и подвергать риску дисквалификации как учёных и как интеллектуалов.»

Я не думаю, что ученые должны иметь свою партию. Она будет обречена на хроническое меньшинство. Что же касается политических предпочтений учёных, то давно доказано, что с ростом образованности люди тяготеют к демократическим принципам в политике. Так что в среднем, чем крупнее учёный, тем он демократичнее — и в личном общении, и в политическом выборе. Вот мелкие фраера могут отличаться одновременно и высокомерием к ближнему, и пылкой любовью к вышестоящему начальству.

ilya42:
Николай, у меня два вопроса:

Как по вашему, насколько близко подошли к уровню Великого Инки такие проекты как Apple Siri и IBM Watson? Это только первые шаги, или можно сказать, что хотя бы полпути пройдено?

Видите ли вы хоть какие-то перспективы для развития педагогики до появления достаточно мощного искусственного интеллекта, доступного каждому? Сейчас даже в экономически развитых странах профессия учителя не очень престижна и прибыльна, а потребность в качественном образовании и воспитании всё выше. Как заставить общество уделять больше внимания школам, а не развлечениям и войнам?

Николай Горькавый:
Я думаю, что эти первые искусственные интеллекты пока только первые шаги. Ну или 10% пути. Пока разговаривать с человеком на равных они не могут, равно как и иметь сопоставимые способности по качественному анализу информации. Но направление выбрано верное, и нынешняя молодежь наверняка будет жить в эпоху Великого Инки.

Педагогика нужна и будет нужна все время — ведь как развитым, так и развивающимся государствам нужны умные специалисты – это их главный источник доходов. К сожалению, расслоение по уровню жизни вызвало и расслоение по уровню школ. В США есть школы, сопоставимые по плате за обучение с университетами – десятки тысяч долларов в год. Я уверен, что там учителя получают превосходную зарплату. Но есть и бесплатные массовые школы с очень средним уровнем обучения и с очень средними зарплатами учителей. Конечно, искусственный интеллект вызовет всплеск школьного образования и значительное выравнивание условий для образования людей из разных слоёв. И это будет хорошо. Потому что сейчас ни в одной стране нет единого общества. Есть богатые люди, которые уделяют школьному воспитанию своих детей огромное внимание (хорошая школа вызывает вокруг себя всплеск стоимости недвижимости — все обеспеченные хотят туда переехать), а есть бедные, которые могут дать своим детям лишь то, что могут. И есть государство, которое пытается достичь какого-то соглашения со всеми сторонами, но как только оно пытается взять у богатых побольше денег для школ бедных, то терпит крах и отступает. И опять таки – развлечениям предается не общество, а конкретные люди (обычно бедные и необразованные), просиживающие вечера за убогим телевизором (просто невозможно смотреть то, что ныне показывают), вместо того чтобы прочитать что-то и стать кем-то. Как заставить их встать с дивана? Никак, надо спасать детей. А как вы думаете, почему я пишу именно детские и подростковые книжки?

https://habr.com/ru/post/152110/