Журнал «Русский пионер» опубликовал большое интервью с Ольгой Усковой, президентом группы компаний Cognitive Technologies. Ольга Ускова уверена, что правительствам всех стран придется рано или поздно договориться о единых законах в сфере ИИ, как это было сделано когда-то с разработками ядерного оружия.
Далее приведем отрывки из этого важного интервью.
Почему вы считаете, что наступил новый революционный период истории?
Первое, что можно констатировать – мы перестали жить в биологическом обществе. Это произошло довольно незаметно, но это уже произошло. И это не наша воля, это не совсем от нас зависит. Появление все более и более умных сущностей идет со скоростью геометрически возрастающей прогрессии. Ни одно из направлений в мире не развивалось раньше такими темпами. За последние 20 лет было зарегистрировано такое количество патентов и изобретений, было столько серьезных достижений в кибернетике, математике, физике и нейрофизиологии, что мы можем говорить о действительно революционном периоде, когда никакие старые законы не действуют.
Как искусственный интеллект повлияет на жизнь простых людей?
Чтобы понять, как жить дальше, надо усвоить три закона нового времени. Первый закон – нет будущего. Будущее и настоящее слилось. Мне кто-то из приятелей совсем недавно сказал, Пелевин уже перестал быть человеком, который пишет фэнтези. Он стал документалистом. Ускорения идут таким образом, что когда мы пытаемся сказать, что будет через сто лет, то мы все время не попадаем в прогноз. Что с нами будет через сто лет, мы не знаем, потому что у нас просто не хватает фантазии для того, чтобы это представить. […]
Беспилотные машины теперь могут видеть как люди?
Искусственная интуиция — это одна из самых крутых разработок. Это то, что помогло нам сделать прыжок на международный рынок. Суть заключается в следующем: мы создаем искусственный мозг по антропоморфным принципам, поэтому у нас в команде вместе с математиками работают нейрофизиологи. Мы очень много работаем с медиками, биологами. Изучение работы человеческого мозга привело в такому примитивному выводу, о котором мы раньше не задумывались. Осознанным логическим процессом человек занят не больше 10-12 процентов в день, а в среднем от 5 до 7. Массу действий мы производим на подсознательном уровне. […]Наконец, мы доперли, что по такому же принципу должен быть построен искусственный мозг.
До какого-то периода под искусственным интеллектом почему-то понимались какие-то логические системы типа игры в шахматы, но реально не это является ключевыми задачами искусственного интеллекта. Революционный момент произошел в 2012 году, когда была разработана система нейронного программирования (разработана не нами) – это создание нейронных сетей глубокого обучения. Она принципиально отличается от задач компьютерного зрения ровно тем, что она занимается не как программный логический аппарат, а это эвристическая машина, которая работает по принципу черного ящика – есть вход, есть выход, есть готовые схемы, которые нарастают так же, как в человеческой голове. Это и есть процедура обучения. […]
Мы правильно понимаем, что сейчас нет никаких законов, которые бы регламентировали разработки в области создания искусственного интеллекта?
[…] Пока каждая страна идет своим путем, но это, конечно, должно прекратиться. Точно так же как с расщепленным атомом. Если не будет единого управления этими процессами, то человечество может погибнуть в какой-то момент, потому что создастся очень серьезное оружие. Есть моменты, по которым все должны единовременно договориться. Несколько месяцев назад у нас было внутреннее совещание акционеров, и мы приняли хартию о том, что мы не представляем наших новейших разработок для военной промышленности. […] Но это как бы общественные мероприятия, а по большому счету это должно быть возведено на ранг мировых договоренностей государств – так же, как это было с атомом. Все должны принять решение о том, что разработки по искусственному интеллекту не используются в военных целях.Второй момент связан с особенностями развития этих технологий. Искусственный мозг развивается антропоморфным образом, то есть так же, как у человека: ребенок сначала начинает воспринимать объекты и смыслы, а где-то в период с двух до пяти лет возникает так называемое осознание себя как личности – личности, отдельной от этих смыслов и объектов. Он может самостоятельно принимать решения. Вот сейчас искусственный интеллект находится в режиме распознавания смыслов. То есть это ребенок. Но рано или поздно наступит момент, когда он начнет себя осознавать как отдельную сущность. И если этот момент не будет подготовлен, если не будет жестко заложено, что робот не имеет права нанести вред человеку, не имеет права воевать… В эту же секунду, как он себя осознает как личность, он может принять решение об уничтожении человечества[…].
Источники:
«Русский пионер», 22 марта 2019, «Мы перестали жить в биологическом обществе»
«Русский пионер», «Мы перестали жить в биологическом обществе». Спецпроект «Русского пионера» об искусственном интеллекте: мифы, реальные факты, новое будущее.
Рекомендуем к прочтению еще два текста Ольги Усковой в «Русском пионере»:
24 февраля 2019, Тот, который во мне сидит
19 ноября 2018, Ничем не боги