Свою точку зрения на AGI или «общий искусственный интеллект» высказала Татьяна Шаврина, лидер команды AGI NLP Сбербанка.
Слабый искусственный интеллект (Narrow AI) запрограммирован на решение одной конкретной задачи. С ним мы сталкиваемся каждый день. Классический пример слабого ИИ – QA-системы или вопросно-ответные системы. В данном случае для успешного выполнения задачи не нужно ни мышления, ни сознания, ни мотивации. Алгоритму достаточно лишь запомнить правильные ответы на большое число вопросов. Можно сказать, что такие модели ведут себя как поисковая система: если кто-то в интернете когда-то ответил на похожий вопрос, они могут сразу выдать ответ на него. Но если нужно делать обобщения, логические операции, то с меньшей вероятностью ответ будет правильным.
QA-системы устроены по-разному. Например, одним для обучения и работы нужно максимально много текстовых данных (например, вся википедия). Другим необходимы списки объектов, персон и их связи с другими объектами (графовые базы знаний). А есть системы, которым достаточно пары «вопрос-ответ», и они учатся ранжировать эти ответы.
Сейчас мы с командой AGI NLP Сбербанка учим QA-системы целеполаганию, логике, здравому смыслу, предметным знаниям, и требуем от них в вопросах именно этого. Например, машине говорят «Вы пришли домой, а ваши друзья выпрыгивают из-за дивана с тортом. Почему?». И дают два варианта ответа: «Потому что друзья готовили сюрприз на день рождения» и «Потому что сегодня Новый год». В результате мы получаем рейтинг систем по их интеллектуальным способностям к разным заданиям. До уровня человека им еще далеко.
Постоянный прогресс в направлении создания интеллектуальных машин делает термин «искусственный интеллект» слишком размытым. Поэтому в 1997 году при обсуждении военного применения ИИ было введено понятие Artificial General Intelligence (AGI) или «общий искусственный интеллект». В 2000-х его популяризировал известный исследователь в области искусственного интеллекта Бен Герцель.
Общий искусственный интеллект – это новое фундаментальное понятие, отражающее наше представление о том, какие задачи должен решать искусственный интеллект. По самому широкому определению именно у AGI должны быть способности к самообучению, целеполаганию, принятию решений, в том числе, с использованием стратегий в условиях неопределенности. Также он должен обладать знаниями и общими представлениями о реальности, уметь планировать, обучаться, взаимодействовать с человеком с помощью языка. И применять все эти способности вместе для достижения общих целей.
Человек все еще не знает, как научить машины самостоятельно приобретать новые навыки, как мотивировать свои решения. Так что AGI пока не достигнут. Но благодаря работе научного и инженерного сообщества отдельные задачи уже в процессе решения:
- Интерпретация результатов. Как проектировать нейросети таким образом, чтобы получать информацию о том, почему машина выдает тот или иной результат, на чем основано ее решение.
- Мультимодальность. Уже есть системы, объединяющие текстовую информацию с фото, видео, звуком.
- Мультидисциплинарность. Многие системы, получив знания в одной предметной области, могу сохранить их и использовать при работе в другой предметной области или даже с данными на другом языке. Например, выучить английский, а потом довольно неплохо работать с немецким языком.
- Обучение «со скоростью» человека. Направление few-shot learning или «мета-обучение» активно используется в диалоговых системах, автоматическом переводе, распознавании предметов на видео и других изображениях.
Говорить о сроках создания AGI рано. Я думаю, что сначала человечество ждет череда больших открытий про нас самих, прежде, чем мы сможем искусственно воспроизводить механизмы работы человеческого мозга. Несмотря на эволюцию, у нас все еще есть ограничения. Мы не можем представить пятимерное пространство или цвет вне видимого спектра. Сколько еще таких подводных камней нас ждет при изучении наших собственных механизмов мышления, которые мы так хотим воспроизвести? Сейчас и еще надолго в будущем ИИ – всего лишь инструмент. Он может быть применен во благо и во зло. Каким он будет и каким будет наш общий мир – это ответственность всего общества.
Источник: Robogeek.ru, 20.10.2020, AGI и человек: вчера, сегодня, завтра