«Если простые нейронные сети призваны решать задачу классификации того, что изображено на рисунке, то есть различные технологии, которые позволяют генерировать эти картинки, создавая некое ядро случайного числа. Такие подходы и технологии называются генераторами и они проявляются в нейронных сетях», — так начал беседу Владимир Олегович. 

На сегодняшний день возникают вопросы – насколько хорошо нейронные сети генерирует определённое изображение? Можем ли мы отличить искусственно созданный портрет от рисунка, «изготовленного вручную»? И может ли сеть сгенерировать что-то опредёленное, скажем, изображение стула и отличить его от, условно говоря, других предметов мебели? Эти и другие темы послужили долгому и интерактивному общению лектора со студентами.

Владимир Олегович рассказал, как именно происходит работа генеративно-состязательной сети: две разные глубокие сети противопоставлены друг другу с целью получения одной, создающей новые образцы, отличающиеся от обучающих, но настолько близкие к ним, что другая сеть не может выявить, какие из них синтетические, а какие принадлежат оригинальному обучающему набору.

Спикер продемонстрировал образцы работы GAN в 2014, 2017 и 2019 годах, где разница очевидна: на первых изображениях мужчин и женщин сложно определить даже пол; спустя три года искусственно сгенерированные изображения уже были близки к фотоизображениям, но, тем не менее, на них можно видеть множество так называемых «шумов»; ну а картинки этого года (новая нейронная сеть вышла в свет 12 декабря 2019 года) крайне сложно отличить от настоящих. Спикер отметил, что для создания такого чёткого искусственного изображения «с нуля» размером 1024*1024 пикселя на мощной видеокарте нужно потратить 63 дня. Но и чтобы сеть работала хорошо, следует отобрать не менее 10 тысяч изображений самостоятельно.

«Существует множество операций, проводимых генеративно-состязательной сетью, но она представляет собой «черный ящик» — то есть не так просто понять, как она отбирает изображения по признакам, — подчеркнул Владимир Олегович. – Мы можем видеть эти признаки: это области активации, где наши нейроны меняют яркость и те нейроны, которые меняют искажение. Но если перейти на числа или звуки, это мы никак не можем интерпретировать. И тандем GAN тоже не совсем прост: мы не знаем, какой код нужно применить, сколько создать слоев и т.д. для того, чтобы желаемый результат – идеальное изображение – был достигнут. Заданной программы или чёткой стратегии просто-напросто не существует».

Владимир Доманский поговорил со студентами и о модальном коллапсе, который представляет собой несколько одинаковых выходов или несколько вариантов, например, изображения. «Нейронная сеть может генерировать только один образец картинки, цифры или звука. Мы обучили генератор, мы обучили дискриминант – они работают хорошо. Но если мы плохо занимались подготовительным этапом — отбором искомого (один стандарт, размер, количество цветов и другие признаки), то это может привести к тому, что будут повторятся одни и те же картинки или наоборот, сеть будет предлагать нам только один вариант числа», — рассказал спикер.

Завершилась беседа рассказом о популярных библиотеках для создания нейронных сетей, а также Владимир Олегович привел пример кода для генератора, чтобы создать нейронную сеть.

Отметим, что нейронные сети лежат в основе большинства современных систем распознавания и синтеза речи, распознавания и обработки изображений. «Их применение довольно широко на сегодняшний день, и, в первую очередь, это компьютерные игры (например, выбор решения в неопределённой игровой ситуации), — поделилась своим мнением Анна Куманёва, магистрантка ТИУ направления «Информационные системы и технологии», — а также для решения задач, ведь организуются целые олимпиады по нейронным сетям».

Трек Smart City продолжает работу в проекте «Точка кипения»: 24 декабря в 17.00 в Тюменском технопарке с демонстрацией прототипа «Платформа для организации и проведения IT/IIOT-онлайн мероприятий и онлайн-сервиса личных кабинетов для ЖКХ на базе Open lot Network выступит ведущий специалист Центра компетенций Интернета вещей и Smart City ТИУ Алексей Осипенко.