Минидискова дискриминация

1. Какво е дискриминация в Minibatch?
2. Как да предотвратите срив на GAN в режим?
3. Как мога да подобря обучението си по GAN?
4. Защо GAN е нестабилен?

Какво е дискриминация в Minibatch?

Минипартийната дискриминация е дискриминационна техника за генеративни състезателни мрежи, при които правим разлика между цели мини партиди проби, а не между отделни проби. Това има за цел да избегне срив на генератора.

Как да предотвратите срив на GAN в режим?

Внимателно настроен процент на обучение може да смекчи някои сериозни проблеми на GAN като срив на режим. По -конкретно, намалете степента на обучение и повторете обучението, когато се случи срив на режима. Можем също да експериментираме с различни нива на обучение за генератора и дискриминатора.

Как мога да подобря обучението си по GAN?

Допълнителни съвети и трикове

1. Съвпадение на функциите. Разработете GAN, използвайки полу-контролирано обучение.
2. Минидискова дискриминация. Разработете функции в множество проби в мини партида.
3. Историческо осредняване. Актуализирайте функцията за загуба, за да включите история.
4. Едностранно изглаждане на етикета. ...
5. Виртуална партидна нормализация.

Защо GAN е нестабилен?

Фактът, че GAN са съставени от две мрежи и всяка от тях има своята функция за загуба, води до факта, че GAN по своята същност са нестабилни- потъвайки малко по-дълбоко в проблема, загубата на Generator (G) може да доведе до нестабилност на GAN , което може да бъде причина за проблема с изчезването на градиента, когато ...