Regularizers giver dig mulighed for at anvende straf på lagparametre eller lagaktivitet under optimering. Disse bøder summeres til den tabsfunktion, som netværket optimerer. Reguleringsstraffe pålægges pr. lag.
Hvad er aktivitetsregularizer?
Aktivitetsregularizeren virker som en funktion af nettets output, og bruges mest til at regularisere skjulte enheder, mens weight_regularizer, som navnet siger, virker på vægtene (f.eks. få dem til at forfalde).
Hvornår skal jeg bruge aktivitetsregularizer?
Hvis du ønsker, at outputfunktionen skal passere gennem (eller har en opskæring tættere på) oprindelsen, kan du bruge bias-regularizeren. Hvis du ønsker, at output skal være mindre (eller tættere på 0), kan du bruge aktivitetsregularizeren.
Hvordan bruger jeg Keras regularizer?
For at tilføje en regularizer til et lag skal du blot tilpasse den foretrukne regulariseringsteknik til lagets søgeordsargument 'kernel_regularizer'. Keras-regulariseringsimplementeringsmetoderne kan give en parameter, der repræsenterer regulariseringshyperparameterværdien.
Hvad er kerne og bias?
Dense class
Dense implementerer operationen: output=activation(dot(input, kernel) + bias), hvor aktivering er den element-vise aktiveringsfunktion, der sendes som aktiveringsargument, kernel er en vægtmatrix skabt af laget, ogbias er en bias-vektor skabt af laget (kun anvendelig, hvis use_bias er True).
