ドロップアウトとはどろっぷあうと

ニューラルネットワークでは、学習が進むと一部のニューロン同士が強く依存し合い、特定の組み合わせだけで答えを出すようになることがあります。これは訓練データにだけ通用する「クセ」を覚えた状態で、過学習の一因になります。

ドロップアウトでは、学習のたびに休ませるニューロンをランダムに変えます。チームで毎回違うメンバーが欠席しても仕事が回るように訓練すると、誰か一人に頼らない強いチームになるのと同じ発想です。どれくらいの割合で休ませるか（ドロップアウト率）は適切に選ぶ必要があり、高すぎると今度は学習が進みにくくなります。