Masked Language Modeling (Maskeli Dil Modelleme), bir dil modelleme görevidir ve bir girdi dizisindeki maskelenmiş belirteçleri tahmin etme amacını taşımaktadır. Model, maskelenmiş belirteçleri tahmin etmek için çift yönlü bir şekilde belirteçlere erişebilir, yani hem belirtecin solundaki hem de sağındaki belirteçlere bakabilir. BERT (Bidirectional Encoder Representations from Transformers), maskelenmiş dil modellemesinin önde gelen bir örneğidir.

İlgili Terimler