veri kümesi yalnızca hangi metinlerin toplandığından ibaret değil; ayıklama, tekrarları silme, dili etiketleme ve örnekleri nasıl sınıflandırma kararı da modelin neyi öğrenebileceğini biçimlendiriyor. aynı kaynaklar farklı filtrelerden geçirilince başka bir veri kümesi ortaya çıkabilir. bu yüzden veri var mı sorusu kadar, verinin hangi işlemlerden geçtiği ve hangi örneklerin elendiği de önemli. miktarı büyütmek bu kararları kendiliğinden tarafsız ya da temsil gücü yüksek yapmıyor.