kelime gömme modellerinde aynı kelime çoğu zaman tek bir vektörle temsil edilir; banka sözcüğünün para kurumu ve nehir kıyısı anlamları aynı komşulara sıkışabilir. bağlamı hesaba katan modeller bu ayrımı cümlenin içindeki kullanıma göre kurmaya çalışır.