Bir model geliştirirken veri seti genellikle ikiye (bazen üçe) ayrılır. Eğitim verisi, modelin örüntüleri öğrendiği kısımdır. Test verisi ise eğitim sırasında modele hiç gösterilmez ve yalnızca en sonda modelin gerçekten öğrenip öğrenmediğini ölçmek için kullanılır. Bazen ayar yapmak için üçüncü bir "doğrulama verisi" de ayrılır.
Bu ayrım çok önemlidir: bir model eğitim verisinde çok başarılı görünüp yeni verilerde başarısız olabilir. Buna aşırı öğrenme denir. Test verisi, modelin gerçek dünyada nasıl davranacağına dair daha dürüst bir fikir verir.
Test verisinin eğitim verisine "sızmaması" gerekir; aynı örnek iki tarafta da bulunursa ölçülen başarı olduğundan yüksek görünür.
Pour les enfants
Çocuğunuza nasıl anlatırsınız?
Sınava hazırlanırken çalıştığın sorular eğitim verisidir. Öğretmenin sınavda sorduğu, daha önce hiç görmediğin sorular ise test verisidir. Eğer sınavda tam olarak çalıştığın soruların aynısı çıksaydı, konuyu gerçekten anlayıp anlamadığını bilemezdik.
Gündelik bir örnek
200 kedi-köpek fotoğrafının 160'ıyla model eğitilir, kalan 40 fotoğrafla modelin kaç tanesini doğru tanıdığı ölçülür.