Előismeret
1-NN: a tanító adatbázis pontjaival összehasonlítjuk a teszt vektort. Amelyikhez legközelebb van, annak az osztálycímkéjét rendeljük a teszt vektorhoz. 1-NN esetében, a bináris problémákra származtathatunk egy valószínűségi értéket, amit rangsorolásra használhatunk: dp/(dp+dn), ahol dp a legközelebbi pozitív példa távolsága, míg dn a legközelebbi negatív példa távolsága.
k-NN: vesszük a teszt vektor k legközelebbi szomszédját a tanító halmazból. Amelyik osztálycímke legtöbbször fordul elő, azt rendeljük a tesztadathoz.
k általában kicsi szám. Egyenlőség esetén: távolság alapján súlyozzuk a szavazatokat, és a jobbat (kisebb távolságot eredményezőt) választjuk. 2 osztályos probléma esetén k értéke célszerűen páratlan szám.
[forrás: www.inf.u-szeged.hu]