Puterea şi utilitatea reţelelor artificiale neuronale au fost demonstrate în aplicaţii care includ probleme de diagnoză, medicină, finanţe, controlul roboţilor, procesarea semnalelor şi a imaginilor şi alte probleme de recunoaştere a formelor. Un prim val de interes în reţele neuronale a apărut după introducerea neuronilor biologici de către McCulloch şi Pitts. Aceşti neuroni au fost prezentaţi ca modele de componente conceptuale pentru circuite care realizează anumite calcule. Rosenblatt a propus perceptronul, un model mai general decât unităţile de calcul McCulloch–Pitts. Ideea esenţială era introducerea ponderilor numerice şi a unui model special de interconectare. Perceptronul clasic este o reţea neuronală ce poate rezolva probleme de recunoaştere a formelor, putând reprezenta numai funcţii liniar separabile. Acest articol prezintă câteva metode de testare a liniar-separabilităţii. Pentru crearea unui model de clasificare, pentru funcţii liniar separabile, se poate folosi o reţea neuronală cu un strat de perceptroni. Complexitatea liniarseparabilităţii punctelor din spaţiul de intrare este definită de rezolvarea unei probleme de optimizare liniară.