Ο Πολωνικός Ποιμενικός Νιζινί είναι μια πολύ παλιά φυλή. Πιστεύεται ότι προέρχεται από το Πούλι (Puli), έναν ποιμενικό σκύλο της Ουγγαρίας, καθώς και σκύλους της Κεντρικής Ασίας, όπως το Θιβετιανό Μαστίφ (Tibetan Mastiff), το Θιβετιανό Σπάνιελ (Tibetan Spaniel), το Λάσα Άπσο (Lhasa Apso) και το Θιβετιανό Τερριέ (Tibetan Terrier). Μια ενδιαφέρουσα – και όχι αδύνατη – θεωρία είναι ότι οι Ούννοι ήταν υπεύθυνοι για τη διάδοση της φυλής σε πολλές διαφορετικές χώρες, καθώς λεηλατούσαν στο δρόμο τους μέσα από διάφορους πολιτισμούς.

Το 1514, ένας Πολωνός έμπορος με το όνομα Kazimierz Grabski έφτασε από το Gdansk στη Σκωτία με φορτίο σιτηρών για να το ανταλλάξει με σκωτσέζικα πρόβατα. Έξι Ποιμενικοί Νιζινί βρισκόταν στο σκάφος για να φυλάξουν τα πρόβατα και, σύμφωνα με την ιστορία, ένας σκωτσέζος βοσκός ζητούσε ένα ζευγάρι Ποιμενικών σε αντάλλαγμα για ένα κριάρι. Η συμφωνία έκλεισε με δύο θηλυκά και ένα αρσενικό Ποιμενικό Νιζινί. Πιστεύεται ότι αυτά τα τρία σκυλιά χρησιμοποιήθηκαν για να διασταυρωθούν με σκωτσέζους σκύλους και να αναπτύξουν το Γενειοφόρο Κόλεϊ (Bearded Collie).

Η υπόλοιπη πορεία της φυλής στο χρόνο είναι ένα ιστορικό επιβίωσης. Στη δεκαετία του 1800, όταν η εκτροφή προβάτων μειώθηκε στην Πολωνία, μειώθηκε και ο αριθμός των σκύλων της φυλής. Ο Β ‘Παγκόσμιος Πόλεμος, ο οποίος έφερε τρομερή καταστροφή στην Πολωνία, σχεδόν εξαφάνισε τον Ποιμενικό Νιζινί. Ευτυχώς, ένας πολωνός κτηνίατρος, ο Dr. Danuta Hryniewics, ξεκίνησε τις προσπάθειες διάσωσης της φυλής με τη βοήθεια του δικού του Ποιμενικού Νιζινί, του Smok. Ο Smok, στη δεκαετία του 1950, έγινε πατέρας σε 10 γέννες και όλοι οι σημερινοί σκύλοι της φυλής έχουν γενεαλογική ρίζα από αυτόν και τα κουτάβια του.

Το 1979, ένας εκτροφέας Γενειοφόρων Κόλεϊ (Bearded Collie), έμαθε για την καταγωγή της φυλής που εξέτρεφε από τον Ποιμενικό Νιζινί και εισήγαγε τα πρώτα 2 σκυλιά στην Αμερική. Η φυλή αναγνωρίστηκε επίσημα από το American Kennel Club το 2001.

Ο Πολωνικός Ποιμενικός Νιζινί είναι το πιο δημοφιλές από όλες τις γηγενείς φυλές στην πατρίδα του και θεωρείται ανεπίσημα το εθνικό σκυλί της Πολωνίας.