Στο Βέλγιο, στο τέλος της δεκαετίας του 1800, υπήρχαν πάρα πολλοί ποιμενικοί σκύλοι με διαφορετική εμφάνιση και αρκετά διαφορετικά τρίχωμα. Οι Βελγικοί Ποιμενικοί εξελίχτηκαν σε διάφορες περιοχές της πατρίδας τους, από κτηνοτρόφους που χρειάζονταν ένα δυνατό, γρήγορο, ευέλικτο, θαρραλέο και έξυπνο τσοπανόσκυλο που θα είχε την αναγκαία αντοχή στο εξαιρετικά μεταβλητό κλίμα και τις ακραίες θερμοκρασίες της υπαίθρου. Η σχετική απομόνωση των κτηνοτροφικών αυτών κοινοτήτων και των κοπαδιών, επέφερε τις αλλαγές και τις ιδιαιτερότητες των τεσσάρων Βελγικών ποιμενικών φυλών που γνωρίζουμε σήμερα ως Γκρένενταλ (Groenendael), Τερβύρεν (Tervueren), Μαλινουά (Malinois) και του εξαιρετικά σπάνιου Λεκενουά (Laekenois). Σε αντίθεση με άλλες ευρωπαϊκές χώρες όπου, καθ’ όλη τη διάρκεια του 19ου αιώνα, οι φυλές ποιμενικών είχαν τυποποιηθεί και οι εκτροφείς κατέβαλαν προσπάθειες να τις διαιωνίσουν, ο Βελγικός Ποιμενικός ήταν πλέον απαρχαιωμένος και κινδύνευε με εξαφάνιση.

Το 1891 μια ομάδα κυνόφιλων με επικεφαλής τον καθηγητή Adolphe Reul της Κτηνιατρικής Σχολής των Βρυξελλών, δημιουργήθηκε το Club de Chien Berger Belge (Λέσχη Βελγικών Ποιμενικών) με σκοπό τη διάσωση του τύπου. Καθώς ο Βελγικός Ποιμενικός είχε εκτραφεί για πολλούς αιώνες για την εργασιακή του ικανότητα με ελάχιστη προσοχή στην εμφάνιση, ο καθηγητής συγκέντρωσε 117 δείγματα και ξεκίνησε τη διαδικασία τυποποίησής τους σε ξεχωριστές ποικιλίες. Για τα επόμενα χρόνια πραγματοποιήθηκε ένα πρόγραμμα αυστηρής και επιλεκτικής εκτροφής.

Μέχρι τις 3 Απριλίου του 1892, είχε συνταχθεί το πρώτο λεπτομερές πρότυπο της φυλής. Το Μαλινουά πιστεύεται ότι ήταν η πρώτη ποικιλία που εκτράφηκε πιστά στον τύπο και ξεκίνησε οι ρίζες του ξεκινούν από ένα αναπαραγωγικό ζευγάρι που ανήκε στον Adrien Janssens, έναν βοσκό από το Laeken. Το 1885, αγόρασε από έναν έμπορο βοοειδών στο βόρειο Βέλγιο έναν υπόξανθο σκύλο με τραχύ τρίχωμα με το όνομα Vos (που στα φλαμανδικά σημαίνει αλεπού). Τον χρησιμοποίησε ως τσοπανόσκυλο για το κοπάδι του και τον ζευγάρωσε την Lise, ένα σκυλί με κοντό και καφέ-ραβδωτό (τιγρέ) τρίχωμα. Σήμερα, ο Vos και η Lise αναγνωρίζονται ως πρόγονοι όχι μόνο των σύγχρονων Βελγικών Ποιμενικών, αλλά και άλλων φυλών όπως το Μπουβιέ της Φλάνδρας (Bouvier des Flandres) και των Ολλανδικών Ποιμενικών (Dutch Shepherd Dog).

Κατά τις δεκαετίες του 1920 και του 1930, άρχισαν να λειτουργούν στο Βέλγιο πολλά εξαιρετικά εκτροφεία του Μαλινουά. Κατά τις πρώτες δεκαετίες του 20ου αιώνα, το Μαλινουά και το Γκρένενταλ ήταν οι πιο δημοφιλείς ποικιλίες των Βελγικών Ποιμενικών και κατατάσσονταν μεταξύ των πέντε κορυφαίων φυλών. Άρχισαν να εξάγονται και να διαδίδονται σε άλλες χώρες όπως η Ολλανδία, η Γαλλία, η Ελβετία, ο Καναδάς, οι Ηνωμένες Πολιτείες, η Αργεντινή και η Βραζιλία. Ο Βελγικός Ποιμενικός αναγνωρίστηκε επίσημα από τη Διεθνή Κυνολογική Ομοσπονδία (FCI) το 1956 ως μία φυλή με τέσσερις ξεχωριστές ποικιλίες (Γκρένενταλ, Τερβύρεν, Μαλινουά και Λεκενουά).