En fait, on ne sait pas grand-chose sur l'origine du Schipperke. Aujourd'hui encore, les cynologues ne parviennent pas à se mettre d'accord sur la question de savoir si le Schipperke descend du Spitz, du Terrier ou de la famille des Bergers Belges.
Les anciennes autorités belges croyaient néanmoins savoir que cette race provenait avant tout des Flandres et de la Province d'Anvers. Au XVe siècle, un moine raconte l'histoire singulière d'une violente dispute entre deux artisans.
Le sujet de leur querelle fut un collier en cuivre ciselé, fabriqué à la main, pour un chien qui ressemblait étrangement à un Schipperke. Fou de rage, le vaincu aurait attiré le chien de son rival dans sa maison où il lui aurait coupé la queue. Lors du défilé du dimanche suivant, le chien sans queue fut tellement admiré de tout le monde, que désormais la queue de tous les Schipperke fut coupée.
Par ailleurs, on sait que les cordonniers du quartier St. Géry (Bruxelles) présentèrent, en 1690 déjà, une exposition canine de Schipperke. Pour les artisans, il s'agissait avant tout de présenter leurs colliers en cuivre ciselé.
150 ans plus tard (1830 – 1840) le Schipperke était toujours parfaitement à la mode, et les colliers étant à cette époque-là encore plus sophistiqués, plus larges et parfaitement polis.
Toute la fierté de l'artisan résidait dans un beau collier et le Shipperke. C'est ainsi que le dimanche, on voyait les cordonniers sortir, avec ou sans famille, mais jamais sans Schipperke. Même s'ils oubliaient parfois de polir leurs propres bottes, ils n'oubliaient jamais de polir le collier du chien.
En 1883, le Schipperke fut inscrit dans le LOSH (Livre des Origines Saint-Hubert) de la Belgique en tant que «Terrier», ce qui lui correspondait mieux que «Spitz». En effet, un lien de parenté avec les terriers peut être imaginé, car ils sont aujourd'hui encore des chasseurs passionnés de souris et de rats. Ce tempérament de chasseur est propre à de nombreuses races de terriers. Les matelots ayant eux aussi reconnus les avantages du Schipperke le prirent désormais sur les bateaux fluviaux. C'est de là qu'est né le terme de «Schifferspitz» (Spitz du batelier).
Dans le Livre des Origines de la Société Royale Saint-Hubert, le Schipperke est mentionné dans ses premiers enregistrements comme petit chien de berger, avec la précision «pour garder les troupeaux de moutons et d'oies».
Avant la définition du premier standard en 1888, il existait trois différents types de Schipperke. On les retrouve aujourd'hui encore dans les portées.
Il y a le type de Louvain, avec un poil lisse et peu de collerette, une tête allongée et des oreilles droites proches l'une de l'autre.
Le type de Bruxelles présente une belle robe avec une splendide crinière, la tête est courte et large, les oreilles sont longues et à peu de distance l'une de l'autre. Le Schipperke d'Anvers est un peu entre les deux: il est d'une carrure compacte, avec une collerette bien touffue et des pantalons (aux pattes arrières), un poil court sur le corps et les jambes. Le Schipperke ne se catégorise pas en centimètres, mais se juge en kilos. Au début, il existait trois catégories de poids : 3 kg / 3 à 5 kg / 5 à 9 kg. Et plus tard, 3 à 4 kg / 4 à 5 kg / 5 à 9 kg. Un nouveau changement est survenu le 15 novembre 1975, déterminant deux nouvelles catégories de poids: 3 à 5 kg et 5 à 8 kg. Elles sont encore valables aujourd'hui.
Avant la fin du siècledernier, le Schipperke existait en différentes couleurs. Bien que le Club belge du Schipperke ait décidé en 1888 de ne reconnaître plus que les spécimens noirs, en Angleterre, les éleveurs continuaient de faire l'élevage de Schipperke d'autres couleurs. En Afrique du Sud également, on estime que 50% des Schipperke sont bruns.