Los shibas han existido en Japon desde hace mas de 2000 anios. La palabra shiba significa pequenio, un perro pequenio. El habitad del shiba era la zona montaniosa cerca del mar de Japon y fue utilizado como perro de caza de aves y pequenios animales.
En un comienzo habia sutiles diferencias en los perros de acuerdo a las distintas areas en donde vivian.
Con la apertura de Japon al Occidente, la caza se volvio un deporte popular y perros tales como el Setter Ingles y el Pointer fueron importados desde Inglaterra entre 1868 y 1912 y algunos de esos perros fueron cruzados con shibas, poniendo en peligro la raza ya que para 1928 era muy dificil encontrar shibas puros.

Algunos cazadores y personas educadas se preocuparon en mantener la pureza de los shibas y finalmente en 1934 se unificaron criterios para crear el primer estandar de la raza.
En 1937, el shiba fue nombrado monumento natural.Esto ayudo a que fuese mejorada hasta llegar a ser la raza que conocemos hoy. 

El numero de shibas en el mundo es limitado y aun mas en la Argentina, lo cual hace que sea importante mantener la calidad y salud de los ejemplares.