Al van oudsher is de Shiba een inheems Japans ras. Rond het jaar 7000 v. Chr. zouden voorouders van onze huidige Shiba de eerste immigranten naar Japan, de Jomonjin, vergezeld hebben. Archeologische opgravingen tonen aan dat zij inderdaad kleine honden hadden. In de derde eeuw v. Chr. bracht een nieuwe groep immigranten hun honden mee naar Japan. Deze honden werden gekruist met de nakomelingen van de Jomonjin, en hieruit ontstonden honden met rechtopstaande oren en een gekrulde staart. 

“Shiba” betekent “klein”, maar ook “kreupelhout”. De honden zouden dus vernoemd kunnen zijn naar het kreupelhout waarin zij joegen, en wat in de herfst diep rood van kleur is. Shiba’s werden gebruikt bij het jagen op kleine dieren en veerwild.

Er waren kleine verschillen in de honden afhankelijk van de regio waar ze voorkwamen. Toen in de periode van 1868-1912 honden als Engelse Setters en Engelse Pointers geïmporteerd werden uit Engeland, werd jagen een sport in Japan. De Shiba’s werden met deze honden gekruist, en de Shiba werd zeer zeldzaam. Op 5 mei 1928 besloten Dr. Hirokichi Saito en zijn team tot oprichting van de “NIHONKEN HOZONKAI”(Vereniging tot bescherming van de Japanse hond), ook wel aangeduid als "NIPPO".

In 1934 werd de Shiba in een officiële rasstandaard omschreven, en in 1937 werd de Shiba aangewezen als “natuurlijk monument”. Na de oorlog werden er Shiba’s gehaald vanuit het afgelegen platteland, en er werden fokprogramma’s opgezet. De restanten van de verschillende bloedlijnen werden gecombineerd tot de Shiba het superieure ras werd wat we heden ten dage kennen.

Naka                        
Dit is “Naka”, een reu geboren in 1948. Naka was de eerste Shiba die een Nippo-tentoonstelling won. (Een Japanse rassen tentoonstelling in Japan)
‘Naka’ werd de basis-dekreu van vier beroemde bloedlijnen in Japan.