Nach einer japanischen Legende war der Ursprung der japanischen Rasse abhängig vom Ergebnis eines Sumo-Kampfes zwischen dem Gott Take-mikazuchi und dem Anführer eines rivalisierenden Stammes. Historiker sind sich heute einig, dass die Ursprünge des Sumo in der Tumulus Periode (250-552) liegen. Sumo wurde ursprünglich als Teil des Shinto-Rituals ausgeübt, um die Götter (kami) während bestimmter Festlichkeiten (Matsuri) zu unterhalten. Die Kämpfe waren bis dahin relativ regellos und endeten oft mit dem Tod. Während der Nara-Zeit (8. Jahrhundert) wurde Sumo in die Zeremonien des kaiserlichen Hofes eingeführt, Regeln formuliert und Techniken entwickelt. Vertreter der einzelnen Provinzen wurden angewiesen, am Wettbewerb (Sumai no sechie) teilzunehmen. Unter der 1192 gegründeten Militärdiktatur von Kamakura war Sumo vor allem militärisch nützlich und wurde als Mittel zur Steigerung der Effizienz der kämpfenden Männer betrachtet. In dieser kämpferischen Zeit entwickelten die Samurai aus dem Sumo das Jiu-Jitsu.
Mit der Herstellung des Friedens im Jahre 1603 unter dem Tokugawa-Shogunat begann eine Zeit des wirtschaftlichen Wohlstands, geprägt von der Machtübernahme der neuen kaufmännischen Klassen. Professionelle Sumo-Gruppen wurden organisiert, um der schnell wachsenden arbeitenden Klasse Unterhaltung und einen eigenen Nationalsport zu bieten. Der Japanische Sumo-Verband hat seinen Ursprung in diesen in der Edo-Periode gebildeten Gruppen. Spiele wurden abgehalten, um Geld für den Bau von Schreinen, Tempel oder Brücken zu akquirieren. 1791 wurden anlässlich eines Turniers zu Ehren des Shōgun Tokugawa Ienari viele religiöse Elemente der alten Shinto-Tradition in das Regelwerk eingeführt und seitdem beibehalten. Im Rahmen der zunehmenden Fixierung auf die westliche Welt wurde Sumo im 19.Jh. als rückständiges Relikt angesehen und der Status des Sportes sank. Erst 1884 wurde vom Meiji-tennō wieder ein Turnier abgehalten, welches die heutige Popularität gründete.
In der Geschichte des Sports, gibt es Aufzeichnungen über 68 Rikishi, die als Yokozuna gekrönt worden. Um eine Einstufung in den Rang eines Yokozuna zu erhalten, muss ein Rikishi zwei Turniere in Folge gewinnen. Derzeit besteht Sumo aus sechs großen Turnieren pro Jahr, genannt HON-Basho. Bis in das frühe 20. Jh. gab es nur zwei Basho pro Jahr, doch mit zunehmender Popularität, stieg die Zahl der großen Turniere zu vier Basho jährlich und wurde 1958 auf Turniere erweitert. Bis 1949 dauerte ein Basho nur 10 Tage; derzeit 15 Tage