从1912年起，除1948年和1980年两届外，日本参加了其余各届奥运会，成绩不凡。1964年东京奥运会和1968年墨西哥城奥运会时，日本体育成绩达到了高峰，仅次于美国和前苏联队，排在了第三，这是日本队在奥运会上最辉煌的战绩。