Les petits rorquals se trouvent dans tous les océans sauf l'océan Arctique. Dans l'hémisphère nord, ils habitent l'Atlantique Nord et le Pacifique Nord, du Groenland et l'Islande à la Méditerranée, et de l'Alaska au Japon. Dans l'hémisphère sud, ils sont présents dans l'océan Austral autour de l'Antarctique et dans l'Atlantique Sud et le Pacifique Sud. Ils préfèrent les eaux plus froides et sont souvent observés près des côtes, ce qui les rend accessibles pour l'observation des baleines. Leur distribution est influencée par la température de l'eau, la disponibilité de nourriture comme le krill, et les migrations de reproduction.