Les baleines grises adultes sont des baleines à fanons (baleen whales), c'est-à-dire qu'elles ont des fanons au lieu de dents. Ces lames sont en kératine (comme ongles humains) et filtrent la nourriture de l'eau.
Elles se nourrissent principalement de minuscules crustacés : le krill et autres petits invertébrés comme les amphipodes et copépodes. Elles mangent aussi quelques petits poissons.
Pour trouver leur nourriture, elles utilisent une technique appelée « bouchage de boue » (mud-plugging) : elles aspirent de grandes quantités de sédiments du fond océanique, filtrent les particules alimentaires via leurs fanons, et recrachent boue et eau.