Представитель русского импрессионизма, создавший также целый ряд эталонных соцреалистических картин. Родился в Можайске 14 (26) сентября 1885 в крестьянской семье. Занимался в московском Строгановском художественно-промышленном училище (1901–1907), а также в Училище живописи, ваяния и зодчества (1907–1912), где его наставниками были С.В.Иванов и К.А.Коровин. Был членом объединений «Маковец», «Общество московских художников» и АХРР. Жил в Москве и Можайске, где в 1915 построил себе дом-мастерскую.
В ранней живописи художника (Фронтовик, 1926, Третьяковская галерея, Москва) проступают черты умеренного кубизма («сезаннизма»). В Клятве сибирских партизан (1933, Русский музей, Петербург) он осваивает принципы революционно-пропагандистской «тематической картины». Если этот образ запоминается своей жесткой суровостью, то знаменитый Колхозный праздник (1937, Третьяковская галерея) выглядит как сценическая красочная феерия, сотканная из отдельных «сочных» кусочков. Одним из известнейших живописных полотен о войне стала герасимовская Мать партизана (1943–1950, там же). Сквозь все творчество мастера проходят реальные впечатления постреволюционных потрясений и бед – прежде всего в повторяющихся мотивах соседствующего с его домом Лужецкого монастыря, разрушенного и варварски разоренного после его закрытия в 1926. В простых по сюжету, лирически-задушевных пейзажах (серия Можайские пейзажи, 1954, там же; и др.) живописный импрессионизм Герасимова выразился наиболее органично. Окружающая реальность неразрывно соединилась в этих композициях с воспоминаниями о русской провинциальной старине.
Проявил себя как опытный педагог (преподавал, еще с 1912, в художественной школе при типолитографии И.Д.Сытина, а затем во Вхутемасе – Высших художественно-технических мастерских, и других институтах), а также умелый и чуткий администратор, завоевав в середине века прочную репутацию осторожного, но стойкого либерала (за что в 1948 был уволен с поста директора Московского художественного института имени В.И.Сурикова). Занимал также посты директора Московского высшего художественно-промышленного училища (бывшего Строгановского; 1950–1964) и Первого секретаря правления Союза художников СССР (1958–1964). Был лауреатом Ленинской премии (1966). Его официальные выступления собраны в книге Об искусстве (1973).
Умер Герасимов в Москве 20 апреля 1964.