Родился 6 мая 1918 года в селе Монастырское Баландинского района Саратовской области, в большой крестьянской семье «маломощного середняка». Окончил сельскую школу-семилетку, учился в Аткарском педагогическом училище, откуда был призван в армию. С июля 1941 года воевал на Юго-Западном и Сталинградском фронтах, на Курской дуге. В 1942 году опубликовал первый очерк Наши герои в газете «Советский богатырь». В 1944–1945 годах служил за границей, в составе Группы советских войск. С 1951 года — член Союза писателей СССР. В 1957 году закончил Высшие литературные курсы при нём. Работал редактором «Воениздата». В 1968–1989 годах — главный редактор журнала «Москва». В 1978 году Алексееву было присвоено звание Героя Социалистического труда.
Первый роман Алексеева Солдаты впервые полностью опубликован в журнале «Сибирские огни» (1951–1953). Проблемам послевоенной армии посвящены повести Наследники (1956) и Дивизионка (1959).
О жизни послевоенной деревни рассказывают повесть в новеллах "Хлеб — имя существительное" (1963) и роман "Ивушка неплакучая" (книги 1–2, 1970–1975, Государственная премия СССР, 1976).
Последние 20 лет жизни Михаил Алексеев жил под Москвой в Переделкино. Ушёл из жизни 19 мая 2007 года в Москве. Похоронен писатель 23 мая на кладбище в посёлке Переделкино.