Окончил Петербургский горный институт в 1902 году, позже служил в институте профессором в 1912—1917 годах.
В 1917 году Николай Крылов переехал в Крым, где до 1922 года служил профессором Крымского университета; с 1917 года также профессор Киевского университета.
В 1922—1945 годах возглавлял отдел математической физики Академии наук УССР.
Опубликовал около 180 книг и статей по математической физике и математике.
Основные труды относятся к интерполяции, приближённому интегрированию дифференциальных уравнений математической физики, нелинейной механике.
Разработал ряд новых методов решения задач математической физики, приложимых как для доказательства существования решений, так и для фактического их построения.
С 1932 года Н.М. Крылов совместно с Николаем Боголюбовым большую часть своей научной деятельности посвящал проблемам теории нелинейных колебательных процессов, в которой им удалось заложить основы нелинейной механики.
Награждён орденом Ленина (1949), двумя орденами Трудового Красного Знамени (1944, 1945), медалями.
Его избирали членом-корреспондентом Коимбраского университета (1924, Португалия), членом Американского математического общества (1924), Французского физического общества (1924), Итальянской математической ассоциации (1924), Французского математического общества (1924), Математического общества в Палермо (1924).
Умер 11 мая 1955 года в Москве.
30 ноября 1963 года на фасаде здания на улице Ленина (ныне Богдана Хмельницкого), 15, где в 1929—1941 гг. работал выдающийся советский ученый-математик заслуженный деятель науки УССР академик Николай Митрофанович Крылов, была открыта мемориальная доска (мрамор; архитектор И.Л. Шмульсон).
В 1964 году в АН УССР была учреждена премия имени Н.М. Крылова.
Институт математики НАН УкраиныЕнциклопедiя Сучасної УкраїниВикипедияМатематический институт им. В.А. СтекловаБоголюбов A.Н., Урбанский B.М «Николай Митрофанович Крылов»Мемориальная доска Н.М. Крылову в Киеве