Педагогическая деятельность М. В. Остроградского началась 1 октября 1828 г. в офицерских классах Морского кадетского корпуса, в которых он преподавал курс математики и, долгое время, начертательную геометрию. Летом 1830 г. он был зачислен профессором Института корпуса путей сообщения, но приступил там к чтению лекций только спустя год после зачисления. Здесь он вел курс аналитической механики. В конце января 1831 г. Остроградский был приглашен профессором Главного педагогического института и читал там разнообразные курсы как по математике, так и по механике. Со всеми этими учебными заведениями он не порывал связи до конца своей жизни.

Летом 1840 г. к этой уже весьма напряженной педагогической деятельности прибавилось преподавание в Главном инженерном училище, а через год - также и в Главном артиллерийском училище. В то же время он был утвержден главным наблюдателем за преподаванием математических наук как в военно-учебных заведениях, так и в учебных заведениях корпуса путей сообщения.

Эти последние назначения наложили на Остроградского огромные и разнообразные дополнительные обязанности. Так, в частности, он предлагал темы пробных лекций для лиц, желающих получить должность преподавателя математики в одном из военно-ученых заведений России, слушал и критиковал эти пробные лекции, участвовал в выработке программ и рецензировании учебников.

Кроме того, Остроградский сам писал учебники, которые издавались как типографским, так и литографским способами. Известны его лекции по небесной механике, аналитической механике, алгебраическому анализу, дифференциальному и интегральному исчислениям, аналитической геометрии. Далее, был издан его учебник элементарной геометрии, конспект курса тригонометрии, брошюра о принципах преподавания детям и политехнические таблицы. Последние два произведения были написаны совместно с профессором А. Блумом. Книги Остроградского находили исключительно доброжелательный прием и оказывали огромное воздействие на молодежь.

Основную цель образования Остроградский видел в том, чтобы развить у учащихся способность анализировать наблюдаемые явления и пробудить в них желание и способность мыслить самостоятельно, не просто заучивать пройденное, а понимать его и научиться применять к поручаемому делу. Лучше учится не тот, кто усердно запоминает прочитанное, а тот, кто приобретает умение применять пройденное к своему делу! Эту мысль отстаивал Остроградский постоянно и именно поэтому он особенно ценил учащихся, обладавших сообразительностью и способностью самостоятельно решать встречавшиеся в их работе задачи.