Карбышев - участник Первой мировой войны с самого ее начала. С 1918 года в Красной Армии. В 1923–1926 годах председатель Инженерного комитета Главного военно-инженерного управления РККА. С 1926 года он – преподаватель в Военной академии имени М.В. Фрунзе. В феврале 1934 года – начальник кафедры военно-инженерного дела Военной Академии Генштаба.
В 1938 году окончил Военную академию Генерального штаба и был утверждён в учёном звании профессора. В 1940 году ему присвоено звание генерал-лейтенанта инженерных войск. Он опубликовал более 100 научных трудов по военно-инженерному искусству и военной истории.
Участник советско-финской войны 1939-1940 годов. Участвовал в разработке рекомендаций войскам по инженерному обеспечению прорыва линии Маннергейма.
Великая Отечественная война застала Карбышева в штабе 3-й армии в Гродно. В августе 1941 года при попытке выйти из окружения он был тяжело контужен в бою в районе Днепра. В бессознательном состоянии был захвачен в плен. Содержался в немецких концентрационных лагерях. Несмотря на свой возраст, был одним из активных руководителей лагерного движения сопротивления.
В ночь на 18 февраля 1945 года в концлагере Маутхаузен (Австрия) Дмитрий Михайлович Карбышев, в числе других заключённых (около 500 человек), был облит водой на морозе и погиб. Стал символом несгибаемой воли и стойкости.