Первые проекты тепловозов появились в России в начале XX в. в 1905 г. Н.Г. Кузнецов и А.И. Одинцов; в 1908 г. Ю.В. Ломоносов совместно с А. И. Липецем; в 1916 г. Б.М. Ошурков, Е.Н. Тихомиров и А.Н. Шелест под руководством В.И. Гриневецкого; в 1921 г. Я.М. Гаккель.
Первыми в мире магистральными тепловозами (1924 г.) стали советские системы Я.М. Гаккеля и Ээл2 системы Ю.В. Ломоносова. Сам этот факт явился мировой технической сенсацией и послужил толчком к появлению тепловозостроения как отрасли промышленности во всем мире и стал фактическим началом перехода на тепловозную тягу железных дорог. Скептики воочию убедились, что локомотив с двигателем Дизеля имеет тяговую характеристику, пригодную для работы с поездами.
Серийный выпуск первых тепловозов с 1931 г. начал Коломенский паровозостроительный завод. Но ввиду низкой технико-экономической эффективности они были сняты с производства. В 1947 г. выпуск тепловозов возобновился на Харьковском заводе транспортного машиностроения (ХЗТМ). Одна за другой последовали серии ТЭ1, ТЭ2, ТЭЗ. В начале 1950-х гг. производство тепловозов было организовано, помимо паровозостроительных заводов (Луганского, Коломенского и др.), на ряде крупных предприятий машиностроения. Сначала тепловозами заменяли паровозы, главным образом, на маневровой работе. Позднее появилась тенденция к созданию универсальных мощных тепловозов как для грузового, так и для пассажирского движения.
Наибольшее распространение получили тепловозы тележечного типа с электрической передачей. Помимо упомянутых, в разное время выпускались ТЭШО, 2ТЭ10, ТЭП60, ТЭП70, 2ТЭ116 и др.
В конце 1950-начале 1960 гг. на тепловозостроительных заводах разработан ряд конструкций тепловозов с гидравлической передачей как для поездной, так и для маневровой работы. На Людиновском, Муромском и Камбарском машиностроительных заводах был налажен их выпуск.
Кроме магистральных, производились тепловозы узкой колеи, а также массовыми сериями тепловозы небольшой мощности, предназначенные для промышленного транспорта.
После прекращения выпуска паровозов тепловозы стали основным видом тяги и вместе с электровозами приняли на себя как грузовые, так и пассажирские перевозки, а также маневровую работу и транспортное обслуживание промышленных предприятий.
