После массовой моторизации и механизации Красной Армии в 1930-х годах начали проектироваться сборно-разборные полевые трубопроводы. А в 1937 году на Дальнем Востоке во время учений впервые была осуществлена опытная прокладка трубопровода через реку Суйфун. Первый боевой опыт трубопроводные спецформирования получили на озере Хасан, на Халхин-Голе, а в предвоенные годы на крупнейших маневрах под Киевом и Харьковом.
Впервые в мире трубопроводные части массово использовались в СССР во время Великой Отечественной войны. Так, уже в октябре 1941 года под огнем вражеской артиллерии и авиации всего за 50 суток этими войсками для снабжения ГСМ Ленинграда по дну Ладожского озера был проложен трубопровод длиной 21 км и 8-километровый по берегу Ладоги. С октября 41-го по февраль 43-го по ним было доставлено около 45 000 тонн нефтепродуктов.
Именно положительный опыт работы трубопроводных частей в период войны и предопределил их создание в войсках на постоянной основе. И 14 января 1952 года было подписано постановление правительства, которое официально утвердило день создания трубопроводных войск. После этого части трубопроводных войск появились во всех военных округах на территории страны, а к концу 1980-х годов были созданы лучшие в мире полевые магистральные трубопроводы.
Отлично показали себя эти войска в ходе военных действий в Афганистане, где были развернуты трубопроводы общей протяженностью более 1,2 тыс. км, по которым было подано 5,4 миллиона тонн горючего для частей 40-й армии. Также трубопроводные войска были задействованы в контртеррористической операции на Северном Кавказе.
Свои разнообразные возможности они не раз подтверждали и в мирное время при ликвидации последствий чрезвычайных ситуаций природного и техногенного характера: тушении лесных пожаров при возгорании торфяников летом-осенью 1972 года под Москвой, ликвидации последствий аварии на Чернобыльской АЭС, во время землетрясения в Армении в 1989 году.
После недавних событий в Крыму трубопроводные войска стали первыми, кто на полуострове приступил к подаче пресной воды из артезианских скважин.
Сегодня основное «вооружение» войск составляют трубопроводы, трубомонтажная техника и другие средства механизации работ, а также специальные автомобили и средства связи. Главной их задачей является обеспечение непрерывной доставки горючего войскам на большие расстояния.