Орден «За службу Родине в Вооружённых Силах СССР» учреждён Указом Президиума Верховного Совета СССР от 28 октября 1974 года.

Орденом «За службу Родине в Вооружённых Силах СССР» награждались военнослужащие Советской Армии, Военно-Морского Флота, пограничных и внутренних войск ВС СССР:

• за успехи, достигнутые в боевой и политической подготовке, поддержании высокой боевой готовности войск и освоении новой боевой техники;
• за высокие показатели в служебной деятельности;
• за успешное выполнение специальных заданий командования;
• за отвагу и самоотверженность, проявленные при исполнении воинского долга;
• за другие заслуги перед Родиной во время службы в Вооружённых Силах СССР.

Орден «За службу Родине в Вооружённых Силах СССР» состоит из трёх степеней: I, II, и III степени.

Награждение орденом I степени было произведено всего 13 раз, что делает его самым редким орденом СССР — более редким, чем орден «Победа» (20 награждений).