Первоначально погоны носили практический смысл. С их помощью держался ремень патронной сумки. Поэтому и погон поначалу имелся только один, на левом плече, так как патронная сумка носилась на правом боку. В большинстве флотов мира погоны не употреблялись, а ранг обозначался нашивками на рукаве — моряки патронную сумку не носили.
В России погоны появились на военной одежде при Петре I. С 1762 года была предпринята попытка сделать погон средством различения солдат и офицеров.
После Октябрьской революции 1917 года в России декретом Совнаркома РСФСР были отменены погоны в армии и нашивки во флоте, как символ неравенства. Отменены были и воинские звания. Военнослужащие различались лишь по должностям. В качестве знаков различия в ходе Гражданской войны были введены нашивки на рукава в виде геометрических фигур, обозначавших должность военнослужащего.
В январе 1919 года были учреждены знаки различия по родам войск и знаки различия командного состава военнослужащих Красной Армии. В сентябре 1921 года были введены первые знаки различия и во флоте.
Первые знаки отличия в виде пятиконечной звезды поверх венка из лавровой и дубовой веток, с эмблемой в виде плуга и молота в центре, носили красноармейцы на левой стороне груди и на левой петлице. Во флоте первые знаки различия в виде нарукавных нашивок красного цвета с красной звездой в золотой окантовке нашивали на левый рукав.
Во время Великой Отечественной войны в Вооружённых Силах СССР 6 января 1943 года были введены новые знаки различия для личного состава Красной Армии — погоны. Для личного состава Военно-Морского флота они были введены месяцем позже — 15 февраля.