Пистолет системы Макарова был создан в ответ на требование Советской Армии разработать новый пистолет для самообороны офицерского состава, боле компактный и безопасный в обращении, чем пистолет Токарева ТТ, но, при этом, обладающий большим останавливающим действием пули. Требованиями оговаривался компактный пистолет с самовзводным ударно-спусковым механизмом и со свободным затвором. Первоначально был разработан новый патрон калибра 9мм, имевший длину гильзы 18 мм и по мощности представлявший собой тот разумный максимум, что можно использовать в пистолете со свободным затвором. В основу этой разработки легли довоенные немецкие работы в том же направлении, приведшие к созданию фирмой GECO патрона 9х18мм Ультра. Нужно отметить, что невзирая на одинаковые обозначения, патрон пистолета ПМ невзаимозаменяем с немецким, так как имеет больший диаметр пули. Под новый патрон затем были созданы и в 1951 году приняты на вооружение два пистолета: пистолет Макарова - личное оружие самообороны офицеров, и более мощный пистолет для самообороны рядового состава, расчетов орудий и экипажей танков - автоматический пистолет Стечкина АПС.

Вплоть до начала 1990х годов ПМ оставался основным оружием самообороны военнослужащих, а также основным оружием милиции. Однако изменение ситуации в мире привело к необходимости принятия на вооружение более мощного и эффективного личного оружия, разработка которого была начата в рамках конкурса "Грач". Для этого конкурса были разработаны усиленный вариант патрона 9х18мм ПММ, имевший более легкую пулю и усиленный заряд пороха, разгонявший новую пулю до 430 м/с вместо обычных 315 м/с. Кроме того, на базе ПМ был создан пистолет ПММ, адаптированный под новые патроны и имевший повышенную до 12 патронов емкость магазина, для чего пришлось увеличить ширину рукоятки пистолета. Кроме того, ПММ приобрел несколько улучшенные щечки рукоятки. Тем не менее, в 2000 году было объявлено, что конкурс "Грач" выиграл пистолет Ярыгина, созданный на Ижевском Механическом Заводе под индексом МР-443. Таким образом, ПМ будет постепенно сниматься с вооружения ВС, МВД и иных силовых структур России, заменяясь на ПЯ и другие современные пистолеты, однако, в силу тяжелого финансового состояния страны в целом процесс этот будет небыстрым и займет не один год.