Проектирование началось в 1963 году. Ми-12 разрабатывался как сверхтяжёлый транспортный вертолёт с грузоподъёмностью не менее 30 тонн, для перевозки компонентов ракет.

Первый полет совершил 10 июля 1968, в феврале 1969 года поднял 31 030 кг полезной нагрузки на высоту 2 910 м. 6 августа 1969, Ми-12 поднял груз в 44 205 кг на высоту 2 255 м, установив мировой рекорд грузоподъёмности для вертолётов, который не побит до сих пор.

Первый Ми-12 с регистрационным номером CCCP-21142/H-833 был показан на выставке в Ле Бурже в 1971 году. Несмотря на достигнутые результаты по грузоподъёмности, программа была признана неэффективной, а всего было построено 2 прототипа.

В некоторых источниках упоминается третий прототип Ми-12, который якобы разбился во время испытаний, но эта информация не подтверждена.

Второй из летающих экземпляров является экспонатом музея ВВС России в Монино (Московская область). Первый находится на хранении в подмосковных Панках на территории Московского вертолётного завода на вечной стоянке.