Рельеф территории НАО в основном равнинный; выделяются древний Тиманский кряж и хребет Пай-Хой (высота до 467 м), заболоченные участки Большеземельской и Малоземельской тундры.

В рельефе округа можно выделить 5 районов:
1. Канинский кряж
2. Канино-Тиманская тундра
3. Тиманский кряж
4. Печорская низменность: Большеземельская и Малоземельская тундры
5. Хребет Пай-Хой

Канинский кряж – холмистая гряда, расположен на севере п-ва Канин. Максимальная высота – 242 м (г. Моховая).
Канино-Тиманская тундра – заболоченная низкая равнина, расположена в средней и южной части п-ва Канин и материковой части от Мезенской губы до р. Пеши. В геоструктурном отношении принадлежит к Русской плите. Вдоль побережья широко представлена лайда – низкая затопляемая морем терраса.
Тиманский кряж – древнее, сильно разрушенное, горное образование, представлен 4 параллельными грядами: Каменноугольная гряда, Чайцынский Камень, Тиманский Камень, Косминский Камень. Максимальная высота – 301м (г. Большая Коврига).
Печорская низменность – неровная поверхность,  имеющая уклон в сторону моря. Район испытал длительное опускание древнего фундамента, в результате чего накопились мощные отложения. Малоземельская тундра слабоволнистая, расположена между Тиманским кряжем и р. Печорой. Распространены мусюры (Ненецкая гряда). Большеземельская тундра – холмистая равнина. Множество мусюров: Вангурей-мусюр, Сёмужий мусюр, Белужий мусюр, гряда Чернышева  и гряда Чернова.
Хребет Пай-Хой – система небольших горных хребтов, расположен на востоке округа, на юго-востоке сливается с западными склонами Полярного Урала. Самая высокая точка округа находится на Пай-Хое – гора Мореиз (467м).

В северной части Пай-Хоя находится Карская впадина. Здесь наблюдаются отложения кайнозойсакой эры. Наличие мела говорит о том, что здесь было море, богатое моллюсками. Это древний метеоритный кратер. Доказательством являются следы удара и переплавления горных пород из-за взрыва. Метеоритные кратеры есть и на Северном Тимане.

Территория округа с конца мезозоя и до начала кайнозойской эры в течение 70 млн.лет не была залита морем. Здесь находилась суша. В начале кайнозойской эры произошло резкое изменение климата в сторону похолодания и оледенения территории. Считается, что ледник наступал трижды. Когда ледник отступал, он оставлял морёные холмы и гряды – мусюры.