Las dos terceras partes de sus 532.000 kilómetros cuadrados están deshabitadas. Arabia Saudí y Omán son sus vecinos más próximos. Situada en el suroeste de la península arábiga, bañan sus costas el Mar rojo y el Golfo de Aden. La topografía del país es una de las más variadas de la Península Arábiga. Las montañas del oeste se elevan desde la costa de Tihama hasta los 3.000 metros. El pico más alto es el Jaban al- Nabi Shu`ayb, que se eleva 3.700 metros por encima del nivel del mar. Entre el oeste y las menores montañas del este, se encuentran fértiles llanuras sobre los 2.000 metros. La capital San`a está situada a una altitud de 2.250 metros.

Parte de las tierras altas son zonas volcánicas activas con fuentes termales y eventuales terremotos. Las montañas del este descienden hasta los 1.000 metros hacia la frontera con Omán. En el norte emergen las vastas arenas del desierto arábigo ar-Ruba` al-Khali que se extienden hacia el sur, llegando hasta la mitad del territorio del país.