Йемен расположен на Ближнем Востоке в юго-западной части Аравийского полуострова. На востоке страна граничит с Оманом, а на севере - с Саудовской Аравией. Западное побережье Йемена омывается водами Красного моря, юго-западное - водами Баб-эль-Мандебского пролива, южное - водами Аденского залива и Аравийского моря. Баб-эль-Мандебский пролив отделяет Аравийский полуостров от Африки и является одним из самых загруженных водных путей в мире. В состав государства также входят многочисленные острова Красного моря, самые крупные из которых Ханиш, Камаран и Перим, и острова Аравийского моря, среди которых выделяется остров Сокотра, являющийся самым большим островом страны. Общая площадь страны - 527 970 кв. км.
Вдоль всего побережья Йемена тянется узкая полупустынная полоса равнин. Протяженность её составляет 2400 км, а ширина колеблется от 3 до 60 км. На западном побережье страны область равнин называется Тихама, она имеет протяжённость 419 км. На востоке Тихама резко переходит в гористое плато, которое занимает большую часть территории страны и имеет высоты от 200 до практически 4000 м. В западной части плато в окрестностях столицы Йемена расположена максимальная отметка не только государства, но и всего Аравийского полуострова - гора Эн-Наби-Шаиб (3766 м). От южных частей горных районов к восточным границам страны тянется невысокое вулканическое плато, где время от времени случаются землетрясения. В северной и северо-восточной частях страны простираются две пустыни, относящиеся к обширной пустынной зоне Руб-эль-Хали: Рамлат-эс-Сабатайн и Шикак-эль-Маатиф.
Практически все реки Йемена являются временными, то есть в засушливый период они пересыхают. Они называются "вади". Единственная непересыхающая река страны - Масила. Она протекает в восточной части Йемена и впадает в Аравийское море.
В состав государства входит около 120 островов, большинство из которых расположено в Красном море. Многие острова имеют вулканическое происхождение, также есть коралловые острова. В Аравийском море, почти в 200 км от южного побережья страны, лежит самый большой остров государства - Сокотра. Остров известен своим богатым животным и растительным миром и песчаными пляжами, которые популярны среди туристов.