Boğazın en dar noktasında ve Anadolu Hisarı'nın tam karşısındadır. 1452 yılında II. Mehmet tarafından İstanbul'un fethini kolaylaştırmak, Boğaz'dan gelecek yardımı kesmek için yapılmış ve inşaatı sadece 4 ay sürmüştür. Planı kabaca dörtgen biçiminde, uzunluğu yaklaşık 250 m, eni ise 50-125 m arasında değişmektedir. Uzun kenarı itibariyle kıyıya paralel olarak uzanır.

Dörtgenin kuzey ucunda Sarıca Paşa Kulesi, güney ucunda ise Zaganos Paşa Kulesi yer almaktadır. Herbiri yapımı yönetmiş olan Paşa'nın adını almış üç kule vardır. Ortada ise Halil Paşa Kulesi vardır. Kalenin beden duvarları üstünde seğirdim yolu yer almaktadır. Bir savunma önlemi olarak seğirdim yolu hisarı çepeçevre olacak şekilde yapılmıştır; bütün burçlarda kesintiye uğramaktadır. Böylelikle, düşman beden duvarını bir aşıp seğirdim yoluna ulaşırsa, her iki yöndende ilerleyebilmek için de karşısına çıkan burcun içinden geçmek zorundaydı.

Rumeli Hisarı, Osmanlıların eline geçtikten sonra önemini yitirdi. Zamanla içine ahşap evler yapılmış, böylelikle konut bölgesi haline gelmiştir. 1918'de bir ölçüde onarılmıştır. 1953'te ise, içindeki bütün evler yıkılarak büyük bir onarımdan geçmiştir. Bahçesi park olarak düzenlenmiş, yalnız minaresi kalan ortadaki camiinin yeri, arazinin eğiminden yararlanılarak açık hava tiyatrosuna çevrilmiştir. Günümüzde de Rumeli Hisarları konseri ismiyle burada her yaz etkinlikler düzenlenmektedir.