Eski çağlardaki adı "Calpe" 'dir. Şimdiki adı ise Arap komutanı Tarık bin Ziyad'dan gelmektedir. Arapçada "cebel" dağ demektir. Cebel-i Târık, "Tarık'ın dağı" anlamına gelmektedir. Tarık, boğazın güvenliğini sağlamak için burada boğazın kuzeyinde bir kale yaptırmıştır. Cebelitarık 1462'de Araplardan, İspanyollara geçmiş 1502'de resmen İspanyol topraklarına katılmıştır. 24 temmuz 1704'te Birleşik Krallık-Hollanda deniz kuvvetleri tarafından ele geçirilmiştir, 1713 tarihindeki Utrecht Antlaşması'yla İspanya kaleyi Birleşik Krallık'a iade etmeyi kabul etmiştir.
