11’nci yüzyıl sonu 12’nci yüzyıl başlarında inşa edildiği düşünülen Karaman Kalesi; iç içe üç surdan oluşmaktadır. Bu surlar dış, orta ve iç kale olarak adlandırılmaktadır. Höyük üzerinde konumlanarak sağlamlığıyla yıllara meydan okuyan iç kale; Bronz Çağ, Roma ve Bizans çağlarına ait izler taşımaktadır. 1465 yılında Osmanlı devleti tarafından onarılan iç kalenin onarımında daha önce yıkılmış olan yapıların kitabeleri ve mimari parçaları beden duvarında kullanılmıştır.

Höyüğün etrafını dolaşan orta kale surları zamana yenik düşerek sadece bir bölümü ayakta kalabilmiştir.

Kale Selçuklular Dönemi’nde yenilenme görmüş, Karamanoğulları egemenliğine girmesiyle birlikte kentin surları tekrar yenilenmiştir. İhtişamıyla Karaman’ın önemli değerlerinden olan kale dördü yuvarlak, beşi köşe olmak üzere toplam dokuz kuleden oluşmaktadır.