Sul muro esterno della Colombaia si può leggere ancora la lapide fatta affiggere nel 1671 dal Principe Ligné, ed identica a quella posta nella vicina torre fatta edificare dallo stesso principe e di cui tuttora porta il nome.
La lapide ricorda i motivi per cui la Colombaia subì quelle modifiche. Ragioni che furono di sicurezza e di difesa dall' invasioni turche, ma che poi, in realtà, non servirono a nulla, in quanto finite le fortificazioni, le invasioni erano cessate.
Ma ecco cosa dice la lapide:
Auspicis Caroli Secundi
Hispaniarum et Siciliae Regis
Mariae Anna e Reginae Gubernatricis
Claudius La Moraldus Princeps de Ligné
Damblize
Et Sacri Romani Imperii Soveronus De Fagnolles
Siciliae Prore Vigilantissimus
Istius Regni securitati hoc propugnaculum
AnnoMDCLXXI
All' interno sono affissi anche gli stemmi del viceré Pacheco e quello di Filippo II di Sicilia e III di Spagna, e tra essi vi sono alcune lapidi precedenti al 1607.
Dagli archivi spagnoli di Simancas (vedi Guidoni Marino «Urbanistica e Disegni» e Giuffrè «Castelli»), nel XVI secolo la rifondazione delle piazzaforte fu affidata agli architetti Fratino, Brancazio, Scipione Campi e Antonio del Nobile, e nel XVII secolo a Carlo De Grunembergh. Si deve proprio a quest'ultimo il progetto della fortificazione dalla parte di terra in aggiunta alla cinta bastionata cinque-seicentesca.
"Il Castello (immeritatamente da Salmon «tenuto per una delle principali fortezze di questo regno», ma per il tecnico Campi degno invece di essere demolito) nello stesso manoscritto spagnolo sopra citato risulta avere avuto quattro altissimi torrioni, che ritroviamo nella pianta disegnata da Francesco Negro e che oggi rimangono solo in parte.Sono invece del tutto scomparsi i poderosi baluardi che cingevano d'intorno il monumento".
Così si trova scritto a pagina 204 de «II Libro delle Torri» di Salvatore Mazzarella e Renato Zanca, studiosi di fortezze e castelli.
Nell' ultimo secolo la Colombaia, fu adibita a carcere e solo da alcuni decenni definitivamente abbandonata.
Da ricordare che tra il 1849 e il' 60 al castello furono rinchiusi alcuni dei più noti patrioti del Risorgimento, quali Michele Fardella di Mokarta, che successivamente prese parte alla battaglia di Calatafimi.
Da alcuni decenni ha cessato di essere un penitenziario ed è stata abbandonato al destino di tutti i monumenti della città che hanno segnato e lasciato una traccia di storia di essa, cioè allo sfacelo. Negli ultimi anni tuttavia, ne è stata restaurata la Torre, che stava dando cenni di cedimento, soprattutto nella parte centrale, dove il peso della costruzione del faro era diventato insopportabile.
Sotto la guida degli architetti Filippo Terranova e Giovanni Vultaggio, almeno questa parte del Castello è tornato a splendere, ma adesso il pericolo sono i vandali, in quanto la struttura non ha custode e l' accesso, per quanto diviso dal mare, è raggiungibilissimo.