Die Stadt wurde 408 v.C. als Hauptstadt gegründet. Anlass dazu gaben die Städte Ialysos, Kameiros und Lindos, denn sie brauchten einen gemeinsamen Verwaltungssitz für die Insel und dessen Bewohner. 
Maßgebend für die Stadtstruktur sind die Prinzipien des Hippodamos mit dem orthogonalen Straßensystem. (Dies sieht man vorallem in Luftbildern der Stadt.) Durch ständige Herrschaftswechsel und Machtkämpfe entstanden immer wieder unterschiedliche Kulturen. Deshalb ist die Insel geprägt vom Bau vieler Moscheen, Basiliken, Badehäusern und großzügiger Wohnhäuser.


Anfang des 20. Jahrhunderts eroberte Italien die Insel und die zerstörten Gebäude aus der Ritterzeit wurden restauriert. Ebenfalls entstand ein neuer Stadtteil, dessen Stadtstrukturen von der Altstadt im wesentlichen geändert wurden. Die Altstadt ist bis heute von einer Stadtmauer umgeben.
Seit 1947 gehört Rhodos zu Griechenland und auch der Euro wurde als Währung eingeführt.



Die Altstadt von Rhodos gehört seit 1988 zum UNESCO Weltkulturerbe.