Roku 308 př.n.l. se Ptolemaiovi II. narodil syn Phiadephos. Ten se později stal králem říše Ptolemajovců v Egyptě, kam tehdy patřil i ostrov Kos a sousední ostrovy. V roce 146 př.n.l. se Řecko stalo římskou provincií, ovšem Kos a sousední ostrovy zůstaly svobodné. Roku 82 př.n.l. byl Kos a další ostrovy přičleněny k římské provincii zvané Asie.

Kolem roku 50 apoštol Pavel cestoval přes Řecko, aby tu šířil učení Kristovo. Našel sice mnoho následovníků, ale křesťanům se dobře nevedlo. Jejich pronásledování se zastavilo až v roce 313, kdy císař Konstantin vydal zákon, který to zakazoval. V této době vzniklo mnoho mistrovských děl historické architektury, některé z nich jsou ještě dnes volně přístupné návštěvníkům, některé pouze ve svých zbytcích.

V roce 395 došlo k rozdělení Římské říše. Řecko se stálo součástí její východní části, která našla jakési pokračování v Byzanci. Během tohoto období bylo postaveno mnoho kostelů a začal se zde rozvíjet samostatný umělecký styl. Roku 554 otřáslo ostrovem silné zemětřesení a mnoho staveb se zřítilo, zcela zničen byl Asklepion.

V roce 1204 se vypravili benátští křižáci z "ekonomických důvodů" do Konstantinopole. Poté, co vyplenili město, byla Byzantská říše rozdělena na jednotlivá knížectví. Od této doby byl tedy ostrov Kos ovládán Benátčany. Po urputných bojích dobyl ostrov zpět v roce 1262 byzantský císař Michael Palaiogos. Roku 1307 ho musel ale císař postoupit Janovanům, kteří mu pomohli ve válce proti Benátkám a proti franštím rytířům.

Rytíři řádu Sv. Jana ovládli roku 1309 ostrov Rhodos a v následujícím roce byl janovský ostrov Kos prodán křižákům, kteří pak během několika let ovládli všechny ostatní Dodekanské ostrovy, kromě Patmosu. Ihned po převzetí moci tuto byzantskou pevnost zrekonstruovali, obnovili a rozšířili. Mnoho hradů, tvrzí a jiných památek bylo vybudováno po celém ostrově. Cílem bylo chránit se před piráty a hlavně proti Turkům.