Археологические находки пещеры Белый Камень, на возвышенности Зини Кефолоса, доказывают, что этот остров был заселен уже в доисторический период.

Систематическое изучение и исследование обогатилось новыми открытиями относящиеся к раннему бронзовому веку и характеризуется как постнеолитический период доисторической Греции (2900-2100 г. до н.э.). Тогда было зафиксировано большое движение пеласгов по всему греческому полуострову, Эгейскому морю, Малой Азии и Кипру. В городе Кос первое обоснование жителей приходится, примерно, на 2300-2000 г. до н.э. Длительное влияние как минойской культуры так и, в большей степени, микенской культуры оставило за собой значительные следы (1600-1150 г. до н.э.).
После Троянской войны, в которой о.Кос и близлежащие острова приняли участия в кол-ве 30 кораблей, начинается так называемое «Дорийское вторжение», которое отображается в островах и малоазиатских побережьях.
Преобладает мнение, что эти новые жители острова имеют свое начало из Арголида. На протяжении 7‒ 6 в., Кос, совместно с городами Книдский и Галикарнас в Малой Азии, Ялисос, Камирос и Линдос на острове Родос, сформировали дорийскую коалицию и назвали ее "Дорийский Эксаполис", в качестве объединяющего центра был храм Аполлона около Книдос. Эта амфиктиония (название союза греческих племен) имела религиозный, экономический и политический характер.

Около 500 г. до н.э. Кос поработился Персами и был вынужден вместе с другими порабощенными греческими городами Малой Азии и островами принять участие в морском сражении Саламины  (480 г. до н.э.) на стороне Персов. После победы Греции в греко-персидской войне, освобожденный о. Кос вступил в Афинский союз. 

Этот остров имел стабильное развитие блгодаря богатой почве, торговле и судоходству, в это время процветала наука , искусство, а особенно медицина. В этот период на Косе родился отец медицины Гиппорат (460-377 г. до н.э.) ‒ сын семьи известных врачей. После многих путешествий, собрания материалов и исследований, он вернулся на родной остров и основал медицинскую школу, в которой и преподавал. Его научные труды изучаются по сей день, они известны под названием "Гиппократов сборник". Во время пелопонесской войны, Кос, измученный политическим соперничеством и трениями, переходил с одной вражеской стороны на другую.

В 332 г до н.э. Александ Македонский освобождает Кос от кратковременной персидской окупации. В эллинистический период остров принадлежал государству Птолемеев, а во время конфликта римлян и Филиппа V поддержал вторую сторону, в то время как сам страдал от набегов Митридата (88 г. до н.э.). С 82 г. до н.э. остров Кос являлся римской провинцией. Во время византийского периода он узнает новое процветание, т.к. этот остров стал местопребыванием епископа, однако, в то же время страдает как от сарацинских набегов так и от землетрясения, самый сильный толчок был в 553 г. Остров пережил кратковременный контроль венецианцев, генуэзцев и в 1315 г. перешел во владения рыцарей ордена Святого Иоанна. Они построили крепкую крепость с попыткой защитить свои владения от турецких угроз. В итоге в 1523 году, после нескольких неудачных попыток, турки захватили остров. Турецкое господство продолжалось до 1912 года. В ходе итало-турецкой войны, итальянцы в качестве диверсии захватили Додеканес. Итальянская оккупация продолжалась до 1943 года. После капитуляции Италии, немецкие войска оккупировали Кос 3 октября. С окончанием второй мировой войны, последовала британская оккупация протяженностью в 2 года, а в 1948 г. Додеканес был включен в состав Греции.