Köse yöresi Hititlerinden sonra Asur, Makedonya, Roma ve Bizans hakimiyetine girmiştir. Bizanslılar devrinde VII.y.y.’da bu yöreye gelen Peçenek Türklerinden birinin reisi olan Kilki Beyi adına izafeten Kelkit İlçesine bağlı olan Köse, nahiye olarak kurulmuştur. Daha sonra Selçuklu, İlhanlı ve Akkoyunluların hakimiyetinde bulunmuştur. 1473 Otlukbeli savaşı neticesinde Osmanlıların hakimiyetine geçmiştir. 1916 yılında Ermeni ve Rusların istilasına uğramış ve daha önce bağlı olduğu Kelkit İlçesi ve köyleri 17 Şubat 1918 günü düşman işgalinden kurtarılmıştır. Cumhuriyetin ilk yıllarında Trabzon İline önceki ilçemiz Kelkit ile bağlı iken 1925 yılında aynı ilçe ile Gümüşhane İline bağlanmıştır. 3392 sayılı kanunla 19.06.1987 tarihinde Köse nahiyesi ilçe olmuştur.
İlçemiz Gümüşhane İlinin güneyine düşer. 39-40 boylamlar ile 40-41 enlemler arasında yer alır. Doğusunda Bayburt İli, batısında Şiran İlçesi, kuzeyinde Gümüşhane İli, güneyinde Kelkit ilçesi ve Bayburt ile çevrilidir. Yüzölçümü 500 km.2’dir. Denizden yüksekliği 1650 m.dir. Köse göleti ve Salyazı göleti adında 2 adet gölet bulunmaktadır.
NÜFUS DURUMU : 2015 tarihinde yapılan genel nüfus sayımı sonuçlarına göre ilçenin; merkez nüfusu 5.435, köy nüfusu 1.663 olmak üzere toplam nüfusu 7.097’dir.
İDARİ YAPISI : Köse 1987 yılında ilçe olmuştur. 14 köy kuruluşu vardır. Belde teşkilatı bulunmamaktadır. İlçe merkezinde 5 mahalle, bulunmaktadır.
EKONOMİK DURUM : İlçemizin ekonomisi genellikle tarım ve hayvancılığa dayanmaktadır. Tarım ürünlerinden buğday, yem bitkileri, patates ve fasulye yetiştirilmektedir. Besi hayvancılığı hızla gelişme göstermektedir. İlçenin önemli bir gelir kaynağını ise nakliyecilik ve yolcu taşımacılığı oluşturmaktadır. İlçemizde sanayi gelişmemiştir. İlçede belediyeye ait 10 ton/saat kapasiteli bir yem fabrikası bulunmaktadır. Salyazı Kasabasında ise süt fabrikası mevcuttur.
İlçemiz ekonomisinde en büyük yeri tarım ve hayvancılık almaktadır. 22.262 hektar tarım arazisine mevcuttur. Bu arazinin 5.046 hektarı sulanabilir, 17.216 hektarı sulanamadığı için nadasa bırakılmaktadır.
KÜLTÜREL DURUM : Köse İlçesi kuşaktan kuşağa geçen ve halen önemini koruyan zengin bir mutfak mirasına sahiptir. Evelek dolması, kelem dolması, siron, fıt fıt haşılı, ve pirinçli börek yörenin damak zevklerini sembolize etmektedir. Ayrıca sofraya en son konulduğundan dolayı sütlaca “söz kesen” denilmektedir.
Uzun kış gecelerinin hüküm sürdüğü yörede köy odaları hayatın vazgeçilmez unsurlarıdır. Köy odaları eski Türklerdeki “bey otağların” fethedilen coğrafyalarda aldığı yeni biçimdir. Buralar misafirlerin ağırlandığı, sohbetlerin yapıldığı, aşk hikayelerinin dinlendiği ve türkülerin söylendiği yerlerdir. Adeta köy sosyal hayatının kalbinin attığı yerlerdir.
İlçede özellikle sözlü kültür çok gelişmiştir. Her beldenin ve köyün ayrı ayrı şiirleri, manileri ve bilmeceleri vardır. İlçede şair ve şair ruhlu birçok insan yaşamış ve yaşamaktadır. Nuri Baba (Aşık İlhami), Şeyh Osman Baba (Osman Keleş), Veysel Babur, Turay Kesler ve niceleri.