Yazılı kaynaklarda kelkit ve yöresinin M.Ö 3000 yıllarına kadar indiği ve Hititlerden öncesine dayandığı ileri sürülmektedir. Giresun, Gümüşhane, Trabzon, Erzincan, Erzurum toprakları hitit kaynaklarında Azzi-Hayasa  ülkesi olarak adlandırılmaktadır.

Araştırmacı yazar Gülyüz AKAGÜN uslu bölgemizde en belirgin hakimiyet Urartular zamanında kurulduğunu işaret eder. Van ve çevresinde yaşayan Urartular, Trabzon civarlarında yaşayan Tebaritleri hakimiyetleri altına almalarıyla gümüşhane ve çevresi Urartuların hakimiyeti altına girmiştir. Yine aynı yazara göre Urartuların batı kanadını Gümüşhane ve yöresi oluşturmaktadır. Urartuların en büyük tanrısına Haldi; Gümüşhane, Kelkit ve Bayburt yöresinde yaşayanlara ise Halt denildiği yazılı tarihi kaynaklarda zikredilmektedir.

Bölge Urartu hakimiyetinden sonra Medler ve Perslerin idaresinde kalmıştır.

M.Ö. 331 yılında Pers İmparatorluğunun yıkılmasından sonra bölge Roma İmparatorluğunun hakimiyetine girmiştir.

M.Ö. 395 yılında Roma İmparatorluğunun ikiye bölünmesiyle doğuda kalan Bizans İmparatorluğu bölgeye hakim olmuştur. Bizans İmparatoru Heragleios 635 te İran Sasani Devleti üzerine sefer düzenlemiş ve Kelkit vadisinden geçmiştir. Bölge 7.asır sonuna kadar Bizans Sasani çarpışmalarına sahne olmuştur. Bizanslılar bu hakimiyeti XIII. y.y da kurulacak olan Trabzon Rum İmparatorluğuna kadar devam etmiştir.

Kelkit ve çevresinde Trabzon Rum İmparatorluğunun hakimiyetinin belirgin bir şekilde hissedildiği kaynaklarda ifade edilmektedir. Kelkit ve çevresi daha sonra Bizanslılar Emeviler ve Bizanslılar Abbasiler arasında birkaç defa el değiştirmiştir. Bu durum Selçuklu akınlarına kadar devam etmiştir.

Selçuklular ilk defa 1016 yılında Selçuklu Sulatanı Çağrı Beyin yapmış olduğu doğu anadolu seferinde Kelkit ve çevresine gelmişlerdir. 1058 yılında Tuğrul Beyin kardeşi  İbrahim Yinal bey Kelkit ve çevresini fethetmiştir. Bu dönemde kelkit ve çevresinde yoğun türkmen oymakları göçederek iskan ettirilmişlerdir. 1071 Malazgirt zaferinden sonra bölgede Selçuklu hakimiyeti iyice belirginleşmiştir.

XIV. y.y ikinci yarısından sonra Kelkit vadisinin Alansa Kürtün Trebolu hattının tamamıyla Çepnilerin yurt tuttuğu yerler olduğuda kaynaklarda ifade edilmektedir.

Bazı kaynaklara göre Kelkit 23 Temmuz 1514 Çaldıran Zaferinden sonra Osmanlı İmparatorluğu hakimiyetine geçtiği belirtilmektedir. Aynı yıl Kelkit Bayburt un sancak merkezi yapılmasıyla birlikte Bayburta bağlanmıştır. Bu yıllarda Bayburt sancağıda Erzincan vilayetine bağlıydı. Bölgeye ait ilk tahrir kaydı 1516 yılına aittir.

Kelkit 1840 yılında kaza olmuştur. Kaza merkezi olduktan sonra nüfusu fazla artmaya başlamıştır.

Trabzon valiliğinin Babi Aliye Kelkit in Gümüşhane ye bağlanmasını talep etmesiyle 1887 yılında Kelkit ve Şiran Bayburt sancağından alınarak Gümüşhane sancağına bağlandı. Bununla birlikte Gümüşhane sancağı dört kazadan oluştu. Kelkit, Şiran, Torul Gümüşhane bu idari yapı Cumhuriyetin İlanına kadar sürdü.

1870 Tarihli Trabzon salnamesinde Kelkite bağlı 95 köy yerleşmesinin bulunduğu bildirilmektedir. Yine 1904 tarihli salnamede Kelkit kaza merkezinde bir hükümet dairesi, iki cami, iki medrese, iki okul, yirmiiki mağaza, atmışsekiz dükkan, onüç kahvehane, üçyüzellidört ev, dört fırın ve üç su değirmeni bulunmaktaydı.

1904 tarihli salnamede Kelkit hakkında şu açıklayıcı bilgilere yer verilmektedir.

Kelkit kazasının merkezi olan çiftlik kasabası bu tarafların manzaraca en iyi olan yerlerinden birisidir. Kasaba düz bir ovanın ortasında ve Kelkit ırmağı ile kavuşan diğer bir derenin birleştiği noktaya yakın bir yerde yapılmıştır. İnsan buralardan şen ve güler yüzlü vadiler şirin kasaba ve köyler doğal güzellikler aramayı hatırına bile getirmez. Kış zaten hazin olan bu yerlerdeki soğuk kefenlerle örter. Her sessizlik mezardan nişan verir. Etrafta ufak bir hayat eseri görmek için yazın gelmesini beklemekten başka çare yoktur. Kelkit halkı güçlü kuvvetli adamlardır.

Kazanın genel nüfusu 25903 islam 511 Rum ve 250 Ermeniden ibarettir. Halkın büyük bir bölümü tarım ile uğraşmaktadır. Başlıca ürünler Arpa, buğday, çavdar, fiğ ve burçaktan ibarettir. Hayvan ürünlerinde yağ ve peynir ile deri ve yumurtanın bir kısmı Erzincan ile Gümüşhane ve Trabzona gönderilmektedir.

KELKİT'İN RUM İŞGALİ

Kelkit batıdan Şebinkarahisara güneyden Erzincana gitmekte olan mühim bir yol kavşağında olduğu için stratejik önemi olan bir yerleşim alanıydı. Doğu anadolu Rus harekatını idare eden Rus kuvvetleri bu önemi bildiklerinden 12 temmuzda Sibirya kazaklarını 14 Temmuzda da diğer kuvvetlerini Bayburt un etrafına yerleştirdi. 22 temmuz 1916 Rusların 4.Avcı alayı sabahın erken saatlerinde saldırıya geçer. O gün akşama kadar çok kanlı çarpışmalar olur. Vehip Paşa komutasındaki Türk askeri akşamüzeri çekilmek zorunda kalır. Böylece Ruslar Kelkiti işgal ederek iç anadoluya bir kapı açmış olurlar. Ekim 1917 ihtilalinden sonra 18 aralık 1917 tarihinde Erzincan Mütarekesi yapıldı. Ruslar çekilmeye başlar fakat ermeniler zulümlerine devam ederler. Nihayet  17 şubat 1918 tarihinde Halit Paşa komutasındaki askerlerimiz güzel ilçemizi kurtarırlar. Allah o günleri bir daha göstermesin.

KELKİT İSMİ

Kelkit ismi konusunda değişik görüşler mevcuttur. Bazı araştırmacılar Kelkit çayının Antik Çağda helen dilinde kurt anlamına gelen Lykos şeklinde ifade edildiğini belirtmektedirler. Onlara göre bu kelime daha sonra ermenice ye  tercüme edilerek gail-get olarak söylenmeye başlanmıştır. Ardındanda Kelkit e dönüşmüştür. Bazı araştırmacılar ise İlk çağlarda yörede “Kerkit” adında bir halkın yaşadığına dikkat çekmektedirler. Ünlü tarihçi Straban bölgenin dağlık kesimlerinde Appaitler adinda bir kavmin yasadigini ve bunlarin da Kerkit' lerin soyundan geldigini ifade etmektedir. Ayrıca VII y.y da Peçenek Türklerinden Kilki Beyin Çiftliği olarak anıldığı rivayet edilmektedir.