Eski çağlardan beri yerleşim yeri olan Gemerek, 1071'den itibaren Türkmen aşiretlerinin yerleştiği bir bölge olmuş, 1408’ de Timur’un Anadolu’dan çekilmesiyle tamamen Osmanlı topraklarına katılmıştır. Ne zaman kurulduğu kesin olarak bilinmemekle beraber, Malazgirt savaşından sonra bazı Türk aşiretleri tarafından kurulduğu, Osmanlı İmparatorluğu'nun yükselme devrinde kasaba olduğu bilinmektedir.

Kanuni Sultan Süleyman'ın Nahçıvan Seferi sırasında burada konakladığı kitabe ve mezar taşlarından anlaşılmaktadır. Ali Cevat Gemerek için ‘’TENNUS’’ kazasının nahiyesidir der. Daha önce Sivas’ın Şarkışla İlçesine bağlı bir nahiye iken, 27.02.1953 tarih ve 6068 sayılı Kanun 3 Mart 1953 tarihli Resmi Gazete’nin 5706 sayılı sahifesinde yayımlanan Kanun ile Gemerek 1953 yılında ilçe olmuştur.

Gemerek ismini açıklayıcı herhangi bir yazılı bilgi mevcut değildir. Ali Cevad’a (?-1914 İstanbul) göre Tonus ilçesinin beldesi olan Gemerek’in adının nereden geldiği bilinmemektedir. Ayrıca Gemerek ismine Gaziantep’te de rastlamaktayız. Halk tarafından kabul edilen Kemer-i Ak kelimesinin zamanla değişerek Gemerek ismini aldığı söylenmekte fakat akademik ve mantıklı bir geçerliliği olmadığı için biz buna itibar etmiyoruz. Son yıllarda yapılan akademik çalışmalar ile Gemerek ismi hakkında şu bilgilere sahip olmaktayız. Gemerek ismi, Prof. Dr. Bilge UMAR’ın tespiti ile Hititler zamanından kalma bir isim olup orijinal söylenişi Gamaraha’dır. Prof. Dr. Tuncer GÜLENSOY, Gemerek isminin Türkçe bir isim olduğunu belirtir fakat biz, bunu şu şekilde açıklamaktayız. Prof. Dr. M. Fahrettin Kırzıoğlu’nun tesbiti ile: “…Tevrat-ı Şerif’de: Nuh Nebi’nin, yeryüzündeki insanların Tufan’dan sonra ilk ataları gösterdiği üç oğlundan birisi Yasef (Yapheth)’in oğlu “Gomer” diye anılan Kimmerler, Asurluları bunaltmışlar ve Urmiye Gölü doğusundan sonra Adana/Çukurova’ya Kızılırmak bölgesine varıncaya kadar göçüp hâkim olmuşlardır. Bunlardan, Trabzon-Bayburt arasındaki “Kemer Dağı”, Sivas-Kayseri arasında ve Kızılırmak boyundaki “Gemerek” ile Kars-Arpaçayı solundaki, “Gümürü/Gümrü”, Rize Çayeli İlçesi çıkışındaki “Kemer Köyü” gibi coğrafya hatıraları günümüze kadar kalmıştır. Yukarıda açıkladığımız Gemerek kelimesini özetle şu şekilde açıklayabiliriz: Türk ırkının, daha çok gök gözlü, kumral ve sarışın tipinde tanınan; Altay Dağları ile Irtış Irmağı arasındakileri Kimek/Kemak, Ural Dağları ile Karpatlar arasındakileriyle Kafkaslar kuzeyindekileri ise, Kimar/Kimmer diye anılırdı. Kayseri-Sivas arasında ve Kızılırmak solundaki bölgenin adı Gemerek de, Kimmerler anlamında ve onlardan kalmıştır.” Ayrıca Prof. Dr. Ali AKTAN, Gomer+ek/Kimmer+ek kelimesi ile Gemer+ek kelimesinin benzerliğini bana izah ettikten sonra “-ek” kelimesinin Türkçe’de çokluk eki olduğunu ve özellikle Gemerek kelimesini Peçen+ek kelimesi ile kıyaslayarak Gemerek kelimesinin Kimmerler’den bir yadigâr olduğunu tespit ettiler. Gemerek kelimesinin Türkiye Türkçesi’ndeki yazılışı ve okunuşu ile Kimmerler kelimesini farklı dillerdeki yazılış ve okunuşunu karşılaştırarak şu şekilde açıklamaya çalıştım: “Kimmerler isminin değişik dillerdeki yazılışını şöyle sıralayabiliriz: ‘Farsça’daki (کیمری), Macarca’daki (Kimmerek) ve İngilizce’deki (Cimmerians) kelimeleri ile özellikle adı geçen kelimenin Farsça ve Macarca’daki yazılış ve okunuşlarını düşündüğümüz de Gemerek kelimesi başlangıçta bir topluluğu (Kimmerler) belirtirken kelimenin günümüze değin coğrafi bir ad olarak geldiğini söyleyebiliriz.’ Ayrıca Sis Kazâsı (Sis Sancağı)’nda Yörükan [Oğuzlar-Türkmenler] tâifesinden Gemerik Cemâatını da bilmekteyiz.” Açıkladığımız Gemerek kelimesinin Türkçe bir isim olduğunu söyleyip bu açıklamadan başka, kelimeye farklı anlam arayışı içinde olmanın ve yapılan farklı açıklamaların tutarlı olmadığını düşündüğümüzden, bu anlamların akademik bir önemi olmayıp itibar edilmemelidir. Gemerek ve yöresini incelediğimizde çeşitli medeniyetler ve uygarlıkların izlerine rastladığımız gibi bazı dönemler çeşitli çalışmaların olduğu bir gerçektir.

Gemerek ve yöresini tarihi bir süreç içerisinde değerlendirirken, ilk önce Anadolu’nun coğrafi ve tarihi konumu hakkında biraz bilgi sahibi olmalıyız. Gemerek ve yöresi de Anadolu coğrafyası ve tarihinde konumu itibari ile önemli bir yerdedir. Çünkü Anadolu’nun tarihî coğrafyasında kuzey-güney, doğu-batı yollarının kesiştiği bir nokta da olması ve günümüzde de Türkiye Cumhuriyeti Devleti’nin orta noktasındaki yerleşkesini düşündüğümüzde gerçekten, Gemerek’in ne kadar önemli bir yerde olduğunu anlayabiliriz. Gemerek ve yöresini değerlendirirken Sivas, Kayseri ve Yozgat şehirlerinin tarihi ile bağlantı kurup Anadolu tarihindeki yerini belirteceğiz. Hemen hemen tüm medeniyet ve uygarlıklar muhtelif zamanlarda Gemerek ve yöresine de hâkim olmuşlardır. Hâkim olan bu medeniyet ve uygarlıklar şunlardır: Paleolotik Dönem, Neolitik Dönem, Kalkolitik Dönem, Eski Tunç (Bronz) Dönemleri hakkında bazı bilgiler mevcut iken Hattiler, Hititler, Asur Ticaret Kolonileri, Frigyalılar, Kimmerler, Medler, Persler, Büyük İskender, Pontus Krallığı, Kapadokya Krallığı, Roma İmparatorluğu, Doğu Roma İmparatorluğu, Sasaniler, Emeviler, Haçlılar, Danişmendliler, Türkiye Selçukluları, İlhanlılar, Eratnalılar, Kadı Burhaneddin, Timurlular, Dulkadirliler [Oğuz-Türkmen telaffuzu ile Dulkadırlılar], Osmanlılar ve Türkiye Cumhuriyeti devletlerinin hâkimiyet alanı olmuştur. XVI. yüzyılda biz Gemerek’i Bozok Sancağının Çubuk Nahiyesine bağlı bir karye yani köy olarak görmekteyiz. [Çubuk Nahiyesinin merkezi günümüzde Eskiçubuk ile Yeniçubuk’tur. Yeniçubuk bu özelliğini hâlâ korumaktadır.] . Gemerek, 1895-96 yılındaki Devlet Salnamesi ile Tonus ya da Tenos Kazası’nın (Şehr-i Kışla ya da Şarkışla’nın) müstakil bir nahiyesi olduğu bu tarihten sonra Osmanlıların son dönemine kadar adı geçen kazaya bağlı bir nahiye merkezi olarak nahiye müdürleri tarafından idare edilmeye başlandığı bilinmektedir. 30.11.1929 tarihinde Gemerek İstasyonu (günümüzdeki Yeniçubuk İstasyonu) açıldı.1930 yılında Mustafa Kemal ATATÜRK Gemerek İstasyon’unda konaklamıştır. 1936 yılında ise Gemerek’te belediye teşkilatı kurulmuştu. Şarkışla’ya bağlı Gemerek Bucağı, 1 Mayıs 1953 tarih ve 6058 sayılı kanun ile ilçe olmuştur.