Ursprünglich war das Gebirge ein Bestandteil des varistischen Gebirges, welches im Karbon aufgefaltet wurde. Im Rotliegenden, der ältesten Formation des Perms, wurden Teile des varistischen Gebirges abgetragen und dessen Schutt in Senken abgelagert. Im Zechstein, vor 250 Mio. Jahren, drang von Norden her das Meer in die Senken ein und es erfolgte eine Sedimentation aus dem Zechsteinmeer. Die Sedimente überdeckten Teile des varistischen Gebirges und des Rotliegenden, so dass das Grundgebirge des Kyffhäusergebirges aus den Gesteinen dieser Epoche stammt.
Dieses Grundgebirge wurde während der Zeit der Oberkreide bis ins Tertiär tektonisch beansprucht, d. h. es erfolgte eine pultschollenartige Heraushebung des Kyffhäusergebirges. Bedingt durch das Herausheben der Pultscholle an die Oberfläche kam es zu Auslaugungen des Steinsalzes, so dass der Kupferschiefer zu Tage trat. Diese Heraushebung bedingte, dass sich im Norden des Gebirges das so genannte "Kyffhäuserkristallin" und nach Süden hin die sedimentären Schichten des Zechsteins befinden.
Aus der Lagerstätte rund um das Kyffhäusergebirge wurde daher vorwiegend Kupfer und Silber gewonnen, obwohl der Zink- und Bleigehalt nicht unerheblich war. Die Analysen aus den Bohrungen um 1950 ergaben im Bereich Bottendorf sogar einen erheblich höheren Zinkgehalt gegenüber dem Kupfergehalt.
Die Kupferschieferlagerstätte wurde im Bereich des Kyffhäusers seit dem 15. Jahrhundert genutzt. Zum Erliegen kam der Bergbau Ende des 19. Jahrhunderts. Versuche, den Kupferschieferbergbau im Bereich Badra und Udersleben um 1950 wieder zu beleben, scheiterten. Ein wichtiger Zeuge des Kupferbergbaus am Kyffhäusergebirge ist die heute zu besichtigende Barbarossahöhle. Sie wurde durch einen Erkundungsstollen bei Rottleben auf der Suche nach Kupferschiefer im August 1860 entdeckt.
Aber auch die herzynstreichenden Schwerspatgänge, die sich auf der Nordseite des Kyffhäusergebirges auf der Höhe des Ortes Kelbra im Tannenbergstal befinden, waren Gegenstand der bergmännischen Gewinnung. Die Stollenmundlöcher des einstigen Stollensystems sind heute noch vorhanden.
Der Bergbau auf Schwerspat begann im Jahr 1951. Der Gangzug wurde zunächst mit einem Stollen querschlägig angefahren und dann im Streichen aufgeschlossen. Bis 1956 erfolgte die weitere Auffahrung eines Blindschachtes von der genannten Stollensohle aus, wobei zunächst 64,5 m Teufe erreicht wurde.
Bis zur Stilllegung im Jahre 1965 wurden rund 50.000 t Rohspat mit durchschnittlich 80 % BaSO4-Gehalt gefördert.
Die Braunkohlenära am Kyffhäusergebirge begann im Jahre 1798 um Esperstedt. Im Bereich der so genannten Gespannstraße fand man Braunkohle. Die Ludwigszeche, die zwischen Bad Frankenhausen und Esperstedt lag, bestand aus 13 Schächten, die aber nicht alle zur gleichen Zeit in Betrieb waren. Des Weiteren war die Grube "Aurora" in der Esperstedter Flur von Bedeutung, die an der Straße nach Udersleben lag. Richtig in Schwung kam der Braunkohlenabbau erst ab dem Jahre 1838.
Das Braunkohlenflöz von Steinthaleben, Rottleben über Bad Frankenhausen bis nördlich von Esperstedt stellte eine ostwestlich streichende Mulde dar, welche eine Mächtigkeit von 6 m bis 12 m hatte. Diese Mächtigkeit war sehr differenziert. Zum Teil war das Flöz steil gestellt. Im östlichen Bereich (bei Esperstedt) war die Lagerstätte stärker ausgebildet. Ihre Entstehung wird in das Neogen oder Jungtertiär datiert.
Von einem gewinnbringenden Bergbau konnte allerdings keine Rede sein, obwohl die Bedingungen im Rahmen der beginnenden Industrialisierung günstig waren. Anfang 1870 war der Braunkohlenbergbau besonders gefragt, weil die Braunkohle in der aufblühenden Energie- und Zuckerrübenindustrie sowie in der sich seit 1855 rasch entwickelnden Mineralöl- und Paraffinindustrie immer stärkere Verwendung fand.
Die Ursachen des Niedergangs waren einmal in der wachsenden Konkurrenz durch verbesserte und billigere Transportwege (Eisenbahn) von anderern Gruben und zum anderen in Bedingungen der Braunkohlenlagerstätte zu sehen. Infolge einer außerordentlich unregelmäßigen Ablagerung des Flözes und starker Wasserschwierigkeiten waren hohe Investitionen erforderlich, die die Braunkohlengewinnung unwirtschaftlich machte. Daher erfolgte 1924 die Einstellung der Braunkohlengewinnung.
Außerdem begann im Jahr 1843 der Aufschluss der Braunkohlenlagerstätte bei Bendeleben. Der Schacht erhielt den Namen "Constitution". Am Mittelberg bei Steinthaleben wurden ebenfalls Schächte geteuft, die den Namen "Luisengrube" erhielten. Diese Schächte befanden sich nicht weit von der ehemaligen Grube "Constitution". Die Gewinnungsarbeiten wurden wegen Erschöpfung der Lagerstätte 1878 eingestellt.