М.А.Ермеков атындағы геологиялық мұражай 2 оқу корпусында, екінші қабатта орналасқан. Геологиялық мұражай университеттің геология кафедра негізінде Қарағанды политехникалық институт қалыптасу күнінен бастап жастасы болып келеді және минералдары мен тау жыныстары тек Қазақстан кен орындары емес, сонымен қатар бүкіл бұрынғы Совет Одағынан жиналған.
Геологиялық мұражайдың жинағында Ресей, Әзербайджан, Армения, Түркменстан, Украина және т.б.кен орындарынан мұнай, сирек және түсті метал, кенсіз шикізаттың үлгілері бар.
Колекциялық фондтың құрылуы, безендірілуі мен толуына кафедра меңгерушісі профессор Смсонов М.Т., профессор Билялов Б.Д., оқытушы Рябущенко Л.П. зор үлес қосты. Рябущенко КСРО Ғылым академиясының Геологиялық институтының геологиялық мұражайына (Мәскеу қалас) және Орал минералогиялық қорығына бірнеше рет іссапармен жіберілді, бұл жерде минералдардың барлық класс өкілдерінің үлгілері мен Жер қыртысында және кендерінде пайда блған тау жыныстары сараланды, сондықтан мұражайдың коллекциялық фондында минералдар мен тау жыныстарының ерекше үлгілері бар.
Мұражайдың сегіз көрмесінен үлгілерді екі жақты көрумен, үшеуінде толығымен және төртіншіде бір бөлікпен класстар бойынша жүйеленген минералдар ұсынылған. Төртінші және бесінші көрмеде магматикалық, шөгінді және метаморфтық жыныстардың өкілдері толығымен қойылған, пайда болуына байланысты бөлінген. Алтыншы және жетінші көрмеде пайдалы қазбалар өндірістік пайдалану бойынша орналасқан: қара, түсті, қоспалы мталдар, керамикалық шикізат, құрылыс материалдары мен отын қазбалары.
Қазіргі таңда мұражайдың коллекциялық фонды кафедра бітірушілерімен олар жұмыс істейтін кен орындары мен өндірістік тәжірибеден өту объектілерден студенттермен толтырылады.
Кафедраның геологиялық мұражайы геологиялық, геофизикалық, тау-кен және құрылыс мамандықтарының студенттерімен геолгиялық пәндерді оқуда қолданылады. Сонымен қатар мұражайға Қарағанды, Теміртау және басқа қалалардың оқушылары барады, сонымен қатар орта мектептерінің бітірушілері арасында кәсіптік бейімделу жұмыстарын өткізу кезінде пайдаланылады.