Город основан в 1930-х гг. в связи с освоением железных руд Курской магнитной аномалии (КМА) на месте деревни Коробково. Название от антропонима "Короб", "Коробка". Около деревни в сентябре 1931 г. была заложена первая разведочно-эксплутационная шахта КМА и рядом начал расти небольшой населенный пункт. В 1939 г. он был отнесен к категории рабочих поселков и получил название Губкин в честь геолога академика И.М. Губкина (1871-1939 гг.), энтузиаста освоения КМА, 19 лет руководившего работами в бассейне КМА. 
Городом Губкин является с 1955 г.Город Губкин справедливо называют жемчужиной КМА. Это один из крупнейших индустриальных и стабильно развивающихся центров Белгородской области. Здесь не только добывают и перерабатывают железную руду на старейших предприятиях Курской магнитной аномалии - комбинате "КМАруда" и Лебединском ГОКе, - но и строят жилье, школы, больницы, дворцы культуры, спортивные комплексы, православные храмы, дороги, ведут масштабное благоустройство, успешно реализуют многие социальные программы.
Путешественникам в Губкине покажется интересной экскурсия в Губкинский краеведческий музей. С бытом дворян начала 19 века знакомит музей первого декабриста Владимира Федосеевича Раевского, а с этапами освоения Курской магнитной аномалии - тематический Музей истории развития КМА.