W czasach prehistorycznych Gromnik mógł pełnić rolę miejsca kultu pogańskiego, podobnie jak pobliska Ślęża. Archeologiczne odkrycia wskazują, że już od VIII do V wieku p.n.e. istniał tu gród kultury łużyckiej. Później, w IX i X wieku, wzgórze stało się siedzibą plemienia Ślężan. Mimo niewielkiej powierzchni (2–2,5 ha), gród był świetnie ufortyfikowany - wały miały drewniano-ziemny trzon, wzmacniany obrobionymi kamieniami, a miejscami przechodzący w potężny mur kamienny. Po X wieku osadnictwo na Gromniku zanikło na kilka stuleci.
Historia Gromnika nabiera dramatyzmu w XV wieku. W 1427 roku Hans i Opitz von Czirn, sprowadzeni przez książąt brzeskich, założyli tu swoją siedzibę. W czasach wojen husyckich zasłynęli jako ci, którzy zawsze stawali po stronie silniejszych. Wykorzystując słabość władzy książęcej, w 1439 roku uzyskali zgodę na budowę zamku na szczycie Gromnika. Wkrótce warownia stała się gniazdem raubritterów-rycerzy-rabusiów, napadających na kupieckie karawany podróżujące z Czech do Wrocławia. Plądrowali nawet biskupi zamek w Otmuchowie.
Nieuczciwy proceder nie mógł trwać wiecznie. W 1443 roku wojska wrocławskie i biskupie obległy zamek, ostrzeliwując go artylerią. Po dwóch tygodniach Czirnowie poddali twierdzę, a warownia została zburzona. Jednak już w 1446 roku bracia uzyskali zgodę na jej odbudowę i w krótkim czasie przywrócili ją do świetności. Badania archeologiczne prowadzone w 2013 roku wykazały, że fundamenty uznawane wcześniej za pozostałości rotundy powstały jednocześnie z wieżą donżonu zamku wzniesionego po 1446 roku. Ostateczny kres zamku nastąpił w 1480 roku, kiedy to na rozkaz księcia legnicko-brzeskiego Fryderyka warownię ponownie zniszczono.
Przez wieki ruiny zamku na Gromniku popadały w zapomnienie. Dopiero po I wojnie światowej miejsce to zyskało nową funkcję - na szczycie wzniesienia powstała gospoda i wieża widokowa, które jednak uległy zniszczeniu w 1945 roku. Dziś, dzięki nowej wieży, historia Gromnika znów może zachwycać turystów. To idealne miejsce dla miłośników historii i pięknych widoków, gdzie każda kamienna ruina kryje w sobie opowieść o dawnych czasach.