Der eksisterede tidligere tre jernbanelinjer på Bornholm. Den første forbandt Rønne og Nexø fra 1900, og i 1901 åbnede en lille sidebane mellem Aakirkeby og Almindingen. I 1916 påbegyndtes jernbanedriften af Gudhjembanen, som var den korteste af de tre bornholmske jernbanelinjer – 18,2 kilometer fra Almindingen til Gudhjem – som blev drevet af et selvstændigt jernbaneselskab.
Gudhjem Station blev opført i 1915-16, som én af fire nye stationer langs Gudhjembanen. Ud over Gudhjem Station, der var endestation, blev der opført stationer i Østermarie, Østerlars og Åløse. Desuden blev der opført trinbrætter på Christianshøj og i Stavebøl. Der blev udskrevet en arkitektkonkurrence om udformningen af banens bygninger, som indbragte 47 forslag. Ingen af forslagene blev fundet fyldestgørende, så man valgte at uddele en anerkendelsespræmie i form af ½ førstepræmie til arkitekterne Aage Rafn og Kay Fisker, København og ½ til arkitekterne T. H. Hjejle og Niels Rosenkjær, København. Efter dommernes anbefaling tog man kontakt med Fisker og Rafn og fik dem til at udarbejde et helt nyt sæt tegninger til udformningen af stationerne. Det første sæt ombearbejdede tegninger gav problemer, efter at man havde regnet på udgifterne til opførelsen. På grund af prisudviklingen var man nødt til at indskrænke bygningernes størrelse, og det betød en fuldstændig ombearbejdning af projektet for Gudhjem Station. Det første projekt bestod af en sluttet bygningsblok med et højt, stejlt tegltag og gavlkviste, der fremhævede de tilbagetrukne midterpartier. I stedet endte man med den lange bygning, der er i overensstemmelse med den lokale byggeskik og som ikke gør meget væsen af sig – men man bibeholdt dog den spånbeklædte tårnkarnap. For at understrege, at der var tale om banens hoved- og endestation blev facaden mod Stationsvej iscenesat helt symmetrisk opbygget med få og små vinduer og to pompøse piller med lamper på toppen på hver side af hovedindgangen. I den periode bygningen fungerede som stationsbygning, skete der kun få ændringer.
Det indre af bygningen blev rigere udstyret end de øvrige stationer, blandt andet fik ventesalen en smuk ”siddelse” med faste bænke ved nordgavlen, og der var forholdsvis god plads til rejsende og rejsegods. Endvidere var der indrettet et toldværelse i nordenden. Stationsforstanderens lejlighed optog en mindre del af bygningens søndre ende, men havde separat køkken. En smuk ligeløbstrappe førte op til soveværelserne i tagetagen, der ligesom loftsgangen blev forsynet med pudsede hvælv.
De arkitektoniske spor fra Gudhjembanen er markante, men sådan så man ikke på det i 1916, hvor banen åbnede. Kritikken af Kay Fiskers og Aage Rafns stationsbygninger var tydelig. De almindelige, lange og lavlængede stationsbygninger blev opfattet som væsentligt ringere end Allingebanens statelige bygninger med et tydeligt præg af historicisme.
Stationen i Gudhjem blev placeret i den sydlige udkant af byen og kom foruden stationsbygningen til at bestå af en remise, et vognskur og et varehus samt sidespor og drejeskive, hvilket var påkrævet ved en endestation. I Gudhjem og Østermarie kom der mandlig betjening på stationerne, mens Åløse og Østerlars kunne nøjes med en billigere kvindelig betjening. Efter nogle år inddrog man dog af sparehensyn den mandlige betjening på Gudhjem Station.
Frem til 1934 bevarede de tre jernbaneselskaber uafhængigheden, men derefter fandt de sammen i ét selskab – De Bornholmske Jernbaner. I 1935 blev der indrettet en ekspeditricebolig i tagetagen. Ekspeditriceboligen blev indrettet i det store tørreloft, der havde en lavere gulvhøjde end de øvrige rum i tagetagen, og som fik endnu en kvist mod øst, fik fjernet væggen imellem de to nordvendte rum samt en ny trappe ned til godsekspeditionen. Bag den nye trappe blev indrettet et lille brændselsrum. Ligeledes blev der indrettet et afløserværelse i stueetagen bag venteværelset og et nyt vindue blev sat i garderoberummet for enden af den lange gang mod vest. Indgangen til lejligheden og værelserne var gennem døren i nordgavlen.
I 1952 blev banen mellem Gudhjem og Aakirkeby lukket. Året efter lukkede man strækningen fra Rønne til Sandvig, og i 1968 lukkede hovedstrækningen fra Rønne til Nexø. Jernbanestrækningerne blev i stedet erstattet af rutebiler. Efter nedlæggelsen af Gudhjem Station virkede bygningen som rutebilstation frem til 1968.
I 1969 købte Gudhjem By- og Mindeforening stationsbygningen for at indrette den til lokalmuseum, en funktion den har haft siden da – endog med udvidelser. Indretningen til museum indebar mindre ændringer, blandt andet etablering af montrer i de høje skunkrum i tagetagen, og karnaprummet blev på første sal opdelt i to.
Siden tiden som stationsbygning er indgangsforholdene ændret. Den oprindelige hovedindgang med tofløjede døre mod vest har i mange år ikke været brugt. Da jernbanesporene blev fjernet blev pladsen mod øst indrettet til parkeringsplads, og de to østre døre under halvtaget blev i stedet anvendt som indgange. I begyndelsen af 1980´erne blev der foretaget en delvis tagomlægning.
I 1990 blev der tilføjet en stor udstillingsbygning til museet, tegnet af arkitekt Niels Frithiof Troelsen (1938-2009), der via en overdækket glasgang blev sammenbygget med stationsbygningen mod syd. I forbindelse med tilbygningen blev cirka to tredjedele af den lave del, der oprindeligt rummede offentlige toiletter samt brændselsrum, toilet og vaskerum til boligen, ombygget til fælles museumsindgang med nye toiletter, fyrrum og tekøkken. Ved denne ombygning gennemførtes samtidig en grundig istandsættelse, herunder varmeisolering. I 2001 blev der tilføjet en magasinbygning, som blev påbygget den nye udstillingsbygning mod sydøst. I 2011 tilbageførte man tagetagen, blandt andet blev de indbyggede montrer i gangen fjernet.