Heiberg var godseigar på Øvre Amla, og er mest kjent for å ha skapt De Heibergske Samlinger – Sogn folkemuseum på Kaupanger.
Samlartrongen hans gjekk langt vidare enn til tradisjonelle museumsting. I arkivet frå Øvre Amla finn vi ein brevserie Heiberg kalla autografar. Breva er delte inn i tre underseriar: norske, utanlandske og heibergske. Dei to første har vi no publisert på Digitalarkivet.
Norske autografar
Serien norske autografar består av 186 mapper, dei fleste på kjente norske forfattarar, kunstnarar og politikarar. Nokre av personane er berre representerte med eit namnetrekk, men dei fleste mappene inneheld brev og kort. Frå til dømes Bjørnstjerne Bjørnson og Knut Hamsun er det tale om ikkje heilt få dokument.
Mange av breva er stila til journalisten og forfattaren Rosenkrantz Johnsen. Han var ein god ven av Gert F. Heiberg, og kom ofte på besøk til godseigaren på Amla. Desse breva var truleg ei gåve til Heiberg. Ein del av dei andre breva er skrivne til Morten Müller, ein norsk landskapsmalar.
Serien med norske autografar er no tilgjengeleg på Digitalarkivet.
Utanlandske autografar
Serien med utanlandske autografar er langt mindre i omfang enn dei norske. For det meste er det tale om danske og svenske kulturpersonlegdomar, mellom anna den kjente litteraten Georg Brandes. Dette materialet har også blitt lagt ut på Digitalarkivet.