Instytut Geofizyki PAN jest kontynuatorem długoletniej tradycji badań geofizycznych w Polsce, zarówno teoretycznych, jak i eksperymentalnych. Pierwsza w świecie katedra geofizyki została utworzona w roku 1895 przez prof. M. P. Rudzkiego na Uniwersytecie Jagiellońskim w Krakowie.

Innym ważnym wydarzeniem naukowym było odkrycie na przełomie XIX i XX wieku, przez wybitnego polskiego geologa Wawrzyńca Teisseyre’a transkontynentalnej strefy tektonicznej, potwierdzone później badaniami magnetycznymi A. J. H. Tornquista. Pierwsze polskie obserwatoria geofizyczne działały w Krakowie (gdzie między innymi, w roku 1882 opublikowano wyniki 25–letniej serii pomiarów ozonu przyziemnego), Lwowie, Warszawie, Świdrze i innych miejscowościach.

Instytut Geofizyki PAN istnieje od roku 1953, początkowo (do roku 1970) jako Zakład Geofizyki. W początkowym okresie badania prowadzone w Instytucie ograniczały się do wybranych zagadnień z zakresu sejsmologii, fizyki wnętrza Ziemi oraz magnetyzmu ziemskiego; stopniowo dochodziły inne dziedziny geofizyki: fizyka atmosfery, jonosfery i magnetosfery, oceanologia, geodezja planetarna, hydrologia. Znaczne rozszerzenie zakresu badań nastąpiło w związku z Międzynarodowym Rokiem Geofizycznym w latach 1957/1958. Instytut włączył się wtedy w badania międzynarodowe, organizowano wyprawy polarne i zwrotnikowe, założono stacje geofizyczne w rejonach polarnych i w Wietnamie.

Przez cały czas istnienia Instytutu wielką wagę przykładano do pomiarów geofizycznych, głównie sejsmologicznych i magnetycznych, jak również pomiarów ozonu atmosferycznego i promieniowania UV. Dzięki temu Instytut dysponuje bardzo długimi seriami danych w skali międzynarodowej. Główną placówką eksperymentalną jest Centralne Obserwatorium Geofizyczne w Belsku, którego budowę rozpoczęto podczas Międzynarodowego Roku Geofizycznego, a ukończono osiem lat później. Wybitne znaczenie międzynarodowe mają wyniki badań głębokich struktur skorupy ziemskiej metodami sejsmologii eksplozyjnej, prowadzone od 1965 roku oraz sondowania geomagnetyczne. Koncentrowały się one w szczególności na badaniu głębokich struktur w rejonie strefy Teisseyre’a – Tornquista. Instytut zyskał również światową pozycję w dziedzinie badań dotyczących sejsmologii górniczej. Prowadzone jednocześnie w szerokim zakresie prace teoretyczne zaowocowały szeregiem istotnych, uznanych w świecie wyników, zwłaszcza w dziedzinie fizyki trzęsień ziemi.

W latach 1973 -1978 niektóre Zakłady odłączyły się od Instytutu Geofizyki PAN, tworząc samodzielne placówki naukowe: Instytut Oceanologii PAN oraz Centrum Badań Kosmicznych PAN.