Den hellige Gregor II var i følge LP romer og født i den velstående familien Savelli som sønn av Marcellus. Han hadde tjent Kirken lenge, for han var blitt oppdratt i Lateranet, og som subdiakon var han forvalter av statskassen. Deretter var han bibliotekar under Sergius I. Som diakon ledsaget han Konstantin til Konstantinopel i 710-11, og spilte en ledende rolle i forhandlingene med keiser Justinian II (685-95; 705-11) om de anti-romerske vedtakene fra Trullanum-synoden i 692, og ble der kjent med metodene i den østlige kirkepolitikken.
Etter at Konstantin døde den 9. april 715, ble Gregor II valgt til ny pave og konsekrert den 19. mai. Etter sju orientalske paver var det igjen en romer på Romas bispestol. Han skulle vise seg som den mest fremtredende pave på 700-tallet.
Gregors pontifikat innleder pavedømmets middelalder. I begynnelsen av 700-tallet lå det dystre skygger over den kristne middelhavsverdenen. Mens Afrika og Spania ble overrent av den andre arabiske erobringsbølgen, var Konstantinopel et helt år - fra august 717 til august 718 - under uopphørlige angrep fra araberne. Likevel kunne keiser Leo III Isaureren (717-41), en dyktig feltherre og østrikets redningsmann, ved heltemodig forsvarskamp stoppe angrepene fra kristendommens fiender mot Bosporus og dermed redde Øst-Europa fra islamsk erobring. Leo III ble grunnleggeren av det isauriske dynasti. Han var en tøff soldat fra det isauriske (syriske) høylandet, men også en tøff skattinnkrever. Hans krav skapte særlig misnøye i Italia, hvor den beskjedne beskyttelsen som ble tilbudt av de keiserlige styrkene, ikke rettferdiggjorde de høye skattene.
Men i vest var keiseren maktesløs. Her ble det den handlekraftige frankiske hushovmester (major domus) Karl Martell som reddet vest- og sentraleuropa ved sin seier over de arabiske erobrerne ved Poitiers i 732. (Hushovmestrene var opprinnelig forvaltere av kongsgodset, men etter hvert ble de delrikenes ledende størrelser som en slags pseudo-arvelige førsteministre og de facto herskere; i oversettelser gjerne omtalt som fyrster eller hertuger.)
Pavene var stadig lojale mot det bysantinske keiserdømme. Av de 13 romerske biskopene mellom 678 og 752 var 11 sicilianere, grekere og syrere av fødsel, de tilhørte altså den gresk-bysantinske kulturverdenen. Bare to, Benedikt II og Gregor II, var romere. Den intelligente, statsmannsaktige og resolutte Gregor viste politisk dyktighet i håndteringen av den forvirrede situasjonen som oppsto i Italia da den bysantinske makten ble svekket.
Det lyktes den store langobardkongen Liutprand (712-44) å knekke de alt for selvstendige og selvrådige hertugene av Spoleto og Benevento. Han annekterte også mer landområde fra Bysants ved å utnytte den misnøyen med keiseren som rådet blant befolkningen i eksarkatet. I 716 overtalte Gregor ham til å levere tilbake verdifulle pavelige eiendommer han hadde holdt i De kottiske Alper, men senere sikret han seg at langobardene leverte tilbake nøkkelfestningene i Cumae og Sutri til keiserriket.
Selv om Gregor var en lojal undersått av keiseren, ledet han mellom 717 og 726 den forbitrede motstanden i hele Italia mot tyngende skatter som keiser Leo III skrev ut for å finansiere krigen mot araberne. De kirkelige landområdene i Italia og på Sicilia ble også rammet. Resultatet ble at myndighetene, etter hvert frustrerte av Gregors popularitet, la planer for å få ham enten avsatt eller drept.
Gregor kjempet for å demme opp for langobardenes ekspansjonsplaner. Eksarken Paulos ble myrdet (726/27), men hans etterfølger Eutykios inngikk en uventet og midlertidig allianse med langobardkongen Liutprand. Da de i 729 beleiret Roma, avla Gregor et dramatisk besøk i den langobardiske leiren. Det gjorde så sterkt inntrykk på den katolske Liutprand at han ikke bare oppga beleiringen, men la også sine kongelige insignier på St. Peters grav som tegn på underkastelse. Selv om Eutykios inntok Roma, kom paven frem til en avtale med ham, og som alltid lojal mot imperiet, hjalp han Eutykios med å knuse Tiberius Petasius, en opprørsk tronpretendent.
Men de dypeste motsetningene i Gregor IIs pontifikat var på det teologiske plan og kom til syne i den såkalte billedstriden. Særlig i den greske kirken var hellige bilder høyt elsket, og munkevesenet fremmet også skikken med å ære dem. Men det oppsto også overdrivelser og misbruk, og dette gjorde at det i den greske kirken oppsto et innflytelsesrikt billedfiendtlig parti rundt biskop Konstantin av Nakoleia i Frygia. De vant nå innflytelse over keiser Leo.
Men også andre faktorer spilte inn, for eksempel ulike sekters fordømmelse av det å ære bilder. Det gamle Testamentet og dermed jødene hadde en avvisende holdning til bilder, og islam var svært billedfiendtlig. Et edikt som ble utgitt av kalif Jezid II i 723, godtok ikke bilder i kristne kirker i de områdene som var underlagt ham. Så et forbud mot bilder var delvis motivert i troen på at de var en hindring for konversjonen av jøder og muslimer. Men et slikt forbud var fremmed for den kristne tradisjon, og fremprovoserte de myndige skriftene til den store østlige kirkelærer Johannes Damascene (av Damaskus).
Det er uklart hva som var keiser Leo IIIs egentlige mål, men de var høyst sannsynlig politiske. I 726 offentliggjorde han det første billedforbud, det vil si forbud mot å ære hellige bilder (venerasjon), og ga ordre om at et høyt æret Kristusikon i Konstantinopel skulle ødelegges. En storm av protester gikk over landet mot denne ikonoklasmen (gr: eikon = bilde; klaein = å ødelegge), og en del av hæren gjorde opprør og satte opp en motkeiser. Men det lyktes keiser Leo å slå ned oppstanden i et blodbad den 28. april 727.
Nå ville keiseren også vinne patriark Germanos av Konstantinopel og pave Gregor II for sitt syn. Men begge talte mot billedforbudet, og Germanos ble avsatt. Paven støttet patriarken og truet hans tronrøver av en etterfølger. Det keiserlige dekretet som forbød bilder, nådde Italia i 727. I den forbindelse holdt Gregor en synode i Roma, og den stadfestet Kirkens tradisjonelle lære. Mellom 726 og 730 korresponderte keiseren med paven og ba om hans støtte, etter hvert fulgt av trusselen om avsettelse. Gregors to svarbrev (nå akseptert som i hovedsak autentiske) er bevart. Paven var ubøyelig og avviste ikonoklasmen som kjetteri. Han skrev advarende til keiser Leo at dogmer ikke var en sak for prinser, men for prester (de to sfærene utfylte hverandre, men var forskjellige). Han møtte keiserens trusler med den modige påminnelse at straks han var tre mil fra Roma, var paven trygg, siden hele vesten aktet og æret Peters etterfølger.
Men keiseren ga ikke opp sin politikk. Han fornyet billedforbudet i skjerpet form i et edikt av 17. januar 730. Det var signert av den nye og mer føyelige østlige patriarken. Den religiøse bruk av bilder, statuer og relikvier ble erklært gudsbespottelige. Nå raste det snart en storm av ødeleggelse over landet, hvor ikke bare bildene, men også mange av deres modige forsvarere, falt som ofre.
Ediktet var uakseptabelt for Roma, og førte til forferdelse og opprør, blant annet i Nord-Italia. Ikke mindre enn fem ganger reiste de italienske troppene seg i denne perioden sammen med befolkningen for å beskytte paven mot utsendingene fra Konstantinopel som skulle arrestere ham. Leo sendte en flåte for å gripe paven, men en storm ødela den. Keiseren besatte eiendommene som tilhørte Patrimonium Petri i Sicilia og Calabria.
Bruddet mellom Bysants og Roma ble stadig tydeligere, og keiserens fiendtlighet mot hellige bilder bidro bare til å fjerne hans italienske undersåtter mer og mer fra imperiet. Noen ville sette opp en italiensk motkeiser, men dette ble forhindret av Gregor, som aldri vaklet i sin lojalitet mot Bysants. Han skjønte også at Italia alene var for svakt, og passet seg også for å støtte seg for ensidig på langobardene. Han forsto at deres mål var herredømme over hele Italia, og for pavene etter Gregor I betydde det faren for å ende som utelukkende en langobardisk biskop. Det var mye større trussel enn den fra keiserne i det fjerne Konstantinopel.
Samtidig ble pavedømmet stadig mer knyttet til den germansk-frankiske verden. Våren 718 kom den angelsaksiske misjonæren Winfrid (680-754) fra England til Roma for å besøke St. Peters grav. Gregor ga ham den 15. mai 719 et brev med det offisielle misjonsoppdraget å forkynne kristendommen i pavens navn for friserne og sakserne. Samtidig ga paven Winfrid navnet Bonifatius, etter martyren som den romerske kirken hadde feiret dagen før.
Tre år senere kom Bonifatius for andre gang til Roma, og etter suksessen for hans arbeid i Bayern, Thüringen og Hessen, konsekrerte Gregor ham til misjonsbiskop den 30. november 722. Han utstyrte ham med et introduksjonsbrev til Karl Martell (716-41), frankernes reelle hersker, som kunne gi Bonifatius beskyttelse og gjøre ham i stand til å fortsette sitt arbeid med suksess. Paven påla Bonifatius en ed som bandt ham direkte til Roma, og Gregor ga ham nå full støtte og korresponderte regelmessig med ham. Som et resultat av pavens innflytelse ble de romerske liturgiske skikkene overalt adoptert av den unge germanske kirken.
I 716 mottok paven den bayerske hertug Theodo som pilegrim i Roma og han sendte 16. mai 716 en legat til Bayern. Sammen med Theodo utarbeidet han et forslag til en plan for opprettelsen av en kirkeprovins i hans land. Planen skulle bli gjennomført 20 år senere.
I 726 trådte den abdiserte kong Ine av Wessex inn i et romersk kloster. Etter senere opplysninger grunnla Gregor Schola Saxonum i Roma. Som et forsvarstiltak startet Gregor sitt pontifikat med å reparere bymurene. Han utførte også reparasjoner etter ødeleggelsene som var skapt av den oversvømte Tiberen, og han utførte omfattende restaurering i mange kirker.
Gregor støttet aktivt munkevesenet, gjenoppbygde klostre og fylte dem med nye munker. Han gjorde om sitt eget familiegods til et kloster viet Sta Agatha. Han ga i 720 abbed Petronax av Brescia i oppdrag å gjenoppbygge Monte Cassino, som langobardene hadde lagt i ruiner rundt 580.
Gregor var også en liturgisk fornyer som blant annet innførte en messe for torsdager i fasten.
Gregor II døde den 11. februar 731 og ble gravlagt i Peterskirken. Før sin død planla han et besøk i nord som det viste seg at han ikke var i stand til å gjennomføre. Tegn på hans kult opptrer først i Ados martyrologium fra 800-tallet. Hans minnedag er 11. februar.