Jeszcze 8 czerwca 1963 r. wydawało się, że kardynał Stefan Wyszyński, z powodu przedłużającej się choroby, nie mógł wyjechać do Rzymu na konklawe po śmierci Jana XXIII. Dwa dni później poczuł się jednak lepiej. Rano przewodniczył posiedzeniu 77. Konferencji Plenarnej Episkopatu Polski, a wieczorem wyjechał do Wiecznego Miasta, do którego dotarł 12 czerwca. Przez pierwsze dni pobytu w Rzymie brał udział w nabożeństwach żałobnych za papieża Jana XXIII i w kongregacjach kardynałów.

19 czerwca Mszą św. w Bazylice św. Piotra rozpoczęło się konklawe. Wszyscy przewidywali, że będzie trwało ono bardzo krótko. Bliski śmierci Jan XXIII, żegnając 31 maja najbliższych współpracowników, powiedział: Moim następcą - jak sądzę - będzie kard. Montini; na nim powinny skupić się głosy Świętego kolegum. Kardynał Giovanni Battista Montini, arcybiskup Mediolanu miał wielu zwolenników pośród elektorów. Opowiadał się za nim także kardynał Stefan Wyszyński. Oprócz Prymasa Polski arcybiskupa Mediolanu popierali między innymi kardynałowie: Jan Alfrink z Holandii, Julius Dopfner i Joseph Frings z Niemiec, James Cushing i Francis Spellman z USA, Franz Konig z Austrii. Nie oznaczało to, że nie było innych kandydatów. Wśród nich najczęściej wymieniano kardynałów: Giuseppe Siri z Genui, Giacomo Lecaro z Bolonii i dostojnika watykańskiego Carlo Confalonieri. Chociaż spodziewano się szybkiego wyboru, to jednak zebrano na czas konklawe takie zapasy żywności, by wystarczyły na dłuższy czas.

Następnego dnia rozpoczęły się wybory. Już podczas drugiego głosowania otrzymał on głosy 40 spośród 80 biorących udział w konklawe kardynałów. Do 2/3 wymaganych przepisami głosów brakowało 14. Jeszcze tego samego dnia, w czwartym głosowaniu otrzymał dokładnie tyle, ile potrzeba było do wyboru papieża. Kardynał Montini zapytany, czy przyjmuje wybór, poprosił o możliwość przemodlenia i przemyślenia decyzji oraz o ponowne głosowanie, które potwierdziłoby ten wybór.

Następne głosowania w dniu 21 czerwca przyniosły całkowitą zgodność kardynałów-elektorów. Tylko jeden nie oddał głosu na kardynała Montiniego. Zapewne on sam był tym jedynym, który się wyłamał z jednomyślności. Kardynał Montini po przyjęciu wyboru obrał imię Pawła VI.

Ten moment tak zapisał w swoim dzienniku Prymas Tysiąclecia:

Zapytany, czy przyjmuje wybór, kard. Montini oświadcza krótko, że jakkolwiek zadanie przerasta jego siły, nie śmie opierać się woli elektorów i wybór przyjmuje. Obiera sobie imię Paweł. Oświadczenie to zostało przyjęte oklaskami. Podchodzę do elekta i witam go słowami pierwszej antyfony na dzisiejszą Uroczystość Serca Pana Jezusa (...) " Słodkim jarzmem władaj pośród nieprzyjaciół Twoich". Papież odpowiada mi po polsku: "Niech żyje Polska".

A w czasie popołudniowego homagium, jakie składali nowemu papieżowi kardynałowie, raz jeszcze doszło do krótkiej wymiany zdań:

Gdy podszedłem do tronu, powiedziałem do Ojca Świętego: - "W imieniu Episkopatu Polski, duchowieństwa i wiernego ludu składam wyrazy hołdu, czci i wierności". Ojciec Święty powiedział: - "Składamy hołd Polsce świętej, zawsze wiernej i tak nam drogiej. Proszę o jedno Zdrowaś Maryjo na Jasnej Górze, u Matki Bożej Częstochowskiej". Zapewniłem, że "każdego dnia będzie odprawiana Msza św. na Jasnej Górze w intencji pontyfikatu Jego Świątobliwości".