פטירה: ט אב תשמ"א, 1981
בשנת תשט"ו (1955) נבחר לכהונת הראשון לציון הרב הראשי לישראל. מיד עם כניסתו לתפקיד הרם ניכרה עצמאותו ודרכו המיוחדת כמעט בכל שטחי פעולותיו. החכם שאף מאוד להידברות ויצירת יחסי רעות בין כל חלקי העם. סיוריו בקיבוצים ובערים ואף אל יהודי התפוצות, גישתו, שיחותיו ויכולתו המופלאה להסביר השקפותיה של היהדות, משכו את לבם של הרחוקים, הגבירו את ההבנה ההדדית וקירבו לבבות.
לאחר מלחמת ששת הימים עשה מעשה גדול בהעבירו את בית-הדין הגדול, שהיה נשיאו, לבניין שלנוכח הכותל הדרומי הסמוך ללשכת הגזית, שהיה מקום מושב הסנהדרין.
החכם כיהן בתפקידו עד שנת תשל"ג (1973), במשך ח"י שנים. בתשעה באב, יום חורבן הבית, שנת התשמ"א (1981), בחצות היום, השיב את נשמתו לבוראו. חיבורו העיקרי הוא שו"ת 'יין טוב'.