ראשית תורתו למד מפי רבו, החכם בכור צבאן, ובמקביל למד בבית הספר היהודי-האיטלקי שבטריפולי. בשנת תש"ד (1944) נפטר אביו יוסף, והוא ואמו עברו להתגורר בבית סבו, רפאל זרוק.
בשנת תשי"א (1951) זכה ועלה לארץ לישראל, יחד עם אמו, והם התיישבו בעיר בת-ים.
חכם רפאל זרוק נשא לאישה את מרת נילי, ונולדו להם בנים ובנות, ובראשם, יד ימינו, שסייע בהוצאת ספריו לאור, בנו יוסף. לפרנסתו, שימש מורה ומחנך בבית הספר הממלכתי-דתי "עקיבא" בבת-ים.
בשנת תשל"ה (1975) נסע בשליחות חינוכית לעיר פירנצה שבאיטליה לכמה שנים. כשחזר לארץ, ייסד יחד עם כמה מחבריו את בית הכנסת 'בית אל' ליהודי לוב, במרכז העיר בת-ים, שם שימש חזן וגבאי של בית הכנסת במשך עשרות שנים. במהלך השנים, אסף חומרים הקשורים לתולדותיהם ומנהגיהם המיוחדים של יהודי לוב, סייע בהבאה לדפוס של כתבי חכמיה, ועמד בקשרים עם חכמיה בארץ ישראל.
בשנותיו המאוחרות, הקים בבת-ים את מכון 'גנזי רפאל' - להפצת מורשת יהודי לוב, שבמסגרתו הוציא לאור סידורים, דיסקים של תפילות ופיוטים וכן ספר מנהגים, למען שימור מנהגי הקהילה.
חכם רפאל זרוק ערך את הספר 'לוח דינים ומנהגים לקהילות יוצאי לוב' - דינים ומנהגים לפי סדר לוח השנה, שנדפס בשלוש מהדורות, בשנים תשס"ז-תשס"ט (2009-2007). בשנת תשס"ח (2008) הפיק דיסקים של תפילות ופיוטים כמנהג יהודי לוב, לפסח, לתשעה באב, להושענא רבה ולחג הפורים. ובשנים תשס"ט-תשע"א (2011-2009) ערך את סדרת סידורי התפילה 'זכור לרפאל' לפי מנהגי הקהילה, שנדפסה בהוצאת מכון 'גנזי רפאל': סידור לראש השנה ויום הכיפורים, סידור לפסח, סדר סליחות 'מרפא לנפש', וספר הפיוטים 'שפתי רננות'. בראשית הסידורים, הובאו הקדמות על תולדות יהודי לוב ומנהגיהם, בהתאם לנושא הסידור.
חכם רפאל זרוק נפטר ביום ט"ו באדר תש"ע (2010).
