חכם יוסף רפאל עוזיאל נולד לאמו דונה בדהב ולאביו חכם יצחק חיים עוזיאל בשנת תקפ"ט (1829) בירושלים.
כשהיה תינוק נפטרה אמו במגיפה, ואביו החכם יצחק חיים עוזיאל, שהיה סגן הראשון לציון, חכם שלמה משה סוזין, גידלו לבדו. הוא למד בבתי המדרש בירושלים, גדל בתורה וביראה, והיה לתלמיד חכם.
חכם יוסף רפאל עוזיאל נשא לאישה את מרת רבקה, ונולד להם בנם בכורם משה יהודה, שנפטר בילדותו.
בשנת תרי"א (1851), בהיותו בן 22, יצא יחד עם אביו כשליח כוללות עדת הספרדים בירושלים לעיר תורכיה. במהלך מסעותיהם אסף את כל הדרשות וחידושי התורה, אשר שמע מפי אביו וקבצם בספר בשם 'מוסר אב'. לאחר כשנה חזרו לירושלים, ובשנת תרי"ג (1852) נפטר אביו מן העולם. לאחר פטירת אביו, קשתה אשתו, מרת רבקה, בלידתה, ונפטרה. בנם יחזקאל נשאר בחיים, אך בהגיעו לגיל 13, נפטר אף הוא מן העולם.
בשנת תרי"ט (1859), בהיותו בן 30, יצא לשליחות לערי עיראק, ולאחר ששב לירושלים, התמסר בהתנדבות לפעילות ציבורית. היה לנשיא, אב בית הדין, וראש ועד העדה הספרדית בירושלים. לפרנסתו, שימש כראש השוחטים של העדה הספרדית בעיר, והובאו אליו שאלות מורכבות בנושאי שחיטה.
בשנת תרל"ג (1873) יצא לאור בירושלים, ספר דרשותיו 'איש צעיר', ובהקדמת ספרו תיאר את הייסורים הרבים שפקדו אותו בימי חייו, והתפלל לזכות לבנים גדולים בתורה. ואכן, הוא נישא בשנית לשרה בת חכם משה חזן. בשנת תר"ם (1880), נולד בנו הבכור מאשתו השנייה, חכם בן-ציון מאיר חי עוזיאל, לימים הראשון לציון, והרב הראשי הספרדי הראשון לאחר הקמת מדינת ישראל. בין ילדיו הנוספים, יש לציין את ניסים עוזיאל, שהיה מנהל בנק אנגלו-פלשתינה (לימים בנק לאומי) ביפו ובדרום תל-אביב.
חכם יוסף רפאל עוזיאל הותיר כתבים נוספים בענייני דרושים וחידושים הלכתיים, שנשארו בכתבי-יד, ובנו, חכם בן-ציון מאיר חי עוזיאל, הביא מחידושיו ההלכתיים בספרו 'משפטי עוזיאל'.
חכם יוסף רפאל עוזיאל, נפטר ביום י"ג בניסן תרנ"ד (1894), ומנוחתו כבוד בהר הזיתים בירושלים.