חכם יוסף פרץ נולד לאמו מסעודה ולאביו חכם יעקב פרץ, בעיר מרקש שבמרוקו בשנת תרס"ו (1906).
הוא למד בישיבות במרקש, ובשנת תרפ"ג (1923) נסמך לשחיטה על ידי אב בית הדין חכם יעקב טולדאנו.
בשנת תרצ"ה (1935) חכם יוסף פרץ נשא לאישה את תמר בת החכם משה חרוש.
חכם יוסף פרץ היה מעשירי עירו, ובבעלותו היתה חנות. אמנם נהג להניח אדם במקומו בחנותו, ולהרבות ככל הניתן בעיסוקו בתורה, והיה מתמיד בלימודו בישיבת מורו החכם מרדכי קורקוס.
בשנת תשי"ג (1953) חכם יוסף פרץ עלה לארץ ישראל, יחד עם קבוצת עשירים ממרקש שהתארגנה יחדיו, התיישב בהרצליה, ועסק במסחר.
בשנת תשי"ז (1957) מתה עליו אימו, והיא עודה במרוקו.
באותה שנה הוסמך לרבנות על ידי הרבנים הראשיים דאז, חכם יצחק ניסים, והרב יצחק הלוי הרצוג.
חכם יוסף פרץ נקרא לשרת כרב המושב גורן, בגבול הלבנון בו התגוררו עולים מצפון אפריקה. לאחר כשנה נתמנה לרב המושב מגדים שבחוף הכרמל, אף הוא מושב שהוקם על ידי עולים ממרוקו ואלג'יר. בתפקידו הרבה לעסוק בחינוך בני הנוער שביישוב. באחרית ימיו עבר להתגורר בירושלים.
חכם יוסף פרץ נלקח לבית עולמו ביום כ"ח בשבט בשנת תש"מ (1980), ומנוחת כבודו בהר הזיתים.
חכם יוסף פרץ חיבר את הספר 'תהילתו בפי' - חידושים על התורה ומשא ומתן בהלכה.