חכם יוסף חיים שרים נולד לאמו נעמה ולאביו חכם שלום בשנת תרי"א (1851) בארם צובא, שבסוריה..
בשנת תרי"ג (1853), והוא בן שנתיים, עלה יחד עם משפחתו לארץ ישראל. הם התיישבו בשכונת אבו טור בירושלים. שנתיים אחר כך מתה עליו אמו. אביו היה מחכמי ישיבת המקובלים 'בית אל' שבעיר העתיקה.
חכם יוסף חיים שרים למד בתלמוד תורה 'דורש ציון' בירושלים, שם נתעלה בלימוד התורה ולאחר זמן מה אף החל ללמד אף הוא בתלמודי תורה של הספרדים בירושלים.
בשנת תרל"ד (1874) נשא לאשה את שמחה ונולדו להם 4 ילדים.
בשנת תרמ"ב (1882) חכם יוסף חיים שרים קיבל על עצמו להיות שלוחא דרבנן (שד"ר) מטעם העדה הספרדית בארץ ישראל. הדרת פניו, דרשותיו המושכות, היותו חזן מעולה, וכן ידיעותיו בשפות שונות, היו לעזרו בתפקידו החשוב. הוא סבב במדינות רבות בתוכן הודו, סין, עיראק, תורכיה וכורדיסטן.
בסיון תרצ"ד (1934), והוא בן 83, הפסיק את שליחויותיו וקבע את זמנו בישיבת 'מזל צומח' שאותה יסד.
חכם יוסף חיים שרים נפטר, בשיבה טובה, ביום ו' טבת תש"ט (1949).
ספרו 'דבר יוסף' הוא לקט של דרשותיו, שנשא ברחבי העולם, ונמצאו בדרך פלא על ידי נכדו, 34 שנה לאחר פטירתו. על שמו הוקם בית כנסת 'עוד יוסף חי' בשכונת מחנה יהודה בירושלים, וכן נקרא רחוב על שמו בשכונת רמת שרת בירושלים.