חכם יוסף הכהן, נולד לאימו ולאביו חכם מרדכי הכהן בירושלים.
בילדותו התייתם מאביו ומאמו וגדל בבית דודו ורבו חכם יצחק הכהן. הוא העמיק בלימודו בבית המדרש 'בית יעקב ויגה' מפי רבו הראשון לציון, החכם משה גלנטי, שמונה לתפקיד ראש בית המדרש בשנת תל"ד (1674).
בשנת תמ"ט (1689), לאחר מות רבו, הראשון לציון החכם משה גלנטי, מאחר ורבו ההתנכלויות ליושבי ירושלים, חכם יוסף מרדכי הכהן נדד לערי מערב אירופה, שם פגש את חכמיה, ונשא דרשות בפני הציבור. בהגיעו לאמסטרדם פגש בחכם משה חאגיז, נכדו של הראשון לציון, חכם משה גלנטי, ובשנת תס"ח (1708) הדפיסו את ספרו של רבו 'זבח השלמים'. לזיכוי הרבים, הדפיס גם את ספרי 'האדרא רבה' ו'האדרא זוטא'. בשנת תע"ה (1715) זכה להדפיס את ספר דרשותיו 'דברי יוסף' בעיר ונציה. בספר מצורף לקט חידושי תורה בשם 'לקט יוסף', וכן חלק מחיבור רחב יותר, שלא עלה בידו להדפיסו בשם 'עדות ביהוסף'.
יום פטירתו אינו ידוע לנו, אנו מציינים אותו ביום ל' בכסלו תע"ה (1715), יום בו חתם ספרו 'דברי יוסף'.