חכם יוסף רובין אלקבלה נולד לאמו עזיזה ולאביו שמואל בשנת תרל"ז (1877) בטריפולי, שבלוב.
בשנת תר"מ (1880), נפטר אביו, והוא רק בן 3. אמו היא שגידלה אותו בין חכמים. חכם יוסף רובין הוא תלמידו של חכם שלום גויטע, שגם נשא לאישה את בתו מרת כמיסה.
בשנת תרנ"ה (1895) הוסמך לרבנות, שימש כשוחט, מוהל, מורה לתלמוד ולעברית, וחזן בבתי הכנסת בעיר. בשנת תרע"ב (1912) עבר למלטה לשמש בקודש. שם, בשנת תרע"ג (1913), הגעתו השמועה על מות אימו.
בשנת תרע"ה (1915), תוך מלחמת העולם הראשונה, נשלח ע"י ועד הקהילה בטריפולי, לעיירה כומס, לסייע לקהילה היהודית להתמודד עם השלכות המרד הערבי-ברברי נגד הצבא האיטלקי. העיירה כומס, שכותרה ע"י הצבא הערבי-ברברי, סבלה מרעב, ממחלות ותמותה. בנו, בן החמש נפטר, ולאחריו נפטרה בתו ברכוסה. חכם יוסף רובין, סיכן עצמו ויצא אל הצרים על העיר, לקבל מזון ותרופות. ברחמי שמיים, מפקד הצבא הערבי, מהעיר מסראתה, צירף לצבאו יהודים מהעיר מסראתה, שהכירו את חכם יוסף רובין, והמליצו טוב בעדו. קצין תורכי, שליווה את הכוחות הערבים, היה מוצטפה כאמל, הלא הוא אתא תורק, לימים, נשיא תורכיה.
בשנת תרע"ט (1919) נשלח לשרת בקודש בעיר זוארה, ולאחר זמן מה חזר לעיר טריפולי לעמוד בראש התלמוד תורה. בעיר פרצה מגפת כולרה, ורבים מתושביה נפלו חללים. התברר כי אחד הרופאים גרם בזדון למות החולים, במקום לנסות לרפאם. חכם יוסף רובין, שעמד כנגדו, נאלץ לברוח אל מחוץ לטריפולי. הוא הגיע לכריתים, ומשם לאיזמיר. הימים היו ימי מלחמת יוון-תורכיה. בשנת תרפ"ב (1922) עמדו הכוחות התורכיים, בפיקודו של מוצטפה כאמל, לכבוש את העיר, חזרה מידי היוונים. שריפה גדולה כילתה את הרבעים הנוצריים. חכם יוסף רובין יצא למפקדתו של מוצטפה כאמל, שזיהה אותו, הבטיחו, שלא יאונה רע לתושבי העיר.
בשנת תרפ"ג (1923) חכם יוסף רובין שב למלטה, ושימש שם בקודש כ-8 שנים. בשנת תרצ"א (1931) שב לטריפולי, ושימש כמזכיר ועד הקהילה, והממונה על המלמדים בתלמודי התורה. בשנת תרצ"ה (1935) עבר לשרת בעיירה טוברוק, שהייתה מושבה איטלקית בתוך לוב על גבול מצרים. שם פגש בבניטו מוסוליני, שליט איטליה. במלחמת העולם השנייה, הקרבות על העיר טוברוק, שעברה מיד ליד, בין צבאות איטליה וגרמניה לצבא הבריטי, הבריחו את חכם יוסף רובין, חזרה לטריפולי. אך חוליו גבר עליו והוא איבד את מאור עיניו.
בשנת תש"ט (1949) זכה ועלה ארצה עם משפחתו. הם התיישבו במעברת 'יד המעביר' בצפון תל אביב (היום שכונת נווה שרת), שם הקים את בית הכנסת ליוצאי לוב.
חכם יוסף רובין נפטר ביום י"ט תשרי תשי"ג (1952), לזכרו נפתח כולל אברכים במושב דלתון.
ספרו 'יוסף חן' - דרושים והלכות החל לכתוב בהיותו בכפר כומס, וסיים לכתבו באי מלטה. הספר יצא לאור בעירו טריפולי בשנת תרפ"ח (1928) בדפוס אברהם תשובה הי"ד, ויצא שוב בארץ ישראל ע"י מכון גנזי רפאל.