חכם יהודה אלקלעי נולד לאביו חכם שלמה, ולאמו, בשנת תקנ"ח (1798), בסרייבו שבבוסניה. בילדותו למד תורה מאביו, שהיה דיין בקהילת סרייבו, ומחכם אליעזר פאפו בעל ה'פלא יועץ'. לימים נשא לאשה את אסתר.
בשנת תקפ"ה (1825), בגיל 27, התמנה כרבה של הקהילה הספרדית בעיר זמון (כיום חלק מבלגראד שבסרביה). כחלק מתפקידו שימש גם כמלמד תינוקות, לצורך כך חיבר את ספרו הראשון 'דרכי נועם' ללימוד השפה העברית בלדינו.
בשנת ת"ר (1840) בעקבות עלילת דמשק, מצב היהודים בכלל ובפרט באזור בו חי, התעורר למצוא פתרון לבעיית הגלות. תכניתו של הרב אלקלעי כללה בחירה בשפה העברית כשפה משותפת לכל היהודים, עידוד לימודה, מציאת מנהגים מאחדים לבני כל העדות, עלייה לארץ ישראל וכינון חיים מדיניים שם. חכם יהודה אלקלעי פרסם את הרעיונות האלה, לראשונה בקונטרס 'שלום ירושלים' בשפת הלדינו, ואחר כך בספרו המפורסם 'מנחת יהודה' בעברית. רעיונות אלו התפרסמו שנים רבות לפני הקונגרס הציוני הראשון, ועל כן זכה לכינוי 'מבשר הציונות'.
בהמשך חייו חיבר חיבורים נוספים בנושאים אלה - 'קול מבשר', 'ספר חיים', גורל לה', 'מבשר טוב', 'שמע ישראל', 'מעודד ענווים', 'מנחם ציון' ועוד. חכם יהודה אלקלעי ניסה להפיץ את רעיונותיו בדרכים נוספות, ויצא למסעות בקהילות יהודיות ברחבי אירופה, שם ניסה להפיץ את משנתו. בשנת תרי"ב (1852) הקים בלונדון את חברת 'שלום ירושלים' - ליישוב ארץ ישראל, אך היא התפרקה מיד אחרי עזיבתו את העיר.
בשנת תרל"ד (1874) עלה לארץ יחד עם אשתו, אסתר, והתיישב בירושלים. ארבע שנים מאוחר יותר, בד' תשרי תרל"ט (1878) נפטר מבלי שהספיק לראות אף אחת מתכניותיו מתגשמת. על שמו קרויה העיר אור יהודה, וחמישה מתלמידיו הקימו את העיר פתח תקווה.
