חכם מארי זכריה יחיאל שרעבי, נולד לאמו סעידה ולאביו מארי אביגד בשנת תרס"א (1901) בעיר צירא בתימן.
גדל על ברכי חכמי עירו צירא, שבמחוז שרעב בדרום-מערב תימן. גדל בתורה וביראה, בנגלה ובנסתר.
בשנת תרפ"ה (1925), זכה ועלה עם משפחתו לארץ ישראל, והתיישב בעיר תל אביב.
נשא לאישה את מרת ציפורה, בת החכם המקובל מארי יחיא שרעבי.
לפרנסתו עבד מחצית היום כפקיד בהסתדרות, ומחצית היום היה שוקד על תורתו. היה קם, מדי לילה לתיקון חצות, והיה ממשיך בלימודו בתורת הסוד עד עלות השחר. היה מרבה בתעניות ובפרישות מענייני העולם הזה, והיה סובב במושבות ובשכונות ער המרכז לחזקם רוחנית, ולזכות את הרבים בלימוד תורה. אף שליבו נשאו לירושלים, והיה עולה לכותל המערבי אחת לחודש, ואף קנה דירה בירושלים, נמנע מלגור בה.
פוטר מעבודתו בהסתדרות, לאחר שקרא להצביע בבחירות, רק למפלגות שמחזקות את הדת. ומילא כל ימיו בעיסוק בענייני קודש, בענייני ציבור ובלימוד תורה. ידועה פסיקתו, שלא לסמוך על העירוב ע"י קשירת חבל מסביב לעיר, ולכן נמנעו שומעי לקחו מטלטול ביום השבת בתוך העיר כדין רשות הרבים.
בשנת תש"ט (1948) במלחמת העצמאות, נהרג בנו, רפאל יהודה אביגד שרעבי, בקרב בית-גוברין.
בשנת תשי"ט (1959) יצא לאור בתל באביב ספרו 'קיצור אבן העזר' - דיני אישות. בשנת תשכ"ו (1966) יצא לאור בתל אביב הספר 'משפטי אמת' - על דיני ממונות: 'משפט חרוץ' - בנגלה, ו'משפט אמת' - כוונות על דרך הסוד. בשנת תשל"ח (1978) יצא לאור בתל אביב ספרו 'יבוא שילה' - קיצור שולחן-ערוך בענייני יום-יום, נדפס בתל אביב. בתוך הספר נדפסו גם הספרים 'תוכחת מגולה' - דיני עירובין, ו'ריח ניחוח' - כוונות על דרך הסוד.
חכם מארי זכריה יחיאל שרעבי נפטר ביום כ"ז בניסן תש"ם (1980), ומנוחתו כבוד בהר המנוחות בירושלים.