גדל בתורה וביראה והוסמך להוראה על ידי החכם מארי עואץ' מידעי. היה תלמידו של הרב הראשי של יהודי תימן, החכם באשי, מארי יחיא יצחק הלוי, שמינה אותו לשליחו ומפקח על השוחטים ובתי הדין בכל רחבי תימן. ניחן בקול ערב, והכיר היטב את השירה והפיוט של יהודי תימן והיה חזן ופייטן מבוקש.
בשנת תרע"ד (1914) עת שפרצה המחלוקת בין הדרדעים והעיקשים עמד לימין החכם באשי, מארי יחיא יצחק הלוי, במחנה ה'עיקשים', והיה בין החותמים על הספר 'אמונת ה'', שנכתב בידי החכם מארי יחיא ערוסי. החכם מארי יחיא קאפח, שעמד בראש מחנה הדרדעים מתאר אותו כמי שניסה לפשר ולהשכין שלום בין המחנות גם בעת המחלוקת, וכתב עליו, שהיה "איש הביניים בין כל המחנות, איש הגשר בין חכמי צנעא וגאוניה ... וכשם שאהב את כולם כן אהבוהו וכיבדוהו כולם, תלמידים ורבנים כאחד".
בימיו פקדה את יהודי תימן גזירת היתומים. השלטונות היו ממירים בכפייה את דתם של יהודים שמתו הוריהם. חכם מארי יחיא נחום לקח חלק בהצלת היתומים ובהברחתם תוך סיכון חייו, אף נכנס לכלא בשל כך מספר פעמים ועונה עינויים קשים. הוא נאלץ לברוח וביקש להגיע לארץ ישראל. הוא הגיע בראש קבוצת יהודים לעדן, שהייתה בשליטה בריטית, שם המתינו תקופה ארוכה וקשה עד השגת רישיונות עלייה. הוא עמד בקשר עם הסוכנות היהודית, תיאר בפניהם את צער אחיו במחנות, והפציר בהם שיעלו אותם לארץ במהרה,
בשנת תרצ"ד (1934) יצא לעדן בדרכו לארץ ישראל. הוא הגיע עלה לארץ ישראל בראשית שנת תרצ"ו (1935), ולימים התמנה לרב שכונת כרם התימנים בתל אביב. הוא שימש מפקח על הכשרות בתל אביב. עסק בגמילות חסדים והקדיש חלק מביתו לחסרי בית. שימש מגיד שיעור בישיבת 'אוהל תורה' בתל אביב עד פטירתו.
חכם מארי יחיא נחום נפטר ביום י"ג באדר תשכ"ב (1962), ומנוחתו כבוד בתל אביב.
