ראשית תורתו למד מפי אביו, חכם סלמן אליהו, מתלמידי ה'בן איש חי', במצוותו עלה, מבגדאד לירושלים. בקטנותו למד בתלמוד תורה 'בני ציון', ובהמשך למד בישיבת 'פורת יוסף' מפי ראש הישיבה, חכם עזרא עטיה.
בשנת תש"א (1940) נפטר אביו, והותיר אחריו שבעה יתומים, ובתוכם אחיו, הראשון לציון, חכם מרדכי אליהו. המשפחה נותרה ללא פרנסה וללא קורת גג, ונאלצה לעזוב את ביתה בעיר העתיקה, ולעבור לשכונת 'בית ישראל'. חכם יהודה צדקה, דודו של חכם נעים בן אליהו, לימים ראש ישיבת 'פורת יוסף', עמד לימינם, ככל שהשיגה ידו, באותם ימים קשים, ואפשר לחכם נעים בן אליהו להמשיך לשקוד על תלמודו בישיבה.
חכם נעים בן אליהו נשא לאישה את מרת רחל, ושימש מורה ב'סמינר הישן' בירושלים.
בשנת תש"ח (1948) במהלך מלחמת העצמאות, נלחם ונפצע במהלך הקרבות. עם תום המלחמה, הקים וניהל בית ספר בשכונת הקטמונים. בהמשך החל לשמש רב בית הכנסת 'נועם שיח' בשכונת הבוכרים. הוא עסק בחסד, והקים קרנות עזרה לחתנים ולנזקקים. עסק בטהרת המתים וקבורתם, וסייע ביד משפחות האבלים.
חכם נעים בן אליהו החל ללמוד קבלה מפי החכם סלמן מוצפי. בעידודו זכה להוציא לאור מכתב יד, שהיה שמור עימו, את הספר 'כרם שלמה', שחיבר אביו, חכם סלמן אליהו - פירוש לחיבור של החכם חיים ויטאל 'עץ החיים'. הכרך הראשון יצא לאור על ידו בשנת תשכ"ה (1965). בהמשך שימש ראש ישיבת המקובלים 'בן איש חי'.
בשנותיו האחרונות של חכם נעים בן אליהו, לאחר אירוע מוחי סבל מקשיי דיבור, אומנם דעתו הייתה צלולה.
חכם נעים בן אליהו נפטר ביום ו' באלול תשע"ד (2014), ומנוחתו כבוד בהר המנוחות.
אין בידינו כתבים מדברי תורתו, העלנו על הכתב, דברים שנשא באירועים שונים או שנאמרו משמו.
