חכם יעקב חיים נולד לאמו רחל ולאביו חכם יוסף חיים, ה'בן איש חי', בשנת תרי"ד (1854) בבגדאד, שבעיראק. את תורתו קיבל מאביו, שהיה בנו יחידו. פעמים רבות מזכיר ה'בן איש חי' את חידושי בנו בספריו.
לאחר פטירתו של חכם יוסף חיים נתמנה בנו לממשיך דרכו והוא מילא תפקיד זה במשך 12 שנה עד פטירתו. רבים הגיעו לשמוע את דרשותיו, וכאשר באו השומעים וביקשו שיגביה קולו כאביו, השיב להם שאין הוא יכול לדבר בקול רם יותר מכך, ואין זאת כי מקולו של אביו הייתה השכינה מדברת.
חכם יעקב חיים נפטר ביום י"ב חשון תרפ"א (1921).
חכם יעקב חיים חיבר כמה חיבורים: 'ציצים ופרחים' - חידושים על התנ"ך הדפיס בחייו בירושלים בשנת תרס"ד (1904), פירוש 'זכות אבות' על מסכת אבות שהדפיס יחד עם ספרו של אביו 'חסדי אבות', ל"ז תשובות שנדפסו לאחר פטירתו בתוך ספר אביו 'ידי חיים' ועוד פירוש על אגדות הש"ס שנשאר בכתב יד.