צאצא למשפחת אנוסים, שברחה לרומא, ושבה בגלוי אל היהדות. גדל בתורה וביראה על ברכי חכמי העיר. הוא הוסמך לרבנות, והיה חבר במועצת הרבנות של העיר רומא. שימש בקוש בקהילת יוצאי קטלוניה ואראגון ברומא. דרש ברבנים, וניהל את פנקסי הקהילה. בתקופה זו חיבר את ספרו 'קול יעקב' על התורה, אליו צירף את ספרו 'אור הדרשנים' - כללים והזהרות לדרשן.
בשנת תט"ז (1656) סיים את לימודי הרפואה באוניברסיטת רומא. באותה שנה פקדה את העיר רומא מגפת דבר. חכם יעקב צהלון טיפל בחולי הקהילה היהודית, והיה אחראי על הניהול הרפואי של הרובע השלישי בגטו היהודי. במגפה מתו כשמונה מאות מתוך כארבעת אלפים מיושבי הגטו.
בשנת תכ"ה (1665) הדפיס בעיר וונציה את ספרו 'מרגליות טובות' - קיצור ספר 'חובת הלבבות', ובראשיתו תפילות מיוחדות בכמה עניינים, ובתוכם תפילות שחיבר לרופאים, לדרשנים, לאבות על בניהם, ולמוהלים.
בשנת ת"מ (1680) עבר לעיר פרארה, ושימש רב העיר. בשנת תמ"ב (1682) סיים לכתוב את ספרו 'אור הרופאים', החלק החמישי בספרו 'אוצר החכמות', אך לא הדפיסו. החלק הראשון בספרו 'אוצר החכמות', נקרא 'אוהלי יעקב' עוסק בחכמת הטבע והפילוסופיה. (חיבורים אלו עומדים בכתב יד בספריה הלאומית).
בשנת תמ"ג (1683) הוציא לאור בוונציה את ספרו 'אוצר החיים', החלק השלישי בספרו 'אוצר החכמות'.
חכם יעקב צהלון נפטר בשנת תנ"ג (1693) יום פטירתו אינו ידוע לנו. אנו מציינים אותו ביום ט"ו באב. יום בו סיים לכתוב את ספרו 'אור הרופאים', החלק החמישי בספרו 'אוצר החכמות', בשנת תמ"ב (1682).
בנו, חכם מרדכי צהלון, מחבר הספר 'מציץ ומליץ', שימש בקודש אחריו בעיר פרארה. חכם יעקב צהלון חיבר ספרים נוספים כמו 'ישועות יעקב' - על ספר ישעיהו; 'תיתן אמת ליעקב' - דרשות על התורה; 'מורשת קהילת יעקב' - ביאור למשנה תורה לרמב"ם.
