גדל בתורה וביראה על ברכי אביו, חכם אברהם חי שאקי, אב בית הדין ורב העיר צפת, מחבר הספר 'שער הקדים'. חכם עובדיה שאקי היה תלמידם של חכם שחאדה לוי וחכם ישועה פלאג'י.
משנת תרנ"ד (1894), כבר בגיל 12, נאלץ לדאוג לפרנסת משפחתו, אך במקביל המשיך בלימודיו בעצמו בהלכה באגדה וגם בפילוסופיה, בקבלה, ובהיסטוריה של תקופת התלמוד והגאונים.
בשנת תר"ס (1900) נפטר אביו. חכם עובדיה שאקי גר בבית אביו, בין בית הכנסת של מוהר"י אבוהב ובית הכנסת של הרב אלשיך. בקומה מעליו, שכן בית המדרש על שם חכם יצחק גואטה.
בשנת תרע"ד (1914) פרצה מלחמת העולם הראשונה. מכיוון שהיה אזרח צרפתי, הוגלה מהארץ בידי השלטונות הטורקים לאי קורסיקה. בקורסיקה שימש ברבנות בתוך קהילת הגולים, וקבע עיתים לתורה בבית המדרש, שהקימו הגולים. במקביל הרחיב את השכלתו הכללית. הוא כתב מאמרים בעיתונות הצרפתית, התכתב עם אנשים מהספרייה העברית המרכזית בפריז, ועסק במחקר הפילוסופיה.
חכם עובדיה שאקי נשא לאשה את מרת חנה נזלי בת החכם יצחק חזן ממרוקו, ונולדו שלושה ילדים. אסתר ברזיניאק, שנולדה בקורסיקה, מרגלית טולדאנו, ופרופ' אבנר חי שאקי.
בשנת תר"פ (1920) חזר לעיר צפת. בשנת תרפ"ה (1925) יצא בשליחות לערי מרוקו שם שהה במשך שלוש שנים, את רשמיו ממסעו אסף בספר 'מסעותיי בהרי האטלס'. כן נסע לארצות מערב אירופה, לארצות הבלקן, לסוריה וללבנון. דרשותיו נשא בשלוש שפות: עברית, צרפתית ולדינו.
בשנותיו האחרונות כהו עיניו, וסבל ייסורים קשים. בעת מלחמת העצמאות שהה בצפת, והמצור השפיע עליו לרעה, אבל זכה לחוג את יום העצמאות, חודשים מעטים לפני פטירתו.
חכם עובדיה בן אברהם שאקי נפטר ביום א' תמוז תש"ט (1949). על מכתביו נהג לחתום במילים: 'עבד ה', אוהב א-לוהים ואדם', ומשפחתו חרתה מלים אלו על קברו. חיבוריו כנראה עומדים בכתב יד: 'משלי אמת'; 'פרקים באהבת הא-לוהים והאדם'; 'יסודות ההויה' - מחקרים; ו'מסעותי בהרי האטלס'. בנו, פרופ' אבנר חי שאקי הקים על שמו את 'המכון לחקר המשפחה ודיני המשפחה', והדפיס ספר דרשות מכתבי יד של אביו.
