חכם רפאל אהרון בן שמעון נולד לאמו רחל ולאביו חכם דוד בן שמעון בעל ה'צוף דבש', בשנת תר"ח (1848), בעיר רבאט שבמרוקו. בשנת תרי"ד (1854), והוא בן שש, עלה עם משפחתו לארץ ישראל.
חכם רפאל אהרון בן שמעון שימש כמזכיר בית דינו של אביו, והיה לראש ישיבת 'מגן דוד' בירושלים.
בשנת תר"ך (1860) נשא לאישה את אסתר, בת למשפחת בן-וואליד ממרוקו.
בשנת תרמ"ח (1888) נשלח חזרה למרוקו כשליח דרבנן מטעם ועד העדה המערבית בירושלים. בזמן שהותו בעיר פאס, ייסד חכם רפאל אהרון בן שמעון את אגודת 'דובב שפתי ישנים', במטרה לאסוף כתבי יד של חכמי מרוקו ולהוציאם לאור.
בשנת תרנ"א (1891), עם חזרתו ממרוקו התמנה כרב הראשי (החכם באשי) של קהילת יהודי קהיר, תפקיד בו הוא כיהן שלושה עשורים (1891-1921). במהלך כהונתו זכה לאותות כבוד מהשלטון העות'מאני והמצרי.
בזמן מלחמת העולם הראשונה, פעל כנגד הסתה אנטי-יהודית בעיתון מצרי בשם "אלאקדם". חכם רפאל אהרון בן שמעון שלח מכתב לבעלת העיתון - הנסיכה אלכסנדרה, שהשיבה לחכם: "תודה שעוררתם אותנו על השגיאות והפשעים שיצאו מהעיתון [...] נגד האומה שאני מכבדת ומברכת." ופיטרה את עורך העיתון.
בשנת תרפ"א (1921) עלה עם משפחתו לארץ ישראל, והתיישב בתל אביב- יפו. הוא קיים בית כנסת בדירתו בתל אביב והרבנים הראשיים לת"א-יפו היו מתייעצים עמו בענייני השיפוט וההלכה.
חכם רפאל אהרן בן שמעון נפטר בתל אביב בי' בחשוון תרפ"ט (24.10.1928) והובא לקבורה בהר הזיתים בירושלים. כחודשיים לאחר מכן נפטרה אשתו ונטמנה לצידו.
חכם רפאל אהרן בן שמעון זכה לחבר ספרים יקרים, ולהדפיסם בחייו. בין חיבוריו: ספר 'נהר פקוד' - תוספות לספרו של אביו 'שער המפקד' - על מנהגי העיר ירושלים, ספר 'נהר מצרים' ב' חלקים - על מנהגי ודיני קהילת קודש מצרים על פי סדר השולחן ערוך, ספר 'סדר חליצה' - על חוקי החליצה, ספר 'טוב מצרים' - על חכמי מצרים וגאוניה מתקופת הרמב"ם ועד דורו, ספק 'ומצור דבש' - שאלות ותשבות, ספר 'לחם המערכת' ג' חלקים - דרושים, ספר 'בת נעות המרדות' - על דיני אישה המורדת.