חכם רפאל אהרון בן שמעון נולד לאמו רחל ולאביו חכם דוד בן שמעון בעל ה'צוף דבש', בשנת תר"ח (1848), בעיר רבאט שבמרוקו. בשנת תרי"ד (1854), והוא בן שש, עלה עם משפחתו לארץ ישראל.
חכם רפאל אהרון בן שמעון שימש כמזכיר בית דינו של אביו, והיה לראש ישיבת 'מגן דוד' בירושלים.
בשנת תר"ך (1860) נשא לאישה את אסתר, בת למשפחת בן-וואליד ממרוקו.
בשנת תרמ"ח (1888) נשלח חזרה למרוקו כשליח דרבנן מטעם ועד העדה המערבית בירושלים. בזמן שהותו בעיר פאס, ייסד חכם רפאל אהרון בן שמעון את אגודת 'דובב שפתי ישנים', במטרה לאסוף כתבי יד של חכמי מרוקו ולהוציאם לאור.
בשנת תרנ"א (1891), עם חזרתו ממרוקו התמנה כרב הראשי (החכם באשי) של קהילת יהודי קהיר, תפקיד בו הוא כיהן שלושה עשורים (1891-1921). במהלך כהונתו זכה לאותות כבוד מהשלטון העות'מאני והמצרי.
בזמן מלחמת העולם הראשונה, פעל כנגד הסתה אנטי-יהודית בעיתון מצרי בשם "אלאקדם". חכם רפאל אהרון בן שמעון שלח מכתב לבעלת העיתון - הנסיכה אלכסנדרה, שהשיבה לחכם: "תודה שעוררתם אותנו על השגיאות והפשעים שיצאו מהעיתון [...] נגד האומה שאני מכבדת ומברכת." ופיטרה את עורך העיתון.
בשנת תרפ"א (1921) עלה עם משפחתו לארץ ישראל, והתיישב בתל אביב- יפו. הוא קיים בית כנסת בדירתו בתל אביב והרבנים הראשיים לת"א-יפו היו מתייעצים עמו בענייני השיפוט וההלכה.
חכם רפאל אהרן בן שמעון נפטר בתל אביב בי' בחשוון תרפ"ט (24.10.1928) והובא לקבורה בהר הזיתים בירושלים. כחודשיים לאחר מכן נפטרה אשתו ונטמנה לצידו.
חכם רפאל אהרן בן שמעון זכה לחבר ספרים יקרים, ולהדפיסם בחייו. בין חיבוריו: ספר 'נהר פקוד' - תוספות לספרו של אביו 'שער המפקד' - על מנהגי העיר ירושלים, ספר 'נהר מצרים' ב' חלקים - על מנהגי ודיני קהילת קודש מצרים על פי סדר השולחן ערוך, ספר 'סדר חליצה' - על חוקי החליצה, ספר 'טוב מצרים' - על חכמי מצרים וגאוניה מתקופת הרמב"ם ועד דורו, ספק 'ומצור דבש' - שאלות ותשבות, ספר 'לחם המערכת' ג' חלקים - דרושים, ספר 'בת נעות המרדות' - על דיני אישה המורדת.
In Egypt it was customary the custom was to bring musicians to play on the Sabbath of a circumcision. They would do this by inviting them from the Sabbath Eve, so that they could play on the Sabbath, and this is permitted by religious law. Despite the fact that our master Rabbi Ben Zimra wrote that …" in Egypt the custom was to forbid" to instruct a non-Jew to play music on the Sabbath itself, there is no prohibition to instruct the non-Jew on the Sabbath Eve. The prohibition given by our master Rabbi Ben Zimra in that Response does not apply in this case, and those who do so are not to be reprimanded. If there is, however, any suspicion that they will collude in hiring non-Jews to play on the Sabbath day itself, the right thing to do is to apply a safety margin on this matter as well.
Nehar Mitzraim, Volume One – Orach Haim VeYoreh De'ah, Sabbath Hakakhot, paragraph 9, Pereg Haim Mizrachi and Sons Printing, Na Amon, Alexandria 1908