חכם דוד בן שמעון נולד לאימו ולאביו חכם משה, בשנת תקפ"ו (1826), בעיר רבאט שבמרוקו. העיר רבאט, באותן שנים, הייתה מרכז לתורה, וחכם דוד למד אצל חכמי העיר ורבניה, ובמיוחד אצל חכם סעדיה מאראג'י. בגיל צעיר נשא לאשה את רחל, בתו של חכם מסעוד סבאח.
חכם דוד בן שמעון שקד על לימוד התורה מגיל צעיר, דאג לרווחת קהילתו וארגן אותה. למרות גילו הצעיר, אסף סביבו תלמידים, והכשיר אותם להיות דיינים, מוהלים, שוחטים, סופרי סת"ם ושליחי ציבור. תלמידיו שמשו בקודש בקהילה ואף בקהילות אחרות ברחבי מרוקו.
בשנת תרי"ד (1854), אהבתו לארץ ישראל, הביאה אותו לעזוב את תלמידיו ובני קהילתו האהובים, לעלות לארץ ישראל, ולהתיישב בירושלים. בירושלים מצא את אחיו, בני עדת המערביים, יושבים בתוך חומות העיר בדלות רבה, כחלק מהעדה הספרדית. חכם דוד בן שמעון, הקים את מוסדות העדה מהערבית ועמד בראשם.
בשנת תר"כ (1860) היה שותף להקמת שכונת 'משכנות שאננים' מחוץ לחומות העיר העתיקה, ודאג, שבני העדה המערבית, יקחו חלק ביישובה.
בשנת תרכ"ו (1866) ייסד את שכונת 'מחנה ישראל', שנבנתה לבני עדת המערביים, אך בפועל גרו בה, בני כל העדות. חכם דוד בן שמעון פעל גם למען יישובים יהודיים מחוץ לירושלים, ועזר ליישב משפחות שעלו ממרוקו בהתיישבות החקלאית במוצא ובסביבות יפו.
מספרם של בני הקהילה, העולים ממרוקו לארץ ישראל, הלך וגבר. באותה שנה, שנת תרכ"ו (1866), החליט חכם דוד בן שמעון להקים הנהגה משותפת של שבעה מטובי העדה, שעמדו לימינו, בפועלו למען יישוב הארץ.
בארץ, חכם דוד בן שמעון, כיוון את עיקר לימודו לכבוד ארץ ישראל ומנהגיה. הוא תכנן לכתוב ספר, 'שערי צדק', ובו ארבעה חלקים: 'שער החצר' ובו ליקוט מקורות העוסקים בשבחה של ארץ ישראל, בתוספת ביאורו של חכם דוד בן שמעון; 'שער המטרה' על הלכות הקשורות לארץ ישראל; 'שער הקדים' על מצוות התלויות בארץ; ו'שער המפקד', המקבץ את מנהגי ארץ ישראל וירושלים.
בשנת תרכ"ב (1862) זכה להדפיס רק חלק אחד - 'שער החצר'. שאר ספריו, יחד עם כתבים נוספים, נערכו בידי בנו, רפאל, ויצאו לאור אחרי מותו. ביניהם ספר שאלות ותשובות בשם 'מצור דבש', בו שילב הבן תשובותיו עם תשובות אביו, וספר השירים 'שירי תהילה'. על ספריו חתם בראשי תיבות - 'מעט דב"ש'.
בשנת תר"ם (1879), חלה חכם דוד בן שמעון במחלה קשה, נפטר בי"ח כסלו, ונקבר בהר הזיתים.