משה נולד ביום כ”ה באדר א’ תרצ”ב, 3 במרץ 1932 בהולנד לאמו צילה ולאביו אברהם אליהו. אביו היה תלמיד ישיבה שעלה מפולין בשנת 1919, למד את מקצוע הבנאות ועבד כבנאי בסולל בונה כיובל שנים. הוא היה בין מייסדי פועלי אגודת ישראל (פאג”י). בשנת 1929 יצא אברהם אליהו להולנד, שם התחתן, וחזר ארצה בשנת 1932 עם אשתו והתינוק משה.
משה קיבל חינוך דתי ולאומי. הוא למד בבית הספר ביל”ו, בבית הספר התיכון מוריה וכן עבר השלמה תורנית בישיבת בית יוסף בתל אביב. בנעוריו היה חבר בתנועת הנוער המזרחי. היות והתגורר בקרבת “מצודת זאב”, התרועע עם צעירי בית”ר והושפע גם מהם. אחת הדמויות שהעריך ושהיוותה נר לקביעת המשך דרכו הייתה דמותו של שלמה בן יוסף, עולה הגרדום הראשון.
רצח יאיר בשנת 1942 השפיע עליו השפעה עמוקה ביותר, ולפיכך לא היה זה אלא טבעי, לכשיגדל, לחפש דרך אל המחתרת. ואכן, כשעמד על דעתו, הצטרף למחתרת לח”י. הדבר היה בסוף שנת 1946 ומפאת גילו הצעיר צורף למחלקת הנוער. משה מילא את כל התפקידים שהוטלו עליו במסירות רבה, ביציאות הליליות להדבקת כרוזים, הפצת חומר הסברה, תפקידי קישור ותצפיות.
עם קום המדינה התגייס לצה”ל יחד עם כל חברי לח”י ביום 29 במאי 1948 (הוא יום נפילת העיר העתיקה בירושלים). הוא הוצב בגדוד 82, חטיבה 8, פלוגה א’, היא פלוגת המשוריינים, בתפקיד אלחוטאי ונפצע בקרבות מבצע דני. גם לאחר תום המלחמה המשיך במסורת ההתנדבות ושירות העם והמשיך לשרת בצבא קבע עד צאתו לגמלאות בשנת 1972 בדרגת רב סרן. בצה”ל מילא שורה של תפקידים, בין היתר קצין המיון של צה”ל, עוזר הצנזור הראשי, ראש לשכת ראש אגף כוח אדם ואחרים.
במלחמת ששת הימים שירת משה במחוז לכיש כאחראי לארגון כוח האדם בחזית דרום הר חברון מול צבא ירדן. במלחמת יום הכיפורים שירת ארבעה חודשים כיושב ראש הוועדה לתאום שרות מילואים–חרום בפיקוד דרום.
לאחר שחרורו מצה”ל, עבר קורס למורי דרך והיה מזכיר ארגון המוניות בתל אביב–יפו.
בשנת 1955 נשא לאִשה את אלופה לבית סמסונוב ונולדו להם ארבעה ילדים ונכדים.
שני חברי לח"י מחטיבה 8, גדוד 82, פלוגה א', על משוריין בשדה התעופה בלוד. מימין: מפקד המשוריין יצחק מסרי ("עמיאל") והאלחוטאי משה בן-יהודה ("גיורא").
בטקס האזכרה לאברהם שטרן - "יאיר". מימין: שרגא לביא, משה בן-יהודה, עזרא יכין ודוד לוי.
אזכרה לחללי חטיבה 8 שנפלו במלחמת העצמאות, בנר ראשון של חנוכה בחלקה הצבאית בנחלת יצחק, גבעתיים. מימין: שרגא לביא, מירי יהלום, צבי פריזנט, משה בן יהודה.
ביקור בבית הנשיא. עומדים, מימין: דבורה דנון, משה מזרחי, מתתיהו פלאי, יהודה גפני, חנה ערמוני, יעל בן-דב, דוד שומרון, רינה אהרוני, משה בן-יהודה, דוד אלימלך, יעקב יהל, בנימין ברזני, חייא ולאה יוסיפוף ודוד בלאו. יושבים, מימין: נחמיה בן-תור, יאיר שטרן, ראובן ריבלין.
קובי אלבז מראיין את רינה אהרוני ומשה בן-יהודה.
מימין: משה בן יהודה ושלום ליסיצקי עובדים על אלבום לח"י.
משה בן יהודה מרצה בפני חיילים.
מימין: גרשון הורביץ, לא מזוהה, חנה ערמוני, צבי פריזנט, גדעון לנדמן, שרגא לביא, יצחק בן-חיל, לא מזוהה, משה בן-יהודה, בנימין ברזני.
אירוע לזכר חללי לח"י שהשתתפו בהתקפה על בתי המלאכה, בי"ט בסיוון. מימין: החזן הצבאי, שמשון וילנר, משה בן-יהודה, לא מזוהה, אריק וחגית גלטנר, לא מזוהה, עדנה בן-אריה, שני לא מזוהים, ציון ומשה שמואל.
אירוע לזכר חללי לח"י שהשתתפו בהתקפה על בתי המלאכה, בי"ט בסיוון. מימין: שמשון וילנר, לא מזוהה, דוד אלימלך, אליעזר בן-עמי, גרשון הורוביץ, חנה ערמוני, בנימין ברזני, יאיר שטרן, משה בן-יהודה, בני סלומון, מנהל בית העלמין הצבאי בחיפה.