יוסף נולד בירושלים בשביעי של פסח בשנת 1920, ביום כ”ג בניסן תר”ף, 11 באפריל 1920, חודש לאחר מותו של יוסף טרומפלדור. הוריו, יצחק ואסתר בן דוד ז”ל, היו זוג ציוני צעיר שעלה ארצה מאודסה באניית המעפילים “רוסלאן” – האונייה המאורגנת הראשונה והאחרונה שהפליגה לארץ ישראל עם תום מלחמת העולם הראשונה. ביום 19 בדצמבר 1919, עגנה “רוסלאן” ביפו לאחר 21 ימי מסע לא קלים. על סיפונה היו כ-700 צעירים שהפליגו בזהות בדויה כאזרחי פלשתינה החוזרים הביתה לאחר המלחמה. (ביניהם מעפילים שהפכו בהמשך לדמויות בולטות בהיסטוריה של ארץ ישראל: המשוררת רחל, רוזה כהן, אמו של יצחק רבין, ההיסטוריון יוסף קלוזנר וחבר לח”י לעתיד, עמוס קינן).
יצחק ואסתר היו חברי “הפועל הצעיר”, קבוצה שהאמינה בשיקום האדם היהודי מהניוון של הגלות על ידי הפיכתו לעובד אדמה יצרני וחיובי. הפרויקט הראשון לו נקראה הקבוצה היה בניין האוניברסיטה העברית בירושלים על הר הצופים. במהלך חודשי העבודה על ההר כרעה אסתר ללדת והעולל היה הצאצא הראשון שנולד בקבוצה. השם יוסף ניתן לו בהסכמת כולם כדי לכבד את שמו של יוסף טרומפלדור שהיה גיבור ללא חת ונפל בקרב על הגנת תל חי.
יוסף גדל בירושלים עד גיל שש. הוריו הקימו במרכז העיר משק חקלאי בו גידלו ירקות, פרחים ומשק חי. שם נולדו אחותו פנינה ואחיו יגאל. בשנת 1926 רכשה המשפחה משק במושב העובדים נחלת יהודה והקימו שם משק חקלאי לתפארת. בנחלת יהודה נולדו לו עוד שני אחים – שושנה ואמנון ולאחר מותה של האם אסתר מדלקת ריאות, נישא אביו של יוסף לחנה ונולדה להם בת נוספת.
יוסף ואחיו היו מעורבים מגיל צעיר בעבודה החקלאית. ההורים חינכו אותם לאהבת הארץ, לעבודת האדמה, ועל פי הרעיונות הרוויזיוניסטיים של אותה תקופה – טיפחו בהם את חשיבות ההגנה העצמית האקטיבית. עם פרוץ הפרעות בשנת 1936, כשהוא בן 16, הצטרף יוסף לנוטרות ושמר על השטחים החקלאיים סביב נחלת יהודה ועד מהרה הצטרף לאצ”ל.
לאחר הפילוג, יוסף, שהיה נועז, נחוש, אמיץ מעין כמוהו, אוהב אדם, רגיש ומסור – חבר ללא כל היסוס לקבוצה הקטנה והמיוחדת של לוחמי חירות ישראל. הפעולות בהן השתתף יוסף נעשו בחיסיון כה גדול שאף אדם במשפחתו לא ידע עליהן אלא מהפרסום של כרוזים וכתבות בעיתונים. לא אחת הצליחו בני המשפחה לחבר בין חבלות גופניות מהן סבל יוסף לבין סיפור על מארב של אנשי “ההגנה” או חברי “הפועל” שהפליאו בטרוריסט הבוגד את מכותיהם על השתייכותו למחנה הקיצוני.
בין השנים 1940 ו-1942 התגורר יוסף בחדר שכור בתל אביב, ברח’ שולמית 13. הוא עבד באותן שנים במוסך של הצבא הבריטי ולא היה מעורב בפעולות מבצעיות של לח”י. ביום 20 בינואר 1942 הוא נעצר בביתו והואשם שהיה קשור למארב של אנשי לח”י נגד קציני הבולשת הבריטית ברח’ יעל 8, הסמוך לביתו. יוסף נעצר ועונה קשות במשך שבוע על ידי הבולשת הבריטית. הוא חזר לביתו מוכה ורצוץ אך כשרוחו איתנה. שבועיים לאחר מכן נעצר שוב. הוא נכלא ושהה שנתיים וחצי בכל בתי הכלא בארץ: עכו, מזרע ולטרון.
ביום 19 באוקטובר 1944 הוגלה יחד עם 250 לוחמי מחתרת לאפריקה. בשהותו שם, השתתף יוסף בנבחרת הכדורגל וגם היה פעיל מאוד בחוג הדרמטי שפעל במחנה. בנוסף, הוא היה מעורב בתכנון בריחות מהכלא ודאג להקמת גינות פרחים וגירוף האדמה בחצר הכלא בשעה שחבריו חפרו בכפיות מנהרות בריחה. עם זאת, הוא בחר שלא לברוח כי חשש מעונשים שהיו צפויים להוריו ולאחיו בארץ במידה ויברח מהמחנה.
יוסף חזר לישראל כשבעה חודשים לאחר הכרזת המדינה וכחודשיים לאחר תחילת מלחמת העצמאות ביום 12 ביולי 1948. הוא היה בין אחרוני הגולים שהוחזרו על ידי הבריטים באונייה לנמל תל-אביב, ביום בו הופצצה תל אביב על ידי מטוסים מצרים.
לאחר שחזר ארצה, הוא חדל מפעילות פוליטית וציבורית והתפנה להקמת משפחה חדשה בישראל. בשנת 1950 הוא נישא לנירה לבית זייצוב ונולדו להם שלוש בנות. יוסף בילה עם בנותיו הרבה שעות של איכות והקנה לשלושתן את אהבת הארץ ומחויבות לפיתוחה.
יוסף שב לעבודה חקלאית, נטע פרדסים ומטעים, עבד כמדריך חקלאי ביישובי עולים וקיבוצים, הדריך קבוצות של אפריקאים שהגיעו לישראל ללמוד מטעם משרד החקלאות ובמלחמת ששת הימים מונה לקצין ממשל בתחום החקלאות באזור יריחו. בשנים האחרונות לחייו עבד יוסף בקרן להערכת נזקי טבע.
יוסף נפטר ביום י”ד באלול תשל”ג, 11 בספטמבר 1973 לאחר מאבק קצר במחלת הסרטן וציווה את גופו למדע. לאחר שנתיים נקבר בבית העלמין הישן בראשון לציון (לצד אביו יצחק בן דוד).