יוסף נולד בשנת 1922 להוריו יצחק ומרים בקַרְלְסְרוּהֶ שבגרמניה. היו להם שִשה ילדים. המשפחה הייתה דתית וציונית.

יוסף למד בבית־ספר גרמני ציבורי ואצל “מלמד” לימודי דת. האב עסק במסחר. בשנת 1933 נעצר האב על־ידי הנאצים ושוחרר בעזרת מכריו הגרמנים ועלה בגפו ארצה באותה שנה. לאחר שהצליח לסדר סרטיפיקטים לבני משפחתו, עלו לארץ בשנת 1934 באופן לגלי. הם גרו בתל־אביב. האב עבד בבניין כמנהל עבודה.

יוסף למד בבית־הספר העממי “תל נורדוי” ובבית־ספר תיכון ערב “עתיד”. ביום עבד בבנק לעזור בפרנסת המשפחה. היה פעיל תקופת מה ב”הגנה”.

בשנת 1942 התגייס לצבא הבריטי, שירת במצרים בחיל האויר והשתחרר בשנת 1946.  בעקבות המלצתה של ידידה, הצטרף ב־1946 ללח”י. הוריו לא ידעו על־כך והדבר נסתר גם מאחיו ואחיותיו, שהיו חברי ה”הגנה”. בלח”י פעל במודיעין, מחלקה ו’, ובמחלקת הפעולות. עסק במעקבים ובאיסוף אינפורמציה. עבד תקופת מה בחברת אקספורט–אימפורט בריטית כנהג, ובאותו זמן ביצעו חברי לח”י שתי החרמות של סיגריות בחברה. פעל בשייח מוניס, במחנה לח”י, בהעברת מזון וציוד לירושלים הנצורה בג’יפים בדרך בורמה. לא פעם הותקפה השיירה על־ידי ערבים והחברים מצאו מחסה בין הסלעים עד שוך היריות.

ביום 29 במאי 1948 התגייס לצה”ל, לחטיבה 8, במסגרת חטיבת לח”י, והיה במחנה בתל־ליטוינסקי. לימים השתתף עם קבוצת מתנדבים בהעברת ציוד ואספקה למחנה לח”י בירושלים. באחת העליות נעצרו חברי הקבוצה על־ידי אנשי ההגנה וישבו כשבועיים בכלא יפו. כבר ביום שיחרורם מהכלא החלו לחפש אחריהם, כחברי לח”י, בגלל ההתנקשות ברוזן ברנדוט. יוסף הסתתר אצל אחיו בחיפה. כעבור תקופה מסויימת חזר לצה”ל, לחיל הים, וְשירת כנהגו של מפקד המחנה בבת גלים. השתחרר בשנת 1949.

אחר השחרור עבד כמדריך בנהגות ולאחר־מכן בשגרירות האמריקנית, בסיוע הטכני במסגרת “תכנית מרשל”. עם סיום הפרויקט עבד כנהג, בהמלצת השגרירות האמריקאית, בשגרירות האוסטרית חמש שנים. אחר חזר לשגרירות האמריקאית בתפקיד של עוזר קצין הביטחון. בין השאר חקר את המועמדים לעבודה בשגרירות. אחרי 28 שנות עבודה שם, פרש בשנת 1987 לגמלאות.

במשך חמש שנים התנדב ב”יד־שרה”, הוביל נכים וחולים לטיפולים רפואיים. מתנדב עד היום במחלקת הרווחה, בעיריית תל־אביב, ועוזר לנצרכים.

בשנת 1951 נשא לאִשה את רות לבית הלפרין, אחות במקצועה. לזוג שני בנים.

יוסף אוהב מוסיקה קלסית וחזנות.