יוסף נולד בשנת 1917 בראשון־לציון להוריו מזל ועובדיה, אשר עלו לארץ בשנת 1888 מהעיר אורפה המוזכרת בתנ”ך כאזור הולדתו של אברהם אבינו, אור כשדים. המשפחה עלתה לירושלים, אך עברה לראשון־לציון, שם עסק האב, יחד עם שאר “האורפלים” בהגנה על המושבה מפני התנכלויות הערבים והבדואים. לימים היה מבין פועלי היקב הראשונים, ומאוחר יותר מבין פועלי הבניין שבנו את המושבה ואת הארץ כולה.
יוסף למד בבית־הספר העברי הראשון, “חביב”. בגיל 13 הצטרף לתנועת הנוער מכבי, ובשנת 1934 – לבית”ר, כשז’בוטינסקי ותורתו משמשים לו דגל בהמשך חייו. בעת מאורעות 1936 גוייס להגנה הלאומית, לימים האצ”ל, והתנדב לשמירה. הוא גם עבר קורס במורס. בשנת 1937 נשלח לקורס מ”כ במשמר הירדן ומונה למחסנאי נשק בראשון־לציון.
שימש גם כמדריך לעולים חדשים. עם הפילוג הצטרף ללח”י ועד למאסרו היה פעיל מאוד וידוע בכינוי “גדעון”. נאסר בשנת 1941, וישב במיזרע ולטרון. בשנת 1944 הוטס לאריתריאה עם שאר הגולים, ואחר לסודן. שוחרר בשנת 1946.
בשנת 1948 נשא לאִשה את מטילדה בת רבקה ונסים מזרחי מירושלים. לזוג נולדו ארבעה ילדים ונכדים. מיד לאחר הנישואין, התגייס לצה”ל. שירת בחטיבת גבעתי, בגדוד 55. בצבא עבר קורס חבלה ושימש בתפקיד חבלן לאורך כל שירותו הצבאי.
לאחר שחרורו, עבד במפעל הבנייה להקמת הישובים בנגב ובקיבוצים בצפון. משנת 1960 עבד כמפקח עבודות בניין במכון וולקני. היה חבר הוועד הארצי של עובדי המדינה וחבר הנהלת מפעל המים במושבה נחלת יהודה.
יוסף נפטר ביום ב’ בטבת תשס”א, 28 בדצמבר 2000 והובא למנוחות בבית העלמין גני אסתר בראשון לציון.
