יוסף נולד בשנת 1913 בביאליסטוק שברוסיה למרדכי וליהודית ברודץ’. היו לו שתי אחיות תאומות, גדולות ממנו: שושנה וליזה. אחות שלישית, מלכה, נולדה אחריו. הוא למד בבית־ספר מקומי. בשנת 1926 עלתה המשפחה ארצה, שהתה תקופת מה במושב מרחביה ומשם עברה לחיפה, בה השתקעה. שם למד יוסף בבית־הספר ‘תחכמוני’. הוא היה חבר פעיל בבית”ר, ובשנת 1936 הצטרף להגנה ב’ (הלאומית). בעת הפילוג בהגנה הלאומית, בשנת 1937, הפך באופן טבעי לחבר הארגון הצבאי הלאומי בארץ־ישראל.
בשנת 1939 נשא לאשה את רחל כהן, גם היא חברה פעילה באצ”ל (שכבר הספיקה לשבת שנה במאסר בבית־הסוהר לנשים בבית־לחם, עם פושעות ערביות, כי אז לא היה עדיין אגף לאסירות יהודיות). מאחר ששמו היה ידוע לבולשת, אימץ את שם אשתו והיה ליוסף כהן. עד מהרה נימנה יוסף בין המפקדים הבכירים בארגון ומפעיליו.
בשמת 1940, עם הפילוג באצ”ל, הלך עם יאיר והיה בין מקורביו. הוא השתתף בפעולות והדריך בקורסים למפקדים. בשנת 1941 נולד בנו הבכור משה.
ביום 2 בדצמבר 1941 נעצר ונכלא, תחילה במחנה המעצר המינהלי ‘מיזרע’, לאחר מִכן בירושלים ובעכו. הבריטים החזיקו בעכו (ולא בלטרון) שִבעה מפקדים מאנשי יאיר (לח”י) שחשבום לבכירים ומסוכנים ביותר, ויוסף נימנה עליהם. הם הוגלו לאפריקה עם קבוצת 251 העצורים הראשונים ב־19 באוקטובר .1944 יוסף ישב במחנות סמבל, ליד אסמרה באריתריאה, בקארטאגו שבסודן, שוב באריתריאה וכן בגילגיל שבקניה – משם הוחזר ארצה אחרי קום המדינה עם אחרוני הגולים ב־12 ביולי .1948
היה לו כשרון לציור ובחיפה עבד כצבע. את כשרונו זה ניצל בעת בריחת עצורים מהמחנה: על מנת לעכב את גילוי הבריחה, הוסווה הֵעָדְרָם של הבורחים על־ידי בובות שהונחו במיטותיהם. יוסף הוא שיצר מעיסת לחם פני אנשים, שדמו להפליא לאנשים חיים, וכך הולכו שילטונות המחנה שולל.
לאחר שובו ארצה, נעשה יוסף קבלן צבע. בשנת 1949 נולדה בתו ניבה.
הוא נפטר מהתקף לב ביום ט”ז באדר תש”ם, 4 במרץ 1980. אשתו רחל נפטרה בשנת 1983. הם קבורים בחלקת לח”י בחולון. הניחו בן, בת ונכדים.