ביוני 1942 גורשו כל יהודי אולקוש למחנה ההשמדה אושוויץ.
הוריו, אחיו ואחיותיו של יוסף נספו באחד ממחנות ההשמדה. רק הוא שרד לאחר שעבר את שנות המלחמה באחד ממחנות הריכוז הגרמניים, עבר את כל מדורי הגיהינום וניצל בנס.
עם תבוסת גרמניה יצא יוסף מהמחנה והוא שלם בגופו, ואף רוחו החלה להתחזק. עד מהרה החל להסתגל לתנאים החדשים, הצטרף לתנועה החלוצית והתכונן לעלייה. ב-19 באוקטובר 1946 עלה בנמל לה סיוטה שבריביירה הצרפתית על אניית המעפילים "לטרון", שאורגנה על ידי המוסד לעלייה ב' של ה"הגנה". האונייה, שנשאה 1,252 מעפילים – ניצולי שואה ממדינות מזרח ומערב אירופה וחברי תנועות נוער, הייתה נתונה למעקב הבריטים מרגע צאתה לדרך. בלב ים השתלטו עליה הבריטים תוך הפעלת כוח, האונייה נגררה לנמל חיפה, המעפילים הורדו ממנה בכוח והועלו על אניות גירוש, שלקחו אותם למחנות המעצר בקפריסין.
כעבור כשבעה חודשים השתחרר יוסף, והגיע ארצה ביום 5 במאי 1947.
לאחר החלטת עצרת האו"ם מיום 29.11.1947 על חלוקת הארץ התנדב יוסף לכוחות ה"הגנה" וצורף לגדוד 22 של חטיבת "כרמלי" – חטיבה מספר 2. מאז עסק בהגנת אזור הצפון, בין היתר כמלווה שיירות בקו זכרון יעקב – חיפה.
בהמשך היה יוסף אמור לצאת לקורס מרגמות, אך הוא וחבריו לקורס צורפו באפריל 1948 לחיילי החטיבה שהוזעקו כתגבורת למשמר העמק.
קרבות משמר העמק ורמת יוחנן, שהתחוללו באפריל 1948, היו בין הקרבות הגדולים שהתחוללו בצפון הארץ ואף בארץ כולה בתחילת המלחמה. מפקדת ה"הגנה", שעמדה על חשיבות האזור, הזרימה לשם כבר בראשית המלחמה כוחות תגבור רבים מחטיבות "גולני", "אלכסנדרוני", "יפתח" ו"כרמלי". בראש החזית הוצב יצחק שדה, מבכירי מפקדי ה"הגנה" והפלמ"ח.
קרבות אלו נמשכו עד ה-13 באפריל 1948 ובמהלכם עברו המשלטים שסביב הקיבוץ מיד ליד. בתום עשרה ימי לחימה קשים נהדפו הערבים לאזור הוואדי, הכוחות הישראליים כבשו כפרים נוספים באזור ששימשו בסיסי תקיפה של האויב וחסמו את הדרך מג'נין לחיפה הערבית.
בקרב לכיבוש הכפר הערבי אבו-זוריק (סמוך לקיבוץ משמר העמק), ביום ג' בניסן תש"ח (12.4.1948), לחם יוסף כקשר של מפקד המחלקה. הוא נפצע קשה בראשו, הובהל לבית החולים "העמק" בעפולה אך שם מת מפצעיו.
כעשרים לוחמים ישראלים נפלו בקרבות משמר העמק, אך תוצאות הקרב הגדול השפיעו רבות על גורל המערכה בצפון הארץ וכן בהיבט הכלל-ארצי.
יוסף היה בן עשרים ושלוש בנפלו. עד לשנת 2011 נחשב כחלל שמקום קבורתו לא נודע".
