כל בני משפחתו של יעקב נשלחו למחנה ריכוז, שם נספו ההורים והאחות. יעקב הופרד באכזריות מהוריו ובשנות המלחמה הועבר בין מחנות ועבד כחשמלאי. סבל עינויים ורעב, אף חלה בטיפוס, אך החזיק מעמד. במאי 1945 שחררוהו הרוסים ממחנה צוויטאו.
מיד לאחר השחרור שב יעקב ברכיבה על אופניים לשטשבין, וכשנודע לו כי הוריו ואחותו נספו במחנות המרצחים המשיך את מסעו באופניים לפראג, התייצב לפני הקונסול הבריטי, הציג עצמו כאזרח ארצישראלי ודרש "להסיעו הביתה". הקונסול הטיס אותו לפריס שיברר את עניינו שם בצירות הבריטית. מפריס מצא יעקב את דרכו לנמל ההעפלה באזור מרסיי, וערב ראש השנה תש"ו (5.9.1945) הגיע לחוף הארץ באניית מעפילים. הוא נדד בלילה עד שמצא מחסה באחד הקיבוצים, כי לא רצה להיכנס למחנה עתלית ולהירשם כעולה בלתי חוקי, לבל ינכה השלטון הבריטי רישיון עלייה מהמכסה שהקציב.
יעקב עבר לגור אצל דודו פנחס גולדווסר בנווה יעקב שמצפון לירושלים. עד מהרה התערה בחיי הבית והסביבה, אהוב היה על כולם, הרבה לעבוד בעבודות הבית ולטייל בירושלים. סיפר הדוד: "יצאנו לראות בשכונות ירושלים. עלינו להר הצופים. בראותו את בנייני האוניברסיטה והספרייה הלאומית פעם לבו בחוזקה. שקע בהרהורים והפטיר – מה היה אבי אומר לו יכולתי להודיעו כי רגלי דורכות על הר הצופים, ומראה ירושלים נגד עיני…"
בשנת תש"ו החל ללמוד מתמטיקה באוניברסיטה העברית. משלא הצליח במקצוע זה התייאש, ובחודשי פגרת הקיץ עבד כחשמלאי במקומות שונים בארץ והצליח בעבודתו.
כעבור שנה שב יעקב לאוניברסיטה, עבר למחלקת מדעי הרוח והחל ללמוד ארכיאולוגיה וגיאוגרפיה היסטורית של ארץ ישראל. בתחום זה מצא מיד את מקומו, ועד מהרה היה לאחד התלמידים הבולטים במחלקה. הירבה לשקוד על הספרות במקצועות אלה בספריית האוניברסיטה ובספריות מוסדות המדע הזרים בירושלים (המכון האמריקני, המכון הדומיניקני ומוזיאון רוקפלר) והגיע לבקיאות עצומה בביבליוגרפיה, שהיה בה לעזר לחבריו ואף למוריו.
מדי בוקר היה נוסע באוטובוס מנווה יעקב דרך שייח ג'ראח להר הצופים, ובערב היה חוזר עם צורכי הבית וספרים לקריאה נוספת. "יום ולילה ישב עם הספרים, בביקורת רבה וברצינות שקד לגלות כל טפח", סיפר דודו, "בזמן מועט למד להכיר כלים ומוצגים מתקופות פרה-היסטוריות ומתקופת המקרא. טיוליו בקרבת הכפר קיבלו גוון חדש. רגיל היה לומר – המקור פתוח בפני, ואין אני זקוק להיגרר אחרי מסקנות שאחרים הסיקו…" יעקב הגיש עבודות מקיפות למרצים שלו, והגיע להישגים בעלי ערך במחקר בכוח האינטואיציה ושיקול מדעי מבוסס. הודות להצטיינותו בלימודים נתמנה לספרן בספריית תולדות עם ישראל, וקיבל פטור משכר הלימוד לשנת הלימודים השנייה.
בראשית דצמבר 1947, בפרוץ מלחמת העצמאות, הופסקו הלימודים ויעקב התמסר לשמירה באזור מגוריו.
בראש חודש אדר א' תש"ח עמד מול התקפה גדולה של הערבים. סיפר דודו: "יעקב בעמדתו יחידי לא הירפה לרגע את נשקו מידו… ראה את האויב במרחק עשרות מטרים מתחפר במחצבה, וריתק אותו לבל יתקרב… העמדה הייתה בחצר הבית. יעקב הגן על הבית ממש, בו נמצאו הילדות שכה קשור היה אליהן".
ביום 22.3.1948 נסע יעקב לירושלים למסור את כתבי היד של מחקריו, ששקד עליהם בבית בין שמירה לשמירה, ולהביא מזון לקרובים ולשכנים בנקודה הנצורה. בהיותו בירושלים חיפש דיור למשפחת דודו במרכז העיר, ואף קנה מתנות פורים לבנות הקטנות של דודו. כעבור יומיים ביקש לחזור, ובי"ג באדר ב' תש"ח (24.3.1948) קיבל לאחר בקשות רבות מקום בשיירת האספקה שנשלחה לנווה יעקב ולעטרות. שתי מכוניות השיירה נעצרו על ידי מוקשים שטמנו ערבים ליד הכפר שועפאט, ובקרב בין הערבים ובין המגינים נפלו שישה עשר מאנשי השיירה, ביניהם יעקב.
