ביולי 1948 הגיע יעקב לארץ, באנייה של אנשי גח"ל (גיוס חוץ לארץ). לאחר בואו ביקר יעקב אצל קרוביו בתל אביב, ומיד התגייס לצה"ל. הימים ימי מלחמת העצמאות, והוא הוצב בפלוגה קרבית בחטיבת "קרייתי" – חטיבה מספר 4 ב"הגנה". בהיותו מאומן בטיפול בסוסים הועבר, לפי בקשתו, ליחידת הפרשים בחטיבת "גבעתי" – חטיבה מספר 5 – ומאז השתתף בסיורים ובקרבות רבים.
בתחילת אוקטובר 1948 יצא יעקב לחופשה לרגל ראש השנה תש"ט. בתום החופשה נפרד מדודתו במילים: "כאן אדע בשביל מה אמסור את נפשי. אם אפול – אל נא תבכו!" בשובו לגדוד השתתף בקרב על גבעה 113 במבצע "יואב".
גבעה 113 הייתה אחד המשלטים המבוצרים של הצבא המצרי, ששלט על צומת דרכים חשוב בנגב הצפוני (כיום: צומת גבעתי). במהלך מבצע "יואב" לשחרור הנגב הוחלט לכבוש מקום זה, והמשימה הוטלה על לוחמי "גבעתי".
בליל י"ד בתשרי תש"ט (17.10.1948) הסתערו הלוחמים על המשלט וכבשו אותו בקרב קשה ואכזרי, קרב פנים אל פנים שכלל שימוש בכידונים. בקרב נפלו למעלה מעשרים לוחמים.
במהלך הקרב נפגע יעקב מצרור כדורים בבטנו. הוא הובהל במצב קשה לבית החולים בתל השומר, אך שם נפטר מפצעיו, בי"ד בתשרי תש"ט (17.10.1948).
