בחוג המפלגה

מראשית דרכו הציבורית ראה אשכול חשיבות באיחוד זרמים והיה בין התומכים הבודדים בקרב מפלגת הפועל הצעיר שהביעו תמיכה ביצירת מפלגת פועלים מרכזית. הקו העקבי שהציג הגיע לשיאו עם הקמתה ב-1930 של מפא"י – (מפלגת פועלי ארץ ישראל). עם היווסדה נמנע מהצהרות ליצירת חזון ארוך טווח וביקש לראות במפא"י הזדמנות לקידום "הקמת חברה חדשה, שבה ישררו שוויון חברתי וכלכלי ויחסים צודקים יותר בין אדם לרעהו ובין אדם לחברה".

לוי אשכול וישראל ברזילי, 1958בשנים אלו היה מעורב במפעלים הכלכליים הראשיים בארץ ישראל – מקורות, ניר, המרכז החקלאי והסכם ההעברה. ככל שהתחזק מעמדה של המפלגה בהנהגת היישוב התחזק גם מעמדו מתוקף תפקידיו. ב-1938 נבחר אשכול לחבר מרכז מפא"י ובשנים הבאות, בעקבות התעצמותם של הבדלי המדיניות בין החטיבות השונות – היה בין הפעילים המרכזיים לפשרה. כך למשל, ב-1940 הציע אשכול לאחד את הגופים הביצועיים שנתמכו על ידי זרמים רעיוניים שונים: תנועות ההתיישבות השונות (חבר הקבוצות ותנועת הקיבוץ המאוחד) ותנועות הנוער השונות (גורדוניה, הנוער העובד והלומד, מחנות העולים). בחודשים שקדמו להתפלגות החברים והקמתה של התנועה לאחדות העבודה היה ב-1944 חבר בוועדת הוותיקים שעסקה בנסיונות למניעת הקרע.

במהלך 1944-1942 שימש בתפקיד מזכ"ל המפלגה. דרך התנהלותו בצל המשבר המפלגתי לקראת וסביב פילוג סיעה ב' הטיבו עם מעמדו בהנהגתה הפוליטית של המפלגה. בצד ויתוריו כגון שיתוף סיעות השמאל במוסדות ההסתדרות, עמד באופן נחרץ על הצורך בביטול הסיעות הפועלות במפא"י. אף שלא הסתייע בידו למנוע את הפילוג, היו אלה יוזמותיו ופשרותיו בימי המשא ומתן שמנעו את אובדן התמיכה הציבורית במפא"י והביאו להתחזקותה במוסדות ההסתדרות ובאספת הנבחרים. את תפקידו סיים עם כניסתו לתפקיד מזכיר מועצת הפועלים בתל אביב, כנציגה של מפא"י בהנהגת המועצה. 

זאב שרף, לוי אשכול וקדיש לוזב-1951 נבחר אשכול לכנסת השנייה והחל לכהן כשר בממשלותיו של דוד בן-גוריון. בשנות כהונתו כשר האוצר תפס עמדה מרכזית בשולחן הממשלה. במערכת הבחירות לכנסת הרביעית (1959) מונה לאחראי על סניפי המפלגה בארץ וליושב ראש הוועדה המפלגתית לעניינים חברתיים.

לאחר התפוצצות פרשת "עסק הביש" וההאשמות הפנים-מפלגתיות סביב הגורם האחראי לתפעול חולית הריגול במצרים, אשכול נתמנה כבורר מוסכם מטעם שני המחנות. בעצתו פרסם משה שרת הצהרה פומבית בנושא, אך המשקעים בין המחנות נותרו וב-1960 עלה הנושא בשנית וביתר שאת:  דרישתו של בן-גוריון לבירור משפטי הביאה את אשכול להמליץ על הקמת ועדת שרים לבחינת הנושא, ולאחר התפטרותו של בן-גוריון מראשות הממשלה המשיך לגשר והביא לפשרה לפיה יודח פנחס לבון מתפקידו כמזכ"ל ההסתדרות.

במהלך תקופת המעבר בין הממשלות ביקש בן-גוריון לפרוש באופן מוחלט והמליץ על אשכול כמחליפו. מרכז המפלגה סירב להעמיד מועמד אחר לראשות הממשלה והתפתחויות אלו כפו ב-1961 מערכת בחירות ארצית. היחלשות מעמדה של מפא"י הקשה על הרכבת הממשלה ואשכול נרתם לניהול המשא ומתן בין סיעות הכנסת.

ביוני 1963 התפטר בן-גוריון מתפקידיו כראש הממשלה ושר הביטחון והמליץ על אשכול כמחליפו ללא קיום בחירות. בהיותו יושב ראש מפא"י ביקש לקדם את חזונות רב השנים לליכוד מפלגות הפועלים: ב-1964 כונן המערך בין מפא"י ומפלגת אחדות העבודה וב-1968 אוחדו השתיים יחד עם נציגי רפ"י ליצירת מפלגת העבודה. בינואר 1969 הושלמו מהלכים אלה עם כינון המערך בין העבודה ומפ"ם (מפלגת הפועלים המאוחדת).