एक सफल वकील मात्र रहने से संतोष न करके वल्लभ भाई की बैरिस्टर बनने की इच्छा हुई। निर्धनता की स्थिति में किसी प्रकार धन जुटाकर इन्होंने इंग्लैंड जाने के लिये पारपत्र प्राप्त किया। किंतु इनके बड़े भाई विट्ठल भाई वह पारस्त्र अपने लिये इनसे लेकर इंग्लैड चले गए। इस प्रकार कई वर्ष बाद ही वल्लभ भाई विलायत जा सके। मिडिल टेंपिल में प्रवेश करके वे सफल विद्यार्थियों में सबसे आगे निकले।

१९१३ में विदेश से लौटकर वल्लभ भाई ने अहमदाबाद में वकालत आरंभ की। १९१६ में गांधी जी ने अहमदाबाद में सत्याग्रह आश्रम स्थापित किया। उस समय वल्लभ भाई पहली बार गांधी जी के संपर्क में आए। १९१९ में जब खेड़ा सत्याग्रह छिड़ा तो वल्लभ भाई ने स्वयं को गांधी जी की सेवा में समर्पित कर दिया।

सन् १९२० में उन्होंने वकालत छोड़कर पूरा समय देश के संघर्ष में लगाने का निश्चय किया। उन्होंने नागपुर के सत्याग्रह का सफलतापूर्वक संचालन किया। बोरसद के करविरोधी आंदोलन और सत्याग्रह में उनकी कर्मठता से प्रसन्न हो गांधी जी उन्हें 'सरदार' कहने लगे। यह शब्द मृत्युपर्यंत उनके नाम के साथ सम्मानपूर्वक जुड़ा रहा। बारडोली सत्याग्रह में किसानों के आंदोलन को १९२८ में शक्तिशाली नेतृत्व प्रदान किया। इनके कारण बारडोली के किसानों को अपने लक्ष्य में तो सफलता मिली हो, साथ ही सारे देश में किसान आंदोलनों की चेतना मुखर हो उठी। बारडोली आंदोलन भारतीय जनता के साहस और विजय का प्रतीक हुआ।

१९३१ के मार्च में सरदार कांग्रेस के कराचीवाले अधिवेशन के अध्यक्ष निर्वाचित हुए। पूर्ण स्वराज्य का नारा लगाने के कारण इन्हें गांधी जी के साथ यरवदा जेल में बंद कर दिया गया। १९३५ के इंडिया ऐक्स को खत्म करने के लिये कांग्रेस ने वैधानिक कार्रवाई करने का निश्चय किया। उस कार्रवाई के दौरान उनके कुछ साथियों ने उनपर फासिस्ट होने का आरोप लगाया। कांग्रेस संसदीय उपसमिति के अध्यक्ष पद से सरदार ने सन् १९३७ में ११ में से सात प्रांतों में बने प्रथम कांग्रेस मंत्रिमडलों की संसदीय कार्रवाइयों को नियंत्रित किया।

दूसरे विश्वयुद्ध की अवधि में सरदार पटेल दो बार गिरफ्तार किए गए। पहली गिरफ्तारी (अक्टूबर, १९४०) के कुछ ही मास के पश्चात् स्वास्थ्य खराब होने के कारण वे रिहा कर दिए गए। दूसरी बार १९४२ में वे 'भारत छोड़ो' आंदोलन के सिलसिले में कांग्रेस कार्यसमिति के अन्य सदस्यों के साथ तीन वर्ष तक अहमदनगर किले में नजरबंद रखे गए। १५ जून, १९४५ को अहमदनगर किले से विदा होने के पश्चात् सरदार ने लार्ड वैवेल द्वारा बुलाए गए शिमला सम्मेलन और अगले वर्ष कैबिनेट मिशन से वार्ता में महत्वपूर्ण भाग लिया। सितंबर, १९४६ में बननेवाली अंतरिम सरकार में वे गृह और सूचना विभाग के मंत्री बने। ५ जून, १९४७ को उन्होंने राज्य, विभाग अपने हाथ में लिया। १५ अगस्त, १९४७ को स्वतंत्रता मिलने के पश्चात् भी यही विभाग उनके अधीन रहे। देशी राज्यों के विलय और एकीकरण का जो असाधारण तथा महत्वपूर्ण कार्य उन्होंने संपादित किया, उसके लिये वे भारतीय इतिहास में सदा अमर रहेंगे। १५ दिसंबर, १९५० को बंबई में उनकी इहलीला समाप्त हुई।

सरदार पटेल अपनी दृढ़ता ओर निश्चलता के लिये सदा विख्यात रहे। देश और विदेश में लोग उन्हें 'लौहपुरुष' की संज्ञा देते थे। कांग्रेस को दृढ़तापूर्वक अनुशासित करने में सरदार का सबसे बड़ा हाथ रहा- वे कांग्रेस के निर्भय अधिनायक भी कहे जाने लगे थे। एक बार स्वर्गीय श्री जवाहर लाल नेहरू ने उनके बारे में कहा था 'वे युद्ध और शांति में समान रूप से हमारे नायक हैं।' मोतीलाल नेहरू और देशबंधु चितरंजनदास के संपर्क में रहते हुए भी उनकी प्रवृत्ति उनसे भिन्न थी। वे तत्वत: एक सेनापति थे जो परिस्थितियों की प्रतीक्षा न करके स्वयं उनका निर्माण कर लेने में विश्वास करते थे। महात्मा गांधी ने उनकी इस प्रतिभा को देखा था और उन्हें अपनी अहिंसक सेना का सेनापति बनाया था।

सरदार पटेल भावुक अहिंसाबादी नहीं थे, यद्यपि इन्होंने कई अहिंसात्मक संघर्षों में शानदार विजय प्राप्त की थी। वे कल्पनावादी या आदर्शवादी नहीं थे, वे हर वस्तु और परिस्थिति को उसके व्यावहारिक रूप में देखते थे।

कांग्रेस संसदीय बोर्ड के अध्यक्ष के नाते उन्होंने जो प्रसिद्धि प्राप्त की, वह अद्वितीय है, पर इतिहास भारतीय संघ के शिल्पी सरदार पटेल को सबसे अधिक इस बात के लिये महत्व प्रदान करेगा कि उन्होंने देशी राज्यों को देश की बड़ी इकाई में मिलाकर राष्ट्र को एक सुसंबद्ध और संघटित रूप दिया।