सरदार साहब का घर बडे नामी बैरिस्टर और कानून की बारीकियों को जानने वाले थे। इसलिए उन्होंने इतने बडे- बडे आंदोलन करके भी सरकार को इस बात का मौका न दिया कि वह उनके विरुद्ध कोई कानूनी कार्यवाही कर सके। इधर बारदौली सत्याग्रह ने उनको प्रांतीय नेता के पद से उठाकर अखिल भारतीय नेता के मंच पर खडा कर दिया और उधर गांधीजी ने अपनी तैयारियाँ पूरी करके तथा सरकार को अपनी हठधर्मी पर कायम देखकर कानून- भंग सत्याग्रह का शंखनाद कर दिया। उन्होंने सरकार को चुनौती दी कि अगर सरकार भारतीयों की स्वराज्य की माँग के प्रति उपेक्षा का ही भाव प्रकट करती है तो वे भी उसकी सत्ता को न मानकर उसके बनाये कानूनों का उल्लघंन करेंगे। इसके लिए नमक- कानून चुना गया और गांधी जी ने घोषणा की कि वे१२ मार्च, १९३० को अहमदाबाद से एक सत्याग्रही टोली के साथ पैदल रवाना होंगे और दांडी नामक स्थान में पहुँचकर सरकारी हुक्म के विरुद्ध नमक बनायेंगे। इस पर सरदार पटेल उनसे पहले ही दांडी- यात्रा के मार्ग में पड़ने वाले गाँवों में प्रचार करने पहुँच गये, जिससे गांधी जी की यात्रा पूर्ण सफल हो। सरकार बारदौली के अनुभव से जान चुकी थी कि गुजरात की ग्रामीण जनता पर पटेल जी का कितना प्रभाव है और किस प्रकार वह निस्संकोच उनके पीछे चलने को तैयार हो जाती है,। इसलिए जैसे ही वे दो- चार दिन प्रचार करते हुए 'रास' नामक स्थान में पहुँचे तो जिला के कलेक्टर ने उनके भाषण पर प्रतिबंध लगा दिया। पर अब तो सत्याग्रह की घोषणा हो ही चुकी थी, इसलिए उन्होंने सरकारी हुक्म को मानने से इनकार कर दिया और गांधी जी की यात्रा आरंभ होने के चार दिन पूर्व ही गिरफ्तार करके जेल भेज दिये गए। चार मास पश्चात् जब वे यरवदा जेल से अपनी सजा पूरी करके बाहर निकले तो देश में घोर सत्याग्रह संग्राम छिडा़ हुआ था और हजारों सत्याग्रही सैनिक जेलखानों को भर रहे थे। सरकार एक आर्डीनेंस निकालकर कांग्रेस की समस्त संगठन को गैर कानूनी घोषित कर चुकी थी और कांग्रेस के अध्यक्ष होने के नाते प॰ जवाहरलाल नेहरू और उनके पिता प॰मोतीलाल नेहरू गिरफ्तार किये जा चुके थे। प॰ मोतीलाल जी जेल जाते हुए सरदार पटेल जी को अपनास्थानापत्र नियुक्त कर गये थे। इसलिए २६ जून १९३० को जेल से बाहर आते ही वे कांग्रेस संगठन को सुदृढ़ करने और सत्याग्रह- संग्राम को तीव्र करने में संलग्न हो गये। गुजरात के बारदौली और बोरसद तालुकाओं को उन्होंने सत्याग्रह की जो शिक्षा दी थी, वह इस समय काम आई। वहाँ के किसानों ने करबंदी का ऐसा घोर आंदोलन किया कि सरकार घबरा गई। उसने भी पुलिस और फौज द्वारा अंधाधुंध दमन आरंभ कर दिया। फलस्वरूप ८० हजार किसान ब्रिटिश भारत के गाँवों को छोड़कर आसपास बडौ़दा रियासत के गाँवों में चले गये, पर उन्होंने सरकारी आदेशों को नहीं माना।
सरदार पटेल जानते थे कि वे भी ज्यादा दिन जेल से बाहर नहीं रह सकते। इसलिए उन्होंने जहाँ तक संभव हो सकता था कांग्रेस के प्रत्यक्ष और अप्रत्यक्ष संगठन को मजबूत किया और अपने पश्चात् कितने ही अन्य नेताओं को नामजद कर दिया कि एक के गिरफ्तार होने के बाद दूसरा अखिल भारतीय कांग्रेस के अध्यक्ष पद का कार्य संचालन करता रहे। इसके पश्चात् १ अगस्त को लोकमान्य तिलक की संवतसरी के जुलूस का नेतृत्व करते हुए वे गिरफ्तार कर लिए गये और तीन महीने के लिए फिर जेल भेज दिये गये।
इस प्रकार वे राष्ट्रीय संग्राम के अग्रिम मोर्चे पर डटकर बार- बार सरकार के प्रहारों को झेलते रहे। यद्यपि जेल के कष्टों से उनका स्वास्थ्य खराब हो गया, पर बीमारी की दशा में भी उन्होंने बडे- बडे महत्त्वपूर्ण कार्यों को पूरा किया और अंत में सन् १९३६- ३७ में वह समय आ गया, जब सरकार कांग्रेस की शक्ति के सामने बहुत झुक गई और भारत के अधिकांश प्रांतों में कांग्रेस के चुने हुए प्रतिनिधि शासन- संचालन करने लगे। इस समस्त शासनों का सूत्र सरदार पटेल के ही हाथों में था और वे ही 'पार्लामेंटरी बोर्ड' के अध्यक्ष थे, जो विधान सभाओं के लिए कांग्रेसी उम्मीदवारों तथा मंत्रिमंडलों के प्रमुख मंत्रियों का निर्णय करता था। यद्यपि सन् १९३९ में द्वितीय योरोपीय महायुद्ध आरंभ हो जाने पर कांग्रेसी मंत्रिमंडलों ने इस्तीफे दे दिये, पर इस ढाई वर्ष के बीच में ही उन्होंने राष्ट्रीय प्रगति की दृष्टि से जो विशेष कार्य किये, उनसे कांग्रेस की सामर्थ्य का सिक्का देश और विदेशों में अच्छी तरह जम गया।