यद्यपि स्वतंत्रता- संग्राम में सरदार पटेल ने जितने महत्त्वपूर्ण कार्य किये उनका महत्त्व देश के किसी अन्य नेता के कार्यों से न्यून न था, पर स्वतंत्रता प्राप्त हो जाने के पश्चात् कांग्रेस के सामने जो परीक्षा की घडी आई कि वह शासन- संचालन कर सकने की योग्यता रखती है या नहीं, उस समय लोगों ने उनकी वास्तविक शक्ति और योग्यता का अनुभव किया। पाकिस्तान के बनते ही वहाँ के हिंदुओं पर जो आपत्ति आई और लाखों व्यक्ति घरबार छोड़कर प्राण बचाने के लिए भारत में चले आये, उनकी सुरक्षा और पुनर्वास की व्यवस्था करना एकबडी विकट समस्या थी। एक तरफ देश में जगह- जगह हिंसा और खून- खराबे का तांडव हो रहा था और दूसरी ओर लाखों बेघरबार के व्यक्ति स्त्री- बच्चों को लेकर नगर की सड़कों पर पडे थे। चारों तरफ भयंकर और निराशापूर्ण दृश्य दिखाई पड़ रहे थे और लोग सोचने लगे थे कि इससे तो अंग्रेजों का राज्य ही अच्छा था।
पर सरदार पटेल, जिनके ऊपर गृह विभाग के मंत्री की हैसियत से इन सब समस्याओं को सुलझाने की जिम्मेदारी थी, जरा भी न घबराये और उन्होंने अपने अदम्य साहस और विलक्षण बुद्धि से कुछ ही दिनों में शांति और सुव्यवस्था स्थापित करके देश को प्रगति के मार्ग पर गतिशील कर दिया। जो पंजाबी बंधु शरणार्थी के रूप में एक भार की तरह प्रतीत होते थे, वे ही थोडी़- सी आवश्यक सहायता और साधन मिल जाने पर पुरुषार्थी के रूप में परिवर्तित हो गये। दूसरी काली घटा देशी रियासतों की तरफ से उठी, जहाँ सभी अपने को 'खुदमुख्तार' समझने लगे थे। वास्तव में अगर स्वतंत्रता प्राप्त हो जाने के बाद भी भारत पूर्ववत् सात सौ हिस्सों में बँटा रहता तो उस स्वतंत्रता का मूल्य बहुत कम हो जाता और वे रियासतें कदम- कदम पर देश की प्रगति मेंरोडा़ अटकाने वाली ही सिद्ध होतीं। पर सरदार ने ऐसा चमत्कार कर दिखाया कि एक वर्ष के भीतर ही अधिकांश रियासतें स्वेच्छा से भारतीय संघ में विलीन होकर उसका एक उपयोगी अंग बन गईं।
गांधी जी की हत्या उस युग की सबसे अधिक सनसनी की घटना थी। कुछ लोगों ने उसके संबंध में सरदार पटेल पर भी दोष लगाया कि उन्होंने गांधी जी की रक्षा में अकर्मण्यता दिखलाई। कुछ लोगों ने घुमा- फिराकरयहाँ तक शंका प्रकट की कि श्री पटेल ने जान- बूझकर ऐसी घटना हो जाने दी ! पर जो लोग गांधी जी और पटेल के संबंधों को जानते थे और उनके मनोभावों से परिचित थे, उन्होंने इस प्रकार की आशंका को भी 'शत्रुओं' का कार्य बतलाया। इसमें एक भेद की बात यह थी कि पटेल 'हिंदुत्व' के समर्थक अवश्य थे और जवाहरलाल जी नेहरू 'असांप्रदायिकता' के जरूरत से ज्यादा पक्षपाती हो जाते थे, इससे इन दोनों में शासन संबंधी मामलों में कुछ मतभेद बना रहता था। अनेक अवसरों पर मंत्रिमंडल के कुछ सदस्य, जिनमें मौलाना आजाद और हुमायूँ कबीर का नाम लिया जाता हैं, इस मतभेद को बढा़ने और प्रधानमंत्री को अपने अनुकूल करने की चेष्टा करते रहते थे। ऐसे ही लोग और उनके दल वाले सरदार पटेल पर प्रत्यक्ष- अप्रत्यक्ष रूप में तरह- तरह के आक्षेप लगाकर उनके महत्त्व को घटाने की चेष्टा किया करते थे, पर जनता में सरदार का इतना अधिक प्रभाव था कि कोई उनका कुछ बिगाड़ न सका।
इधर सरदार को किसी प्रकार के मंत्री- पद कि कुछ परवाह भी न थी। उनकी खरी देशभक्ति और साहसपूर्ण कारनामों ने उनको इतना लोकप्रिय बना दिया था कि वे जिस स्थिति में रहते देश पर उनका प्रभाव अद्वितीय रूप में बना रहता। जब उन्होंने कुछ लोगों को अपने विरुद्ध जवाहरलाल जी के कान भरते देखा तो उसी ३०जनवरी,१९४८ को, जिस दिन संध्या के ५ बजे गांधी जी की हत्या की गई, दोपहर के समय गांधी जी से भेंट की थी और अनुरोध किया था कि वे उनको मंत्री- पद से त्याग पत्र देने की अनुमति दे दें। उनकी यह बात सुनकर गांधी जी ने उनके सामने अपना हृदय खोलकर रख दिया। उन्होंने कहा- "पहले मेरा विचार होता था कि नेहरू और पटेल में से कोई एक मंत्रिमंडल से पृथक् हो जाय। पर अब स्थिति को देखते हुए मैं इस दृढ़ निश्चय पर पहुँचा हूँ कि मंत्रिमंडल में दोनों का रहना आवश्यक है। लार्ड मांउटबेटन ने भी मुझसे जोर देकर कहा था कि राष्ट्रहित की दृष्टि से दोनों का रहना अनिवार्य है। मैं आज प्रार्थना के पश्चात् इसी विषय पर भाषणकरूँगा।" पर उनको उस संबंध में कुछ कहने का अवसर ही न मिला, क्योंकि प्रार्थना सभा में घुसते ही एक आततायी ने उनको गोली मार दी। श्री पटेल ने बातचीत के अंत में गांधी जी का आग्रह देखकर यह वचन दे दिया था कि वे मंत्री बने रहकर नेहरू जी को सदापूर्ण सहयोग देते रहेंगे।"
गांधी जी की मृत्यु होने पर सरदार पटेल को इतना मानसिक धक्का लगा कि उनकी स्वाभाविक हँसी बिल्कुल गायब हो गई और बीस दिन के भीतर ही उनको हृदय रोग हो गया। यह देखकर उनकी पुत्री मणिबेनको महादेव भाई की डायरी के ये शब्द याद आने लगे कि- "सरदार ने गांधी जी से कहा था कि आपके स्वर्गवास के पश्चात् मेरी भी जीने की इच्छा नहीं है। मैं भगवान् से प्रार्थना करता हूँ कि हम दोनों की मृत्यु साथ- साथ हो