Ia ditugaskan untuk mengawasi proses penyerahan diri tentara Jepang di Banyumas, yang dilakukannya setelah mendirikan divisi lokal Badan Keamanan Rakyat. Pasukannya lalu dijadikan bagian dari Divisi V pada 20 Oktober oleh panglima sementara Oerip Soemohardjo, dan Soedirman bertanggung jawab atas divisi tersebut.
Pada tanggal 12 November 1945, dalam sebuah pemilihan untuk menentukan panglima besar TKR di Yogyakarta, Soedirman terpilih menjadi panglima besar, sedangkan Oerip, yang telah aktif di militer sebelum Soedirman lahir, menjadi kepala staff.
Sambil menunggu pengangkatan, Soedirman memerintahkan serangan terhadap pasukan Inggris dan Belanda di Ambarawa. Pertempuran ini dan penarikan diri tentara Inggris menyebabkan semakin kuatnya dukungan rakyat terhadap Soedirman, pada tanggal 18 Desember Soedirman diangkat sebagai panglima besar.
Selama tiga tahun berikutnya, Soedirman menjadi saksi kegagalan negosiasi dengan tentara kolonial Belanda yang ingin kembali menjajah Indonesia, yang pertama adalah Perjanjian Linggarjati yang turut disusun oleh Soedirman  dan kemudian Perjanjian Renville yang menyebabkan Indonesia harus mengembalikan wilayah yang diambilnya dalam Agresi Militer I kepada Belanda dan penarikan 35.000 tentara Indonesia.
Selain itu, Soedirman juga menghadapi pemberontakan dari dalam, termasuk upaya kudeta pada 1948. Ia kemudian menyalahkan peristiwa-peristiwa tersebut sebagai penyebab penyakit tuberkulosis-nya, karena infeksi tersebut, paru-paru kanannya dikempeskan pada bulan November 1948.
Tepat 19 Desember 1948, beberapa hari setelah Soedirman keluar dari rumah sakit, Belanda melancarkan Agresi Militer II untuk menduduki Yogyakarta. Pada saat pemimpin-pemimpin politik berlindung di kraton sultan, Soedirman, beserta sekelompok kecil tentara dan dokter pribadinya, melakukan perjalanan ke arah selatan dan memulai perlawanan gerilya selama tujuh bulan.
Awalnya mereka diikuti oleh pasukan Belanda, tetapi Soedirman dan pasukannya berhasil kabur dan mendirikan markas sementara di Sobo, di dekat Gunung Lawu. Dari tempat ini, ia mampu mengomandoi kegiatan militer di Pulau Jawa, termasuk Serangan Umum 1 Maret 1949 di Yogyakarta, yang dipimpin oleh Letnan Kolonel Soeharto.
Ketika Belanda mulai menarik diri, Soedirman dipanggil kembali ke Yogyakarta pada bulan Juli 1949. Meskipun ingin terus melanjutkan perlawanan terhadap pasukan Belanda, ia dilarang oleh Presiden Soekarno. Penyakit TBC yang diidapnya kambuh, ia pensiun dan pindah ke Magelang.
Pada awal 1944, setelah menjabat selama satu tahun sebagai perwakilan di dewan karesidenan yang dijalankan oleh Jepang (Syu Sangikai),[40] Soedirman diminta untuk bergabung dengan tentara Pembela Tanah Air (PETA).
Jepang sendiri mendirikan PETA pada Oktober 1943 untuk membantu menghalau invasi Sekutu, dan berfokus dalam merekrut para pemuda yang belum “terkontaminasi” oleh pemerintah Belanda. Meskipun sempat ragu-ragu, terutama karena cedera lutut yang dialaminya ketika masih remaja, Soedirman akhirnya setuju untuk memulai pelatihan di Bogor, Jawa Barat.
Sehubungan dengan posisinya di masyarakat, Soedirman dijadikan sebagai komandan (daidanco) dan dilatih bersama orang lain dengan pangkat yang sama. Di Bogor, ia dilatih oleh para perwira dan tentara Jepang, para taruna dipersenjatai dengan peralatan yang disita dari Belanda. Setelah empat bulan pelatihan, Soedirman ditempatkan di batalion Kroya, Banyumas, Jawa Tengah, tidak jauh dari Cilacap.
Jabatan Soedirman sebagai komandan PETA berlalu tanpa banyak peristiwa hingga tanggal 21 April 1945, ketika tentara PETA di bawah komando Kusaeri mulai melancarkan pemberontakan terhadap Jepang. Diperintahkan untuk menghentikan pemberontakan tersebut, Soedirman setuju untuk melakukannya dengan syarat agar pemberontak PETA tidak dibunuh, dan lokasi persembunyian mereka tidak dimusnahkan. Syarat ini diterima oleh komandan Jepang, dan Soedirman beserta pasukannya mulai mencari para pemberontak.
Meskipun anak buah Kusaeri berhasil menembak komandan Jepang, Soedirman melalui pengeras suara mengumumkan bahwa mereka tidak akan dibunuh, dan para pemberontak pun mundur. Kusaeri menyerah pada tanggal 25 April. Peristiwa ini meningkatkan dukungan terhadap Soedirman di kalangan tentara Jepang, meskipun beberapa perwira tinggi Jepang menyatakan keprihatinannya atas dukungan Soedirman bagi kemerdekaan Indonesia.
Soedirman dan anak buahnya kemudian dikirim ke sebuah kamp di Bogor dengan alasan akan dilatih, namun sebenarnya mereka dipekerjakan sebagai pekerja kasar dalam upaya untuk mencegah pemberontakan lebih lanjut, dan desas-desus mengatakan bahwa perwira PETA akan dibunuh.
Pada awal Agustus, Soedirman mendekati Soekarno dan memintanya untuk melanjutkan perang gerilya, Soedirman tidak percaya bahwa Belanda akan mematuhi Perjanjian Roem-Royen, belajar dari kegagalan perjanjian sebelumnya. Soekarno tidak setuju, yang menjadi pukulan bagi Soedirman.
Soedirman menyalahkan ketidak-konsistenan pemerintah sebagai penyebab penyakit tuberkulosisnya dan kematian Oerip pada 1948, ia mengancam akan mengundurkan diri dari jabatannya, namun Soekarno juga mengancam akan melakukan hal yang sama.
Setelah ia berpikir bahwa pengunduran dirinya akan menyebabkan ketidakstabilan, Soedirman tetap menjabat, dan gencatan senjata di seluruh Jawa mulai diberlakukan pada tanggal 11 Agustus 1949.
Soedirman terus berjuang melawan TBC dengan melakukan pemeriksaan di Panti Rapih. Ia menginap di Panti Rapih menjelang akhir tahun, dan keluar pada bulan Oktober; ia lalu dipindahkan ke sebuah sanatorium di dekat Pakem.
Akibat penyakitnya ini, Soedirman jarang tampil di depan publik. Ia dipindahkan ke sebuah rumah di Magelang pada bulan Desember. Pada saat yang bersamaan, pemerintah Indonesia dan Belanda mengadakan konferensi panjang selama beberapa bulan yang berakhir dengan pengakuan Belanda atas kedaulatan Indonesia pada 27 Desember 1949.
Meskipun sedang sakit, Soedirman saat itu juga diangkat sebagai panglima besar TNI di negara baru bernama Republik Indonesia Serikat. Pada 28 Desember, Jakarta kembali dijadikan sebagai ibu kota negara.
Setelah Belanda mengakui kemerdekaan Indonesia, Soedirman wafat di Magelang pada pukul 18.30 malam pada tanggal 29 Januari 1950. ia dimakamkan di Taman Makam Pahlawan Semaki, Yogyakarta.
Kabar duka ini dilaporkan dalam sebuah siaran khusus di RRI. Setelah berita dukanya disiarkan, rumah keluarga Soedirman dipadati oleh para pelayat, termasuk semua anggota Brigade IX yang bertugas di lingkungan tersebut.
Keesokan harinya, jenazah Soedirman dibawa ke Yogyakarta, diiringi oleh konvoi pemakaman yang dipimpin oleh empat tank dan delapan puluh kendaraan bermotor, dan ribuan warga yang berdiri di sisi jalan. Konvoi tersebut diselenggarakan oleh anggota Brigade IX.
Surat kabar harian Yogyakarta, Kedaulatan Rakjat, menulis bahwa Indonesia telah kehilangan seorang “pahlawan yang jujur dan pemberani.” Kolonel Paku Alam VIII, yang bertanggung jawab atas wilayah Yogyakarta, mengatakan kepada kantor berita nasional Antara bahwa seluruh rakyat Indonesia, khususnya angkatan perang, telah “kehilangan seorang bapak yang tidak ternilai jasa-jasanya kepada tanah air”.
Tokoh Muslim Indonesia, Haji Abdul Malik Karim Amrullah, menggambarkan sosok Soedirman sebagai “lambang dari kebangunan jiwa pahlawan Indonesia”, sedangkan politisi Muslim Muhammad Isa Anshary menyatakan bahwa Soedirman adalah “putra revolusi, karena dia lahir dalam revolusi, dan dibesarkan oleh revolusi”
Namanya diabadikan menjadi nama sejumlah jalan, universitas, museum, dan monumen. Pada tanggal 10 Desember 1964, ia ditetapkan sebagai Pahlawan Nasional Indonesia. Sosok Soedirman juga ditampilkan dalam uang kertas rupiah keluaran 1968. (*)
