Setelah pulih dari trauma yang dialaminya, Stauffenberg dimasukkan kedalam tim konspirator dan kemudian dikenalkan dengan Tresckow. Ia kemudian diposkan kedalam Ersatzheer (pasukan cadangan), dimana Olbricht adalah atasannya.
Olbricht dan Stauffenberg menyadari bahwa Ersatzheer dapat digunakan dalam plot untuk mengambil alih control dari Reich. Ini disebabkan oleh Operation Valkriye, sebuah rencana dimana situasinya adalah memberlakukan darurat militer akibat terjadinya kekacauan politik. Operasi Valkriye ditujukan agar partai politik anti-Nazi tidak dapat mengambil alih kekuasaan bilamana terjadi kekosongan kekuasaan jika pemerintah Nazi berada diambang keruntuhan.
Kedua konspirator ini kemudian beremu dengan kolonel jendral Friedrich Fromm, kepala dari Ersatzheer, untuk mendapatkan dukungannya. Namun Fromm tidak melaporkan keduanya maupun sepakat untuk mendukung aksi mereka, tetapi bertahan untuk melihat pihak mana yang sekiranya akan memberikan keuntungan lebih banyak bagi dirinya.
Olbricht percaya bahwa Valkriye dapat diubah agar dapat memuluskan langkah mereka. Hal tersebut termasuk menyebarkan pesan palsu yang berisi bahwa Hitler telah dibunuh oleh para petinggi partai, hingga menginisiasikan Operasi Valkyrie untuk mengambil alih kekuasaan. Antara Agustus dan September 1943, para konspirator merevisi rencana Valkriye untuk menyesuaikannya dengan kudeta. Rencana Valkriye yang telah diamandemen berisikan tiga point utama, yaitu mengambil alih pemerintahan, membubarkan SS (pasukan keamanan milik partai Nazi), serta menangkap tokoh-tokoh penting Nazi.
Stauffenberg kemudian secara personal bertemu dengan Hitler untuk mengesahkan amandemen dari rencana Valkriye tersebut. Hitler menanda tangani tanpa membaca isi dari proposal tersebut, ia percaya bahwa amandemen itu untuk yang terbaik.
Faktor terpenting dari perencanaan kudeta adalah bagaimana cara membunuh Hitler, yang sebelumnya selalu berhasil menghindari semua usaha percobaan pembunuhannya. Paranoia Hitler telah menyelamatkan nyawanya lebih dari satu kali. Sehingga, cara yang tersisa untuk membunuh dirinya adalah dengan kembali menggunakan bom waktu.
Rencananya adalah, ketika Hitler tewas akibat dari ledakan bom yang telah dipasang, militer akan mengklaim bahwa pembunuhan Hitler merupakan usaha yang dilakukan oleh partai Nazi dan SS, kemudian pasukan cadangan akan mengambil alih instalasi penting di Berlin serta menangkap pejabat tinggi Nazi.Â
Pemerintahan baru akan didirikan dengan Carl Friedrich Goerdeler sebagai Kanselir Jerman, serta Ludwig Beck sebagai Presiden. Pemerintahan baru ini nantinya akan berupaya melakukan negosiasi dengan sekutu untuk mengakhiri perang, dengan syarat yang tentunya menguntungkan Jeman.
Plot 20 JuliÂ
Pada tanggal 14 dan 15 Juli 1944, Stauffenberg membuat dua percobaan pembunuhan. Pada hari pertama, saat konferensi militer, rencana tersebut dibatalkan karena tangan kanan Hitler, Heinrich Himmler dan Herman Goring tidak hadir. Kemudian diputuskanlah agar plot dapat berjalan secara efektif, ketiga orang tersebut harus dieliminasi. Namun, dengan waktu yang semakin berkurang, rencana tersebut dijatuhkan pada hari berikutnya, dan Stauffenberg berencana untuk membunuh Hitler di Wolfsschanze, atau Wolf's Lair, markas Hitler di Prussia Timur.
Sekali lagi, nasib belum berpihak baik. Usaha percobaan kedua pun mengalami kegagalan juga. Kali ini disebabkan Hitler keluar ruangan di saat saat terakhir setelah bom diaktifkan, dan Stauffenberg telah meninggalkan ruangan. Beruntung ia dapat kembali kedalam ruangan untuk menjinakkan bom tersebut.
