Proses pembentukan PETA diawali dengan surat permohonan yang dikirimkan oleh tokoh pergerakan nasional, Gatot Mangkupraja, kepada Gunseikan (pemimpin tertinggi pemerintahan militer Jepang) pada 7 September 1943. Surat tersebut berisi permintaan agar bangsa Indonesia diizinkan untuk membantu usaha militer Jepang. Setelah mendapat persetujuan, PETA resmi dibentuk pada 3 Oktober 1943 melalui Osamu Seirei No. 44. Struktur organisasi PETA terdiri dari Daidan (Batalyon) yang dipimpin oleh Daidanco (Komandan Batalyon), Chudan (Kompi) dipimpin oleh Chudanco (Komandan Kompi), Shodan (Peleton) dipimpin oleh Shodanco (Komandan Peleton), dan Bundan (Regu) yang dipimpin oleh Bundanco (Komandan Regu). Ada juga tingkatan Giyuhei yang merupakan prajurit biasa, di mana struktur kepangkatan PETA didasarkan pada jabatan mereka, bukan pada pangkat militer konvensional. Perekrutan anggota PETA dilakukan oleh Bappen (Dinas Intel Tentara Ke-16 Jepang), dimana para pemuda berusia 18-25 tahun direkrut dan diberi pelatihan militer yang menekankan solidaritas, disiplin, kekuatan fisik, dan retorika patriotisme heroik. Sebagian besar anggota PETA berasal dari kalangan terpelajar.

