Dalam sejarahnya PPI Austria dimulai dengan program pengiriman karyasiswa kementerian riset dan teknologi ke beberapa Negara Eropa termasuk Austria dan pemberian beasiswa oleh pemerintah Austria kepada mahasiswa Indonesia. Selain itu, keberadaan mahasiswa Indonesia bersama para pelajar dan pemuda dari putra-putri staf KBRI/PTRI Austria menjadi embrio keberadaan PPI Austria.
Perhimpunan Pemuda Pelajar Indonesia di Austria telah terbentuk sejak 6 April 1968. Perhimpunan ini memiliki misi awal untuk mengakomodir kegiatan akademis dan non akademis mahasiswa Indonesia yang sedang studi di Austria. Pada 20 Oktober 1991, Perhimpunan Pemuda Pelajar Indonesia di Austria atau PPI Austria memasuki babak baru dengan disyahkannya rancangan Anggaran Dasar dan Anggaran Rumah Tangga (AD/ART) PPI Austria oleh ketua Musyawarah Anggota periode itu, Bapak Poegoeh Tjatur Hariagoeng, seorang mahasiswa Teknik Mesin Technical University of Vienna.
Berikut ini fungsionaris PPI Austria dari masa ke masa.
Bapak Chalid Tamimi (sekarang pengusaha) sebagai ketua PPI Austria 1988 – 1990 dengan koordinator pendidikan Bapak Fahmi Amhar (sekarang profesor riset di Bakosurtanal)
Bapak Jajang Kurniawan (staf Allianz), ketua PPI Austria 1990 – 1993 dengan koordinator pendidikan Bapak Anwar al Nahdi
Ibu Celly Sinaga, Ketua PPI Austria 1993-1994
Ibu Reika Meany, Ketua PPI Austria 1994-1995
Bapak Danang Parikesit (sekarang profesor Fakultas Teknik UGM), Ketua PPI Austria 1995 – 1996
Bapak Andi Junirsah (sekarang staf IAEA), ketua PPI Austria 1997-1998
Bapak Rinaldi Effendi, Ketua PPI 1998-1999
Bapak Feraldi Zahir (sekarang staf UNIDO), ketua PPI Austria 1999 – 2009
Bapak Wikan Danar Sunindyo (dosen Institut Teknologi Bandung), ketua PPI Austria 2009 – 2010
Anggun Sujatmiko, Ketua PPI Austria 2010- 2011
Hary Febriansyah (Dosen Institut Teknologi Bandung), Ketua PPI Austria 2011-2012
Zulaicha Parastuty (Peneliti di Universitas Klagenfurt), Ketua PPI Austria 2012-2013
Pandu Barmono, Ketua PPI Austria 2013-2014
Syifa Nurhanifah, Ketua PPI Austria 2015
Adryan Fristiohadi, Ketua PPI Austria 2016
Adapun ketua Musyawarah Anggota PPI Austria adalah:
Poegoeh Tjatur Hariagoeng, periode 1991 - 1992
Anwar Al Nahdi, periode 1992 – 1994
Mursalim, periode 1995 - 1998
Andi Junirsah, periode 1999 – 2001
Periode 2001 - 2009, tidak ada ketua Musyawarah Anggota karena sedikitnya anggota PPI pada masa ini
Supriyanto Pawiro (Dosen Universitas Indonesia), periode 2009 – 2010
Zairin Zain (Dosen Universitas Tanjungpura), periode 2010 – 2011
Bakti Darma Putra (Peneliti), periode 2011 - 2012
Muhammad Zuhri Catur (Dosen ITB), periode 2012-2013
Wiene Andriyani, periode 2013-2014
Peb Ruswono Aryan, periode 2015
Yusfan Ade Putra Yusran, Andy Yahya Al Hakim, Prasetiyono Hari Mukti, Widiyanto, Zulaicha Parastuty (Presidium Kolegial), Periode 2016
Dalam keorganisasian, Dewan Musyawarah Anggota PPI Austria telah melakukan amandemen pertama AD/ART PPI Austria pada tahun 2009 yang mengubah masa jabatan kepengurusan ketua fungsionaris, ketua Dewan Musyawarah Anggota, dan batas umur keanggotaan di PPI Austria. Selain itu, Dewan Musyawarah Anggota kembali melakukan amandemen AD/ART kedua pada tahun 2012 yang merubah nama organisasi dalam Bahasa Inggris dan Jerman serta merubah logo, stempel dan kop surat beserta penjelasannya.