Karl-Peter Chilla war bereits während seiner Schulzeit als Organist und Chorleiter tätig. Sein Studium der Kirchenmusik in Berlin – unter anderem bei Karl Hochreiter, Martin Behrmann, Ernst Pepping und Heinz-Werner Zimmermann – schloss er an eine kaufmännische Lehre an. Nach dem Studium führte ihn sein Berufsweg von Berlin über Bremen nach Dillenburg. Ab 1982 war er dort Kantor der evangelischen Kirchengemeinde und als Propsteikantor der Evangelischen Kirche in Hessen und Nassau für die Region Nord-Nassau verantwortlich. Als Dozent für Kinderchorleitung ist er an der Hochschule für Musik und Darstellende, Frankfurt/M. tätig. Er ist Vorsitzender der Philipp-Reich-Chorstiftung. Darüber hinaus als Herausgeber von Orgel- und Chorwerken sowie als Komponist produktiv. Seine Ausgaben sind mit ihrer weiten Verbreitung häufig gespielt und aufgeführt. Auf Grund seiner Verdienste als Chorleiter wurde ihm der Titel „Chordirektor BDC der Arbeitsgemeinschaft Deutscher Chorverbände“ (jetzt: Bundesvereinigung Deutscher Chorverbände) verliehen.