Devienne wurde in Joinville als jüngstes von vierzehn Kindern eines Sattlers geboren. Nach seiner ersten musikalischen Ausbildung als Chorknabe in seiner Heimatstadt spielte er als Solist und Orchestermusiker in verschiedenen Pariser Ensembles. Er studierte Flöte bei Félix Rault und trat 1780 in den Dienst von Kardinal de Rohan. In Paris war er als Flötist, Fagottist und Komponist tätig und spielte Fagott an der Pariser Oper. In den 1790er Jahren schrieb er erfolgreiche Opern, darunter „Les visitandines“ (1792), die ihm großen Erfolg einbrachte.
Er war außerdem Mitglied der Militärkapelle der französischen Garde, wo er den Rang eines Sergeanten bekleidete und die Aufgabe hatte, die Kinder seiner Kameraden an der angeschlossenen Musikschule zu unterrichten. Nach der Revolutionszeit, als die Musikschule zum Nationalen Musikinstitut und später, 1795, zum Pariser Konservatorium wurde, wurde Devienne dort zum Flötenprofessor ernannt (1795–1803). Zu seinen Schülern zählte François René Gebauer. Er verfasste die „Méthode de Flûte Théorique et Pratique“ (1793), die mehrfach neu aufgelegt wurde und maßgeblich zur Verbesserung des Niveaus der französischen Bläsermusik im späten 18. Jahrhundert beitrug. Wie Mozart und viele andere Musiker schloss er sich den Freimaurern und dem Orchester Concert de la Loge Olympique an.
Sein Werk umfasst rund 300 Instrumentalwerke, die überwiegend für Blasinstrumente geschrieben wurden. Darunter befinden sich zwölf Flötenkonzerte (sowie zwei posthum veröffentlichte Werke, darunter eine Flötenbearbeitung von G. B. Viottis Violinkonzert Nr. 23), Sinfonien für Holzbläser, Quartette und Trios für verschiedene Besetzungen, zwölf Opern, fünf Fagottkonzerte, sechs Fagottsonaten und sechs Oboensonaten (op. 70 und 71). Deviennes Flötenkompositionen, die in den 1960er Jahren von Jean-Pierre Rampal wiederentdeckt wurden, erlangten unter Flötisten große Bekanntheit. Sein Gesamtwerk umfasst umfangreiche pädagogische Werke, darunter die „Méthode“, sowie acht Sonatenbände für Flöte oder Fagott, diverse Kammermusik und nicht weniger als siebzehn Konzerte. Zu seiner Zeit wurde er als der „Mozart der Flöte“ bezeichnet.