Devienne werd geboren in Joinville als jongste van veertien kinderen van een zadelmaker. Na zijn eerste muzikale opleiding als koorknaap in zijn geboortestad speelde hij in verschillende Parijse ensembles als solist en orkestlid. Hij studeerde fluit bij Félix Rault; in 1780 trad hij in dienst bij kardinaal de Rohan. Hij was actief in Parijs als fluitist, fagottist en componist, en speelde fagot in de Opéra de Paris. Hij schreef succesvolle opera's in de jaren 1790, waaronder Les visitandines (1792), die hem veel succes brachten.

Hij was ook lid van de militaire band van de Franse Garde, waar hij de rang van sergeant kreeg en de taak had de kinderen van zijn collega's in de militaire band les te geven aan de Vrije Muziekschool. Na de Revolutionaire periode, toen de Vrije Muziekschool het Nationaal Instituut voor Muziek werd, dat later in 1795 de status van Conservatorium van Parijs kreeg, werd Devienne benoemd tot fluitprofessor (1795-1803). Tot zijn leerlingen behoorde François René Gebauer. Hij schreef Méthode de Flûte Théorique et Pratique (1793), dat meerdere malen werd herdrukt en in belangrijke mate bijdroeg aan de verbetering van het niveau van de Franse blaasmuziek in de late 18e eeuw. Net als Mozart en vele andere musici trad hij toe tot de Vrijmetselaars en het Concert de la Loge Olympique.

Zijn oeuvre omvat ongeveer 300 instrumentale werken, voornamelijk geschreven voor blaasinstrumenten. Het betreft twaalf fluitconcerten (plus twee postuum gepubliceerde werken, waaronder een fluitbewerking van G.B. Viotti's vioolconcert nr. 23), sinfonia's voor houtblazers, kwartetten en trio's voor verschillende ensembles, twaalf opera's, vijf fagotconcerten, zes fagotsonates en zes hobosonates (opus 70 en 71). De composities van Devienne voor fluit, die in de jaren zestig door Jean-Pierre Rampal nieuw leven werden ingeblazen, werden zeer bekend onder fluitisten. Zijn verzamelde oeuvre omvat een omvangrijk educatief werk, waaronder de Méthode, en acht boeken met sonates voor fluit of fagot, diverse kamermuziekstukken en maar liefst zeventien concerten. Hij stond in zijn tijd bekend als de "Mozart van de fluit".