Deze sonate is de eerste van drie die Hindemith schreef voor altviool en piano (de andere zijn opus 25 nr. 1 en een uit 1937). Invloeden van eerdere componisten zoals Brahms en Reger zijn duidelijk hoorbaar in het stuk. Ook de invloed van Debussy is merkbaar. Tijdens zijn militaire dienst in de Eerste Wereldoorlog richtte Hindemith een strijkkwartet op; dit kwartet speelde een werk van Debussy toen het nieuws van diens overlijden op de radio werd uitgezonden.

Elementen van Debussy's solo-strijksonates en -kwartetten zijn terug te vinden in de sonate, met name in het openingsdeel. Het eerste deel dient als prelude op de laatste twee delen; alle drie worden zonder onderbreking gespeeld. Het tweede deel is aangeduid als een thema met variaties. Het eenvoudige, volksachtige thema, vol melancholie (in de partituur aangeduid als "Rustig en eenvoudig, als een volkslied"), wordt aan het begin gepresenteerd, gevolgd door vier variaties. Het derde deel is in sonatevorm, maar is verbonden met het tweede deel doordat er meer variaties op het thema van het tweede deel in het derde deel voorkomen (variatie vijf en zes van het thema fungeren als vervanging voor een ontwikkelingsgedeelte in het derde deel en variatie zeven dient als coda).