Vieuxtemps wurde in Verviers, Belgien (damals Teil des Vereinigten Königreichs der Niederlande), als Sohn eines Webers und Amateurgeigers sowie Geigenbauers geboren. Seinen ersten Geigenunterricht erhielt er von seinem Vater und einem ortsansässigen Lehrer. Seinen ersten öffentlichen Auftritt hatte er im Alter von sechs Jahren mit einem Konzert von Pierre Rode. Schon bald konzertierte er in verschiedenen umliegenden Städten, darunter Lüttich und Brüssel, wo er den Geiger Charles Auguste de Bériot kennenlernte und bei dem er sein Studium aufnahm.

Er hegte auch den Wunsch, Komponist zu werden, und nachdem er bereits Unterricht bei dem angesehenen Simon Sechter in Wien genommen hatte, verbrachte er den Winter 1835/36 mit Kompositionsstudien bei Anton Reicha in Paris. Sein erstes Violinkonzert, später als Konzert Nr. 2 veröffentlicht, stammt aus dieser Zeit.
Sein Violinkonzert Nr. 1 wurde bei seinem zweiten Besuch in Sankt Petersburg 1840 und im darauffolgenden Jahr in Paris gefeiert. Berlioz fand es „eine großartige Sinfonie für Violine und Orchester“.