31775 әскери бөлімі 1943 жылы 31 мамырда құрылды, оның құрамына әскери оркестр кірді, оның жауынгерлік жолы Сталинградтан Венгрияға дейін өтті және 1945 жылы 9 мамырда Чехословакияда, содан кейін Қытайға Жапон басқыншыларымен соғысу үшін келді.
1969 жылы оркестр 31775 әскери бөлімімен бірге Қарағанды қаласына тұрақты орналасу орнына келді.
1970 жылдан бастап бұлұжым Республикалық және облыстық фестивальдар мен байқауларға белсене қатысып, Орта Азия әскери округінің үрмелі оркестрлері арасында жүлделі орындарға ие болды.
Оркестр әскери бөлімнің өміріне белсене қатысады, ол облыстық үрмелі және джаз музыкасы фестивалінің, қалалық және облыстық мерекелердің тұрақты қатысушысы.
Оркестр репертуарында әскери шерулер, қазақстандық және шетелдік авторлардың шығармалары бар.
2002 жылдан бастап әскери үрмелі оркестрге Кузьмин Виктор Петрович жетекшілік етеді.