Em algum lugar das suas contas (pode ser na multiplicação ou na soma) você está usando um valor que não é numérico e por isso o JS retorna o NaN.

Pra trabalhar mais facilmente com moeda eu geralmente utilizo essas duas funções bem simples

function brlToFloat(value) {
    return value 
        ? parseFloat(value.replace(/\./g, '').replace(',', '.'))
        : 0;
}

function floatToBrl(value) {
    return value
        ? value.toFixed(2).toString().replace('.', ',').replace(/\d(?=(\d{3})+,)/g, '$&.')
        : '0,00';
}

A parte que você pega e atribui valores aos inputs pode ser simplificada, pois como já possui o id deles é mais rápido/fácil usar o seletor #. Testa esse código pra ver se terá algum efeito positivo no formulário:

function calculaTotal(obj) {
    let id = obj.substring(17),
        quantidade = parseInt($(`#CP_QUANT___${id}`).val()) || 0,
        valor_unit = brlToFloat($(`#valor_unitario___${id}`).val())
        total = quantidade * valor_unit;
        $(`#valor_total___${id}`).val(floatToBrl(total));

    somarTotal();
}

function somarTotal() {
    let total = 0.0;

    $('input[id^="valor_total___"]').each(function () {
        total += brlToFloat(this.value);
    });

    $('#totalGeral').val(floatToBrl(total));
}

Danilo, manda para o log todos os valores que você coleta e tenta ver o tipo de dados, provavelmente algum não esteja convertido no mesmo formato. Esse trecho você consegue visualizar no log : console.log("Valor: " + valorTot); ? Se não conseguir algum valor pode não ter sido convertido corretamente.

Sugestão: Separe a lógica de popular os campos das linhas da tabelas.

Coloque um cabeçalho em cima da table com os campos que precisam preencher e um botão adicionar, ai na lógica do botão adicionar você só preenche os labels e os hiddens para a tabela com toda a informação já processada.

Fica bem mais limpa a tela e mais fácil tratar os campos.

Ex: