@Luís,

Tem um exemplo aqui de como tratar os filtros do dataset customizado:

https://forum.fluig.com/644-como-colocar-parametros-no-dataset-customizado

UPDATE

Você pode montar desa forma:

    var sql = "SELECT matricula, ccusto, descricao FROM CENTRO_CUSTO WHERE 1=1 ";

    newDataset.addColumn("matricula");
    newDataset.addColumn("ccusto");
    newDataset.addColumn("descricao");

    if(constraints != null) {
        if(constraints.length > 0) {

           for (var i = 0; i < constraints.length; i++) {
                // AQUI VOCÊ TRATA O FILTRO
                if (constraints[i].fieldName == 'matricula') {
                    filtro += "AND matricula LIKE '%" + constraints[i].initialValue + "%' ";
                }
                if (constraints[i].fieldName == 'ccusto') {
                    filtro += "AND ccusto LIKE '%" + constraints[i].initialValue + "%' ";
                }
                if (constraints[i].fieldName == 'descricao') {
                    filtro += "AND descricao LIKE '%" + constraints[i].initialValue + "%' ";
                }
            }

            filtro += "ORDER BY descricao ";
        }
    }

    sql = sql + filtro;

Luis, eu estava passando pelo mesmo problema. Vou explicar como eu resolvi.

Estava filtando meu zoomColecao com o seguinte código:

filtro = 'id_selo_editorial,' + selectedItem["id_selo_editorial"];
reloadZoomFilterValues("zoomColecao", filtro);

Mesmo aplicando meu reloadZoomFilterValues o meu customDataset não estava sendo filtrado. COmo ele foi criado através de uma query ao banco de dados, então eu preciso tratar o filtro dentro do do meu createDataSet customizado, com esse código resolvi meu problema:

if(constraints != null) {
//tratamento de filtros 
    if(constraints.length > 0) {
       for (var i = 0; i < constraints.length; i++) {
            if (constraints[i].fieldName == 'id_selo_editorial') {
                filtro = "and id_selo_editorial="+constraints[i].initialValue;

            }
       }
    }
}
var myQuery = "select id_colecao, id_selo_editorial, desc_colecao from colecao where 1=1 "+filtro;

Espero ter ajudado de alguma forma. Fico a disposição.