Consegui resolver pessoal!
Segue trecho, para quem tiver dúvida:
var chave1 = DatasetFactory.createConstraint("idCliente", idCliente, idCliente, ConstraintType.MUST);
var chave2 = DatasetFactory.createConstraint("idFluigRegistro", idFluigRegistro, idFluigRegistro, ConstraintType.MUST);
var chave3 = DatasetFactory.createConstraint("statusSolicitacao", "Cancelado"+"%", "Cancelado"+"%", ConstraintType.MUST_NOT, true);
var constraintsDs = new Array(chave1, chave2, chave3);
var datasetExisteSol = DatasetFactory.getDataset("TCTVM0066BKO012", null, constraintsDs, null);
Apenas complementando, tentei adicionar um "true", ao final do filtro: var chave3 = DatasetFactory.createConstraint("statusSolicitacao", "Cancelado"+"%", "Cancelado"+"%", ConstraintType.MUST_NOT, true); mas não funcionou também!
— Renata 12 de Sep de 2018Se você fizer com %Cancelado% também não funciona?
— Diogo Boegershausen 12 de Sep de 2018var chave3 = DatasetFactory.createConstraint("statusSolicitacao", "%Cancelado%", "%Cancelado%", ConstraintType.MUST_NOT, true);