Deve ser algo no seu ambiente... (eu não tenho o Delphi 2010)...
Parece tudo correto com a RoundABNT... Reproduzi o mesmo código (com os mesmos tipos), e testei no Delphi Rio e Delphi 7.. em ambos funcionaram...
procedure TForm1.btCalcularClick(Sender: TObject);
var
nQtd, nValor, nResultado: Double;
begin
nQtd := StrToFloatDef(edQtd.Text, 0);
nValor := StrToFloatDef(edValor.Text, 0);
nResultado := nQtd * nValor;
nResultado := RoundABNT(nResultado, 2);
edResultado.Text := FloatToStr( nResultado );
end;
No Delphi Rio:
No Delphi 7
Verifique se você não tem modificações nos fontes do ACBr, que podem estar influenciando no resultado... na dúvida, baixe tudo novamente em outra pasta...