Fix a enc/dec mismatch under CONFIG_MISC_FIXES
commitc7101830a6f1e58c5e441eb29cecbefdb6c5632a
authorYaowu Xu <yaowu@google.com>
Tue, 15 Dec 2015 02:49:59 +0000 (14 18:49 -0800)
committerYaowu Xu <yaowu@google.com>
Tue, 15 Dec 2015 04:56:37 +0000 (14 20:56 -0800)
tree720fc97a1518ba1ef6970580b7423e1708455825
parent4d2cfeab361e013d225b7c6ab30d0420b2652e28
Fix a enc/dec mismatch under CONFIG_MISC_FIXES

The culprit is on the decode side xd->lossless[i] setup was in wrong
location where segment features are not yet decoded.

Also on the encoder side, transform mode was not set consistently
between when tx_mode is selected and how tx_mode is enforced in
tx size selection.

Change-Id: I4c4c32188fda7530cadab9b46d4201f33f7ceca3
vp10/decoder/decodeframe.c
vp10/encoder/bitstream.c
vp10/encoder/rdopt.c