Mask all unused bits for packed pixel format instead of green and alpha mask only.
commit72304af23b416364e5e500f699b7c2daf9708c8f
authorkostya <kostya@b3059339-0415-0410-9bf9-f77b7e298cf2>
Mon, 9 Mar 2009 17:25:43 +0000 (9 17:25 +0000)
committerkostya <kostya@b3059339-0415-0410-9bf9-f77b7e298cf2>
Mon, 9 Mar 2009 17:25:43 +0000 (9 17:25 +0000)
tree87ccd3f19d4e0868dbfd8ea31282e92c84ff14ad
parent37e7934dcebe04a3ae6ecacf386ff0eb0b928438
Mask all unused bits for packed pixel format instead of green and alpha mask only.
That fixes the case when converting 15-bit RGB/BGR to YUV and high bit is set
for input value(s).

git-svn-id: svn://svn.mplayerhq.hu/mplayer/trunk@28916 b3059339-0415-0410-9bf9-f77b7e298cf2
libswscale/swscale_template.c