vga: add vga_scanline_invalidated helper
commitf3289f6f0f9781d1fe77b4cfc3f18a6336eaed72
authorGerd Hoffmann <kraxel@redhat.com>
Fri, 21 Apr 2017 09:16:26 +0000 (21 11:16 +0200)
committerGerd Hoffmann <kraxel@redhat.com>
Mon, 24 Apr 2017 08:12:28 +0000 (24 10:12 +0200)
tree685d8106bc9400836bd72a5d2ecdaf2af554c8ca
parent8deaf12ca1a7c89867df739dc9056080509628bd
vga: add vga_scanline_invalidated helper

Add vga_scanline_invalidated helper to check whenever a scanline was
invalidated.  Add a sanity check to fix OOB read access for display
heights larger than 2048.

Only cirrus uses this, for hardware cursor rendering, so having this
work properly for the first 2048 scanlines only shouldn't be a problem
as the cirrus can't handle large resolutions anyway.  Also changing the
invalidated_y_table size would break live migration.

Signed-off-by: Gerd Hoffmann <kraxel@redhat.com>
Message-id: 20170421091632.30900-4-kraxel@redhat.com
Signed-off-by: Gerd Hoffmann <kraxel@redhat.com>
hw/display/vga.c