migration: remove the QEMUFileOps 'set_blocking' callback
[qemu/ericb.git] / target / arm / sve.decode
bloba54feb2f61da51611faa9bc447a790b4676addcc
1 # AArch64 SVE instruction descriptions
3 #  Copyright (c) 2017 Linaro, Ltd
5 # This library is free software; you can redistribute it and/or
6 # modify it under the terms of the GNU Lesser General Public
7 # License as published by the Free Software Foundation; either
8 # version 2.1 of the License, or (at your option) any later version.
10 # This library is distributed in the hope that it will be useful,
11 # but WITHOUT ANY WARRANTY; without even the implied warranty of
12 # MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13 # Lesser General Public License for more details.
15 # You should have received a copy of the GNU Lesser General Public
16 # License along with this library; if not, see <http://www.gnu.org/licenses/>.
19 # This file is processed by scripts/decodetree.py
22 ###########################################################################
23 # Named fields.  These are primarily for disjoint fields.
25 %imm4_16_p1     16:4 !function=plus_1
26 %imm6_22_5      22:1 5:5
27 %imm7_22_16     22:2 16:5
28 %imm8_16_10     16:5 10:3
29 %imm9_16_10     16:s6 10:3
30 %size_23        23:2
31 %dtype_23_13    23:2 13:2
32 %index3_22_19   22:1 19:2
33 %index3_19_11   19:2 11:1
34 %index2_20_11   20:1 11:1
36 # A combination of tsz:imm3 -- extract esize.
37 %tszimm_esz     22:2 5:5 !function=tszimm_esz
38 # A combination of tsz:imm3 -- extract (2 * esize) - (tsz:imm3)
39 %tszimm_shr     22:2 5:5 !function=tszimm_shr
40 # A combination of tsz:imm3 -- extract (tsz:imm3) - esize
41 %tszimm_shl     22:2 5:5 !function=tszimm_shl
43 # Similarly for the tszh/tszl pair at 22/16 for zzi
44 %tszimm16_esz   22:2 16:5 !function=tszimm_esz
45 %tszimm16_shr   22:2 16:5 !function=tszimm_shr
46 %tszimm16_shl   22:2 16:5 !function=tszimm_shl
48 # Signed 8-bit immediate, optionally shifted left by 8.
49 %sh8_i8s        5:9 !function=expand_imm_sh8s
50 # Unsigned 8-bit immediate, optionally shifted left by 8.
51 %sh8_i8u        5:9 !function=expand_imm_sh8u
53 # Unsigned load of msz into esz=2, represented as a dtype.
54 %msz_dtype      23:2 !function=msz_dtype
56 # Either a copy of rd (at bit 0), or a different source
57 # as propagated via the MOVPRFX instruction.
58 %reg_movprfx    0:5
60 ###########################################################################
61 # Named attribute sets.  These are used to make nice(er) names
62 # when creating helpers common to those for the individual
63 # instruction patterns.
65 &rr_esz         rd rn esz
66 &rri            rd rn imm
67 &rr_dbm         rd rn dbm
68 &rrri           rd rn rm imm
69 &rri_esz        rd rn imm esz
70 &rrri_esz       rd rn rm imm esz
71 &rrr_esz        rd rn rm esz
72 &rrx_esz        rd rn rm index esz
73 &rpr_esz        rd pg rn esz
74 &rpr_s          rd pg rn s
75 &rprr_s         rd pg rn rm s
76 &rprr_esz       rd pg rn rm esz
77 &rrrr_esz       rd ra rn rm esz
78 &rrxr_esz       rd rn rm ra index esz
79 &rprrr_esz      rd pg rn rm ra esz
80 &rpri_esz       rd pg rn imm esz
81 &ptrue          rd esz pat s
82 &incdec_cnt     rd pat esz imm d u
83 &incdec2_cnt    rd rn pat esz imm d u
84 &incdec_pred    rd pg esz d u
85 &incdec2_pred   rd rn pg esz d u
86 &rprr_load      rd pg rn rm dtype nreg
87 &rpri_load      rd pg rn imm dtype nreg
88 &rprr_store     rd pg rn rm msz esz nreg
89 &rpri_store     rd pg rn imm msz esz nreg
90 &rprr_gather_load       rd pg rn rm esz msz u ff xs scale
91 &rpri_gather_load       rd pg rn imm esz msz u ff
92 &rprr_scatter_store     rd pg rn rm esz msz xs scale
93 &rpri_scatter_store     rd pg rn imm esz msz
95 ###########################################################################
96 # Named instruction formats.  These are generally used to
97 # reduce the amount of duplication between instruction patterns.
99 # Two operand with unused vector element size
100 @pd_pn_e0       ........ ........ ....... rn:4 . rd:4           &rr_esz esz=0
102 # Two operand
103 @pd_pn          ........ esz:2 .. .... ....... rn:4 . rd:4      &rr_esz
104 @rd_rn          ........ esz:2 ...... ...... rn:5 rd:5          &rr_esz
106 # Two operand with governing predicate, flags setting
107 @pd_pg_pn_s     ........ . s:1 ...... .. pg:4 . rn:4 . rd:4     &rpr_s
108 @pd_pg_pn_s0    ........ . .   ...... .. pg:4 . rn:4 . rd:4     &rpr_s s=0
110 # Three operand with unused vector element size
111 @rd_rn_rm_e0    ........ ... rm:5 ... ... rn:5 rd:5             &rrr_esz esz=0
113 # Three predicate operand, with governing predicate, flag setting
114 @pd_pg_pn_pm_s  ........ . s:1 .. rm:4 .. pg:4 . rn:4 . rd:4    &rprr_s
116 # Three operand, vector element size
117 @rd_rn_rm       ........ esz:2 . rm:5 ... ... rn:5 rd:5         &rrr_esz
118 @pd_pn_pm       ........ esz:2 .. rm:4 ....... rn:4 . rd:4      &rrr_esz
119 @rdn_rm         ........ esz:2 ...... ...... rm:5 rd:5 \
120                 &rrr_esz rn=%reg_movprfx
121 @rdn_rm_e0      ........ .. ...... ...... rm:5 rd:5 \
122                 &rrr_esz rn=%reg_movprfx esz=0
123 @rdn_sh_i8u     ........ esz:2 ...... ...... ..... rd:5 \
124                 &rri_esz rn=%reg_movprfx imm=%sh8_i8u
125 @rdn_i8u        ........ esz:2 ...... ... imm:8 rd:5 \
126                 &rri_esz rn=%reg_movprfx
127 @rdn_i8s        ........ esz:2 ...... ... imm:s8 rd:5 \
128                 &rri_esz rn=%reg_movprfx
130 # Four operand, vector element size
131 @rda_rn_rm      ........ esz:2 . rm:5 ... ... rn:5 rd:5 \
132                 &rrrr_esz ra=%reg_movprfx
134 # Four operand with unused vector element size
135 @rda_rn_rm_e0   ........ ... rm:5 ... ... rn:5 rd:5 \
136                 &rrrr_esz esz=0 ra=%reg_movprfx
137 @rdn_ra_rm_e0   ........ ... rm:5 ... ... ra:5 rd:5 \
138                 &rrrr_esz esz=0 rn=%reg_movprfx
140 # Three operand with "memory" size, aka immediate left shift
141 @rd_rn_msz_rm   ........ ... rm:5 .... imm:2 rn:5 rd:5          &rrri
143 # Two register operand, with governing predicate, vector element size
144 @rdn_pg_rm      ........ esz:2 ... ... ... pg:3 rm:5 rd:5 \
145                 &rprr_esz rn=%reg_movprfx
146 @rdm_pg_rn      ........ esz:2 ... ... ... pg:3 rn:5 rd:5 \
147                 &rprr_esz rm=%reg_movprfx
148 @rd_pg4_rn_rm   ........ esz:2 . rm:5  .. pg:4  rn:5 rd:5       &rprr_esz
149 @pd_pg_rn_rm    ........ esz:2 . rm:5 ... pg:3 rn:5 . rd:4      &rprr_esz
151 # Three register operand, with governing predicate, vector element size
152 @rda_pg_rn_rm   ........ esz:2 . rm:5  ... pg:3 rn:5 rd:5 \
153                 &rprrr_esz ra=%reg_movprfx
154 @rdn_pg_ra_rm   ........ esz:2 . rm:5  ... pg:3 ra:5 rd:5 \
155                 &rprrr_esz rn=%reg_movprfx
156 @rdn_pg_rm_ra   ........ esz:2 . ra:5  ... pg:3 rm:5 rd:5 \
157                 &rprrr_esz rn=%reg_movprfx
158 @rd_pg_rn_rm   ........ esz:2 . rm:5 ... pg:3 rn:5 rd:5       &rprr_esz
160 # One register operand, with governing predicate, vector element size
161 @rd_pg_rn       ........ esz:2 ... ... ... pg:3 rn:5 rd:5       &rpr_esz
162 @rd_pg4_pn      ........ esz:2 ... ... .. pg:4 . rn:4 rd:5      &rpr_esz
163 @pd_pg_rn       ........ esz:2 ... ... ... pg:3 rn:5 . rd:4     &rpr_esz
165 # One register operand, with governing predicate, no vector element size
166 @rd_pg_rn_e0    ........ .. ... ... ... pg:3 rn:5 rd:5          &rpr_esz esz=0
168 # Two register operands with a 6-bit signed immediate.
169 @rd_rn_i6       ........ ... rn:5 ..... imm:s6 rd:5             &rri
171 # Two register operand, one immediate operand, with predicate,
172 # element size encoded as TSZHL.
173 @rdn_pg_tszimm_shl  ........ .. ... ... ... pg:3 ..... rd:5 \
174                     &rpri_esz rn=%reg_movprfx esz=%tszimm_esz imm=%tszimm_shl
175 @rdn_pg_tszimm_shr  ........ .. ... ... ... pg:3 ..... rd:5 \
176                     &rpri_esz rn=%reg_movprfx esz=%tszimm_esz imm=%tszimm_shr
178 # Similarly without predicate.
179 @rd_rn_tszimm_shl   ........ .. ... ... ...... rn:5 rd:5 \
180                     &rri_esz esz=%tszimm16_esz imm=%tszimm16_shl
181 @rd_rn_tszimm_shr   ........ .. ... ... ...... rn:5 rd:5 \
182                     &rri_esz esz=%tszimm16_esz imm=%tszimm16_shr
184 # Two register operand, one immediate operand, with 4-bit predicate.
185 # User must fill in imm.
186 @rdn_pg4        ........ esz:2 .. pg:4 ... ........ rd:5 \
187                 &rpri_esz rn=%reg_movprfx
189 # Two register operand, one one-bit floating-point operand.
190 @rdn_i1         ........ esz:2 ......... pg:3 .... imm:1 rd:5 \
191                 &rpri_esz rn=%reg_movprfx
193 # Two register operand, one encoded bitmask.
194 @rdn_dbm        ........ .. .... dbm:13 rd:5 \
195                 &rr_dbm rn=%reg_movprfx
197 # Predicate output, vector and immediate input,
198 # controlling predicate, element size.
199 @pd_pg_rn_i7    ........ esz:2 . imm:7 . pg:3 rn:5 . rd:4       &rpri_esz
200 @pd_pg_rn_i5    ........ esz:2 . imm:s5 ... pg:3 rn:5 . rd:4    &rpri_esz
202 # Basic Load/Store with 9-bit immediate offset
203 @pd_rn_i9       ........ ........ ...... rn:5 . rd:4    \
204                 &rri imm=%imm9_16_10
205 @rd_rn_i9       ........ ........ ...... rn:5 rd:5      \
206                 &rri imm=%imm9_16_10
208 # One register, pattern, and uint4+1.
209 # User must fill in U and D.
210 @incdec_cnt     ........ esz:2 .. .... ...... pat:5 rd:5 \
211                 &incdec_cnt imm=%imm4_16_p1
212 @incdec2_cnt    ........ esz:2 .. .... ...... pat:5 rd:5 \
213                 &incdec2_cnt imm=%imm4_16_p1 rn=%reg_movprfx
215 # One register, predicate.
216 # User must fill in U and D.
217 @incdec_pred    ........ esz:2 .... .. ..... .. pg:4 rd:5       &incdec_pred
218 @incdec2_pred   ........ esz:2 .... .. ..... .. pg:4 rd:5 \
219                 &incdec2_pred rn=%reg_movprfx
221 # Loads; user must fill in NREG.
222 @rprr_load_dt   ....... dtype:4 rm:5 ... pg:3 rn:5 rd:5         &rprr_load
223 @rpri_load_dt   ....... dtype:4 . imm:s4 ... pg:3 rn:5 rd:5     &rpri_load
225 @rprr_load_msz  ....... .... rm:5 ... pg:3 rn:5 rd:5 \
226                 &rprr_load dtype=%msz_dtype
227 @rpri_load_msz  ....... .... . imm:s4 ... pg:3 rn:5 rd:5 \
228                 &rpri_load dtype=%msz_dtype
230 # Gather Loads.
231 @rprr_g_load_u        ....... .. .    . rm:5 . u:1 ff:1 pg:3 rn:5 rd:5 \
232                       &rprr_gather_load xs=2
233 @rprr_g_load_xs_u     ....... .. xs:1 . rm:5 . u:1 ff:1 pg:3 rn:5 rd:5 \
234                       &rprr_gather_load
235 @rprr_g_load_xs_u_sc  ....... .. xs:1 scale:1 rm:5 . u:1 ff:1 pg:3 rn:5 rd:5 \
236                       &rprr_gather_load
237 @rprr_g_load_xs_sc    ....... .. xs:1 scale:1 rm:5 . . ff:1 pg:3 rn:5 rd:5 \
238                       &rprr_gather_load
239 @rprr_g_load_u_sc     ....... .. .    scale:1 rm:5 . u:1 ff:1 pg:3 rn:5 rd:5 \
240                       &rprr_gather_load xs=2
241 @rprr_g_load_sc       ....... .. .    scale:1 rm:5 . . ff:1 pg:3 rn:5 rd:5 \
242                       &rprr_gather_load xs=2
243 @rpri_g_load          ....... msz:2 .. imm:5 . u:1 ff:1 pg:3 rn:5 rd:5 \
244                       &rpri_gather_load
246 # Stores; user must fill in ESZ, MSZ, NREG as needed.
247 @rprr_store         ....... ..    ..     rm:5 ... pg:3 rn:5 rd:5    &rprr_store
248 @rpri_store_msz     ....... msz:2 .. . imm:s4 ... pg:3 rn:5 rd:5    &rpri_store
249 @rprr_store_esz_n0  ....... ..    esz:2  rm:5 ... pg:3 rn:5 rd:5 \
250                     &rprr_store nreg=0
251 @rprr_scatter_store ....... msz:2 ..     rm:5 ... pg:3 rn:5 rd:5 \
252                     &rprr_scatter_store
253 @rpri_scatter_store ....... msz:2 ..    imm:5 ... pg:3 rn:5 rd:5 \
254                     &rpri_scatter_store
256 # Two registers and a scalar by N-bit index
257 @rrx_3          ........ .. . ..      rm:3 ...... rn:5 rd:5 \
258                 &rrx_esz index=%index3_22_19
259 @rrx_2          ........ .. . index:2 rm:3 ...... rn:5 rd:5  &rrx_esz
260 @rrx_1          ........ .. . index:1 rm:4 ...... rn:5 rd:5  &rrx_esz
262 # Two registers and a scalar by N-bit index, alternate
263 @rrx_3a         ........ .. . .. rm:3 ...... rn:5 rd:5 \
264                 &rrx_esz index=%index3_19_11
265 @rrx_2a         ........ .. . .  rm:4 ...... rn:5 rd:5 \
266                 &rrx_esz index=%index2_20_11
268 # Three registers and a scalar by N-bit index
269 @rrxr_3         ........ .. . ..      rm:3 ...... rn:5 rd:5 \
270                 &rrxr_esz ra=%reg_movprfx index=%index3_22_19
271 @rrxr_2         ........ .. . index:2 rm:3 ...... rn:5 rd:5 \
272                 &rrxr_esz ra=%reg_movprfx
273 @rrxr_1         ........ .. . index:1 rm:4 ...... rn:5 rd:5 \
274                 &rrxr_esz ra=%reg_movprfx
276 # Three registers and a scalar by N-bit index, alternate
277 @rrxr_3a        ........ .. ... rm:3 ...... rn:5 rd:5 \
278                 &rrxr_esz ra=%reg_movprfx index=%index3_19_11
279 @rrxr_2a        ........ .. ..  rm:4 ...... rn:5 rd:5 \
280                 &rrxr_esz ra=%reg_movprfx index=%index2_20_11
282 ###########################################################################
283 # Instruction patterns.  Grouped according to the SVE encodingindex.xhtml.
285 ### SVE Integer Arithmetic - Binary Predicated Group
287 # SVE bitwise logical vector operations (predicated)
288 ORR_zpzz        00000100 .. 011 000 000 ... ..... .....   @rdn_pg_rm
289 EOR_zpzz        00000100 .. 011 001 000 ... ..... .....   @rdn_pg_rm
290 AND_zpzz        00000100 .. 011 010 000 ... ..... .....   @rdn_pg_rm
291 BIC_zpzz        00000100 .. 011 011 000 ... ..... .....   @rdn_pg_rm
293 # SVE integer add/subtract vectors (predicated)
294 ADD_zpzz        00000100 .. 000 000 000 ... ..... .....   @rdn_pg_rm
295 SUB_zpzz        00000100 .. 000 001 000 ... ..... .....   @rdn_pg_rm
296 SUB_zpzz        00000100 .. 000 011 000 ... ..... .....   @rdm_pg_rn # SUBR
298 # SVE integer min/max/difference (predicated)
299 SMAX_zpzz       00000100 .. 001 000 000 ... ..... .....   @rdn_pg_rm
300 UMAX_zpzz       00000100 .. 001 001 000 ... ..... .....   @rdn_pg_rm
301 SMIN_zpzz       00000100 .. 001 010 000 ... ..... .....   @rdn_pg_rm
302 UMIN_zpzz       00000100 .. 001 011 000 ... ..... .....   @rdn_pg_rm
303 SABD_zpzz       00000100 .. 001 100 000 ... ..... .....   @rdn_pg_rm
304 UABD_zpzz       00000100 .. 001 101 000 ... ..... .....   @rdn_pg_rm
306 # SVE integer multiply/divide (predicated)
307 MUL_zpzz        00000100 .. 010 000 000 ... ..... .....   @rdn_pg_rm
308 SMULH_zpzz      00000100 .. 010 010 000 ... ..... .....   @rdn_pg_rm
309 UMULH_zpzz      00000100 .. 010 011 000 ... ..... .....   @rdn_pg_rm
310 # Note that divide requires size >= 2; below 2 is unallocated.
311 SDIV_zpzz       00000100 .. 010 100 000 ... ..... .....   @rdn_pg_rm
312 UDIV_zpzz       00000100 .. 010 101 000 ... ..... .....   @rdn_pg_rm
313 SDIV_zpzz       00000100 .. 010 110 000 ... ..... .....   @rdm_pg_rn # SDIVR
314 UDIV_zpzz       00000100 .. 010 111 000 ... ..... .....   @rdm_pg_rn # UDIVR
316 ### SVE Integer Reduction Group
318 # SVE bitwise logical reduction (predicated)
319 ORV             00000100 .. 011 000 001 ... ..... .....         @rd_pg_rn
320 EORV            00000100 .. 011 001 001 ... ..... .....         @rd_pg_rn
321 ANDV            00000100 .. 011 010 001 ... ..... .....         @rd_pg_rn
323 # SVE constructive prefix (predicated)
324 MOVPRFX_z       00000100 .. 010 000 001 ... ..... .....         @rd_pg_rn
325 MOVPRFX_m       00000100 .. 010 001 001 ... ..... .....         @rd_pg_rn
327 # SVE integer add reduction (predicated)
328 # Note that saddv requires size != 3.
329 UADDV           00000100 .. 000 001 001 ... ..... .....         @rd_pg_rn
330 SADDV           00000100 .. 000 000 001 ... ..... .....         @rd_pg_rn
332 # SVE integer min/max reduction (predicated)
333 SMAXV           00000100 .. 001 000 001 ... ..... .....         @rd_pg_rn
334 UMAXV           00000100 .. 001 001 001 ... ..... .....         @rd_pg_rn
335 SMINV           00000100 .. 001 010 001 ... ..... .....         @rd_pg_rn
336 UMINV           00000100 .. 001 011 001 ... ..... .....         @rd_pg_rn
338 ### SVE Shift by Immediate - Predicated Group
340 # SVE bitwise shift by immediate (predicated)
341 ASR_zpzi        00000100 .. 000 000 100 ... .. ... .....  @rdn_pg_tszimm_shr
342 LSR_zpzi        00000100 .. 000 001 100 ... .. ... .....  @rdn_pg_tszimm_shr
343 LSL_zpzi        00000100 .. 000 011 100 ... .. ... .....  @rdn_pg_tszimm_shl
344 ASRD            00000100 .. 000 100 100 ... .. ... .....  @rdn_pg_tszimm_shr
345 SQSHL_zpzi      00000100 .. 000 110 100 ... .. ... .....  @rdn_pg_tszimm_shl
346 UQSHL_zpzi      00000100 .. 000 111 100 ... .. ... .....  @rdn_pg_tszimm_shl
347 SRSHR           00000100 .. 001 100 100 ... .. ... .....  @rdn_pg_tszimm_shr
348 URSHR           00000100 .. 001 101 100 ... .. ... .....  @rdn_pg_tszimm_shr
349 SQSHLU          00000100 .. 001 111 100 ... .. ... .....  @rdn_pg_tszimm_shl
351 # SVE bitwise shift by vector (predicated)
352 ASR_zpzz        00000100 .. 010 000 100 ... ..... .....   @rdn_pg_rm
353 LSR_zpzz        00000100 .. 010 001 100 ... ..... .....   @rdn_pg_rm
354 LSL_zpzz        00000100 .. 010 011 100 ... ..... .....   @rdn_pg_rm
355 ASR_zpzz        00000100 .. 010 100 100 ... ..... .....   @rdm_pg_rn # ASRR
356 LSR_zpzz        00000100 .. 010 101 100 ... ..... .....   @rdm_pg_rn # LSRR
357 LSL_zpzz        00000100 .. 010 111 100 ... ..... .....   @rdm_pg_rn # LSLR
359 # SVE bitwise shift by wide elements (predicated)
360 # Note these require size != 3.
361 ASR_zpzw        00000100 .. 011 000 100 ... ..... .....         @rdn_pg_rm
362 LSR_zpzw        00000100 .. 011 001 100 ... ..... .....         @rdn_pg_rm
363 LSL_zpzw        00000100 .. 011 011 100 ... ..... .....         @rdn_pg_rm
365 ### SVE Integer Arithmetic - Unary Predicated Group
367 # SVE unary bit operations (predicated)
368 # Note esz != 0 for FABS and FNEG.
369 CLS             00000100 .. 011 000 101 ... ..... .....         @rd_pg_rn
370 CLZ             00000100 .. 011 001 101 ... ..... .....         @rd_pg_rn
371 CNT_zpz         00000100 .. 011 010 101 ... ..... .....         @rd_pg_rn
372 CNOT            00000100 .. 011 011 101 ... ..... .....         @rd_pg_rn
373 NOT_zpz         00000100 .. 011 110 101 ... ..... .....         @rd_pg_rn
374 FABS            00000100 .. 011 100 101 ... ..... .....         @rd_pg_rn
375 FNEG            00000100 .. 011 101 101 ... ..... .....         @rd_pg_rn
377 # SVE integer unary operations (predicated)
378 # Note esz > original size for extensions.
379 ABS             00000100 .. 010 110 101 ... ..... .....         @rd_pg_rn
380 NEG             00000100 .. 010 111 101 ... ..... .....         @rd_pg_rn
381 SXTB            00000100 .. 010 000 101 ... ..... .....         @rd_pg_rn
382 UXTB            00000100 .. 010 001 101 ... ..... .....         @rd_pg_rn
383 SXTH            00000100 .. 010 010 101 ... ..... .....         @rd_pg_rn
384 UXTH            00000100 .. 010 011 101 ... ..... .....         @rd_pg_rn
385 SXTW            00000100 .. 010 100 101 ... ..... .....         @rd_pg_rn
386 UXTW            00000100 .. 010 101 101 ... ..... .....         @rd_pg_rn
388 ### SVE Floating Point Compare - Vectors Group
390 # SVE floating-point compare vectors
391 FCMGE_ppzz      01100101 .. 0 ..... 010 ... ..... 0 ....        @pd_pg_rn_rm
392 FCMGT_ppzz      01100101 .. 0 ..... 010 ... ..... 1 ....        @pd_pg_rn_rm
393 FCMEQ_ppzz      01100101 .. 0 ..... 011 ... ..... 0 ....        @pd_pg_rn_rm
394 FCMNE_ppzz      01100101 .. 0 ..... 011 ... ..... 1 ....        @pd_pg_rn_rm
395 FCMUO_ppzz      01100101 .. 0 ..... 110 ... ..... 0 ....        @pd_pg_rn_rm
396 FACGE_ppzz      01100101 .. 0 ..... 110 ... ..... 1 ....        @pd_pg_rn_rm
397 FACGT_ppzz      01100101 .. 0 ..... 111 ... ..... 1 ....        @pd_pg_rn_rm
399 ### SVE Integer Multiply-Add Group
401 # SVE integer multiply-add writing addend (predicated)
402 MLA             00000100 .. 0 ..... 010 ... ..... .....   @rda_pg_rn_rm
403 MLS             00000100 .. 0 ..... 011 ... ..... .....   @rda_pg_rn_rm
405 # SVE integer multiply-add writing multiplicand (predicated)
406 MLA             00000100 .. 0 ..... 110 ... ..... .....   @rdn_pg_ra_rm # MAD
407 MLS             00000100 .. 0 ..... 111 ... ..... .....   @rdn_pg_ra_rm # MSB
409 ### SVE Integer Arithmetic - Unpredicated Group
411 # SVE integer add/subtract vectors (unpredicated)
412 ADD_zzz         00000100 .. 1 ..... 000 000 ..... .....         @rd_rn_rm
413 SUB_zzz         00000100 .. 1 ..... 000 001 ..... .....         @rd_rn_rm
414 SQADD_zzz       00000100 .. 1 ..... 000 100 ..... .....         @rd_rn_rm
415 UQADD_zzz       00000100 .. 1 ..... 000 101 ..... .....         @rd_rn_rm
416 SQSUB_zzz       00000100 .. 1 ..... 000 110 ..... .....         @rd_rn_rm
417 UQSUB_zzz       00000100 .. 1 ..... 000 111 ..... .....         @rd_rn_rm
419 ### SVE Logical - Unpredicated Group
421 # SVE bitwise logical operations (unpredicated)
422 AND_zzz         00000100 00 1 ..... 001 100 ..... .....         @rd_rn_rm_e0
423 ORR_zzz         00000100 01 1 ..... 001 100 ..... .....         @rd_rn_rm_e0
424 EOR_zzz         00000100 10 1 ..... 001 100 ..... .....         @rd_rn_rm_e0
425 BIC_zzz         00000100 11 1 ..... 001 100 ..... .....         @rd_rn_rm_e0
427 XAR             00000100 .. 1 ..... 001 101 rm:5  rd:5   &rrri_esz \
428                 rn=%reg_movprfx esz=%tszimm16_esz imm=%tszimm16_shr
430 # SVE2 bitwise ternary operations
431 EOR3            00000100 00 1 ..... 001 110 ..... .....         @rdn_ra_rm_e0
432 BSL             00000100 00 1 ..... 001 111 ..... .....         @rdn_ra_rm_e0
433 BCAX            00000100 01 1 ..... 001 110 ..... .....         @rdn_ra_rm_e0
434 BSL1N           00000100 01 1 ..... 001 111 ..... .....         @rdn_ra_rm_e0
435 BSL2N           00000100 10 1 ..... 001 111 ..... .....         @rdn_ra_rm_e0
436 NBSL            00000100 11 1 ..... 001 111 ..... .....         @rdn_ra_rm_e0
438 ### SVE Index Generation Group
440 # SVE index generation (immediate start, immediate increment)
441 INDEX_ii        00000100 esz:2 1 imm2:s5 010000 imm1:s5 rd:5
443 # SVE index generation (immediate start, register increment)
444 INDEX_ir        00000100 esz:2 1 rm:5 010010 imm:s5 rd:5
446 # SVE index generation (register start, immediate increment)
447 INDEX_ri        00000100 esz:2 1 imm:s5 010001 rn:5 rd:5
449 # SVE index generation (register start, register increment)
450 INDEX_rr        00000100 .. 1 ..... 010011 ..... .....          @rd_rn_rm
452 ### SVE Stack Allocation Group
454 # SVE stack frame adjustment
455 ADDVL           00000100 001 ..... 01010 ...... .....           @rd_rn_i6
456 ADDPL           00000100 011 ..... 01010 ...... .....           @rd_rn_i6
458 # SVE stack frame size
459 RDVL            00000100 101 11111 01010 imm:s6 rd:5
461 ### SVE Bitwise Shift - Unpredicated Group
463 # SVE bitwise shift by immediate (unpredicated)
464 ASR_zzi         00000100 .. 1 ..... 1001 00 ..... .....  @rd_rn_tszimm_shr
465 LSR_zzi         00000100 .. 1 ..... 1001 01 ..... .....  @rd_rn_tszimm_shr
466 LSL_zzi         00000100 .. 1 ..... 1001 11 ..... .....  @rd_rn_tszimm_shl
468 # SVE bitwise shift by wide elements (unpredicated)
469 # Note esz != 3
470 ASR_zzw         00000100 .. 1 ..... 1000 00 ..... .....         @rd_rn_rm
471 LSR_zzw         00000100 .. 1 ..... 1000 01 ..... .....         @rd_rn_rm
472 LSL_zzw         00000100 .. 1 ..... 1000 11 ..... .....         @rd_rn_rm
474 ### SVE Compute Vector Address Group
476 # SVE vector address generation
477 ADR_s32         00000100 00 1 ..... 1010 .. ..... .....         @rd_rn_msz_rm
478 ADR_u32         00000100 01 1 ..... 1010 .. ..... .....         @rd_rn_msz_rm
479 ADR_p32         00000100 10 1 ..... 1010 .. ..... .....         @rd_rn_msz_rm
480 ADR_p64         00000100 11 1 ..... 1010 .. ..... .....         @rd_rn_msz_rm
482 ### SVE Integer Misc - Unpredicated Group
484 # SVE constructive prefix (unpredicated)
485 MOVPRFX         00000100 00 1 00000 101111 rn:5 rd:5
487 # SVE floating-point exponential accelerator
488 # Note esz != 0
489 FEXPA           00000100 .. 1 00000 101110 ..... .....          @rd_rn
491 # SVE floating-point trig select coefficient
492 # Note esz != 0
493 FTSSEL          00000100 .. 1 ..... 101100 ..... .....          @rd_rn_rm
495 ### SVE Element Count Group
497 # SVE element count
498 CNT_r           00000100 .. 10 .... 1110 0 0 ..... .....    @incdec_cnt d=0 u=1
500 # SVE inc/dec register by element count
501 INCDEC_r        00000100 .. 11 .... 1110 0 d:1 ..... .....      @incdec_cnt u=1
503 # SVE saturating inc/dec register by element count
504 SINCDEC_r_32    00000100 .. 10 .... 1111 d:1 u:1 ..... .....    @incdec_cnt
505 SINCDEC_r_64    00000100 .. 11 .... 1111 d:1 u:1 ..... .....    @incdec_cnt
507 # SVE inc/dec vector by element count
508 # Note this requires esz != 0.
509 INCDEC_v        00000100 .. 1 1 .... 1100 0 d:1 ..... .....    @incdec2_cnt u=1
511 # SVE saturating inc/dec vector by element count
512 # Note these require esz != 0.
513 SINCDEC_v       00000100 .. 1 0 .... 1100 d:1 u:1 ..... .....   @incdec2_cnt
515 ### SVE Bitwise Immediate Group
517 # SVE bitwise logical with immediate (unpredicated)
518 ORR_zzi         00000101 00 0000 ............. .....            @rdn_dbm
519 EOR_zzi         00000101 01 0000 ............. .....            @rdn_dbm
520 AND_zzi         00000101 10 0000 ............. .....            @rdn_dbm
522 # SVE broadcast bitmask immediate
523 DUPM            00000101 11 0000 dbm:13 rd:5
525 ### SVE Integer Wide Immediate - Predicated Group
527 # SVE copy floating-point immediate (predicated)
528 FCPY            00000101 .. 01 .... 110 imm:8 .....             @rdn_pg4
530 # SVE copy integer immediate (predicated)
532   INVALID       00000101 00 01 ---- 01 1 -------- -----
533   CPY_m_i       00000101 .. 01 .... 01 . ........ .....   @rdn_pg4 imm=%sh8_i8s
536   INVALID       00000101 00 01 ---- 00 1 -------- -----
537   CPY_z_i       00000101 .. 01 .... 00 . ........ .....   @rdn_pg4 imm=%sh8_i8s
540 ### SVE Permute - Extract Group
542 # SVE extract vector (destructive)
543 EXT             00000101 001 ..... 000 ... rm:5 rd:5 \
544                 &rrri rn=%reg_movprfx imm=%imm8_16_10
546 # SVE2 extract vector (constructive)
547 EXT_sve2        00000101 011 ..... 000 ... rn:5 rd:5 \
548                 &rri imm=%imm8_16_10
550 ### SVE Permute - Unpredicated Group
552 # SVE broadcast general register
553 DUP_s           00000101 .. 1 00000 001110 ..... .....          @rd_rn
555 # SVE broadcast indexed element
556 DUP_x           00000101 .. 1 ..... 001000 rn:5 rd:5 \
557                 &rri imm=%imm7_22_16
559 # SVE insert SIMD&FP scalar register
560 INSR_f          00000101 .. 1 10100 001110 ..... .....          @rdn_rm
562 # SVE insert general register
563 INSR_r          00000101 .. 1 00100 001110 ..... .....          @rdn_rm
565 # SVE reverse vector elements
566 REV_v           00000101 .. 1 11000 001110 ..... .....          @rd_rn
568 # SVE vector table lookup
569 TBL             00000101 .. 1 ..... 001100 ..... .....          @rd_rn_rm
571 # SVE unpack vector elements
572 UNPK            00000101 esz:2 1100 u:1 h:1 001110 rn:5 rd:5
574 # SVE2 Table Lookup (three sources)
576 TBL_sve2        00000101 .. 1 ..... 001010 ..... .....          @rd_rn_rm
577 TBX             00000101 .. 1 ..... 001011 ..... .....          @rd_rn_rm
579 ### SVE Permute - Predicates Group
581 # SVE permute predicate elements
582 ZIP1_p          00000101 .. 10 .... 010 000 0 .... 0 ....       @pd_pn_pm
583 ZIP2_p          00000101 .. 10 .... 010 001 0 .... 0 ....       @pd_pn_pm
584 UZP1_p          00000101 .. 10 .... 010 010 0 .... 0 ....       @pd_pn_pm
585 UZP2_p          00000101 .. 10 .... 010 011 0 .... 0 ....       @pd_pn_pm
586 TRN1_p          00000101 .. 10 .... 010 100 0 .... 0 ....       @pd_pn_pm
587 TRN2_p          00000101 .. 10 .... 010 101 0 .... 0 ....       @pd_pn_pm
589 # SVE reverse predicate elements
590 REV_p           00000101 .. 11 0100 010 000 0 .... 0 ....       @pd_pn
592 # SVE unpack predicate elements
593 PUNPKLO         00000101 00 11 0000 010 000 0 .... 0 ....       @pd_pn_e0
594 PUNPKHI         00000101 00 11 0001 010 000 0 .... 0 ....       @pd_pn_e0
596 ### SVE Permute - Interleaving Group
598 # SVE permute vector elements
599 ZIP1_z          00000101 .. 1 ..... 011 000 ..... .....         @rd_rn_rm
600 ZIP2_z          00000101 .. 1 ..... 011 001 ..... .....         @rd_rn_rm
601 UZP1_z          00000101 .. 1 ..... 011 010 ..... .....         @rd_rn_rm
602 UZP2_z          00000101 .. 1 ..... 011 011 ..... .....         @rd_rn_rm
603 TRN1_z          00000101 .. 1 ..... 011 100 ..... .....         @rd_rn_rm
604 TRN2_z          00000101 .. 1 ..... 011 101 ..... .....         @rd_rn_rm
606 # SVE2 permute vector segments
607 ZIP1_q          00000101 10 1 ..... 000 000 ..... .....         @rd_rn_rm_e0
608 ZIP2_q          00000101 10 1 ..... 000 001 ..... .....         @rd_rn_rm_e0
609 UZP1_q          00000101 10 1 ..... 000 010 ..... .....         @rd_rn_rm_e0
610 UZP2_q          00000101 10 1 ..... 000 011 ..... .....         @rd_rn_rm_e0
611 TRN1_q          00000101 10 1 ..... 000 110 ..... .....         @rd_rn_rm_e0
612 TRN2_q          00000101 10 1 ..... 000 111 ..... .....         @rd_rn_rm_e0
614 ### SVE Permute - Predicated Group
616 # SVE compress active elements
617 # Note esz >= 2
618 COMPACT         00000101 .. 100001 100 ... ..... .....          @rd_pg_rn
620 # SVE conditionally broadcast element to vector
621 CLASTA_z        00000101 .. 10100 0 100 ... ..... .....         @rdn_pg_rm
622 CLASTB_z        00000101 .. 10100 1 100 ... ..... .....         @rdn_pg_rm
624 # SVE conditionally copy element to SIMD&FP scalar
625 CLASTA_v        00000101 .. 10101 0 100 ... ..... .....         @rd_pg_rn
626 CLASTB_v        00000101 .. 10101 1 100 ... ..... .....         @rd_pg_rn
628 # SVE conditionally copy element to general register
629 CLASTA_r        00000101 .. 11000 0 101 ... ..... .....         @rd_pg_rn
630 CLASTB_r        00000101 .. 11000 1 101 ... ..... .....         @rd_pg_rn
632 # SVE copy element to SIMD&FP scalar register
633 LASTA_v         00000101 .. 10001 0 100 ... ..... .....         @rd_pg_rn
634 LASTB_v         00000101 .. 10001 1 100 ... ..... .....         @rd_pg_rn
636 # SVE copy element to general register
637 LASTA_r         00000101 .. 10000 0 101 ... ..... .....         @rd_pg_rn
638 LASTB_r         00000101 .. 10000 1 101 ... ..... .....         @rd_pg_rn
640 # SVE copy element from SIMD&FP scalar register
641 CPY_m_v         00000101 .. 100000 100 ... ..... .....          @rd_pg_rn
643 # SVE copy element from general register to vector (predicated)
644 CPY_m_r         00000101 .. 101000 101 ... ..... .....          @rd_pg_rn
646 # SVE reverse within elements
647 # Note esz >= operation size
648 REVB            00000101 .. 1001 00 100 ... ..... .....         @rd_pg_rn
649 REVH            00000101 .. 1001 01 100 ... ..... .....         @rd_pg_rn
650 REVW            00000101 .. 1001 10 100 ... ..... .....         @rd_pg_rn
651 RBIT            00000101 .. 1001 11 100 ... ..... .....         @rd_pg_rn
653 # SVE vector splice (predicated, destructive)
654 SPLICE          00000101 .. 101 100 100 ... ..... .....         @rdn_pg_rm
656 # SVE2 vector splice (predicated, constructive)
657 SPLICE_sve2     00000101 .. 101 101 100 ... ..... .....         @rd_pg_rn
659 ### SVE Select Vectors Group
661 # SVE select vector elements (predicated)
662 SEL_zpzz        00000101 .. 1 ..... 11 .... ..... .....         @rd_pg4_rn_rm
664 ### SVE Integer Compare - Vectors Group
666 # SVE integer compare_vectors
667 CMPHS_ppzz      00100100 .. 0 ..... 000 ... ..... 0 ....        @pd_pg_rn_rm
668 CMPHI_ppzz      00100100 .. 0 ..... 000 ... ..... 1 ....        @pd_pg_rn_rm
669 CMPGE_ppzz      00100100 .. 0 ..... 100 ... ..... 0 ....        @pd_pg_rn_rm
670 CMPGT_ppzz      00100100 .. 0 ..... 100 ... ..... 1 ....        @pd_pg_rn_rm
671 CMPEQ_ppzz      00100100 .. 0 ..... 101 ... ..... 0 ....        @pd_pg_rn_rm
672 CMPNE_ppzz      00100100 .. 0 ..... 101 ... ..... 1 ....        @pd_pg_rn_rm
674 # SVE integer compare with wide elements
675 # Note these require esz != 3.
676 CMPEQ_ppzw      00100100 .. 0 ..... 001 ... ..... 0 ....        @pd_pg_rn_rm
677 CMPNE_ppzw      00100100 .. 0 ..... 001 ... ..... 1 ....        @pd_pg_rn_rm
678 CMPGE_ppzw      00100100 .. 0 ..... 010 ... ..... 0 ....        @pd_pg_rn_rm
679 CMPGT_ppzw      00100100 .. 0 ..... 010 ... ..... 1 ....        @pd_pg_rn_rm
680 CMPLT_ppzw      00100100 .. 0 ..... 011 ... ..... 0 ....        @pd_pg_rn_rm
681 CMPLE_ppzw      00100100 .. 0 ..... 011 ... ..... 1 ....        @pd_pg_rn_rm
682 CMPHS_ppzw      00100100 .. 0 ..... 110 ... ..... 0 ....        @pd_pg_rn_rm
683 CMPHI_ppzw      00100100 .. 0 ..... 110 ... ..... 1 ....        @pd_pg_rn_rm
684 CMPLO_ppzw      00100100 .. 0 ..... 111 ... ..... 0 ....        @pd_pg_rn_rm
685 CMPLS_ppzw      00100100 .. 0 ..... 111 ... ..... 1 ....        @pd_pg_rn_rm
687 ### SVE Integer Compare - Unsigned Immediate Group
689 # SVE integer compare with unsigned immediate
690 CMPHS_ppzi      00100100 .. 1 ....... 0 ... ..... 0 ....      @pd_pg_rn_i7
691 CMPHI_ppzi      00100100 .. 1 ....... 0 ... ..... 1 ....      @pd_pg_rn_i7
692 CMPLO_ppzi      00100100 .. 1 ....... 1 ... ..... 0 ....      @pd_pg_rn_i7
693 CMPLS_ppzi      00100100 .. 1 ....... 1 ... ..... 1 ....      @pd_pg_rn_i7
695 ### SVE Integer Compare - Signed Immediate Group
697 # SVE integer compare with signed immediate
698 CMPGE_ppzi      00100101 .. 0 ..... 000 ... ..... 0 ....      @pd_pg_rn_i5
699 CMPGT_ppzi      00100101 .. 0 ..... 000 ... ..... 1 ....      @pd_pg_rn_i5
700 CMPLT_ppzi      00100101 .. 0 ..... 001 ... ..... 0 ....      @pd_pg_rn_i5
701 CMPLE_ppzi      00100101 .. 0 ..... 001 ... ..... 1 ....      @pd_pg_rn_i5
702 CMPEQ_ppzi      00100101 .. 0 ..... 100 ... ..... 0 ....      @pd_pg_rn_i5
703 CMPNE_ppzi      00100101 .. 0 ..... 100 ... ..... 1 ....      @pd_pg_rn_i5
705 ### SVE Predicate Logical Operations Group
707 # SVE predicate logical operations
708 AND_pppp        00100101 0. 00 .... 01 .... 0 .... 0 ....       @pd_pg_pn_pm_s
709 BIC_pppp        00100101 0. 00 .... 01 .... 0 .... 1 ....       @pd_pg_pn_pm_s
710 EOR_pppp        00100101 0. 00 .... 01 .... 1 .... 0 ....       @pd_pg_pn_pm_s
711 SEL_pppp        00100101 0. 00 .... 01 .... 1 .... 1 ....       @pd_pg_pn_pm_s
712 ORR_pppp        00100101 1. 00 .... 01 .... 0 .... 0 ....       @pd_pg_pn_pm_s
713 ORN_pppp        00100101 1. 00 .... 01 .... 0 .... 1 ....       @pd_pg_pn_pm_s
714 NOR_pppp        00100101 1. 00 .... 01 .... 1 .... 0 ....       @pd_pg_pn_pm_s
715 NAND_pppp       00100101 1. 00 .... 01 .... 1 .... 1 ....       @pd_pg_pn_pm_s
717 ### SVE Predicate Misc Group
719 # SVE predicate test
720 PTEST           00100101 01 010000 11 pg:4 0 rn:4 0 0000
722 # SVE predicate initialize
723 PTRUE           00100101 esz:2 01100 s:1 111000 pat:5 0 rd:4
725 # SVE initialize FFR
726 SETFFR          00100101 0010 1100 1001 0000 0000 0000
728 # SVE zero predicate register
729 PFALSE          00100101 0001 1000 1110 0100 0000 rd:4
731 # SVE predicate read from FFR (predicated)
732 RDFFR_p         00100101 0 s:1 0110001111000 pg:4 0 rd:4
734 # SVE predicate read from FFR (unpredicated)
735 RDFFR           00100101 0001 1001 1111 0000 0000 rd:4
737 # SVE FFR write from predicate (WRFFR)
738 WRFFR           00100101 0010 1000 1001 000 rn:4 00000
740 # SVE predicate first active
741 PFIRST          00100101 01 011 000 11000 00 .... 0 ....        @pd_pn_e0
743 # SVE predicate next active
744 PNEXT           00100101 .. 011 001 11000 10 .... 0 ....        @pd_pn
746 ### SVE Partition Break Group
748 # SVE propagate break from previous partition
749 BRKPA           00100101 0. 00 .... 11 .... 0 .... 0 ....       @pd_pg_pn_pm_s
750 BRKPB           00100101 0. 00 .... 11 .... 0 .... 1 ....       @pd_pg_pn_pm_s
752 # SVE partition break condition
753 BRKA_z          00100101 0. 01000001 .... 0 .... 0 ....         @pd_pg_pn_s
754 BRKB_z          00100101 1. 01000001 .... 0 .... 0 ....         @pd_pg_pn_s
755 BRKA_m          00100101 00 01000001 .... 0 .... 1 ....         @pd_pg_pn_s0
756 BRKB_m          00100101 10 01000001 .... 0 .... 1 ....         @pd_pg_pn_s0
758 # SVE propagate break to next partition
759 BRKN            00100101 0. 01100001 .... 0 .... 0 ....         @pd_pg_pn_s
761 ### SVE Predicate Count Group
763 # SVE predicate count
764 CNTP            00100101 .. 100 000 10 .... 0 .... .....        @rd_pg4_pn
766 # SVE inc/dec register by predicate count
767 INCDECP_r       00100101 .. 10110 d:1 10001 00 .... .....     @incdec_pred u=1
769 # SVE inc/dec vector by predicate count
770 INCDECP_z       00100101 .. 10110 d:1 10000 00 .... .....    @incdec2_pred u=1
772 # SVE saturating inc/dec register by predicate count
773 SINCDECP_r_32   00100101 .. 1010 d:1 u:1 10001 00 .... .....    @incdec_pred
774 SINCDECP_r_64   00100101 .. 1010 d:1 u:1 10001 10 .... .....    @incdec_pred
776 # SVE saturating inc/dec vector by predicate count
777 SINCDECP_z      00100101 .. 1010 d:1 u:1 10000 00 .... .....    @incdec2_pred
779 ### SVE Integer Compare - Scalars Group
781 # SVE conditionally terminate scalars
782 CTERM           00100101 1 sf:1 1 rm:5 001000 rn:5 ne:1 0000
784 # SVE integer compare scalar count and limit
785 WHILE           00100101 esz:2 1 rm:5 000 sf:1 u:1 lt:1 rn:5 eq:1 rd:4
787 # SVE2 pointer conflict compare
788 WHILE_ptr       00100101 esz:2 1 rm:5 001 100 rn:5 rw:1 rd:4
790 ### SVE Integer Wide Immediate - Unpredicated Group
792 # SVE broadcast floating-point immediate (unpredicated)
793 FDUP            00100101 esz:2 111 00 1110 imm:8 rd:5
795 # SVE broadcast integer immediate (unpredicated)
797   INVALID       00100101 00    111 00 011 1 -------- -----
798   DUP_i         00100101 esz:2 111 00 011 . ........ rd:5       imm=%sh8_i8s
801 # SVE integer add/subtract immediate (unpredicated)
803   INVALID       00100101 00 100 000 11 1 -------- -----
804   ADD_zzi       00100101 .. 100 000 11 . ........ .....         @rdn_sh_i8u
807   INVALID       00100101 00 100 001 11 1 -------- -----
808   SUB_zzi       00100101 .. 100 001 11 . ........ .....         @rdn_sh_i8u
811   INVALID       00100101 00 100 011 11 1 -------- -----
812   SUBR_zzi      00100101 .. 100 011 11 . ........ .....         @rdn_sh_i8u
815   INVALID       00100101 00 100 100 11 1 -------- -----
816   SQADD_zzi     00100101 .. 100 100 11 . ........ .....         @rdn_sh_i8u
819   INVALID       00100101 00 100 101 11 1 -------- -----
820   UQADD_zzi     00100101 .. 100 101 11 . ........ .....         @rdn_sh_i8u
823   INVALID       00100101 00 100 110 11 1 -------- -----
824   SQSUB_zzi     00100101 .. 100 110 11 . ........ .....         @rdn_sh_i8u
827   INVALID       00100101 00 100 111 11 1 -------- -----
828   UQSUB_zzi     00100101 .. 100 111 11 . ........ .....         @rdn_sh_i8u
831 # SVE integer min/max immediate (unpredicated)
832 SMAX_zzi        00100101 .. 101 000 110 ........ .....          @rdn_i8s
833 UMAX_zzi        00100101 .. 101 001 110 ........ .....          @rdn_i8u
834 SMIN_zzi        00100101 .. 101 010 110 ........ .....          @rdn_i8s
835 UMIN_zzi        00100101 .. 101 011 110 ........ .....          @rdn_i8u
837 # SVE integer multiply immediate (unpredicated)
838 MUL_zzi         00100101 .. 110 000 110 ........ .....          @rdn_i8s
840 # SVE integer dot product (unpredicated)
841 DOT_zzzz        01000100 1 sz:1 0 rm:5 00000 u:1 rn:5 rd:5 \
842                 ra=%reg_movprfx
844 # SVE2 complex dot product (vectors)
845 CDOT_zzzz       01000100 esz:2 0 rm:5 0001 rot:2 rn:5 rd:5  ra=%reg_movprfx
847 #### SVE Multiply - Indexed
849 # SVE integer dot product (indexed)
850 SDOT_zzxw_s     01000100 10 1 ..... 000000 ..... .....   @rrxr_2 esz=2
851 SDOT_zzxw_d     01000100 11 1 ..... 000000 ..... .....   @rrxr_1 esz=3
852 UDOT_zzxw_s     01000100 10 1 ..... 000001 ..... .....   @rrxr_2 esz=2
853 UDOT_zzxw_d     01000100 11 1 ..... 000001 ..... .....   @rrxr_1 esz=3
855 # SVE2 integer multiply-add (indexed)
856 MLA_zzxz_h      01000100 0. 1 ..... 000010 ..... .....   @rrxr_3 esz=1
857 MLA_zzxz_s      01000100 10 1 ..... 000010 ..... .....   @rrxr_2 esz=2
858 MLA_zzxz_d      01000100 11 1 ..... 000010 ..... .....   @rrxr_1 esz=3
859 MLS_zzxz_h      01000100 0. 1 ..... 000011 ..... .....   @rrxr_3 esz=1
860 MLS_zzxz_s      01000100 10 1 ..... 000011 ..... .....   @rrxr_2 esz=2
861 MLS_zzxz_d      01000100 11 1 ..... 000011 ..... .....   @rrxr_1 esz=3
863 # SVE2 saturating multiply-add high (indexed)
864 SQRDMLAH_zzxz_h 01000100 0. 1 ..... 000100 ..... .....   @rrxr_3 esz=1
865 SQRDMLAH_zzxz_s 01000100 10 1 ..... 000100 ..... .....   @rrxr_2 esz=2
866 SQRDMLAH_zzxz_d 01000100 11 1 ..... 000100 ..... .....   @rrxr_1 esz=3
867 SQRDMLSH_zzxz_h 01000100 0. 1 ..... 000101 ..... .....   @rrxr_3 esz=1
868 SQRDMLSH_zzxz_s 01000100 10 1 ..... 000101 ..... .....   @rrxr_2 esz=2
869 SQRDMLSH_zzxz_d 01000100 11 1 ..... 000101 ..... .....   @rrxr_1 esz=3
871 # SVE mixed sign dot product (indexed)
872 USDOT_zzxw_s    01000100 10 1 ..... 000110 ..... .....   @rrxr_2 esz=2
873 SUDOT_zzxw_s    01000100 10 1 ..... 000111 ..... .....   @rrxr_2 esz=2
875 # SVE2 saturating multiply-add (indexed)
876 SQDMLALB_zzxw_s 01000100 10 1 ..... 0010.0 ..... .....   @rrxr_3a esz=2
877 SQDMLALB_zzxw_d 01000100 11 1 ..... 0010.0 ..... .....   @rrxr_2a esz=3
878 SQDMLALT_zzxw_s 01000100 10 1 ..... 0010.1 ..... .....   @rrxr_3a esz=2
879 SQDMLALT_zzxw_d 01000100 11 1 ..... 0010.1 ..... .....   @rrxr_2a esz=3
880 SQDMLSLB_zzxw_s 01000100 10 1 ..... 0011.0 ..... .....   @rrxr_3a esz=2
881 SQDMLSLB_zzxw_d 01000100 11 1 ..... 0011.0 ..... .....   @rrxr_2a esz=3
882 SQDMLSLT_zzxw_s 01000100 10 1 ..... 0011.1 ..... .....   @rrxr_3a esz=2
883 SQDMLSLT_zzxw_d 01000100 11 1 ..... 0011.1 ..... .....   @rrxr_2a esz=3
885 # SVE2 complex integer dot product (indexed)
886 CDOT_zzxw_s     01000100 10 1 index:2 rm:3 0100 rot:2 rn:5 rd:5 \
887                 ra=%reg_movprfx
888 CDOT_zzxw_d     01000100 11 1 index:1 rm:4 0100 rot:2 rn:5 rd:5 \
889                 ra=%reg_movprfx
891 # SVE2 complex integer multiply-add (indexed)
892 CMLA_zzxz_h     01000100 10 1 index:2 rm:3 0110 rot:2 rn:5 rd:5 \
893                 ra=%reg_movprfx
894 CMLA_zzxz_s     01000100 11 1 index:1 rm:4 0110 rot:2 rn:5 rd:5 \
895                 ra=%reg_movprfx
897 # SVE2 complex saturating integer multiply-add (indexed)
898 SQRDCMLAH_zzxz_h  01000100 10 1 index:2 rm:3 0111 rot:2 rn:5 rd:5 \
899                   ra=%reg_movprfx
900 SQRDCMLAH_zzxz_s  01000100 11 1 index:1 rm:4 0111 rot:2 rn:5 rd:5 \
901                   ra=%reg_movprfx
903 # SVE2 multiply-add long (indexed)
904 SMLALB_zzxw_s   01000100 10 1 ..... 1000.0 ..... .....   @rrxr_3a esz=2
905 SMLALB_zzxw_d   01000100 11 1 ..... 1000.0 ..... .....   @rrxr_2a esz=3
906 SMLALT_zzxw_s   01000100 10 1 ..... 1000.1 ..... .....   @rrxr_3a esz=2
907 SMLALT_zzxw_d   01000100 11 1 ..... 1000.1 ..... .....   @rrxr_2a esz=3
908 UMLALB_zzxw_s   01000100 10 1 ..... 1001.0 ..... .....   @rrxr_3a esz=2
909 UMLALB_zzxw_d   01000100 11 1 ..... 1001.0 ..... .....   @rrxr_2a esz=3
910 UMLALT_zzxw_s   01000100 10 1 ..... 1001.1 ..... .....   @rrxr_3a esz=2
911 UMLALT_zzxw_d   01000100 11 1 ..... 1001.1 ..... .....   @rrxr_2a esz=3
912 SMLSLB_zzxw_s   01000100 10 1 ..... 1010.0 ..... .....   @rrxr_3a esz=2
913 SMLSLB_zzxw_d   01000100 11 1 ..... 1010.0 ..... .....   @rrxr_2a esz=3
914 SMLSLT_zzxw_s   01000100 10 1 ..... 1010.1 ..... .....   @rrxr_3a esz=2
915 SMLSLT_zzxw_d   01000100 11 1 ..... 1010.1 ..... .....   @rrxr_2a esz=3
916 UMLSLB_zzxw_s   01000100 10 1 ..... 1011.0 ..... .....   @rrxr_3a esz=2
917 UMLSLB_zzxw_d   01000100 11 1 ..... 1011.0 ..... .....   @rrxr_2a esz=3
918 UMLSLT_zzxw_s   01000100 10 1 ..... 1011.1 ..... .....   @rrxr_3a esz=2
919 UMLSLT_zzxw_d   01000100 11 1 ..... 1011.1 ..... .....   @rrxr_2a esz=3
921 # SVE2 integer multiply long (indexed)
922 SMULLB_zzx_s    01000100 10 1 ..... 1100.0 ..... .....   @rrx_3a esz=2
923 SMULLB_zzx_d    01000100 11 1 ..... 1100.0 ..... .....   @rrx_2a esz=3
924 SMULLT_zzx_s    01000100 10 1 ..... 1100.1 ..... .....   @rrx_3a esz=2
925 SMULLT_zzx_d    01000100 11 1 ..... 1100.1 ..... .....   @rrx_2a esz=3
926 UMULLB_zzx_s    01000100 10 1 ..... 1101.0 ..... .....   @rrx_3a esz=2
927 UMULLB_zzx_d    01000100 11 1 ..... 1101.0 ..... .....   @rrx_2a esz=3
928 UMULLT_zzx_s    01000100 10 1 ..... 1101.1 ..... .....   @rrx_3a esz=2
929 UMULLT_zzx_d    01000100 11 1 ..... 1101.1 ..... .....   @rrx_2a esz=3
931 # SVE2 saturating multiply (indexed)
932 SQDMULLB_zzx_s  01000100 10 1 ..... 1110.0 ..... .....   @rrx_3a esz=2
933 SQDMULLB_zzx_d  01000100 11 1 ..... 1110.0 ..... .....   @rrx_2a esz=3
934 SQDMULLT_zzx_s  01000100 10 1 ..... 1110.1 ..... .....   @rrx_3a esz=2
935 SQDMULLT_zzx_d  01000100 11 1 ..... 1110.1 ..... .....   @rrx_2a esz=3
937 # SVE2 saturating multiply high (indexed)
938 SQDMULH_zzx_h   01000100 0. 1 ..... 111100 ..... .....   @rrx_3 esz=1
939 SQDMULH_zzx_s   01000100 10 1 ..... 111100 ..... .....   @rrx_2 esz=2
940 SQDMULH_zzx_d   01000100 11 1 ..... 111100 ..... .....   @rrx_1 esz=3
941 SQRDMULH_zzx_h  01000100 0. 1 ..... 111101 ..... .....   @rrx_3 esz=1
942 SQRDMULH_zzx_s  01000100 10 1 ..... 111101 ..... .....   @rrx_2 esz=2
943 SQRDMULH_zzx_d  01000100 11 1 ..... 111101 ..... .....   @rrx_1 esz=3
945 # SVE2 integer multiply (indexed)
946 MUL_zzx_h       01000100 0. 1 ..... 111110 ..... .....   @rrx_3 esz=1
947 MUL_zzx_s       01000100 10 1 ..... 111110 ..... .....   @rrx_2 esz=2
948 MUL_zzx_d       01000100 11 1 ..... 111110 ..... .....   @rrx_1 esz=3
950 # SVE floating-point complex add (predicated)
951 FCADD           01100100 esz:2 00000 rot:1 100 pg:3 rm:5 rd:5 \
952                 rn=%reg_movprfx
954 # SVE floating-point complex multiply-add (predicated)
955 FCMLA_zpzzz     01100100 esz:2 0 rm:5 0 rot:2 pg:3 rn:5 rd:5 \
956                 ra=%reg_movprfx
958 # SVE floating-point complex multiply-add (indexed)
959 FCMLA_zzxz      01100100 10 1 index:2 rm:3 0001 rot:2 rn:5 rd:5 \
960                 ra=%reg_movprfx esz=1
961 FCMLA_zzxz      01100100 11 1 index:1 rm:4 0001 rot:2 rn:5 rd:5 \
962                 ra=%reg_movprfx esz=2
964 ### SVE FP Multiply-Add Indexed Group
966 # SVE floating-point multiply-add (indexed)
967 FMLA_zzxz       01100100 0. 1 ..... 000000 ..... .....  @rrxr_3 esz=1
968 FMLA_zzxz       01100100 10 1 ..... 000000 ..... .....  @rrxr_2 esz=2
969 FMLA_zzxz       01100100 11 1 ..... 000000 ..... .....  @rrxr_1 esz=3
970 FMLS_zzxz       01100100 0. 1 ..... 000001 ..... .....  @rrxr_3 esz=1
971 FMLS_zzxz       01100100 10 1 ..... 000001 ..... .....  @rrxr_2 esz=2
972 FMLS_zzxz       01100100 11 1 ..... 000001 ..... .....  @rrxr_1 esz=3
974 ### SVE FP Multiply Indexed Group
976 # SVE floating-point multiply (indexed)
977 FMUL_zzx        01100100 0. 1 ..... 001000 ..... .....   @rrx_3 esz=1
978 FMUL_zzx        01100100 10 1 ..... 001000 ..... .....   @rrx_2 esz=2
979 FMUL_zzx        01100100 11 1 ..... 001000 ..... .....   @rrx_1 esz=3
981 ### SVE FP Fast Reduction Group
983 FADDV           01100101 .. 000 000 001 ... ..... .....         @rd_pg_rn
984 FMAXNMV         01100101 .. 000 100 001 ... ..... .....         @rd_pg_rn
985 FMINNMV         01100101 .. 000 101 001 ... ..... .....         @rd_pg_rn
986 FMAXV           01100101 .. 000 110 001 ... ..... .....         @rd_pg_rn
987 FMINV           01100101 .. 000 111 001 ... ..... .....         @rd_pg_rn
989 ## SVE Floating Point Unary Operations - Unpredicated Group
991 FRECPE          01100101 .. 001 110 001100 ..... .....          @rd_rn
992 FRSQRTE         01100101 .. 001 111 001100 ..... .....          @rd_rn
994 ### SVE FP Compare with Zero Group
996 FCMGE_ppz0      01100101 .. 0100 00 001 ... ..... 0 ....        @pd_pg_rn
997 FCMGT_ppz0      01100101 .. 0100 00 001 ... ..... 1 ....        @pd_pg_rn
998 FCMLT_ppz0      01100101 .. 0100 01 001 ... ..... 0 ....        @pd_pg_rn
999 FCMLE_ppz0      01100101 .. 0100 01 001 ... ..... 1 ....        @pd_pg_rn
1000 FCMEQ_ppz0      01100101 .. 0100 10 001 ... ..... 0 ....        @pd_pg_rn
1001 FCMNE_ppz0      01100101 .. 0100 11 001 ... ..... 0 ....        @pd_pg_rn
1003 ### SVE FP Accumulating Reduction Group
1005 # SVE floating-point serial reduction (predicated)
1006 FADDA           01100101 .. 011 000 001 ... ..... .....         @rdn_pg_rm
1008 ### SVE Floating Point Arithmetic - Unpredicated Group
1010 # SVE floating-point arithmetic (unpredicated)
1011 FADD_zzz        01100101 .. 0 ..... 000 000 ..... .....         @rd_rn_rm
1012 FSUB_zzz        01100101 .. 0 ..... 000 001 ..... .....         @rd_rn_rm
1013 FMUL_zzz        01100101 .. 0 ..... 000 010 ..... .....         @rd_rn_rm
1014 FTSMUL          01100101 .. 0 ..... 000 011 ..... .....         @rd_rn_rm
1015 FRECPS          01100101 .. 0 ..... 000 110 ..... .....         @rd_rn_rm
1016 FRSQRTS         01100101 .. 0 ..... 000 111 ..... .....         @rd_rn_rm
1018 ### SVE FP Arithmetic Predicated Group
1020 # SVE floating-point arithmetic (predicated)
1021 FADD_zpzz       01100101 .. 00 0000 100 ... ..... .....    @rdn_pg_rm
1022 FSUB_zpzz       01100101 .. 00 0001 100 ... ..... .....    @rdn_pg_rm
1023 FMUL_zpzz       01100101 .. 00 0010 100 ... ..... .....    @rdn_pg_rm
1024 FSUB_zpzz       01100101 .. 00 0011 100 ... ..... .....    @rdm_pg_rn # FSUBR
1025 FMAXNM_zpzz     01100101 .. 00 0100 100 ... ..... .....    @rdn_pg_rm
1026 FMINNM_zpzz     01100101 .. 00 0101 100 ... ..... .....    @rdn_pg_rm
1027 FMAX_zpzz       01100101 .. 00 0110 100 ... ..... .....    @rdn_pg_rm
1028 FMIN_zpzz       01100101 .. 00 0111 100 ... ..... .....    @rdn_pg_rm
1029 FABD            01100101 .. 00 1000 100 ... ..... .....    @rdn_pg_rm
1030 FSCALE          01100101 .. 00 1001 100 ... ..... .....    @rdn_pg_rm
1031 FMULX           01100101 .. 00 1010 100 ... ..... .....    @rdn_pg_rm
1032 FDIV            01100101 .. 00 1100 100 ... ..... .....    @rdm_pg_rn # FDIVR
1033 FDIV            01100101 .. 00 1101 100 ... ..... .....    @rdn_pg_rm
1035 # SVE floating-point arithmetic with immediate (predicated)
1036 FADD_zpzi       01100101 .. 011 000 100 ... 0000 . .....        @rdn_i1
1037 FSUB_zpzi       01100101 .. 011 001 100 ... 0000 . .....        @rdn_i1
1038 FMUL_zpzi       01100101 .. 011 010 100 ... 0000 . .....        @rdn_i1
1039 FSUBR_zpzi      01100101 .. 011 011 100 ... 0000 . .....        @rdn_i1
1040 FMAXNM_zpzi     01100101 .. 011 100 100 ... 0000 . .....        @rdn_i1
1041 FMINNM_zpzi     01100101 .. 011 101 100 ... 0000 . .....        @rdn_i1
1042 FMAX_zpzi       01100101 .. 011 110 100 ... 0000 . .....        @rdn_i1
1043 FMIN_zpzi       01100101 .. 011 111 100 ... 0000 . .....        @rdn_i1
1045 # SVE floating-point trig multiply-add coefficient
1046 FTMAD           01100101 esz:2 010 imm:3 100000 rm:5 rd:5       rn=%reg_movprfx
1048 ### SVE FP Multiply-Add Group
1050 # SVE floating-point multiply-accumulate writing addend
1051 FMLA_zpzzz      01100101 .. 1 ..... 000 ... ..... .....         @rda_pg_rn_rm
1052 FMLS_zpzzz      01100101 .. 1 ..... 001 ... ..... .....         @rda_pg_rn_rm
1053 FNMLA_zpzzz     01100101 .. 1 ..... 010 ... ..... .....         @rda_pg_rn_rm
1054 FNMLS_zpzzz     01100101 .. 1 ..... 011 ... ..... .....         @rda_pg_rn_rm
1056 # SVE floating-point multiply-accumulate writing multiplicand
1057 # Alter the operand extraction order and reuse the helpers from above.
1058 # FMAD, FMSB, FNMAD, FNMS
1059 FMLA_zpzzz      01100101 .. 1 ..... 100 ... ..... .....         @rdn_pg_rm_ra
1060 FMLS_zpzzz      01100101 .. 1 ..... 101 ... ..... .....         @rdn_pg_rm_ra
1061 FNMLA_zpzzz     01100101 .. 1 ..... 110 ... ..... .....         @rdn_pg_rm_ra
1062 FNMLS_zpzzz     01100101 .. 1 ..... 111 ... ..... .....         @rdn_pg_rm_ra
1064 ### SVE FP Unary Operations Predicated Group
1066 # SVE floating-point convert precision
1067 FCVT_sh         01100101 10 0010 00 101 ... ..... .....         @rd_pg_rn_e0
1068 FCVT_hs         01100101 10 0010 01 101 ... ..... .....         @rd_pg_rn_e0
1069 BFCVT           01100101 10 0010 10 101 ... ..... .....         @rd_pg_rn_e0
1070 FCVT_dh         01100101 11 0010 00 101 ... ..... .....         @rd_pg_rn_e0
1071 FCVT_hd         01100101 11 0010 01 101 ... ..... .....         @rd_pg_rn_e0
1072 FCVT_ds         01100101 11 0010 10 101 ... ..... .....         @rd_pg_rn_e0
1073 FCVT_sd         01100101 11 0010 11 101 ... ..... .....         @rd_pg_rn_e0
1075 # SVE floating-point convert to integer
1076 FCVTZS_hh       01100101 01 011 01 0 101 ... ..... .....        @rd_pg_rn_e0
1077 FCVTZU_hh       01100101 01 011 01 1 101 ... ..... .....        @rd_pg_rn_e0
1078 FCVTZS_hs       01100101 01 011 10 0 101 ... ..... .....        @rd_pg_rn_e0
1079 FCVTZU_hs       01100101 01 011 10 1 101 ... ..... .....        @rd_pg_rn_e0
1080 FCVTZS_hd       01100101 01 011 11 0 101 ... ..... .....        @rd_pg_rn_e0
1081 FCVTZU_hd       01100101 01 011 11 1 101 ... ..... .....        @rd_pg_rn_e0
1082 FCVTZS_ss       01100101 10 011 10 0 101 ... ..... .....        @rd_pg_rn_e0
1083 FCVTZU_ss       01100101 10 011 10 1 101 ... ..... .....        @rd_pg_rn_e0
1084 FCVTZS_ds       01100101 11 011 00 0 101 ... ..... .....        @rd_pg_rn_e0
1085 FCVTZU_ds       01100101 11 011 00 1 101 ... ..... .....        @rd_pg_rn_e0
1086 FCVTZS_sd       01100101 11 011 10 0 101 ... ..... .....        @rd_pg_rn_e0
1087 FCVTZU_sd       01100101 11 011 10 1 101 ... ..... .....        @rd_pg_rn_e0
1088 FCVTZS_dd       01100101 11 011 11 0 101 ... ..... .....        @rd_pg_rn_e0
1089 FCVTZU_dd       01100101 11 011 11 1 101 ... ..... .....        @rd_pg_rn_e0
1091 # SVE floating-point round to integral value
1092 FRINTN          01100101 .. 000 000 101 ... ..... .....         @rd_pg_rn
1093 FRINTP          01100101 .. 000 001 101 ... ..... .....         @rd_pg_rn
1094 FRINTM          01100101 .. 000 010 101 ... ..... .....         @rd_pg_rn
1095 FRINTZ          01100101 .. 000 011 101 ... ..... .....         @rd_pg_rn
1096 FRINTA          01100101 .. 000 100 101 ... ..... .....         @rd_pg_rn
1097 FRINTX          01100101 .. 000 110 101 ... ..... .....         @rd_pg_rn
1098 FRINTI          01100101 .. 000 111 101 ... ..... .....         @rd_pg_rn
1100 # SVE floating-point unary operations
1101 FRECPX          01100101 .. 001 100 101 ... ..... .....         @rd_pg_rn
1102 FSQRT           01100101 .. 001 101 101 ... ..... .....         @rd_pg_rn
1104 # SVE integer convert to floating-point
1105 SCVTF_hh        01100101 01 010 01 0 101 ... ..... .....        @rd_pg_rn_e0
1106 SCVTF_sh        01100101 01 010 10 0 101 ... ..... .....        @rd_pg_rn_e0
1107 SCVTF_dh        01100101 01 010 11 0 101 ... ..... .....        @rd_pg_rn_e0
1108 SCVTF_ss        01100101 10 010 10 0 101 ... ..... .....        @rd_pg_rn_e0
1109 SCVTF_sd        01100101 11 010 00 0 101 ... ..... .....        @rd_pg_rn_e0
1110 SCVTF_ds        01100101 11 010 10 0 101 ... ..... .....        @rd_pg_rn_e0
1111 SCVTF_dd        01100101 11 010 11 0 101 ... ..... .....        @rd_pg_rn_e0
1113 UCVTF_hh        01100101 01 010 01 1 101 ... ..... .....        @rd_pg_rn_e0
1114 UCVTF_sh        01100101 01 010 10 1 101 ... ..... .....        @rd_pg_rn_e0
1115 UCVTF_dh        01100101 01 010 11 1 101 ... ..... .....        @rd_pg_rn_e0
1116 UCVTF_ss        01100101 10 010 10 1 101 ... ..... .....        @rd_pg_rn_e0
1117 UCVTF_sd        01100101 11 010 00 1 101 ... ..... .....        @rd_pg_rn_e0
1118 UCVTF_ds        01100101 11 010 10 1 101 ... ..... .....        @rd_pg_rn_e0
1119 UCVTF_dd        01100101 11 010 11 1 101 ... ..... .....        @rd_pg_rn_e0
1121 ### SVE Memory - 32-bit Gather and Unsized Contiguous Group
1123 # SVE load predicate register
1124 LDR_pri         10000101 10 ...... 000 ... ..... 0 ....         @pd_rn_i9
1126 # SVE load vector register
1127 LDR_zri         10000101 10 ...... 010 ... ..... .....          @rd_rn_i9
1129 # SVE load and broadcast element
1130 LD1R_zpri       1000010 .. 1 imm:6 1.. pg:3 rn:5 rd:5 \
1131                 &rpri_load dtype=%dtype_23_13 nreg=0
1133 # SVE 32-bit gather load (scalar plus 32-bit unscaled offsets)
1134 # SVE 32-bit gather load (scalar plus 32-bit scaled offsets)
1135 LD1_zprz        1000010 00 .0 ..... 0.. ... ..... ..... \
1136                 @rprr_g_load_xs_u esz=2 msz=0 scale=0
1137 LD1_zprz        1000010 01 .. ..... 0.. ... ..... ..... \
1138                 @rprr_g_load_xs_u_sc esz=2 msz=1
1139 LD1_zprz        1000010 10 .. ..... 01. ... ..... ..... \
1140                 @rprr_g_load_xs_sc esz=2 msz=2 u=1
1142 # SVE 32-bit gather load (vector plus immediate)
1143 LD1_zpiz        1000010 .. 01 ..... 1.. ... ..... ..... \
1144                 @rpri_g_load esz=2
1146 ### SVE Memory Contiguous Load Group
1148 # SVE contiguous load (scalar plus scalar)
1149 LD_zprr         1010010 .... ..... 010 ... ..... .....    @rprr_load_dt nreg=0
1151 # SVE contiguous first-fault load (scalar plus scalar)
1152 LDFF1_zprr      1010010 .... ..... 011 ... ..... .....    @rprr_load_dt nreg=0
1154 # SVE contiguous load (scalar plus immediate)
1155 LD_zpri         1010010 .... 0.... 101 ... ..... .....    @rpri_load_dt nreg=0
1157 # SVE contiguous non-fault load (scalar plus immediate)
1158 LDNF1_zpri      1010010 .... 1.... 101 ... ..... .....    @rpri_load_dt nreg=0
1160 # SVE contiguous non-temporal load (scalar plus scalar)
1161 # LDNT1B, LDNT1H, LDNT1W, LDNT1D
1162 # SVE load multiple structures (scalar plus scalar)
1163 # LD2B, LD2H, LD2W, LD2D; etc.
1164 LD_zprr         1010010 .. nreg:2 ..... 110 ... ..... .....     @rprr_load_msz
1166 # SVE contiguous non-temporal load (scalar plus immediate)
1167 # LDNT1B, LDNT1H, LDNT1W, LDNT1D
1168 # SVE load multiple structures (scalar plus immediate)
1169 # LD2B, LD2H, LD2W, LD2D; etc.
1170 LD_zpri         1010010 .. nreg:2 0.... 111 ... ..... .....     @rpri_load_msz
1172 # SVE load and broadcast quadword (scalar plus scalar)
1173 LD1RQ_zprr      1010010 .. 00 ..... 000 ... ..... ..... \
1174                 @rprr_load_msz nreg=0
1175 LD1RO_zprr      1010010 .. 01 ..... 000 ... ..... ..... \
1176                 @rprr_load_msz nreg=0
1178 # SVE load and broadcast quadword (scalar plus immediate)
1179 # LD1RQB, LD1RQH, LD1RQS, LD1RQD
1180 LD1RQ_zpri      1010010 .. 00 0.... 001 ... ..... ..... \
1181                 @rpri_load_msz nreg=0
1182 LD1RO_zpri      1010010 .. 01 0.... 001 ... ..... ..... \
1183                 @rpri_load_msz nreg=0
1185 # SVE 32-bit gather prefetch (scalar plus 32-bit scaled offsets)
1186 PRF             1000010 00 -1 ----- 0-- --- ----- 0 ----
1188 # SVE 32-bit gather prefetch (vector plus immediate)
1189 PRF             1000010 -- 00 ----- 111 --- ----- 0 ----
1191 # SVE contiguous prefetch (scalar plus immediate)
1192 PRF             1000010 11 1- ----- 0-- --- ----- 0 ----
1194 # SVE contiguous prefetch (scalar plus scalar)
1195 PRF_rr          1000010 -- 00 rm:5 110 --- ----- 0 ----
1197 ### SVE Memory 64-bit Gather Group
1199 # SVE 64-bit gather load (scalar plus 32-bit unpacked unscaled offsets)
1200 # SVE 64-bit gather load (scalar plus 32-bit unpacked scaled offsets)
1201 LD1_zprz        1100010 00 .0 ..... 0.. ... ..... ..... \
1202                 @rprr_g_load_xs_u esz=3 msz=0 scale=0
1203 LD1_zprz        1100010 01 .. ..... 0.. ... ..... ..... \
1204                 @rprr_g_load_xs_u_sc esz=3 msz=1
1205 LD1_zprz        1100010 10 .. ..... 0.. ... ..... ..... \
1206                 @rprr_g_load_xs_u_sc esz=3 msz=2
1207 LD1_zprz        1100010 11 .. ..... 01. ... ..... ..... \
1208                 @rprr_g_load_xs_sc esz=3 msz=3 u=1
1210 # SVE 64-bit gather load (scalar plus 64-bit unscaled offsets)
1211 # SVE 64-bit gather load (scalar plus 64-bit scaled offsets)
1212 LD1_zprz        1100010 00 10 ..... 1.. ... ..... ..... \
1213                 @rprr_g_load_u esz=3 msz=0 scale=0
1214 LD1_zprz        1100010 01 1. ..... 1.. ... ..... ..... \
1215                 @rprr_g_load_u_sc esz=3 msz=1
1216 LD1_zprz        1100010 10 1. ..... 1.. ... ..... ..... \
1217                 @rprr_g_load_u_sc esz=3 msz=2
1218 LD1_zprz        1100010 11 1. ..... 11. ... ..... ..... \
1219                 @rprr_g_load_sc esz=3 msz=3 u=1
1221 # SVE 64-bit gather load (vector plus immediate)
1222 LD1_zpiz        1100010 .. 01 ..... 1.. ... ..... ..... \
1223                 @rpri_g_load esz=3
1225 # SVE 64-bit gather prefetch (scalar plus 64-bit scaled offsets)
1226 PRF             1100010 00 11 ----- 1-- --- ----- 0 ----
1228 # SVE 64-bit gather prefetch (scalar plus unpacked 32-bit scaled offsets)
1229 PRF             1100010 00 -1 ----- 0-- --- ----- 0 ----
1231 # SVE 64-bit gather prefetch (vector plus immediate)
1232 PRF             1100010 -- 00 ----- 111 --- ----- 0 ----
1234 ### SVE Memory Store Group
1236 # SVE store predicate register
1237 STR_pri         1110010 11 0.     ..... 000 ... ..... 0 ....    @pd_rn_i9
1239 # SVE store vector register
1240 STR_zri         1110010 11 0.     ..... 010 ... ..... .....     @rd_rn_i9
1242 # SVE contiguous store (scalar plus immediate)
1243 # ST1B, ST1H, ST1W, ST1D; require msz <= esz
1244 ST_zpri         1110010 .. esz:2  0.... 111 ... ..... ..... \
1245                 @rpri_store_msz nreg=0
1247 # SVE contiguous store (scalar plus scalar)
1248 # ST1B, ST1H, ST1W, ST1D; require msz <= esz
1249 # Enumerate msz lest we conflict with STR_zri.
1250 ST_zprr         1110010 00 ..     ..... 010 ... ..... ..... \
1251                 @rprr_store_esz_n0 msz=0
1252 ST_zprr         1110010 01 ..     ..... 010 ... ..... ..... \
1253                 @rprr_store_esz_n0 msz=1
1254 ST_zprr         1110010 10 ..     ..... 010 ... ..... ..... \
1255                 @rprr_store_esz_n0 msz=2
1256 ST_zprr         1110010 11 11     ..... 010 ... ..... ..... \
1257                 @rprr_store msz=3 esz=3 nreg=0
1259 # SVE contiguous non-temporal store (scalar plus immediate)  (nreg == 0)
1260 # SVE store multiple structures (scalar plus immediate)      (nreg != 0)
1261 ST_zpri         1110010 .. nreg:2 1.... 111 ... ..... ..... \
1262                 @rpri_store_msz esz=%size_23
1264 # SVE contiguous non-temporal store (scalar plus scalar)     (nreg == 0)
1265 # SVE store multiple structures (scalar plus scalar)         (nreg != 0)
1266 ST_zprr         1110010 msz:2 nreg:2 ..... 011 ... ..... ..... \
1267                 @rprr_store esz=%size_23
1269 # SVE 32-bit scatter store (scalar plus 32-bit scaled offsets)
1270 # Require msz > 0 && msz <= esz.
1271 ST1_zprz        1110010 .. 11 ..... 100 ... ..... ..... \
1272                 @rprr_scatter_store xs=0 esz=2 scale=1
1273 ST1_zprz        1110010 .. 11 ..... 110 ... ..... ..... \
1274                 @rprr_scatter_store xs=1 esz=2 scale=1
1276 # SVE 32-bit scatter store (scalar plus 32-bit unscaled offsets)
1277 # Require msz <= esz.
1278 ST1_zprz        1110010 .. 10 ..... 100 ... ..... ..... \
1279                 @rprr_scatter_store xs=0 esz=2 scale=0
1280 ST1_zprz        1110010 .. 10 ..... 110 ... ..... ..... \
1281                 @rprr_scatter_store xs=1 esz=2 scale=0
1283 # SVE 64-bit scatter store (scalar plus 64-bit scaled offset)
1284 # Require msz > 0
1285 ST1_zprz        1110010 .. 01 ..... 101 ... ..... ..... \
1286                 @rprr_scatter_store xs=2 esz=3 scale=1
1288 # SVE 64-bit scatter store (scalar plus 64-bit unscaled offset)
1289 ST1_zprz        1110010 .. 00 ..... 101 ... ..... ..... \
1290                 @rprr_scatter_store xs=2 esz=3 scale=0
1292 # SVE 64-bit scatter store (vector plus immediate)
1293 ST1_zpiz        1110010 .. 10 ..... 101 ... ..... ..... \
1294                 @rpri_scatter_store esz=3
1296 # SVE 32-bit scatter store (vector plus immediate)
1297 ST1_zpiz        1110010 .. 11 ..... 101 ... ..... ..... \
1298                 @rpri_scatter_store esz=2
1300 # SVE 64-bit scatter store (scalar plus unpacked 32-bit scaled offset)
1301 # Require msz > 0
1302 ST1_zprz        1110010 .. 01 ..... 100 ... ..... ..... \
1303                 @rprr_scatter_store xs=0 esz=3 scale=1
1304 ST1_zprz        1110010 .. 01 ..... 110 ... ..... ..... \
1305                 @rprr_scatter_store xs=1 esz=3 scale=1
1307 # SVE 64-bit scatter store (scalar plus unpacked 32-bit unscaled offset)
1308 ST1_zprz        1110010 .. 00 ..... 100 ... ..... ..... \
1309                 @rprr_scatter_store xs=0 esz=3 scale=0
1310 ST1_zprz        1110010 .. 00 ..... 110 ... ..... ..... \
1311                 @rprr_scatter_store xs=1 esz=3 scale=0
1313 #### SVE2 Support
1315 ### SVE2 Integer Multiply - Unpredicated
1317 # SVE2 integer multiply vectors (unpredicated)
1318 MUL_zzz         00000100 .. 1 ..... 0110 00 ..... .....  @rd_rn_rm
1319 SMULH_zzz       00000100 .. 1 ..... 0110 10 ..... .....  @rd_rn_rm
1320 UMULH_zzz       00000100 .. 1 ..... 0110 11 ..... .....  @rd_rn_rm
1321 PMUL_zzz        00000100 00 1 ..... 0110 01 ..... .....  @rd_rn_rm_e0
1323 # SVE2 signed saturating doubling multiply high (unpredicated)
1324 SQDMULH_zzz     00000100 .. 1 ..... 0111 00 ..... .....  @rd_rn_rm
1325 SQRDMULH_zzz    00000100 .. 1 ..... 0111 01 ..... .....  @rd_rn_rm
1327 ### SVE2 Integer - Predicated
1329 SADALP_zpzz     01000100 .. 000 100 101 ... ..... .....  @rdm_pg_rn
1330 UADALP_zpzz     01000100 .. 000 101 101 ... ..... .....  @rdm_pg_rn
1332 ### SVE2 integer unary operations (predicated)
1334 URECPE          01000100 .. 000 000 101 ... ..... .....  @rd_pg_rn
1335 URSQRTE         01000100 .. 000 001 101 ... ..... .....  @rd_pg_rn
1336 SQABS           01000100 .. 001 000 101 ... ..... .....  @rd_pg_rn
1337 SQNEG           01000100 .. 001 001 101 ... ..... .....  @rd_pg_rn
1339 ### SVE2 saturating/rounding bitwise shift left (predicated)
1341 SRSHL           01000100 .. 000 010 100 ... ..... .....  @rdn_pg_rm
1342 URSHL           01000100 .. 000 011 100 ... ..... .....  @rdn_pg_rm
1343 SRSHL           01000100 .. 000 110 100 ... ..... .....  @rdm_pg_rn # SRSHLR
1344 URSHL           01000100 .. 000 111 100 ... ..... .....  @rdm_pg_rn # URSHLR
1346 SQSHL           01000100 .. 001 000 100 ... ..... .....  @rdn_pg_rm
1347 UQSHL           01000100 .. 001 001 100 ... ..... .....  @rdn_pg_rm
1348 SQSHL           01000100 .. 001 100 100 ... ..... .....  @rdm_pg_rn # SQSHLR
1349 UQSHL           01000100 .. 001 101 100 ... ..... .....  @rdm_pg_rn # UQSHLR
1351 SQRSHL          01000100 .. 001 010 100 ... ..... .....  @rdn_pg_rm
1352 UQRSHL          01000100 .. 001 011 100 ... ..... .....  @rdn_pg_rm
1353 SQRSHL          01000100 .. 001 110 100 ... ..... .....  @rdm_pg_rn # SQRSHLR
1354 UQRSHL          01000100 .. 001 111 100 ... ..... .....  @rdm_pg_rn # UQRSHLR
1356 ### SVE2 integer halving add/subtract (predicated)
1358 SHADD           01000100 .. 010 000 100 ... ..... .....  @rdn_pg_rm
1359 UHADD           01000100 .. 010 001 100 ... ..... .....  @rdn_pg_rm
1360 SHSUB           01000100 .. 010 010 100 ... ..... .....  @rdn_pg_rm
1361 UHSUB           01000100 .. 010 011 100 ... ..... .....  @rdn_pg_rm
1362 SRHADD          01000100 .. 010 100 100 ... ..... .....  @rdn_pg_rm
1363 URHADD          01000100 .. 010 101 100 ... ..... .....  @rdn_pg_rm
1364 SHSUB           01000100 .. 010 110 100 ... ..... .....  @rdm_pg_rn # SHSUBR
1365 UHSUB           01000100 .. 010 111 100 ... ..... .....  @rdm_pg_rn # UHSUBR
1367 ### SVE2 integer pairwise arithmetic
1369 ADDP            01000100 .. 010 001 101 ... ..... .....  @rdn_pg_rm
1370 SMAXP           01000100 .. 010 100 101 ... ..... .....  @rdn_pg_rm
1371 UMAXP           01000100 .. 010 101 101 ... ..... .....  @rdn_pg_rm
1372 SMINP           01000100 .. 010 110 101 ... ..... .....  @rdn_pg_rm
1373 UMINP           01000100 .. 010 111 101 ... ..... .....  @rdn_pg_rm
1375 ### SVE2 saturating add/subtract (predicated)
1377 SQADD_zpzz      01000100 .. 011 000 100 ... ..... .....  @rdn_pg_rm
1378 UQADD_zpzz      01000100 .. 011 001 100 ... ..... .....  @rdn_pg_rm
1379 SQSUB_zpzz      01000100 .. 011 010 100 ... ..... .....  @rdn_pg_rm
1380 UQSUB_zpzz      01000100 .. 011 011 100 ... ..... .....  @rdn_pg_rm
1381 SUQADD          01000100 .. 011 100 100 ... ..... .....  @rdn_pg_rm
1382 USQADD          01000100 .. 011 101 100 ... ..... .....  @rdn_pg_rm
1383 SQSUB_zpzz      01000100 .. 011 110 100 ... ..... .....  @rdm_pg_rn # SQSUBR
1384 UQSUB_zpzz      01000100 .. 011 111 100 ... ..... .....  @rdm_pg_rn # UQSUBR
1386 #### SVE2 Widening Integer Arithmetic
1388 ## SVE2 integer add/subtract long
1390 SADDLB          01000101 .. 0 ..... 00 0000 ..... .....  @rd_rn_rm
1391 SADDLT          01000101 .. 0 ..... 00 0001 ..... .....  @rd_rn_rm
1392 UADDLB          01000101 .. 0 ..... 00 0010 ..... .....  @rd_rn_rm
1393 UADDLT          01000101 .. 0 ..... 00 0011 ..... .....  @rd_rn_rm
1395 SSUBLB          01000101 .. 0 ..... 00 0100 ..... .....  @rd_rn_rm
1396 SSUBLT          01000101 .. 0 ..... 00 0101 ..... .....  @rd_rn_rm
1397 USUBLB          01000101 .. 0 ..... 00 0110 ..... .....  @rd_rn_rm
1398 USUBLT          01000101 .. 0 ..... 00 0111 ..... .....  @rd_rn_rm
1400 SABDLB          01000101 .. 0 ..... 00 1100 ..... .....  @rd_rn_rm
1401 SABDLT          01000101 .. 0 ..... 00 1101 ..... .....  @rd_rn_rm
1402 UABDLB          01000101 .. 0 ..... 00 1110 ..... .....  @rd_rn_rm
1403 UABDLT          01000101 .. 0 ..... 00 1111 ..... .....  @rd_rn_rm
1405 ## SVE2 integer add/subtract interleaved long
1407 SADDLBT         01000101 .. 0 ..... 1000 00 ..... .....  @rd_rn_rm
1408 SSUBLBT         01000101 .. 0 ..... 1000 10 ..... .....  @rd_rn_rm
1409 SSUBLTB         01000101 .. 0 ..... 1000 11 ..... .....  @rd_rn_rm
1411 ## SVE2 integer add/subtract wide
1413 SADDWB          01000101 .. 0 ..... 010 000 ..... .....  @rd_rn_rm
1414 SADDWT          01000101 .. 0 ..... 010 001 ..... .....  @rd_rn_rm
1415 UADDWB          01000101 .. 0 ..... 010 010 ..... .....  @rd_rn_rm
1416 UADDWT          01000101 .. 0 ..... 010 011 ..... .....  @rd_rn_rm
1418 SSUBWB          01000101 .. 0 ..... 010 100 ..... .....  @rd_rn_rm
1419 SSUBWT          01000101 .. 0 ..... 010 101 ..... .....  @rd_rn_rm
1420 USUBWB          01000101 .. 0 ..... 010 110 ..... .....  @rd_rn_rm
1421 USUBWT          01000101 .. 0 ..... 010 111 ..... .....  @rd_rn_rm
1423 ## SVE2 integer multiply long
1425 SQDMULLB_zzz    01000101 .. 0 ..... 011 000 ..... .....  @rd_rn_rm
1426 SQDMULLT_zzz    01000101 .. 0 ..... 011 001 ..... .....  @rd_rn_rm
1427 PMULLB          01000101 .. 0 ..... 011 010 ..... .....  @rd_rn_rm
1428 PMULLT          01000101 .. 0 ..... 011 011 ..... .....  @rd_rn_rm
1429 SMULLB_zzz      01000101 .. 0 ..... 011 100 ..... .....  @rd_rn_rm
1430 SMULLT_zzz      01000101 .. 0 ..... 011 101 ..... .....  @rd_rn_rm
1431 UMULLB_zzz      01000101 .. 0 ..... 011 110 ..... .....  @rd_rn_rm
1432 UMULLT_zzz      01000101 .. 0 ..... 011 111 ..... .....  @rd_rn_rm
1434 ## SVE2 bitwise shift left long
1436 # Note bit23 == 0 is handled by esz > 0 in do_sve2_shll_tb.
1437 SSHLLB          01000101 .. 0 ..... 1010 00 ..... .....  @rd_rn_tszimm_shl
1438 SSHLLT          01000101 .. 0 ..... 1010 01 ..... .....  @rd_rn_tszimm_shl
1439 USHLLB          01000101 .. 0 ..... 1010 10 ..... .....  @rd_rn_tszimm_shl
1440 USHLLT          01000101 .. 0 ..... 1010 11 ..... .....  @rd_rn_tszimm_shl
1442 ## SVE2 bitwise exclusive-or interleaved
1444 EORBT           01000101 .. 0 ..... 10010 0 ..... .....  @rd_rn_rm
1445 EORTB           01000101 .. 0 ..... 10010 1 ..... .....  @rd_rn_rm
1447 ## SVE integer matrix multiply accumulate
1449 SMMLA           01000101 00 0 ..... 10011 0 ..... .....  @rda_rn_rm_e0
1450 USMMLA          01000101 10 0 ..... 10011 0 ..... .....  @rda_rn_rm_e0
1451 UMMLA           01000101 11 0 ..... 10011 0 ..... .....  @rda_rn_rm_e0
1453 ## SVE2 bitwise permute
1455 BEXT            01000101 .. 0 ..... 1011 00 ..... .....  @rd_rn_rm
1456 BDEP            01000101 .. 0 ..... 1011 01 ..... .....  @rd_rn_rm
1457 BGRP            01000101 .. 0 ..... 1011 10 ..... .....  @rd_rn_rm
1459 #### SVE2 Accumulate
1461 ## SVE2 complex integer add
1463 CADD_rot90      01000101 .. 00000 0 11011 0 ..... .....  @rdn_rm
1464 CADD_rot270     01000101 .. 00000 0 11011 1 ..... .....  @rdn_rm
1465 SQCADD_rot90    01000101 .. 00000 1 11011 0 ..... .....  @rdn_rm
1466 SQCADD_rot270   01000101 .. 00000 1 11011 1 ..... .....  @rdn_rm
1468 ## SVE2 integer absolute difference and accumulate long
1470 SABALB          01000101 .. 0 ..... 1100 00 ..... .....  @rda_rn_rm
1471 SABALT          01000101 .. 0 ..... 1100 01 ..... .....  @rda_rn_rm
1472 UABALB          01000101 .. 0 ..... 1100 10 ..... .....  @rda_rn_rm
1473 UABALT          01000101 .. 0 ..... 1100 11 ..... .....  @rda_rn_rm
1475 ## SVE2 integer add/subtract long with carry
1477 # ADC and SBC decoded via size in helper dispatch.
1478 ADCLB           01000101 .. 0 ..... 11010 0 ..... .....  @rda_rn_rm
1479 ADCLT           01000101 .. 0 ..... 11010 1 ..... .....  @rda_rn_rm
1481 ## SVE2 bitwise shift right and accumulate
1483 # TODO: Use @rda and %reg_movprfx here.
1484 SSRA            01000101 .. 0 ..... 1110 00 ..... .....  @rd_rn_tszimm_shr
1485 USRA            01000101 .. 0 ..... 1110 01 ..... .....  @rd_rn_tszimm_shr
1486 SRSRA           01000101 .. 0 ..... 1110 10 ..... .....  @rd_rn_tszimm_shr
1487 URSRA           01000101 .. 0 ..... 1110 11 ..... .....  @rd_rn_tszimm_shr
1489 ## SVE2 bitwise shift and insert
1491 SRI             01000101 .. 0 ..... 11110 0 ..... .....  @rd_rn_tszimm_shr
1492 SLI             01000101 .. 0 ..... 11110 1 ..... .....  @rd_rn_tszimm_shl
1494 ## SVE2 integer absolute difference and accumulate
1496 # TODO: Use @rda and %reg_movprfx here.
1497 SABA            01000101 .. 0 ..... 11111 0 ..... .....  @rd_rn_rm
1498 UABA            01000101 .. 0 ..... 11111 1 ..... .....  @rd_rn_rm
1500 #### SVE2 Narrowing
1502 ## SVE2 saturating extract narrow
1504 # Bits 23, 18-16 are zero, limited in the translator via esz < 3 & imm == 0.
1505 SQXTNB          01000101 .. 1 ..... 010 000 ..... .....  @rd_rn_tszimm_shl
1506 SQXTNT          01000101 .. 1 ..... 010 001 ..... .....  @rd_rn_tszimm_shl
1507 UQXTNB          01000101 .. 1 ..... 010 010 ..... .....  @rd_rn_tszimm_shl
1508 UQXTNT          01000101 .. 1 ..... 010 011 ..... .....  @rd_rn_tszimm_shl
1509 SQXTUNB         01000101 .. 1 ..... 010 100 ..... .....  @rd_rn_tszimm_shl
1510 SQXTUNT         01000101 .. 1 ..... 010 101 ..... .....  @rd_rn_tszimm_shl
1512 ## SVE2 bitwise shift right narrow
1514 # Bit 23 == 0 is handled by esz > 0 in the translator.
1515 SQSHRUNB        01000101 .. 1 ..... 00 0000 ..... .....  @rd_rn_tszimm_shr
1516 SQSHRUNT        01000101 .. 1 ..... 00 0001 ..... .....  @rd_rn_tszimm_shr
1517 SQRSHRUNB       01000101 .. 1 ..... 00 0010 ..... .....  @rd_rn_tszimm_shr
1518 SQRSHRUNT       01000101 .. 1 ..... 00 0011 ..... .....  @rd_rn_tszimm_shr
1519 SHRNB           01000101 .. 1 ..... 00 0100 ..... .....  @rd_rn_tszimm_shr
1520 SHRNT           01000101 .. 1 ..... 00 0101 ..... .....  @rd_rn_tszimm_shr
1521 RSHRNB          01000101 .. 1 ..... 00 0110 ..... .....  @rd_rn_tszimm_shr
1522 RSHRNT          01000101 .. 1 ..... 00 0111 ..... .....  @rd_rn_tszimm_shr
1523 SQSHRNB         01000101 .. 1 ..... 00 1000 ..... .....  @rd_rn_tszimm_shr
1524 SQSHRNT         01000101 .. 1 ..... 00 1001 ..... .....  @rd_rn_tszimm_shr
1525 SQRSHRNB        01000101 .. 1 ..... 00 1010 ..... .....  @rd_rn_tszimm_shr
1526 SQRSHRNT        01000101 .. 1 ..... 00 1011 ..... .....  @rd_rn_tszimm_shr
1527 UQSHRNB         01000101 .. 1 ..... 00 1100 ..... .....  @rd_rn_tszimm_shr
1528 UQSHRNT         01000101 .. 1 ..... 00 1101 ..... .....  @rd_rn_tszimm_shr
1529 UQRSHRNB        01000101 .. 1 ..... 00 1110 ..... .....  @rd_rn_tszimm_shr
1530 UQRSHRNT        01000101 .. 1 ..... 00 1111 ..... .....  @rd_rn_tszimm_shr
1532 ## SVE2 integer add/subtract narrow high part
1534 ADDHNB          01000101 .. 1 ..... 011 000 ..... .....  @rd_rn_rm
1535 ADDHNT          01000101 .. 1 ..... 011 001 ..... .....  @rd_rn_rm
1536 RADDHNB         01000101 .. 1 ..... 011 010 ..... .....  @rd_rn_rm
1537 RADDHNT         01000101 .. 1 ..... 011 011 ..... .....  @rd_rn_rm
1538 SUBHNB          01000101 .. 1 ..... 011 100 ..... .....  @rd_rn_rm
1539 SUBHNT          01000101 .. 1 ..... 011 101 ..... .....  @rd_rn_rm
1540 RSUBHNB         01000101 .. 1 ..... 011 110 ..... .....  @rd_rn_rm
1541 RSUBHNT         01000101 .. 1 ..... 011 111 ..... .....  @rd_rn_rm
1543 ### SVE2 Character Match
1545 MATCH           01000101 .. 1 ..... 100 ... ..... 0 .... @pd_pg_rn_rm
1546 NMATCH          01000101 .. 1 ..... 100 ... ..... 1 .... @pd_pg_rn_rm
1548 ### SVE2 Histogram Computation
1550 HISTCNT         01000101 .. 1 ..... 110 ... ..... .....  @rd_pg_rn_rm
1551 HISTSEG         01000101 .. 1 ..... 101 000 ..... .....  @rd_rn_rm
1553 ## SVE2 floating-point pairwise operations
1555 FADDP           01100100 .. 010 00 0 100 ... ..... ..... @rdn_pg_rm
1556 FMAXNMP         01100100 .. 010 10 0 100 ... ..... ..... @rdn_pg_rm
1557 FMINNMP         01100100 .. 010 10 1 100 ... ..... ..... @rdn_pg_rm
1558 FMAXP           01100100 .. 010 11 0 100 ... ..... ..... @rdn_pg_rm
1559 FMINP           01100100 .. 010 11 1 100 ... ..... ..... @rdn_pg_rm
1561 #### SVE Integer Multiply-Add (unpredicated)
1563 ## SVE2 saturating multiply-add long
1565 SQDMLALB_zzzw   01000100 .. 0 ..... 0110 00 ..... .....  @rda_rn_rm
1566 SQDMLALT_zzzw   01000100 .. 0 ..... 0110 01 ..... .....  @rda_rn_rm
1567 SQDMLSLB_zzzw   01000100 .. 0 ..... 0110 10 ..... .....  @rda_rn_rm
1568 SQDMLSLT_zzzw   01000100 .. 0 ..... 0110 11 ..... .....  @rda_rn_rm
1570 ## SVE2 saturating multiply-add interleaved long
1572 SQDMLALBT       01000100 .. 0 ..... 00001 0 ..... .....  @rda_rn_rm
1573 SQDMLSLBT       01000100 .. 0 ..... 00001 1 ..... .....  @rda_rn_rm
1575 ## SVE2 saturating multiply-add high
1577 SQRDMLAH_zzzz   01000100 .. 0 ..... 01110 0 ..... .....  @rda_rn_rm
1578 SQRDMLSH_zzzz   01000100 .. 0 ..... 01110 1 ..... .....  @rda_rn_rm
1580 ## SVE2 integer multiply-add long
1582 SMLALB_zzzw     01000100 .. 0 ..... 010 000 ..... .....  @rda_rn_rm
1583 SMLALT_zzzw     01000100 .. 0 ..... 010 001 ..... .....  @rda_rn_rm
1584 UMLALB_zzzw     01000100 .. 0 ..... 010 010 ..... .....  @rda_rn_rm
1585 UMLALT_zzzw     01000100 .. 0 ..... 010 011 ..... .....  @rda_rn_rm
1586 SMLSLB_zzzw     01000100 .. 0 ..... 010 100 ..... .....  @rda_rn_rm
1587 SMLSLT_zzzw     01000100 .. 0 ..... 010 101 ..... .....  @rda_rn_rm
1588 UMLSLB_zzzw     01000100 .. 0 ..... 010 110 ..... .....  @rda_rn_rm
1589 UMLSLT_zzzw     01000100 .. 0 ..... 010 111 ..... .....  @rda_rn_rm
1591 ## SVE2 complex integer multiply-add
1593 CMLA_zzzz       01000100 esz:2 0 rm:5 0010 rot:2 rn:5 rd:5  ra=%reg_movprfx
1594 SQRDCMLAH_zzzz  01000100 esz:2 0 rm:5 0011 rot:2 rn:5 rd:5  ra=%reg_movprfx
1596 ## SVE mixed sign dot product
1598 USDOT_zzzz      01000100 .. 0 ..... 011 110 ..... .....  @rda_rn_rm
1600 ### SVE2 floating point matrix multiply accumulate
1601 BFMMLA          01100100 01 1 ..... 111 001 ..... .....  @rda_rn_rm_e0
1602 FMMLA_s         01100100 10 1 ..... 111 001 ..... .....  @rda_rn_rm_e0
1603 FMMLA_d         01100100 11 1 ..... 111 001 ..... .....  @rda_rn_rm_e0
1605 ### SVE2 Memory Gather Load Group
1607 # SVE2 64-bit gather non-temporal load (scalar plus 64-bit unscaled offsets)
1608 LDNT1_zprz      1100010 msz:2 00 rm:5 1 u:1 0 pg:3 rn:5 rd:5 \
1609                 &rprr_gather_load xs=2 esz=3 scale=0 ff=0
1611 # SVE2 32-bit gather non-temporal load (scalar plus 32-bit unscaled offsets)
1612 LDNT1_zprz      1000010 msz:2 00 rm:5 10 u:1 pg:3 rn:5 rd:5 \
1613                 &rprr_gather_load xs=0 esz=2 scale=0 ff=0
1615 ### SVE2 Memory Store Group
1617 # SVE2 64-bit scatter non-temporal store (vector plus scalar)
1618 STNT1_zprz      1110010 .. 00 ..... 001 ... ..... ..... \
1619                 @rprr_scatter_store xs=2 esz=3 scale=0
1621 # SVE2 32-bit scatter non-temporal store (vector plus scalar)
1622 STNT1_zprz      1110010 .. 10 ..... 001 ... ..... ..... \
1623                 @rprr_scatter_store xs=0 esz=2 scale=0
1625 ### SVE2 Crypto Extensions
1627 # SVE2 crypto unary operations
1628 # AESMC and AESIMC
1629 AESMC           01000101 00 10000011100 decrypt:1 00000 rd:5
1631 # SVE2 crypto destructive binary operations
1632 AESE            01000101 00 10001 0 11100 0 ..... .....  @rdn_rm_e0
1633 AESD            01000101 00 10001 0 11100 1 ..... .....  @rdn_rm_e0
1634 SM4E            01000101 00 10001 1 11100 0 ..... .....  @rdn_rm_e0
1636 # SVE2 crypto constructive binary operations
1637 SM4EKEY         01000101 00 1 ..... 11110 0 ..... .....  @rd_rn_rm_e0
1638 RAX1            01000101 00 1 ..... 11110 1 ..... .....  @rd_rn_rm_e0
1640 ### SVE2 floating-point convert precision odd elements
1641 FCVTXNT_ds      01100100 00 0010 10 101 ... ..... .....  @rd_pg_rn_e0
1642 FCVTX_ds        01100101 00 0010 10 101 ... ..... .....  @rd_pg_rn_e0
1643 FCVTNT_sh       01100100 10 0010 00 101 ... ..... .....  @rd_pg_rn_e0
1644 BFCVTNT         01100100 10 0010 10 101 ... ..... .....  @rd_pg_rn_e0
1645 FCVTLT_hs       01100100 10 0010 01 101 ... ..... .....  @rd_pg_rn_e0
1646 FCVTNT_ds       01100100 11 0010 10 101 ... ..... .....  @rd_pg_rn_e0
1647 FCVTLT_sd       01100100 11 0010 11 101 ... ..... .....  @rd_pg_rn_e0
1649 ### SVE2 floating-point convert to integer
1650 FLOGB           01100101 00 011 esz:2 0101 pg:3 rn:5 rd:5  &rpr_esz
1652 ### SVE2 floating-point multiply-add long (vectors)
1653 FMLALB_zzzw     01100100 10 1 ..... 10 0 00 0 ..... .....  @rda_rn_rm_e0
1654 FMLALT_zzzw     01100100 10 1 ..... 10 0 00 1 ..... .....  @rda_rn_rm_e0
1655 FMLSLB_zzzw     01100100 10 1 ..... 10 1 00 0 ..... .....  @rda_rn_rm_e0
1656 FMLSLT_zzzw     01100100 10 1 ..... 10 1 00 1 ..... .....  @rda_rn_rm_e0
1658 BFMLALB_zzzw    01100100 11 1 ..... 10 0 00 0 ..... .....  @rda_rn_rm_e0
1659 BFMLALT_zzzw    01100100 11 1 ..... 10 0 00 1 ..... .....  @rda_rn_rm_e0
1661 ### SVE2 floating-point bfloat16 dot-product
1662 BFDOT_zzzz      01100100 01 1 ..... 10 0 00 0 ..... .....  @rda_rn_rm_e0
1664 ### SVE2 floating-point multiply-add long (indexed)
1665 FMLALB_zzxw     01100100 10 1 ..... 0100.0 ..... .....     @rrxr_3a esz=2
1666 FMLALT_zzxw     01100100 10 1 ..... 0100.1 ..... .....     @rrxr_3a esz=2
1667 FMLSLB_zzxw     01100100 10 1 ..... 0110.0 ..... .....     @rrxr_3a esz=2
1668 FMLSLT_zzxw     01100100 10 1 ..... 0110.1 ..... .....     @rrxr_3a esz=2
1669 BFMLALB_zzxw    01100100 11 1 ..... 0100.0 ..... .....     @rrxr_3a esz=2
1670 BFMLALT_zzxw    01100100 11 1 ..... 0100.1 ..... .....     @rrxr_3a esz=2
1672 ### SVE2 floating-point bfloat16 dot-product (indexed)
1673 BFDOT_zzxz      01100100 01 1 ..... 010000 ..... .....     @rrxr_2 esz=2