[ARM] MVE VPNOT
[llvm-core.git] / test / CodeGen / Thumb2 / mve-vcmpfz.ll
blobef4fc1b1914a2c9f1fa2c463e22bf60f0730272c
1 ; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
2 ; RUN: llc -mtriple=thumbv8.1m.main-arm-none-eabi -mattr=+mve,+fullfp16 -verify-machineinstrs %s -o - | FileCheck %s --check-prefix=CHECK --check-prefix=CHECK-MVE
3 ; RUN: llc -mtriple=thumbv8.1m.main-arm-none-eabi -mattr=+mve.fp -verify-machineinstrs %s -o - | FileCheck %s --check-prefix=CHECK --check-prefix=CHECK-MVEFP
5 define arm_aapcs_vfpcc <4 x float> @vcmp_oeq_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
6 ; CHECK-MVE-LABEL: vcmp_oeq_v4f32:
7 ; CHECK-MVE:       @ %bb.0: @ %entry
8 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
9 ; CHECK-MVE-NEXT:    movs r1, #0
10 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
11 ; CHECK-MVE-NEXT:    it eq
12 ; CHECK-MVE-NEXT:    moveq r1, #1
13 ; CHECK-MVE-NEXT:    cmp r1, #0
14 ; CHECK-MVE-NEXT:    vcmp.f32 s0, #0
15 ; CHECK-MVE-NEXT:    it ne
16 ; CHECK-MVE-NEXT:    movne r1, #1
17 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
18 ; CHECK-MVE-NEXT:    mov.w r2, #0
19 ; CHECK-MVE-NEXT:    vcmp.f32 s3, #0
20 ; CHECK-MVE-NEXT:    it eq
21 ; CHECK-MVE-NEXT:    moveq r2, #1
22 ; CHECK-MVE-NEXT:    cmp r2, #0
23 ; CHECK-MVE-NEXT:    it ne
24 ; CHECK-MVE-NEXT:    movne r2, #1
25 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
26 ; CHECK-MVE-NEXT:    mov.w r3, #0
27 ; CHECK-MVE-NEXT:    vcmp.f32 s2, #0
28 ; CHECK-MVE-NEXT:    it eq
29 ; CHECK-MVE-NEXT:    moveq r3, #1
30 ; CHECK-MVE-NEXT:    cmp r3, #0
31 ; CHECK-MVE-NEXT:    it ne
32 ; CHECK-MVE-NEXT:    movne r3, #1
33 ; CHECK-MVE-NEXT:    movs r0, #0
34 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
35 ; CHECK-MVE-NEXT:    it eq
36 ; CHECK-MVE-NEXT:    moveq r0, #1
37 ; CHECK-MVE-NEXT:    cmp r0, #0
38 ; CHECK-MVE-NEXT:    it ne
39 ; CHECK-MVE-NEXT:    movne r0, #1
40 ; CHECK-MVE-NEXT:    cmp r3, #0
41 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
42 ; CHECK-MVE-NEXT:    cmp r0, #0
43 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
44 ; CHECK-MVE-NEXT:    cmp r1, #0
45 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
46 ; CHECK-MVE-NEXT:    cmp r2, #0
47 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
48 ; CHECK-MVE-NEXT:    bx lr
50 ; CHECK-MVEFP-LABEL: vcmp_oeq_v4f32:
51 ; CHECK-MVEFP:       @ %bb.0: @ %entry
52 ; CHECK-MVEFP-NEXT:    vcmp.f32 eq, q0, zr
53 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
54 ; CHECK-MVEFP-NEXT:    bx lr
55 entry:
56   %c = fcmp oeq <4 x float> %src, zeroinitializer
57   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
58   ret <4 x float> %s
61 define arm_aapcs_vfpcc <4 x float> @vcmp_one_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
62 ; CHECK-MVE-LABEL: vcmp_one_v4f32:
63 ; CHECK-MVE:       @ %bb.0: @ %entry
64 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
65 ; CHECK-MVE-NEXT:    movs r1, #0
66 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
67 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
68 ; CHECK-MVE-NEXT:    it mi
69 ; CHECK-MVE-NEXT:    movmi r1, #1
70 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
71 ; CHECK-MVE-NEXT:    it gt
72 ; CHECK-MVE-NEXT:    movgt r1, #1
73 ; CHECK-MVE-NEXT:    cmp r1, #0
74 ; CHECK-MVE-NEXT:    vcmp.f32 s0, #0
75 ; CHECK-MVE-NEXT:    mov.w r2, #0
76 ; CHECK-MVE-NEXT:    it ne
77 ; CHECK-MVE-NEXT:    movne r1, #1
78 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
79 ; CHECK-MVE-NEXT:    it mi
80 ; CHECK-MVE-NEXT:    movmi r2, #1
81 ; CHECK-MVE-NEXT:    vcmp.f32 s3, #0
82 ; CHECK-MVE-NEXT:    it gt
83 ; CHECK-MVE-NEXT:    movgt r2, #1
84 ; CHECK-MVE-NEXT:    cmp r2, #0
85 ; CHECK-MVE-NEXT:    mov.w r3, #0
86 ; CHECK-MVE-NEXT:    it ne
87 ; CHECK-MVE-NEXT:    movne r2, #1
88 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
89 ; CHECK-MVE-NEXT:    it mi
90 ; CHECK-MVE-NEXT:    movmi r3, #1
91 ; CHECK-MVE-NEXT:    it gt
92 ; CHECK-MVE-NEXT:    movgt r3, #1
93 ; CHECK-MVE-NEXT:    cmp r3, #0
94 ; CHECK-MVE-NEXT:    mov.w r0, #0
95 ; CHECK-MVE-NEXT:    vcmp.f32 s2, #0
96 ; CHECK-MVE-NEXT:    it ne
97 ; CHECK-MVE-NEXT:    movne r3, #1
98 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
99 ; CHECK-MVE-NEXT:    it mi
100 ; CHECK-MVE-NEXT:    movmi r0, #1
101 ; CHECK-MVE-NEXT:    it gt
102 ; CHECK-MVE-NEXT:    movgt r0, #1
103 ; CHECK-MVE-NEXT:    cmp r0, #0
104 ; CHECK-MVE-NEXT:    it ne
105 ; CHECK-MVE-NEXT:    movne r0, #1
106 ; CHECK-MVE-NEXT:    cmp r3, #0
107 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
108 ; CHECK-MVE-NEXT:    cmp r0, #0
109 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
110 ; CHECK-MVE-NEXT:    cmp r1, #0
111 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
112 ; CHECK-MVE-NEXT:    cmp r2, #0
113 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
114 ; CHECK-MVE-NEXT:    bx lr
116 ; CHECK-MVEFP-LABEL: vcmp_one_v4f32:
117 ; CHECK-MVEFP:       @ %bb.0: @ %entry
118 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
119 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q3, q0
120 ; CHECK-MVEFP-NEXT:    vpst
121 ; CHECK-MVEFP-NEXT:    vcmpt.f32 le, q0, q3
122 ; CHECK-MVEFP-NEXT:    vpnot
123 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
124 ; CHECK-MVEFP-NEXT:    bx lr
125 entry:
126   %c = fcmp one <4 x float> %src, zeroinitializer
127   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
128   ret <4 x float> %s
131 define arm_aapcs_vfpcc <4 x float> @vcmp_ogt_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
132 ; CHECK-MVE-LABEL: vcmp_ogt_v4f32:
133 ; CHECK-MVE:       @ %bb.0: @ %entry
134 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
135 ; CHECK-MVE-NEXT:    movs r1, #0
136 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
137 ; CHECK-MVE-NEXT:    it gt
138 ; CHECK-MVE-NEXT:    movgt r1, #1
139 ; CHECK-MVE-NEXT:    cmp r1, #0
140 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
141 ; CHECK-MVE-NEXT:    it ne
142 ; CHECK-MVE-NEXT:    movne r1, #1
143 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
144 ; CHECK-MVE-NEXT:    mov.w r2, #0
145 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
146 ; CHECK-MVE-NEXT:    it gt
147 ; CHECK-MVE-NEXT:    movgt r2, #1
148 ; CHECK-MVE-NEXT:    cmp r2, #0
149 ; CHECK-MVE-NEXT:    it ne
150 ; CHECK-MVE-NEXT:    movne r2, #1
151 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
152 ; CHECK-MVE-NEXT:    mov.w r3, #0
153 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
154 ; CHECK-MVE-NEXT:    it gt
155 ; CHECK-MVE-NEXT:    movgt r3, #1
156 ; CHECK-MVE-NEXT:    cmp r3, #0
157 ; CHECK-MVE-NEXT:    it ne
158 ; CHECK-MVE-NEXT:    movne r3, #1
159 ; CHECK-MVE-NEXT:    movs r0, #0
160 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
161 ; CHECK-MVE-NEXT:    it gt
162 ; CHECK-MVE-NEXT:    movgt r0, #1
163 ; CHECK-MVE-NEXT:    cmp r0, #0
164 ; CHECK-MVE-NEXT:    it ne
165 ; CHECK-MVE-NEXT:    movne r0, #1
166 ; CHECK-MVE-NEXT:    cmp r3, #0
167 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
168 ; CHECK-MVE-NEXT:    cmp r0, #0
169 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
170 ; CHECK-MVE-NEXT:    cmp r1, #0
171 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
172 ; CHECK-MVE-NEXT:    cmp r2, #0
173 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
174 ; CHECK-MVE-NEXT:    bx lr
176 ; CHECK-MVEFP-LABEL: vcmp_ogt_v4f32:
177 ; CHECK-MVEFP:       @ %bb.0: @ %entry
178 ; CHECK-MVEFP-NEXT:    vcmp.f32 gt, q0, zr
179 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
180 ; CHECK-MVEFP-NEXT:    bx lr
181 entry:
182   %c = fcmp ogt <4 x float> %src, zeroinitializer
183   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
184   ret <4 x float> %s
187 define arm_aapcs_vfpcc <4 x float> @vcmp_oge_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
188 ; CHECK-MVE-LABEL: vcmp_oge_v4f32:
189 ; CHECK-MVE:       @ %bb.0: @ %entry
190 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
191 ; CHECK-MVE-NEXT:    movs r1, #0
192 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
193 ; CHECK-MVE-NEXT:    it ge
194 ; CHECK-MVE-NEXT:    movge r1, #1
195 ; CHECK-MVE-NEXT:    cmp r1, #0
196 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
197 ; CHECK-MVE-NEXT:    it ne
198 ; CHECK-MVE-NEXT:    movne r1, #1
199 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
200 ; CHECK-MVE-NEXT:    mov.w r2, #0
201 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
202 ; CHECK-MVE-NEXT:    it ge
203 ; CHECK-MVE-NEXT:    movge r2, #1
204 ; CHECK-MVE-NEXT:    cmp r2, #0
205 ; CHECK-MVE-NEXT:    it ne
206 ; CHECK-MVE-NEXT:    movne r2, #1
207 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
208 ; CHECK-MVE-NEXT:    mov.w r3, #0
209 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
210 ; CHECK-MVE-NEXT:    it ge
211 ; CHECK-MVE-NEXT:    movge r3, #1
212 ; CHECK-MVE-NEXT:    cmp r3, #0
213 ; CHECK-MVE-NEXT:    it ne
214 ; CHECK-MVE-NEXT:    movne r3, #1
215 ; CHECK-MVE-NEXT:    movs r0, #0
216 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
217 ; CHECK-MVE-NEXT:    it ge
218 ; CHECK-MVE-NEXT:    movge r0, #1
219 ; CHECK-MVE-NEXT:    cmp r0, #0
220 ; CHECK-MVE-NEXT:    it ne
221 ; CHECK-MVE-NEXT:    movne r0, #1
222 ; CHECK-MVE-NEXT:    cmp r3, #0
223 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
224 ; CHECK-MVE-NEXT:    cmp r0, #0
225 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
226 ; CHECK-MVE-NEXT:    cmp r1, #0
227 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
228 ; CHECK-MVE-NEXT:    cmp r2, #0
229 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
230 ; CHECK-MVE-NEXT:    bx lr
232 ; CHECK-MVEFP-LABEL: vcmp_oge_v4f32:
233 ; CHECK-MVEFP:       @ %bb.0: @ %entry
234 ; CHECK-MVEFP-NEXT:    vcmp.f32 ge, q0, zr
235 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
236 ; CHECK-MVEFP-NEXT:    bx lr
237 entry:
238   %c = fcmp oge <4 x float> %src, zeroinitializer
239   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
240   ret <4 x float> %s
243 define arm_aapcs_vfpcc <4 x float> @vcmp_olt_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
244 ; CHECK-MVE-LABEL: vcmp_olt_v4f32:
245 ; CHECK-MVE:       @ %bb.0: @ %entry
246 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
247 ; CHECK-MVE-NEXT:    movs r1, #0
248 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
249 ; CHECK-MVE-NEXT:    it mi
250 ; CHECK-MVE-NEXT:    movmi r1, #1
251 ; CHECK-MVE-NEXT:    cmp r1, #0
252 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
253 ; CHECK-MVE-NEXT:    it ne
254 ; CHECK-MVE-NEXT:    movne r1, #1
255 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
256 ; CHECK-MVE-NEXT:    mov.w r2, #0
257 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
258 ; CHECK-MVE-NEXT:    it mi
259 ; CHECK-MVE-NEXT:    movmi r2, #1
260 ; CHECK-MVE-NEXT:    cmp r2, #0
261 ; CHECK-MVE-NEXT:    it ne
262 ; CHECK-MVE-NEXT:    movne r2, #1
263 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
264 ; CHECK-MVE-NEXT:    mov.w r3, #0
265 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
266 ; CHECK-MVE-NEXT:    it mi
267 ; CHECK-MVE-NEXT:    movmi r3, #1
268 ; CHECK-MVE-NEXT:    cmp r3, #0
269 ; CHECK-MVE-NEXT:    it ne
270 ; CHECK-MVE-NEXT:    movne r3, #1
271 ; CHECK-MVE-NEXT:    movs r0, #0
272 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
273 ; CHECK-MVE-NEXT:    it mi
274 ; CHECK-MVE-NEXT:    movmi r0, #1
275 ; CHECK-MVE-NEXT:    cmp r0, #0
276 ; CHECK-MVE-NEXT:    it ne
277 ; CHECK-MVE-NEXT:    movne r0, #1
278 ; CHECK-MVE-NEXT:    cmp r3, #0
279 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
280 ; CHECK-MVE-NEXT:    cmp r0, #0
281 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
282 ; CHECK-MVE-NEXT:    cmp r1, #0
283 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
284 ; CHECK-MVE-NEXT:    cmp r2, #0
285 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
286 ; CHECK-MVE-NEXT:    bx lr
288 ; CHECK-MVEFP-LABEL: vcmp_olt_v4f32:
289 ; CHECK-MVEFP:       @ %bb.0: @ %entry
290 ; CHECK-MVEFP-NEXT:    vcmp.f32 lt, q0, zr
291 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
292 ; CHECK-MVEFP-NEXT:    bx lr
293 entry:
294   %c = fcmp olt <4 x float> %src, zeroinitializer
295   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
296   ret <4 x float> %s
299 define arm_aapcs_vfpcc <4 x float> @vcmp_ole_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
300 ; CHECK-MVE-LABEL: vcmp_ole_v4f32:
301 ; CHECK-MVE:       @ %bb.0: @ %entry
302 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
303 ; CHECK-MVE-NEXT:    movs r1, #0
304 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
305 ; CHECK-MVE-NEXT:    it ls
306 ; CHECK-MVE-NEXT:    movls r1, #1
307 ; CHECK-MVE-NEXT:    cmp r1, #0
308 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
309 ; CHECK-MVE-NEXT:    it ne
310 ; CHECK-MVE-NEXT:    movne r1, #1
311 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
312 ; CHECK-MVE-NEXT:    mov.w r2, #0
313 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
314 ; CHECK-MVE-NEXT:    it ls
315 ; CHECK-MVE-NEXT:    movls r2, #1
316 ; CHECK-MVE-NEXT:    cmp r2, #0
317 ; CHECK-MVE-NEXT:    it ne
318 ; CHECK-MVE-NEXT:    movne r2, #1
319 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
320 ; CHECK-MVE-NEXT:    mov.w r3, #0
321 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
322 ; CHECK-MVE-NEXT:    it ls
323 ; CHECK-MVE-NEXT:    movls r3, #1
324 ; CHECK-MVE-NEXT:    cmp r3, #0
325 ; CHECK-MVE-NEXT:    it ne
326 ; CHECK-MVE-NEXT:    movne r3, #1
327 ; CHECK-MVE-NEXT:    movs r0, #0
328 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
329 ; CHECK-MVE-NEXT:    it ls
330 ; CHECK-MVE-NEXT:    movls r0, #1
331 ; CHECK-MVE-NEXT:    cmp r0, #0
332 ; CHECK-MVE-NEXT:    it ne
333 ; CHECK-MVE-NEXT:    movne r0, #1
334 ; CHECK-MVE-NEXT:    cmp r3, #0
335 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
336 ; CHECK-MVE-NEXT:    cmp r0, #0
337 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
338 ; CHECK-MVE-NEXT:    cmp r1, #0
339 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
340 ; CHECK-MVE-NEXT:    cmp r2, #0
341 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
342 ; CHECK-MVE-NEXT:    bx lr
344 ; CHECK-MVEFP-LABEL: vcmp_ole_v4f32:
345 ; CHECK-MVEFP:       @ %bb.0: @ %entry
346 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q0, zr
347 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
348 ; CHECK-MVEFP-NEXT:    bx lr
349 entry:
350   %c = fcmp ole <4 x float> %src, zeroinitializer
351   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
352   ret <4 x float> %s
355 define arm_aapcs_vfpcc <4 x float> @vcmp_ueq_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
356 ; CHECK-MVE-LABEL: vcmp_ueq_v4f32:
357 ; CHECK-MVE:       @ %bb.0: @ %entry
358 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
359 ; CHECK-MVE-NEXT:    movs r1, #0
360 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
361 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
362 ; CHECK-MVE-NEXT:    it eq
363 ; CHECK-MVE-NEXT:    moveq r1, #1
364 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
365 ; CHECK-MVE-NEXT:    it vs
366 ; CHECK-MVE-NEXT:    movvs r1, #1
367 ; CHECK-MVE-NEXT:    cmp r1, #0
368 ; CHECK-MVE-NEXT:    vcmp.f32 s0, #0
369 ; CHECK-MVE-NEXT:    mov.w r2, #0
370 ; CHECK-MVE-NEXT:    it ne
371 ; CHECK-MVE-NEXT:    movne r1, #1
372 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
373 ; CHECK-MVE-NEXT:    it eq
374 ; CHECK-MVE-NEXT:    moveq r2, #1
375 ; CHECK-MVE-NEXT:    vcmp.f32 s3, #0
376 ; CHECK-MVE-NEXT:    it vs
377 ; CHECK-MVE-NEXT:    movvs r2, #1
378 ; CHECK-MVE-NEXT:    cmp r2, #0
379 ; CHECK-MVE-NEXT:    mov.w r3, #0
380 ; CHECK-MVE-NEXT:    it ne
381 ; CHECK-MVE-NEXT:    movne r2, #1
382 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
383 ; CHECK-MVE-NEXT:    it eq
384 ; CHECK-MVE-NEXT:    moveq r3, #1
385 ; CHECK-MVE-NEXT:    it vs
386 ; CHECK-MVE-NEXT:    movvs r3, #1
387 ; CHECK-MVE-NEXT:    cmp r3, #0
388 ; CHECK-MVE-NEXT:    mov.w r0, #0
389 ; CHECK-MVE-NEXT:    vcmp.f32 s2, #0
390 ; CHECK-MVE-NEXT:    it ne
391 ; CHECK-MVE-NEXT:    movne r3, #1
392 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
393 ; CHECK-MVE-NEXT:    it eq
394 ; CHECK-MVE-NEXT:    moveq r0, #1
395 ; CHECK-MVE-NEXT:    it vs
396 ; CHECK-MVE-NEXT:    movvs r0, #1
397 ; CHECK-MVE-NEXT:    cmp r0, #0
398 ; CHECK-MVE-NEXT:    it ne
399 ; CHECK-MVE-NEXT:    movne r0, #1
400 ; CHECK-MVE-NEXT:    cmp r3, #0
401 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
402 ; CHECK-MVE-NEXT:    cmp r0, #0
403 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
404 ; CHECK-MVE-NEXT:    cmp r1, #0
405 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
406 ; CHECK-MVE-NEXT:    cmp r2, #0
407 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
408 ; CHECK-MVE-NEXT:    bx lr
410 ; CHECK-MVEFP-LABEL: vcmp_ueq_v4f32:
411 ; CHECK-MVEFP:       @ %bb.0: @ %entry
412 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
413 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q3, q0
414 ; CHECK-MVEFP-NEXT:    vpst
415 ; CHECK-MVEFP-NEXT:    vcmpt.f32 le, q0, q3
416 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
417 ; CHECK-MVEFP-NEXT:    bx lr
418 entry:
419   %c = fcmp ueq <4 x float> %src, zeroinitializer
420   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
421   ret <4 x float> %s
424 define arm_aapcs_vfpcc <4 x float> @vcmp_une_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
425 ; CHECK-MVE-LABEL: vcmp_une_v4f32:
426 ; CHECK-MVE:       @ %bb.0: @ %entry
427 ; CHECK-MVE-NEXT:    vcmp.f32 s1, #0
428 ; CHECK-MVE-NEXT:    movs r1, #0
429 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
430 ; CHECK-MVE-NEXT:    it ne
431 ; CHECK-MVE-NEXT:    movne r1, #1
432 ; CHECK-MVE-NEXT:    cmp r1, #0
433 ; CHECK-MVE-NEXT:    vcmp.f32 s0, #0
434 ; CHECK-MVE-NEXT:    it ne
435 ; CHECK-MVE-NEXT:    movne r1, #1
436 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
437 ; CHECK-MVE-NEXT:    mov.w r2, #0
438 ; CHECK-MVE-NEXT:    vcmp.f32 s3, #0
439 ; CHECK-MVE-NEXT:    it ne
440 ; CHECK-MVE-NEXT:    movne r2, #1
441 ; CHECK-MVE-NEXT:    cmp r2, #0
442 ; CHECK-MVE-NEXT:    it ne
443 ; CHECK-MVE-NEXT:    movne r2, #1
444 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
445 ; CHECK-MVE-NEXT:    mov.w r3, #0
446 ; CHECK-MVE-NEXT:    vcmp.f32 s2, #0
447 ; CHECK-MVE-NEXT:    it ne
448 ; CHECK-MVE-NEXT:    movne r3, #1
449 ; CHECK-MVE-NEXT:    cmp r3, #0
450 ; CHECK-MVE-NEXT:    it ne
451 ; CHECK-MVE-NEXT:    movne r3, #1
452 ; CHECK-MVE-NEXT:    movs r0, #0
453 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
454 ; CHECK-MVE-NEXT:    it ne
455 ; CHECK-MVE-NEXT:    movne r0, #1
456 ; CHECK-MVE-NEXT:    cmp r0, #0
457 ; CHECK-MVE-NEXT:    it ne
458 ; CHECK-MVE-NEXT:    movne r0, #1
459 ; CHECK-MVE-NEXT:    cmp r3, #0
460 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
461 ; CHECK-MVE-NEXT:    cmp r0, #0
462 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
463 ; CHECK-MVE-NEXT:    cmp r1, #0
464 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
465 ; CHECK-MVE-NEXT:    cmp r2, #0
466 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
467 ; CHECK-MVE-NEXT:    bx lr
469 ; CHECK-MVEFP-LABEL: vcmp_une_v4f32:
470 ; CHECK-MVEFP:       @ %bb.0: @ %entry
471 ; CHECK-MVEFP-NEXT:    vcmp.f32 ne, q0, zr
472 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
473 ; CHECK-MVEFP-NEXT:    bx lr
474 entry:
475   %c = fcmp une <4 x float> %src, zeroinitializer
476   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
477   ret <4 x float> %s
480 define arm_aapcs_vfpcc <4 x float> @vcmp_ugt_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
481 ; CHECK-MVE-LABEL: vcmp_ugt_v4f32:
482 ; CHECK-MVE:       @ %bb.0: @ %entry
483 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
484 ; CHECK-MVE-NEXT:    movs r1, #0
485 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
486 ; CHECK-MVE-NEXT:    it hi
487 ; CHECK-MVE-NEXT:    movhi r1, #1
488 ; CHECK-MVE-NEXT:    cmp r1, #0
489 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
490 ; CHECK-MVE-NEXT:    it ne
491 ; CHECK-MVE-NEXT:    movne r1, #1
492 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
493 ; CHECK-MVE-NEXT:    mov.w r2, #0
494 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
495 ; CHECK-MVE-NEXT:    it hi
496 ; CHECK-MVE-NEXT:    movhi r2, #1
497 ; CHECK-MVE-NEXT:    cmp r2, #0
498 ; CHECK-MVE-NEXT:    it ne
499 ; CHECK-MVE-NEXT:    movne r2, #1
500 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
501 ; CHECK-MVE-NEXT:    mov.w r3, #0
502 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
503 ; CHECK-MVE-NEXT:    it hi
504 ; CHECK-MVE-NEXT:    movhi r3, #1
505 ; CHECK-MVE-NEXT:    cmp r3, #0
506 ; CHECK-MVE-NEXT:    it ne
507 ; CHECK-MVE-NEXT:    movne r3, #1
508 ; CHECK-MVE-NEXT:    movs r0, #0
509 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
510 ; CHECK-MVE-NEXT:    it hi
511 ; CHECK-MVE-NEXT:    movhi r0, #1
512 ; CHECK-MVE-NEXT:    cmp r0, #0
513 ; CHECK-MVE-NEXT:    it ne
514 ; CHECK-MVE-NEXT:    movne r0, #1
515 ; CHECK-MVE-NEXT:    cmp r3, #0
516 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
517 ; CHECK-MVE-NEXT:    cmp r0, #0
518 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
519 ; CHECK-MVE-NEXT:    cmp r1, #0
520 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
521 ; CHECK-MVE-NEXT:    cmp r2, #0
522 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
523 ; CHECK-MVE-NEXT:    bx lr
525 ; CHECK-MVEFP-LABEL: vcmp_ugt_v4f32:
526 ; CHECK-MVEFP:       @ %bb.0: @ %entry
527 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q0, zr
528 ; CHECK-MVEFP-NEXT:    vpnot
529 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
530 ; CHECK-MVEFP-NEXT:    bx lr
531 entry:
532   %c = fcmp ugt <4 x float> %src, zeroinitializer
533   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
534   ret <4 x float> %s
537 define arm_aapcs_vfpcc <4 x float> @vcmp_uge_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
538 ; CHECK-MVE-LABEL: vcmp_uge_v4f32:
539 ; CHECK-MVE:       @ %bb.0: @ %entry
540 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
541 ; CHECK-MVE-NEXT:    movs r1, #0
542 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
543 ; CHECK-MVE-NEXT:    it pl
544 ; CHECK-MVE-NEXT:    movpl r1, #1
545 ; CHECK-MVE-NEXT:    cmp r1, #0
546 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
547 ; CHECK-MVE-NEXT:    it ne
548 ; CHECK-MVE-NEXT:    movne r1, #1
549 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
550 ; CHECK-MVE-NEXT:    mov.w r2, #0
551 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
552 ; CHECK-MVE-NEXT:    it pl
553 ; CHECK-MVE-NEXT:    movpl r2, #1
554 ; CHECK-MVE-NEXT:    cmp r2, #0
555 ; CHECK-MVE-NEXT:    it ne
556 ; CHECK-MVE-NEXT:    movne r2, #1
557 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
558 ; CHECK-MVE-NEXT:    mov.w r3, #0
559 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
560 ; CHECK-MVE-NEXT:    it pl
561 ; CHECK-MVE-NEXT:    movpl r3, #1
562 ; CHECK-MVE-NEXT:    cmp r3, #0
563 ; CHECK-MVE-NEXT:    it ne
564 ; CHECK-MVE-NEXT:    movne r3, #1
565 ; CHECK-MVE-NEXT:    movs r0, #0
566 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
567 ; CHECK-MVE-NEXT:    it pl
568 ; CHECK-MVE-NEXT:    movpl r0, #1
569 ; CHECK-MVE-NEXT:    cmp r0, #0
570 ; CHECK-MVE-NEXT:    it ne
571 ; CHECK-MVE-NEXT:    movne r0, #1
572 ; CHECK-MVE-NEXT:    cmp r3, #0
573 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
574 ; CHECK-MVE-NEXT:    cmp r0, #0
575 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
576 ; CHECK-MVE-NEXT:    cmp r1, #0
577 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
578 ; CHECK-MVE-NEXT:    cmp r2, #0
579 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
580 ; CHECK-MVE-NEXT:    bx lr
582 ; CHECK-MVEFP-LABEL: vcmp_uge_v4f32:
583 ; CHECK-MVEFP:       @ %bb.0: @ %entry
584 ; CHECK-MVEFP-NEXT:    vcmp.f32 lt, q0, zr
585 ; CHECK-MVEFP-NEXT:    vpnot
586 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
587 ; CHECK-MVEFP-NEXT:    bx lr
588 entry:
589   %c = fcmp uge <4 x float> %src, zeroinitializer
590   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
591   ret <4 x float> %s
594 define arm_aapcs_vfpcc <4 x float> @vcmp_ult_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
595 ; CHECK-MVE-LABEL: vcmp_ult_v4f32:
596 ; CHECK-MVE:       @ %bb.0: @ %entry
597 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
598 ; CHECK-MVE-NEXT:    movs r1, #0
599 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
600 ; CHECK-MVE-NEXT:    it lt
601 ; CHECK-MVE-NEXT:    movlt r1, #1
602 ; CHECK-MVE-NEXT:    cmp r1, #0
603 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
604 ; CHECK-MVE-NEXT:    it ne
605 ; CHECK-MVE-NEXT:    movne r1, #1
606 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
607 ; CHECK-MVE-NEXT:    mov.w r2, #0
608 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
609 ; CHECK-MVE-NEXT:    it lt
610 ; CHECK-MVE-NEXT:    movlt r2, #1
611 ; CHECK-MVE-NEXT:    cmp r2, #0
612 ; CHECK-MVE-NEXT:    it ne
613 ; CHECK-MVE-NEXT:    movne r2, #1
614 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
615 ; CHECK-MVE-NEXT:    mov.w r3, #0
616 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
617 ; CHECK-MVE-NEXT:    it lt
618 ; CHECK-MVE-NEXT:    movlt r3, #1
619 ; CHECK-MVE-NEXT:    cmp r3, #0
620 ; CHECK-MVE-NEXT:    it ne
621 ; CHECK-MVE-NEXT:    movne r3, #1
622 ; CHECK-MVE-NEXT:    movs r0, #0
623 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
624 ; CHECK-MVE-NEXT:    it lt
625 ; CHECK-MVE-NEXT:    movlt r0, #1
626 ; CHECK-MVE-NEXT:    cmp r0, #0
627 ; CHECK-MVE-NEXT:    it ne
628 ; CHECK-MVE-NEXT:    movne r0, #1
629 ; CHECK-MVE-NEXT:    cmp r3, #0
630 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
631 ; CHECK-MVE-NEXT:    cmp r0, #0
632 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
633 ; CHECK-MVE-NEXT:    cmp r1, #0
634 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
635 ; CHECK-MVE-NEXT:    cmp r2, #0
636 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
637 ; CHECK-MVE-NEXT:    bx lr
639 ; CHECK-MVEFP-LABEL: vcmp_ult_v4f32:
640 ; CHECK-MVEFP:       @ %bb.0: @ %entry
641 ; CHECK-MVEFP-NEXT:    vcmp.f32 ge, q0, zr
642 ; CHECK-MVEFP-NEXT:    vpnot
643 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
644 ; CHECK-MVEFP-NEXT:    bx lr
645 entry:
646   %c = fcmp ult <4 x float> %src, zeroinitializer
647   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
648   ret <4 x float> %s
651 define arm_aapcs_vfpcc <4 x float> @vcmp_ule_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
652 ; CHECK-MVE-LABEL: vcmp_ule_v4f32:
653 ; CHECK-MVE:       @ %bb.0: @ %entry
654 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, #0
655 ; CHECK-MVE-NEXT:    movs r1, #0
656 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
657 ; CHECK-MVE-NEXT:    it le
658 ; CHECK-MVE-NEXT:    movle r1, #1
659 ; CHECK-MVE-NEXT:    cmp r1, #0
660 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, #0
661 ; CHECK-MVE-NEXT:    it ne
662 ; CHECK-MVE-NEXT:    movne r1, #1
663 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
664 ; CHECK-MVE-NEXT:    mov.w r2, #0
665 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, #0
666 ; CHECK-MVE-NEXT:    it le
667 ; CHECK-MVE-NEXT:    movle r2, #1
668 ; CHECK-MVE-NEXT:    cmp r2, #0
669 ; CHECK-MVE-NEXT:    it ne
670 ; CHECK-MVE-NEXT:    movne r2, #1
671 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
672 ; CHECK-MVE-NEXT:    mov.w r3, #0
673 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, #0
674 ; CHECK-MVE-NEXT:    it le
675 ; CHECK-MVE-NEXT:    movle r3, #1
676 ; CHECK-MVE-NEXT:    cmp r3, #0
677 ; CHECK-MVE-NEXT:    it ne
678 ; CHECK-MVE-NEXT:    movne r3, #1
679 ; CHECK-MVE-NEXT:    movs r0, #0
680 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
681 ; CHECK-MVE-NEXT:    it le
682 ; CHECK-MVE-NEXT:    movle r0, #1
683 ; CHECK-MVE-NEXT:    cmp r0, #0
684 ; CHECK-MVE-NEXT:    it ne
685 ; CHECK-MVE-NEXT:    movne r0, #1
686 ; CHECK-MVE-NEXT:    cmp r3, #0
687 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
688 ; CHECK-MVE-NEXT:    cmp r0, #0
689 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
690 ; CHECK-MVE-NEXT:    cmp r1, #0
691 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
692 ; CHECK-MVE-NEXT:    cmp r2, #0
693 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
694 ; CHECK-MVE-NEXT:    bx lr
696 ; CHECK-MVEFP-LABEL: vcmp_ule_v4f32:
697 ; CHECK-MVEFP:       @ %bb.0: @ %entry
698 ; CHECK-MVEFP-NEXT:    vcmp.f32 gt, q0, zr
699 ; CHECK-MVEFP-NEXT:    vpnot
700 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
701 ; CHECK-MVEFP-NEXT:    bx lr
702 entry:
703   %c = fcmp ule <4 x float> %src, zeroinitializer
704   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
705   ret <4 x float> %s
708 define arm_aapcs_vfpcc <4 x float> @vcmp_ord_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
709 ; CHECK-MVE-LABEL: vcmp_ord_v4f32:
710 ; CHECK-MVE:       @ %bb.0: @ %entry
711 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, s1
712 ; CHECK-MVE-NEXT:    movs r1, #0
713 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
714 ; CHECK-MVE-NEXT:    it vc
715 ; CHECK-MVE-NEXT:    movvc r1, #1
716 ; CHECK-MVE-NEXT:    cmp r1, #0
717 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, s0
718 ; CHECK-MVE-NEXT:    it ne
719 ; CHECK-MVE-NEXT:    movne r1, #1
720 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
721 ; CHECK-MVE-NEXT:    mov.w r2, #0
722 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, s3
723 ; CHECK-MVE-NEXT:    it vc
724 ; CHECK-MVE-NEXT:    movvc r2, #1
725 ; CHECK-MVE-NEXT:    cmp r2, #0
726 ; CHECK-MVE-NEXT:    it ne
727 ; CHECK-MVE-NEXT:    movne r2, #1
728 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
729 ; CHECK-MVE-NEXT:    mov.w r3, #0
730 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, s2
731 ; CHECK-MVE-NEXT:    it vc
732 ; CHECK-MVE-NEXT:    movvc r3, #1
733 ; CHECK-MVE-NEXT:    cmp r3, #0
734 ; CHECK-MVE-NEXT:    it ne
735 ; CHECK-MVE-NEXT:    movne r3, #1
736 ; CHECK-MVE-NEXT:    movs r0, #0
737 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
738 ; CHECK-MVE-NEXT:    it vc
739 ; CHECK-MVE-NEXT:    movvc r0, #1
740 ; CHECK-MVE-NEXT:    cmp r0, #0
741 ; CHECK-MVE-NEXT:    it ne
742 ; CHECK-MVE-NEXT:    movne r0, #1
743 ; CHECK-MVE-NEXT:    cmp r3, #0
744 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
745 ; CHECK-MVE-NEXT:    cmp r0, #0
746 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
747 ; CHECK-MVE-NEXT:    cmp r1, #0
748 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
749 ; CHECK-MVE-NEXT:    cmp r2, #0
750 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
751 ; CHECK-MVE-NEXT:    bx lr
753 ; CHECK-MVEFP-LABEL: vcmp_ord_v4f32:
754 ; CHECK-MVEFP:       @ %bb.0: @ %entry
755 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
756 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q3, q0
757 ; CHECK-MVEFP-NEXT:    vpst
758 ; CHECK-MVEFP-NEXT:    vcmpt.f32 lt, q0, q3
759 ; CHECK-MVEFP-NEXT:    vpnot
760 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
761 ; CHECK-MVEFP-NEXT:    bx lr
762 entry:
763   %c = fcmp ord <4 x float> %src, zeroinitializer
764   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
765   ret <4 x float> %s
768 define arm_aapcs_vfpcc <4 x float> @vcmp_uno_v4f32(<4 x float> %src, <4 x float> %a, <4 x float> %b) {
769 ; CHECK-MVE-LABEL: vcmp_uno_v4f32:
770 ; CHECK-MVE:       @ %bb.0: @ %entry
771 ; CHECK-MVE-NEXT:    vcmpe.f32 s1, s1
772 ; CHECK-MVE-NEXT:    movs r1, #0
773 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
774 ; CHECK-MVE-NEXT:    it vs
775 ; CHECK-MVE-NEXT:    movvs r1, #1
776 ; CHECK-MVE-NEXT:    cmp r1, #0
777 ; CHECK-MVE-NEXT:    vcmpe.f32 s0, s0
778 ; CHECK-MVE-NEXT:    it ne
779 ; CHECK-MVE-NEXT:    movne r1, #1
780 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
781 ; CHECK-MVE-NEXT:    mov.w r2, #0
782 ; CHECK-MVE-NEXT:    vcmpe.f32 s3, s3
783 ; CHECK-MVE-NEXT:    it vs
784 ; CHECK-MVE-NEXT:    movvs r2, #1
785 ; CHECK-MVE-NEXT:    cmp r2, #0
786 ; CHECK-MVE-NEXT:    it ne
787 ; CHECK-MVE-NEXT:    movne r2, #1
788 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
789 ; CHECK-MVE-NEXT:    mov.w r3, #0
790 ; CHECK-MVE-NEXT:    vcmpe.f32 s2, s2
791 ; CHECK-MVE-NEXT:    it vs
792 ; CHECK-MVE-NEXT:    movvs r3, #1
793 ; CHECK-MVE-NEXT:    cmp r3, #0
794 ; CHECK-MVE-NEXT:    it ne
795 ; CHECK-MVE-NEXT:    movne r3, #1
796 ; CHECK-MVE-NEXT:    movs r0, #0
797 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
798 ; CHECK-MVE-NEXT:    it vs
799 ; CHECK-MVE-NEXT:    movvs r0, #1
800 ; CHECK-MVE-NEXT:    cmp r0, #0
801 ; CHECK-MVE-NEXT:    it ne
802 ; CHECK-MVE-NEXT:    movne r0, #1
803 ; CHECK-MVE-NEXT:    cmp r3, #0
804 ; CHECK-MVE-NEXT:    vseleq.f32 s3, s11, s7
805 ; CHECK-MVE-NEXT:    cmp r0, #0
806 ; CHECK-MVE-NEXT:    vseleq.f32 s2, s10, s6
807 ; CHECK-MVE-NEXT:    cmp r1, #0
808 ; CHECK-MVE-NEXT:    vseleq.f32 s1, s9, s5
809 ; CHECK-MVE-NEXT:    cmp r2, #0
810 ; CHECK-MVE-NEXT:    vseleq.f32 s0, s8, s4
811 ; CHECK-MVE-NEXT:    bx lr
813 ; CHECK-MVEFP-LABEL: vcmp_uno_v4f32:
814 ; CHECK-MVEFP:       @ %bb.0: @ %entry
815 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
816 ; CHECK-MVEFP-NEXT:    vcmp.f32 le, q3, q0
817 ; CHECK-MVEFP-NEXT:    vpst
818 ; CHECK-MVEFP-NEXT:    vcmpt.f32 lt, q0, q3
819 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
820 ; CHECK-MVEFP-NEXT:    bx lr
821 entry:
822   %c = fcmp uno <4 x float> %src, zeroinitializer
823   %s = select <4 x i1> %c, <4 x float> %a, <4 x float> %b
824   ret <4 x float> %s
829 define arm_aapcs_vfpcc <8 x half> @vcmp_oeq_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
830 ; CHECK-MVE-LABEL: vcmp_oeq_v8f16:
831 ; CHECK-MVE:       @ %bb.0: @ %entry
832 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
833 ; CHECK-MVE-NEXT:    vpush {d8, d9}
834 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
835 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
836 ; CHECK-MVE-NEXT:    vmov s12, r1
837 ; CHECK-MVE-NEXT:    movs r1, #0
838 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
839 ; CHECK-MVE-NEXT:    vmov s12, r2
840 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
841 ; CHECK-MVE-NEXT:    it eq
842 ; CHECK-MVE-NEXT:    moveq r1, #1
843 ; CHECK-MVE-NEXT:    cmp r1, #0
844 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
845 ; CHECK-MVE-NEXT:    it ne
846 ; CHECK-MVE-NEXT:    movne r1, #1
847 ; CHECK-MVE-NEXT:    vmov s14, r2
848 ; CHECK-MVE-NEXT:    cmp r1, #0
849 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
850 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
851 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
852 ; CHECK-MVE-NEXT:    vmov r1, s12
853 ; CHECK-MVE-NEXT:    movs r0, #0
854 ; CHECK-MVE-NEXT:    vmov s12, r2
855 ; CHECK-MVE-NEXT:    movs r2, #0
856 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
857 ; CHECK-MVE-NEXT:    vmov s12, r3
858 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
859 ; CHECK-MVE-NEXT:    it eq
860 ; CHECK-MVE-NEXT:    moveq r2, #1
861 ; CHECK-MVE-NEXT:    cmp r2, #0
862 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
863 ; CHECK-MVE-NEXT:    it ne
864 ; CHECK-MVE-NEXT:    movne r2, #1
865 ; CHECK-MVE-NEXT:    vmov s14, r3
866 ; CHECK-MVE-NEXT:    cmp r2, #0
867 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
868 ; CHECK-MVE-NEXT:    vmov r2, s12
869 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
870 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
871 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
872 ; CHECK-MVE-NEXT:    vmov s16, r1
873 ; CHECK-MVE-NEXT:    movs r1, #0
874 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
875 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
876 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
877 ; CHECK-MVE-NEXT:    it eq
878 ; CHECK-MVE-NEXT:    moveq r1, #1
879 ; CHECK-MVE-NEXT:    cmp r1, #0
880 ; CHECK-MVE-NEXT:    vmov s16, r2
881 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
882 ; CHECK-MVE-NEXT:    it ne
883 ; CHECK-MVE-NEXT:    movne r1, #1
884 ; CHECK-MVE-NEXT:    vmov s18, r2
885 ; CHECK-MVE-NEXT:    cmp r1, #0
886 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
887 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
888 ; CHECK-MVE-NEXT:    vmov r1, s16
889 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
890 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
891 ; CHECK-MVE-NEXT:    vmov s16, r1
892 ; CHECK-MVE-NEXT:    movs r1, #0
893 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
894 ; CHECK-MVE-NEXT:    vmov s16, r2
895 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
896 ; CHECK-MVE-NEXT:    it eq
897 ; CHECK-MVE-NEXT:    moveq r1, #1
898 ; CHECK-MVE-NEXT:    cmp r1, #0
899 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
900 ; CHECK-MVE-NEXT:    it ne
901 ; CHECK-MVE-NEXT:    movne r1, #1
902 ; CHECK-MVE-NEXT:    vmov s18, r2
903 ; CHECK-MVE-NEXT:    cmp r1, #0
904 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
905 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
906 ; CHECK-MVE-NEXT:    vmov r1, s16
907 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
908 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
909 ; CHECK-MVE-NEXT:    vmov s16, r1
910 ; CHECK-MVE-NEXT:    movs r1, #0
911 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
912 ; CHECK-MVE-NEXT:    vmov s16, r2
913 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
914 ; CHECK-MVE-NEXT:    it eq
915 ; CHECK-MVE-NEXT:    moveq r1, #1
916 ; CHECK-MVE-NEXT:    cmp r1, #0
917 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
918 ; CHECK-MVE-NEXT:    it ne
919 ; CHECK-MVE-NEXT:    movne r1, #1
920 ; CHECK-MVE-NEXT:    vmov s18, r2
921 ; CHECK-MVE-NEXT:    cmp r1, #0
922 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
923 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
924 ; CHECK-MVE-NEXT:    vmov r1, s16
925 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
926 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
927 ; CHECK-MVE-NEXT:    vmov s16, r1
928 ; CHECK-MVE-NEXT:    movs r1, #0
929 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
930 ; CHECK-MVE-NEXT:    vmov s16, r2
931 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
932 ; CHECK-MVE-NEXT:    it eq
933 ; CHECK-MVE-NEXT:    moveq r1, #1
934 ; CHECK-MVE-NEXT:    cmp r1, #0
935 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
936 ; CHECK-MVE-NEXT:    it ne
937 ; CHECK-MVE-NEXT:    movne r1, #1
938 ; CHECK-MVE-NEXT:    vmov s18, r2
939 ; CHECK-MVE-NEXT:    cmp r1, #0
940 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
941 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
942 ; CHECK-MVE-NEXT:    vmov r1, s16
943 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
944 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
945 ; CHECK-MVE-NEXT:    vmov s16, r1
946 ; CHECK-MVE-NEXT:    movs r1, #0
947 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
948 ; CHECK-MVE-NEXT:    vmov s16, r2
949 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
950 ; CHECK-MVE-NEXT:    it eq
951 ; CHECK-MVE-NEXT:    moveq r1, #1
952 ; CHECK-MVE-NEXT:    cmp r1, #0
953 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
954 ; CHECK-MVE-NEXT:    it ne
955 ; CHECK-MVE-NEXT:    movne r1, #1
956 ; CHECK-MVE-NEXT:    vmov s18, r2
957 ; CHECK-MVE-NEXT:    cmp r1, #0
958 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
959 ; CHECK-MVE-NEXT:    vmov r1, s16
960 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
961 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
962 ; CHECK-MVE-NEXT:    vmov s0, r1
963 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
964 ; CHECK-MVE-NEXT:    vcmp.f16 s0, #0
965 ; CHECK-MVE-NEXT:    vmov s0, r1
966 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
967 ; CHECK-MVE-NEXT:    it eq
968 ; CHECK-MVE-NEXT:    moveq r0, #1
969 ; CHECK-MVE-NEXT:    cmp r0, #0
970 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
971 ; CHECK-MVE-NEXT:    it ne
972 ; CHECK-MVE-NEXT:    movne r0, #1
973 ; CHECK-MVE-NEXT:    vmov s2, r1
974 ; CHECK-MVE-NEXT:    cmp r0, #0
975 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
976 ; CHECK-MVE-NEXT:    vmov r0, s0
977 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
978 ; CHECK-MVE-NEXT:    vmov q0, q3
979 ; CHECK-MVE-NEXT:    vpop {d8, d9}
980 ; CHECK-MVE-NEXT:    bx lr
982 ; CHECK-MVEFP-LABEL: vcmp_oeq_v8f16:
983 ; CHECK-MVEFP:       @ %bb.0: @ %entry
984 ; CHECK-MVEFP-NEXT:    vcmp.f16 eq, q0, zr
985 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
986 ; CHECK-MVEFP-NEXT:    bx lr
987 entry:
988   %c = fcmp oeq <8 x half> %src, zeroinitializer
989   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
990   ret <8 x half> %s
993 define arm_aapcs_vfpcc <8 x half> @vcmp_one_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
994 ; CHECK-MVE-LABEL: vcmp_one_v8f16:
995 ; CHECK-MVE:       @ %bb.0: @ %entry
996 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
997 ; CHECK-MVE-NEXT:    vpush {d8, d9}
998 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
999 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1000 ; CHECK-MVE-NEXT:    vmov s12, r1
1001 ; CHECK-MVE-NEXT:    movs r1, #0
1002 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
1003 ; CHECK-MVE-NEXT:    vmov s12, r2
1004 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1005 ; CHECK-MVE-NEXT:    it mi
1006 ; CHECK-MVE-NEXT:    movmi r1, #1
1007 ; CHECK-MVE-NEXT:    it gt
1008 ; CHECK-MVE-NEXT:    movgt r1, #1
1009 ; CHECK-MVE-NEXT:    cmp r1, #0
1010 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1011 ; CHECK-MVE-NEXT:    it ne
1012 ; CHECK-MVE-NEXT:    movne r1, #1
1013 ; CHECK-MVE-NEXT:    vmov s14, r2
1014 ; CHECK-MVE-NEXT:    cmp r1, #0
1015 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1016 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1017 ; CHECK-MVE-NEXT:    vmov r1, s12
1018 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1019 ; CHECK-MVE-NEXT:    vmov s12, r2
1020 ; CHECK-MVE-NEXT:    movs r2, #0
1021 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
1022 ; CHECK-MVE-NEXT:    vmov s12, r3
1023 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1024 ; CHECK-MVE-NEXT:    it mi
1025 ; CHECK-MVE-NEXT:    movmi r2, #1
1026 ; CHECK-MVE-NEXT:    it gt
1027 ; CHECK-MVE-NEXT:    movgt r2, #1
1028 ; CHECK-MVE-NEXT:    cmp r2, #0
1029 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1030 ; CHECK-MVE-NEXT:    it ne
1031 ; CHECK-MVE-NEXT:    movne r2, #1
1032 ; CHECK-MVE-NEXT:    vmov s14, r3
1033 ; CHECK-MVE-NEXT:    cmp r2, #0
1034 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1035 ; CHECK-MVE-NEXT:    movs r0, #0
1036 ; CHECK-MVE-NEXT:    vmov r2, s12
1037 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1038 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1039 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1040 ; CHECK-MVE-NEXT:    vmov s16, r1
1041 ; CHECK-MVE-NEXT:    movs r1, #0
1042 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1043 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1044 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1045 ; CHECK-MVE-NEXT:    it mi
1046 ; CHECK-MVE-NEXT:    movmi r1, #1
1047 ; CHECK-MVE-NEXT:    it gt
1048 ; CHECK-MVE-NEXT:    movgt r1, #1
1049 ; CHECK-MVE-NEXT:    cmp r1, #0
1050 ; CHECK-MVE-NEXT:    vmov s16, r2
1051 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1052 ; CHECK-MVE-NEXT:    it ne
1053 ; CHECK-MVE-NEXT:    movne r1, #1
1054 ; CHECK-MVE-NEXT:    vmov s18, r2
1055 ; CHECK-MVE-NEXT:    cmp r1, #0
1056 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1057 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1058 ; CHECK-MVE-NEXT:    vmov r1, s16
1059 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1060 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1061 ; CHECK-MVE-NEXT:    vmov s16, r1
1062 ; CHECK-MVE-NEXT:    movs r1, #0
1063 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1064 ; CHECK-MVE-NEXT:    vmov s16, r2
1065 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1066 ; CHECK-MVE-NEXT:    it mi
1067 ; CHECK-MVE-NEXT:    movmi r1, #1
1068 ; CHECK-MVE-NEXT:    it gt
1069 ; CHECK-MVE-NEXT:    movgt r1, #1
1070 ; CHECK-MVE-NEXT:    cmp r1, #0
1071 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1072 ; CHECK-MVE-NEXT:    it ne
1073 ; CHECK-MVE-NEXT:    movne r1, #1
1074 ; CHECK-MVE-NEXT:    vmov s18, r2
1075 ; CHECK-MVE-NEXT:    cmp r1, #0
1076 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1077 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1078 ; CHECK-MVE-NEXT:    vmov r1, s16
1079 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1080 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1081 ; CHECK-MVE-NEXT:    vmov s16, r1
1082 ; CHECK-MVE-NEXT:    movs r1, #0
1083 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1084 ; CHECK-MVE-NEXT:    vmov s16, r2
1085 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1086 ; CHECK-MVE-NEXT:    it mi
1087 ; CHECK-MVE-NEXT:    movmi r1, #1
1088 ; CHECK-MVE-NEXT:    it gt
1089 ; CHECK-MVE-NEXT:    movgt r1, #1
1090 ; CHECK-MVE-NEXT:    cmp r1, #0
1091 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1092 ; CHECK-MVE-NEXT:    it ne
1093 ; CHECK-MVE-NEXT:    movne r1, #1
1094 ; CHECK-MVE-NEXT:    vmov s18, r2
1095 ; CHECK-MVE-NEXT:    cmp r1, #0
1096 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1097 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1098 ; CHECK-MVE-NEXT:    vmov r1, s16
1099 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1100 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1101 ; CHECK-MVE-NEXT:    vmov s16, r1
1102 ; CHECK-MVE-NEXT:    movs r1, #0
1103 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1104 ; CHECK-MVE-NEXT:    vmov s16, r2
1105 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1106 ; CHECK-MVE-NEXT:    it mi
1107 ; CHECK-MVE-NEXT:    movmi r1, #1
1108 ; CHECK-MVE-NEXT:    it gt
1109 ; CHECK-MVE-NEXT:    movgt r1, #1
1110 ; CHECK-MVE-NEXT:    cmp r1, #0
1111 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1112 ; CHECK-MVE-NEXT:    it ne
1113 ; CHECK-MVE-NEXT:    movne r1, #1
1114 ; CHECK-MVE-NEXT:    vmov s18, r2
1115 ; CHECK-MVE-NEXT:    cmp r1, #0
1116 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1117 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1118 ; CHECK-MVE-NEXT:    vmov r1, s16
1119 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1120 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1121 ; CHECK-MVE-NEXT:    vmov s16, r1
1122 ; CHECK-MVE-NEXT:    movs r1, #0
1123 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1124 ; CHECK-MVE-NEXT:    vmov s16, r2
1125 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1126 ; CHECK-MVE-NEXT:    it mi
1127 ; CHECK-MVE-NEXT:    movmi r1, #1
1128 ; CHECK-MVE-NEXT:    it gt
1129 ; CHECK-MVE-NEXT:    movgt r1, #1
1130 ; CHECK-MVE-NEXT:    cmp r1, #0
1131 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1132 ; CHECK-MVE-NEXT:    it ne
1133 ; CHECK-MVE-NEXT:    movne r1, #1
1134 ; CHECK-MVE-NEXT:    vmov s18, r2
1135 ; CHECK-MVE-NEXT:    cmp r1, #0
1136 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1137 ; CHECK-MVE-NEXT:    vmov r1, s16
1138 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1139 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1140 ; CHECK-MVE-NEXT:    vmov s0, r1
1141 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1142 ; CHECK-MVE-NEXT:    vcmp.f16 s0, #0
1143 ; CHECK-MVE-NEXT:    vmov s0, r1
1144 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1145 ; CHECK-MVE-NEXT:    it mi
1146 ; CHECK-MVE-NEXT:    movmi r0, #1
1147 ; CHECK-MVE-NEXT:    it gt
1148 ; CHECK-MVE-NEXT:    movgt r0, #1
1149 ; CHECK-MVE-NEXT:    cmp r0, #0
1150 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1151 ; CHECK-MVE-NEXT:    it ne
1152 ; CHECK-MVE-NEXT:    movne r0, #1
1153 ; CHECK-MVE-NEXT:    vmov s2, r1
1154 ; CHECK-MVE-NEXT:    cmp r0, #0
1155 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1156 ; CHECK-MVE-NEXT:    vmov r0, s0
1157 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1158 ; CHECK-MVE-NEXT:    vmov q0, q3
1159 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1160 ; CHECK-MVE-NEXT:    bx lr
1162 ; CHECK-MVEFP-LABEL: vcmp_one_v8f16:
1163 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1164 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
1165 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q3, q0
1166 ; CHECK-MVEFP-NEXT:    vpst
1167 ; CHECK-MVEFP-NEXT:    vcmpt.f16 le, q0, q3
1168 ; CHECK-MVEFP-NEXT:    vpnot
1169 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1170 ; CHECK-MVEFP-NEXT:    bx lr
1171 entry:
1172   %c = fcmp one <8 x half> %src, zeroinitializer
1173   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1174   ret <8 x half> %s
1177 define arm_aapcs_vfpcc <8 x half> @vcmp_ogt_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1178 ; CHECK-MVE-LABEL: vcmp_ogt_v8f16:
1179 ; CHECK-MVE:       @ %bb.0: @ %entry
1180 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1181 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1182 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1183 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1184 ; CHECK-MVE-NEXT:    vmov s12, r1
1185 ; CHECK-MVE-NEXT:    movs r1, #0
1186 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1187 ; CHECK-MVE-NEXT:    vmov s12, r2
1188 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1189 ; CHECK-MVE-NEXT:    it gt
1190 ; CHECK-MVE-NEXT:    movgt r1, #1
1191 ; CHECK-MVE-NEXT:    cmp r1, #0
1192 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1193 ; CHECK-MVE-NEXT:    it ne
1194 ; CHECK-MVE-NEXT:    movne r1, #1
1195 ; CHECK-MVE-NEXT:    vmov s14, r2
1196 ; CHECK-MVE-NEXT:    cmp r1, #0
1197 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1198 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1199 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1200 ; CHECK-MVE-NEXT:    vmov r1, s12
1201 ; CHECK-MVE-NEXT:    movs r0, #0
1202 ; CHECK-MVE-NEXT:    vmov s12, r2
1203 ; CHECK-MVE-NEXT:    movs r2, #0
1204 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1205 ; CHECK-MVE-NEXT:    vmov s12, r3
1206 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1207 ; CHECK-MVE-NEXT:    it gt
1208 ; CHECK-MVE-NEXT:    movgt r2, #1
1209 ; CHECK-MVE-NEXT:    cmp r2, #0
1210 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1211 ; CHECK-MVE-NEXT:    it ne
1212 ; CHECK-MVE-NEXT:    movne r2, #1
1213 ; CHECK-MVE-NEXT:    vmov s14, r3
1214 ; CHECK-MVE-NEXT:    cmp r2, #0
1215 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1216 ; CHECK-MVE-NEXT:    vmov r2, s12
1217 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1218 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1219 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1220 ; CHECK-MVE-NEXT:    vmov s16, r1
1221 ; CHECK-MVE-NEXT:    movs r1, #0
1222 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1223 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1224 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1225 ; CHECK-MVE-NEXT:    it gt
1226 ; CHECK-MVE-NEXT:    movgt r1, #1
1227 ; CHECK-MVE-NEXT:    cmp r1, #0
1228 ; CHECK-MVE-NEXT:    vmov s16, r2
1229 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1230 ; CHECK-MVE-NEXT:    it ne
1231 ; CHECK-MVE-NEXT:    movne r1, #1
1232 ; CHECK-MVE-NEXT:    vmov s18, r2
1233 ; CHECK-MVE-NEXT:    cmp r1, #0
1234 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1235 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1236 ; CHECK-MVE-NEXT:    vmov r1, s16
1237 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1238 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1239 ; CHECK-MVE-NEXT:    vmov s16, r1
1240 ; CHECK-MVE-NEXT:    movs r1, #0
1241 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1242 ; CHECK-MVE-NEXT:    vmov s16, r2
1243 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1244 ; CHECK-MVE-NEXT:    it gt
1245 ; CHECK-MVE-NEXT:    movgt r1, #1
1246 ; CHECK-MVE-NEXT:    cmp r1, #0
1247 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1248 ; CHECK-MVE-NEXT:    it ne
1249 ; CHECK-MVE-NEXT:    movne r1, #1
1250 ; CHECK-MVE-NEXT:    vmov s18, r2
1251 ; CHECK-MVE-NEXT:    cmp r1, #0
1252 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1253 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1254 ; CHECK-MVE-NEXT:    vmov r1, s16
1255 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1256 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1257 ; CHECK-MVE-NEXT:    vmov s16, r1
1258 ; CHECK-MVE-NEXT:    movs r1, #0
1259 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1260 ; CHECK-MVE-NEXT:    vmov s16, r2
1261 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1262 ; CHECK-MVE-NEXT:    it gt
1263 ; CHECK-MVE-NEXT:    movgt r1, #1
1264 ; CHECK-MVE-NEXT:    cmp r1, #0
1265 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1266 ; CHECK-MVE-NEXT:    it ne
1267 ; CHECK-MVE-NEXT:    movne r1, #1
1268 ; CHECK-MVE-NEXT:    vmov s18, r2
1269 ; CHECK-MVE-NEXT:    cmp r1, #0
1270 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1271 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1272 ; CHECK-MVE-NEXT:    vmov r1, s16
1273 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1274 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1275 ; CHECK-MVE-NEXT:    vmov s16, r1
1276 ; CHECK-MVE-NEXT:    movs r1, #0
1277 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1278 ; CHECK-MVE-NEXT:    vmov s16, r2
1279 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1280 ; CHECK-MVE-NEXT:    it gt
1281 ; CHECK-MVE-NEXT:    movgt r1, #1
1282 ; CHECK-MVE-NEXT:    cmp r1, #0
1283 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1284 ; CHECK-MVE-NEXT:    it ne
1285 ; CHECK-MVE-NEXT:    movne r1, #1
1286 ; CHECK-MVE-NEXT:    vmov s18, r2
1287 ; CHECK-MVE-NEXT:    cmp r1, #0
1288 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1289 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1290 ; CHECK-MVE-NEXT:    vmov r1, s16
1291 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1292 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1293 ; CHECK-MVE-NEXT:    vmov s16, r1
1294 ; CHECK-MVE-NEXT:    movs r1, #0
1295 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1296 ; CHECK-MVE-NEXT:    vmov s16, r2
1297 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1298 ; CHECK-MVE-NEXT:    it gt
1299 ; CHECK-MVE-NEXT:    movgt r1, #1
1300 ; CHECK-MVE-NEXT:    cmp r1, #0
1301 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1302 ; CHECK-MVE-NEXT:    it ne
1303 ; CHECK-MVE-NEXT:    movne r1, #1
1304 ; CHECK-MVE-NEXT:    vmov s18, r2
1305 ; CHECK-MVE-NEXT:    cmp r1, #0
1306 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1307 ; CHECK-MVE-NEXT:    vmov r1, s16
1308 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1309 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1310 ; CHECK-MVE-NEXT:    vmov s0, r1
1311 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1312 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
1313 ; CHECK-MVE-NEXT:    vmov s0, r1
1314 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1315 ; CHECK-MVE-NEXT:    it gt
1316 ; CHECK-MVE-NEXT:    movgt r0, #1
1317 ; CHECK-MVE-NEXT:    cmp r0, #0
1318 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1319 ; CHECK-MVE-NEXT:    it ne
1320 ; CHECK-MVE-NEXT:    movne r0, #1
1321 ; CHECK-MVE-NEXT:    vmov s2, r1
1322 ; CHECK-MVE-NEXT:    cmp r0, #0
1323 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1324 ; CHECK-MVE-NEXT:    vmov r0, s0
1325 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1326 ; CHECK-MVE-NEXT:    vmov q0, q3
1327 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1328 ; CHECK-MVE-NEXT:    bx lr
1330 ; CHECK-MVEFP-LABEL: vcmp_ogt_v8f16:
1331 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1332 ; CHECK-MVEFP-NEXT:    vcmp.f16 gt, q0, zr
1333 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1334 ; CHECK-MVEFP-NEXT:    bx lr
1335 entry:
1336   %c = fcmp ogt <8 x half> %src, zeroinitializer
1337   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1338   ret <8 x half> %s
1341 define arm_aapcs_vfpcc <8 x half> @vcmp_oge_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1342 ; CHECK-MVE-LABEL: vcmp_oge_v8f16:
1343 ; CHECK-MVE:       @ %bb.0: @ %entry
1344 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1345 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1346 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1347 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1348 ; CHECK-MVE-NEXT:    vmov s12, r1
1349 ; CHECK-MVE-NEXT:    movs r1, #0
1350 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1351 ; CHECK-MVE-NEXT:    vmov s12, r2
1352 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1353 ; CHECK-MVE-NEXT:    it ge
1354 ; CHECK-MVE-NEXT:    movge r1, #1
1355 ; CHECK-MVE-NEXT:    cmp r1, #0
1356 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1357 ; CHECK-MVE-NEXT:    it ne
1358 ; CHECK-MVE-NEXT:    movne r1, #1
1359 ; CHECK-MVE-NEXT:    vmov s14, r2
1360 ; CHECK-MVE-NEXT:    cmp r1, #0
1361 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1362 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1363 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1364 ; CHECK-MVE-NEXT:    vmov r1, s12
1365 ; CHECK-MVE-NEXT:    movs r0, #0
1366 ; CHECK-MVE-NEXT:    vmov s12, r2
1367 ; CHECK-MVE-NEXT:    movs r2, #0
1368 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1369 ; CHECK-MVE-NEXT:    vmov s12, r3
1370 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1371 ; CHECK-MVE-NEXT:    it ge
1372 ; CHECK-MVE-NEXT:    movge r2, #1
1373 ; CHECK-MVE-NEXT:    cmp r2, #0
1374 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1375 ; CHECK-MVE-NEXT:    it ne
1376 ; CHECK-MVE-NEXT:    movne r2, #1
1377 ; CHECK-MVE-NEXT:    vmov s14, r3
1378 ; CHECK-MVE-NEXT:    cmp r2, #0
1379 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1380 ; CHECK-MVE-NEXT:    vmov r2, s12
1381 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1382 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1383 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1384 ; CHECK-MVE-NEXT:    vmov s16, r1
1385 ; CHECK-MVE-NEXT:    movs r1, #0
1386 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1387 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1388 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1389 ; CHECK-MVE-NEXT:    it ge
1390 ; CHECK-MVE-NEXT:    movge r1, #1
1391 ; CHECK-MVE-NEXT:    cmp r1, #0
1392 ; CHECK-MVE-NEXT:    vmov s16, r2
1393 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1394 ; CHECK-MVE-NEXT:    it ne
1395 ; CHECK-MVE-NEXT:    movne r1, #1
1396 ; CHECK-MVE-NEXT:    vmov s18, r2
1397 ; CHECK-MVE-NEXT:    cmp r1, #0
1398 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1399 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1400 ; CHECK-MVE-NEXT:    vmov r1, s16
1401 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1402 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1403 ; CHECK-MVE-NEXT:    vmov s16, r1
1404 ; CHECK-MVE-NEXT:    movs r1, #0
1405 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1406 ; CHECK-MVE-NEXT:    vmov s16, r2
1407 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1408 ; CHECK-MVE-NEXT:    it ge
1409 ; CHECK-MVE-NEXT:    movge r1, #1
1410 ; CHECK-MVE-NEXT:    cmp r1, #0
1411 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1412 ; CHECK-MVE-NEXT:    it ne
1413 ; CHECK-MVE-NEXT:    movne r1, #1
1414 ; CHECK-MVE-NEXT:    vmov s18, r2
1415 ; CHECK-MVE-NEXT:    cmp r1, #0
1416 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1417 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1418 ; CHECK-MVE-NEXT:    vmov r1, s16
1419 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1420 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1421 ; CHECK-MVE-NEXT:    vmov s16, r1
1422 ; CHECK-MVE-NEXT:    movs r1, #0
1423 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1424 ; CHECK-MVE-NEXT:    vmov s16, r2
1425 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1426 ; CHECK-MVE-NEXT:    it ge
1427 ; CHECK-MVE-NEXT:    movge r1, #1
1428 ; CHECK-MVE-NEXT:    cmp r1, #0
1429 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1430 ; CHECK-MVE-NEXT:    it ne
1431 ; CHECK-MVE-NEXT:    movne r1, #1
1432 ; CHECK-MVE-NEXT:    vmov s18, r2
1433 ; CHECK-MVE-NEXT:    cmp r1, #0
1434 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1435 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1436 ; CHECK-MVE-NEXT:    vmov r1, s16
1437 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1438 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1439 ; CHECK-MVE-NEXT:    vmov s16, r1
1440 ; CHECK-MVE-NEXT:    movs r1, #0
1441 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1442 ; CHECK-MVE-NEXT:    vmov s16, r2
1443 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1444 ; CHECK-MVE-NEXT:    it ge
1445 ; CHECK-MVE-NEXT:    movge r1, #1
1446 ; CHECK-MVE-NEXT:    cmp r1, #0
1447 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1448 ; CHECK-MVE-NEXT:    it ne
1449 ; CHECK-MVE-NEXT:    movne r1, #1
1450 ; CHECK-MVE-NEXT:    vmov s18, r2
1451 ; CHECK-MVE-NEXT:    cmp r1, #0
1452 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1453 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1454 ; CHECK-MVE-NEXT:    vmov r1, s16
1455 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1456 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1457 ; CHECK-MVE-NEXT:    vmov s16, r1
1458 ; CHECK-MVE-NEXT:    movs r1, #0
1459 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1460 ; CHECK-MVE-NEXT:    vmov s16, r2
1461 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1462 ; CHECK-MVE-NEXT:    it ge
1463 ; CHECK-MVE-NEXT:    movge r1, #1
1464 ; CHECK-MVE-NEXT:    cmp r1, #0
1465 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1466 ; CHECK-MVE-NEXT:    it ne
1467 ; CHECK-MVE-NEXT:    movne r1, #1
1468 ; CHECK-MVE-NEXT:    vmov s18, r2
1469 ; CHECK-MVE-NEXT:    cmp r1, #0
1470 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1471 ; CHECK-MVE-NEXT:    vmov r1, s16
1472 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1473 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1474 ; CHECK-MVE-NEXT:    vmov s0, r1
1475 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1476 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
1477 ; CHECK-MVE-NEXT:    vmov s0, r1
1478 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1479 ; CHECK-MVE-NEXT:    it ge
1480 ; CHECK-MVE-NEXT:    movge r0, #1
1481 ; CHECK-MVE-NEXT:    cmp r0, #0
1482 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1483 ; CHECK-MVE-NEXT:    it ne
1484 ; CHECK-MVE-NEXT:    movne r0, #1
1485 ; CHECK-MVE-NEXT:    vmov s2, r1
1486 ; CHECK-MVE-NEXT:    cmp r0, #0
1487 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1488 ; CHECK-MVE-NEXT:    vmov r0, s0
1489 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1490 ; CHECK-MVE-NEXT:    vmov q0, q3
1491 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1492 ; CHECK-MVE-NEXT:    bx lr
1494 ; CHECK-MVEFP-LABEL: vcmp_oge_v8f16:
1495 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1496 ; CHECK-MVEFP-NEXT:    vcmp.f16 ge, q0, zr
1497 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1498 ; CHECK-MVEFP-NEXT:    bx lr
1499 entry:
1500   %c = fcmp oge <8 x half> %src, zeroinitializer
1501   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1502   ret <8 x half> %s
1505 define arm_aapcs_vfpcc <8 x half> @vcmp_olt_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1506 ; CHECK-MVE-LABEL: vcmp_olt_v8f16:
1507 ; CHECK-MVE:       @ %bb.0: @ %entry
1508 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1509 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1510 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1511 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1512 ; CHECK-MVE-NEXT:    vmov s12, r1
1513 ; CHECK-MVE-NEXT:    movs r1, #0
1514 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1515 ; CHECK-MVE-NEXT:    vmov s12, r2
1516 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1517 ; CHECK-MVE-NEXT:    it mi
1518 ; CHECK-MVE-NEXT:    movmi r1, #1
1519 ; CHECK-MVE-NEXT:    cmp r1, #0
1520 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1521 ; CHECK-MVE-NEXT:    it ne
1522 ; CHECK-MVE-NEXT:    movne r1, #1
1523 ; CHECK-MVE-NEXT:    vmov s14, r2
1524 ; CHECK-MVE-NEXT:    cmp r1, #0
1525 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1526 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1527 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1528 ; CHECK-MVE-NEXT:    vmov r1, s12
1529 ; CHECK-MVE-NEXT:    movs r0, #0
1530 ; CHECK-MVE-NEXT:    vmov s12, r2
1531 ; CHECK-MVE-NEXT:    movs r2, #0
1532 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1533 ; CHECK-MVE-NEXT:    vmov s12, r3
1534 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1535 ; CHECK-MVE-NEXT:    it mi
1536 ; CHECK-MVE-NEXT:    movmi r2, #1
1537 ; CHECK-MVE-NEXT:    cmp r2, #0
1538 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1539 ; CHECK-MVE-NEXT:    it ne
1540 ; CHECK-MVE-NEXT:    movne r2, #1
1541 ; CHECK-MVE-NEXT:    vmov s14, r3
1542 ; CHECK-MVE-NEXT:    cmp r2, #0
1543 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1544 ; CHECK-MVE-NEXT:    vmov r2, s12
1545 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1546 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1547 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1548 ; CHECK-MVE-NEXT:    vmov s16, r1
1549 ; CHECK-MVE-NEXT:    movs r1, #0
1550 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1551 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1552 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1553 ; CHECK-MVE-NEXT:    it mi
1554 ; CHECK-MVE-NEXT:    movmi r1, #1
1555 ; CHECK-MVE-NEXT:    cmp r1, #0
1556 ; CHECK-MVE-NEXT:    vmov s16, r2
1557 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1558 ; CHECK-MVE-NEXT:    it ne
1559 ; CHECK-MVE-NEXT:    movne r1, #1
1560 ; CHECK-MVE-NEXT:    vmov s18, r2
1561 ; CHECK-MVE-NEXT:    cmp r1, #0
1562 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1563 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1564 ; CHECK-MVE-NEXT:    vmov r1, s16
1565 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1566 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1567 ; CHECK-MVE-NEXT:    vmov s16, r1
1568 ; CHECK-MVE-NEXT:    movs r1, #0
1569 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1570 ; CHECK-MVE-NEXT:    vmov s16, r2
1571 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1572 ; CHECK-MVE-NEXT:    it mi
1573 ; CHECK-MVE-NEXT:    movmi r1, #1
1574 ; CHECK-MVE-NEXT:    cmp r1, #0
1575 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1576 ; CHECK-MVE-NEXT:    it ne
1577 ; CHECK-MVE-NEXT:    movne r1, #1
1578 ; CHECK-MVE-NEXT:    vmov s18, r2
1579 ; CHECK-MVE-NEXT:    cmp r1, #0
1580 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1581 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1582 ; CHECK-MVE-NEXT:    vmov r1, s16
1583 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1584 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1585 ; CHECK-MVE-NEXT:    vmov s16, r1
1586 ; CHECK-MVE-NEXT:    movs r1, #0
1587 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1588 ; CHECK-MVE-NEXT:    vmov s16, r2
1589 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1590 ; CHECK-MVE-NEXT:    it mi
1591 ; CHECK-MVE-NEXT:    movmi r1, #1
1592 ; CHECK-MVE-NEXT:    cmp r1, #0
1593 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1594 ; CHECK-MVE-NEXT:    it ne
1595 ; CHECK-MVE-NEXT:    movne r1, #1
1596 ; CHECK-MVE-NEXT:    vmov s18, r2
1597 ; CHECK-MVE-NEXT:    cmp r1, #0
1598 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1599 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1600 ; CHECK-MVE-NEXT:    vmov r1, s16
1601 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1602 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1603 ; CHECK-MVE-NEXT:    vmov s16, r1
1604 ; CHECK-MVE-NEXT:    movs r1, #0
1605 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1606 ; CHECK-MVE-NEXT:    vmov s16, r2
1607 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1608 ; CHECK-MVE-NEXT:    it mi
1609 ; CHECK-MVE-NEXT:    movmi r1, #1
1610 ; CHECK-MVE-NEXT:    cmp r1, #0
1611 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1612 ; CHECK-MVE-NEXT:    it ne
1613 ; CHECK-MVE-NEXT:    movne r1, #1
1614 ; CHECK-MVE-NEXT:    vmov s18, r2
1615 ; CHECK-MVE-NEXT:    cmp r1, #0
1616 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1617 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1618 ; CHECK-MVE-NEXT:    vmov r1, s16
1619 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1620 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1621 ; CHECK-MVE-NEXT:    vmov s16, r1
1622 ; CHECK-MVE-NEXT:    movs r1, #0
1623 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1624 ; CHECK-MVE-NEXT:    vmov s16, r2
1625 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1626 ; CHECK-MVE-NEXT:    it mi
1627 ; CHECK-MVE-NEXT:    movmi r1, #1
1628 ; CHECK-MVE-NEXT:    cmp r1, #0
1629 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1630 ; CHECK-MVE-NEXT:    it ne
1631 ; CHECK-MVE-NEXT:    movne r1, #1
1632 ; CHECK-MVE-NEXT:    vmov s18, r2
1633 ; CHECK-MVE-NEXT:    cmp r1, #0
1634 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1635 ; CHECK-MVE-NEXT:    vmov r1, s16
1636 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1637 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1638 ; CHECK-MVE-NEXT:    vmov s0, r1
1639 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1640 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
1641 ; CHECK-MVE-NEXT:    vmov s0, r1
1642 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1643 ; CHECK-MVE-NEXT:    it mi
1644 ; CHECK-MVE-NEXT:    movmi r0, #1
1645 ; CHECK-MVE-NEXT:    cmp r0, #0
1646 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1647 ; CHECK-MVE-NEXT:    it ne
1648 ; CHECK-MVE-NEXT:    movne r0, #1
1649 ; CHECK-MVE-NEXT:    vmov s2, r1
1650 ; CHECK-MVE-NEXT:    cmp r0, #0
1651 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1652 ; CHECK-MVE-NEXT:    vmov r0, s0
1653 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1654 ; CHECK-MVE-NEXT:    vmov q0, q3
1655 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1656 ; CHECK-MVE-NEXT:    bx lr
1658 ; CHECK-MVEFP-LABEL: vcmp_olt_v8f16:
1659 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1660 ; CHECK-MVEFP-NEXT:    vcmp.f16 lt, q0, zr
1661 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1662 ; CHECK-MVEFP-NEXT:    bx lr
1663 entry:
1664   %c = fcmp olt <8 x half> %src, zeroinitializer
1665   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1666   ret <8 x half> %s
1669 define arm_aapcs_vfpcc <8 x half> @vcmp_ole_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1670 ; CHECK-MVE-LABEL: vcmp_ole_v8f16:
1671 ; CHECK-MVE:       @ %bb.0: @ %entry
1672 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1673 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1674 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1675 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1676 ; CHECK-MVE-NEXT:    vmov s12, r1
1677 ; CHECK-MVE-NEXT:    movs r1, #0
1678 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1679 ; CHECK-MVE-NEXT:    vmov s12, r2
1680 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1681 ; CHECK-MVE-NEXT:    it ls
1682 ; CHECK-MVE-NEXT:    movls r1, #1
1683 ; CHECK-MVE-NEXT:    cmp r1, #0
1684 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1685 ; CHECK-MVE-NEXT:    it ne
1686 ; CHECK-MVE-NEXT:    movne r1, #1
1687 ; CHECK-MVE-NEXT:    vmov s14, r2
1688 ; CHECK-MVE-NEXT:    cmp r1, #0
1689 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1690 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1691 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1692 ; CHECK-MVE-NEXT:    vmov r1, s12
1693 ; CHECK-MVE-NEXT:    movs r0, #0
1694 ; CHECK-MVE-NEXT:    vmov s12, r2
1695 ; CHECK-MVE-NEXT:    movs r2, #0
1696 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
1697 ; CHECK-MVE-NEXT:    vmov s12, r3
1698 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1699 ; CHECK-MVE-NEXT:    it ls
1700 ; CHECK-MVE-NEXT:    movls r2, #1
1701 ; CHECK-MVE-NEXT:    cmp r2, #0
1702 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1703 ; CHECK-MVE-NEXT:    it ne
1704 ; CHECK-MVE-NEXT:    movne r2, #1
1705 ; CHECK-MVE-NEXT:    vmov s14, r3
1706 ; CHECK-MVE-NEXT:    cmp r2, #0
1707 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1708 ; CHECK-MVE-NEXT:    vmov r2, s12
1709 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1710 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1711 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1712 ; CHECK-MVE-NEXT:    vmov s16, r1
1713 ; CHECK-MVE-NEXT:    movs r1, #0
1714 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1715 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1716 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1717 ; CHECK-MVE-NEXT:    it ls
1718 ; CHECK-MVE-NEXT:    movls r1, #1
1719 ; CHECK-MVE-NEXT:    cmp r1, #0
1720 ; CHECK-MVE-NEXT:    vmov s16, r2
1721 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1722 ; CHECK-MVE-NEXT:    it ne
1723 ; CHECK-MVE-NEXT:    movne r1, #1
1724 ; CHECK-MVE-NEXT:    vmov s18, r2
1725 ; CHECK-MVE-NEXT:    cmp r1, #0
1726 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1727 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1728 ; CHECK-MVE-NEXT:    vmov r1, s16
1729 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1730 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1731 ; CHECK-MVE-NEXT:    vmov s16, r1
1732 ; CHECK-MVE-NEXT:    movs r1, #0
1733 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1734 ; CHECK-MVE-NEXT:    vmov s16, r2
1735 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1736 ; CHECK-MVE-NEXT:    it ls
1737 ; CHECK-MVE-NEXT:    movls r1, #1
1738 ; CHECK-MVE-NEXT:    cmp r1, #0
1739 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1740 ; CHECK-MVE-NEXT:    it ne
1741 ; CHECK-MVE-NEXT:    movne r1, #1
1742 ; CHECK-MVE-NEXT:    vmov s18, r2
1743 ; CHECK-MVE-NEXT:    cmp r1, #0
1744 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1745 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1746 ; CHECK-MVE-NEXT:    vmov r1, s16
1747 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1748 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1749 ; CHECK-MVE-NEXT:    vmov s16, r1
1750 ; CHECK-MVE-NEXT:    movs r1, #0
1751 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1752 ; CHECK-MVE-NEXT:    vmov s16, r2
1753 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1754 ; CHECK-MVE-NEXT:    it ls
1755 ; CHECK-MVE-NEXT:    movls r1, #1
1756 ; CHECK-MVE-NEXT:    cmp r1, #0
1757 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1758 ; CHECK-MVE-NEXT:    it ne
1759 ; CHECK-MVE-NEXT:    movne r1, #1
1760 ; CHECK-MVE-NEXT:    vmov s18, r2
1761 ; CHECK-MVE-NEXT:    cmp r1, #0
1762 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1763 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1764 ; CHECK-MVE-NEXT:    vmov r1, s16
1765 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1766 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1767 ; CHECK-MVE-NEXT:    vmov s16, r1
1768 ; CHECK-MVE-NEXT:    movs r1, #0
1769 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1770 ; CHECK-MVE-NEXT:    vmov s16, r2
1771 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1772 ; CHECK-MVE-NEXT:    it ls
1773 ; CHECK-MVE-NEXT:    movls r1, #1
1774 ; CHECK-MVE-NEXT:    cmp r1, #0
1775 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1776 ; CHECK-MVE-NEXT:    it ne
1777 ; CHECK-MVE-NEXT:    movne r1, #1
1778 ; CHECK-MVE-NEXT:    vmov s18, r2
1779 ; CHECK-MVE-NEXT:    cmp r1, #0
1780 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1781 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1782 ; CHECK-MVE-NEXT:    vmov r1, s16
1783 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1784 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1785 ; CHECK-MVE-NEXT:    vmov s16, r1
1786 ; CHECK-MVE-NEXT:    movs r1, #0
1787 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
1788 ; CHECK-MVE-NEXT:    vmov s16, r2
1789 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1790 ; CHECK-MVE-NEXT:    it ls
1791 ; CHECK-MVE-NEXT:    movls r1, #1
1792 ; CHECK-MVE-NEXT:    cmp r1, #0
1793 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1794 ; CHECK-MVE-NEXT:    it ne
1795 ; CHECK-MVE-NEXT:    movne r1, #1
1796 ; CHECK-MVE-NEXT:    vmov s18, r2
1797 ; CHECK-MVE-NEXT:    cmp r1, #0
1798 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1799 ; CHECK-MVE-NEXT:    vmov r1, s16
1800 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1801 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1802 ; CHECK-MVE-NEXT:    vmov s0, r1
1803 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1804 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
1805 ; CHECK-MVE-NEXT:    vmov s0, r1
1806 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1807 ; CHECK-MVE-NEXT:    it ls
1808 ; CHECK-MVE-NEXT:    movls r0, #1
1809 ; CHECK-MVE-NEXT:    cmp r0, #0
1810 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1811 ; CHECK-MVE-NEXT:    it ne
1812 ; CHECK-MVE-NEXT:    movne r0, #1
1813 ; CHECK-MVE-NEXT:    vmov s2, r1
1814 ; CHECK-MVE-NEXT:    cmp r0, #0
1815 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1816 ; CHECK-MVE-NEXT:    vmov r0, s0
1817 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1818 ; CHECK-MVE-NEXT:    vmov q0, q3
1819 ; CHECK-MVE-NEXT:    vpop {d8, d9}
1820 ; CHECK-MVE-NEXT:    bx lr
1822 ; CHECK-MVEFP-LABEL: vcmp_ole_v8f16:
1823 ; CHECK-MVEFP:       @ %bb.0: @ %entry
1824 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q0, zr
1825 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
1826 ; CHECK-MVEFP-NEXT:    bx lr
1827 entry:
1828   %c = fcmp ole <8 x half> %src, zeroinitializer
1829   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
1830   ret <8 x half> %s
1833 define arm_aapcs_vfpcc <8 x half> @vcmp_ueq_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
1834 ; CHECK-MVE-LABEL: vcmp_ueq_v8f16:
1835 ; CHECK-MVE:       @ %bb.0: @ %entry
1836 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
1837 ; CHECK-MVE-NEXT:    vpush {d8, d9}
1838 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
1839 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
1840 ; CHECK-MVE-NEXT:    vmov s12, r1
1841 ; CHECK-MVE-NEXT:    movs r1, #0
1842 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
1843 ; CHECK-MVE-NEXT:    vmov s12, r2
1844 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1845 ; CHECK-MVE-NEXT:    it eq
1846 ; CHECK-MVE-NEXT:    moveq r1, #1
1847 ; CHECK-MVE-NEXT:    it vs
1848 ; CHECK-MVE-NEXT:    movvs r1, #1
1849 ; CHECK-MVE-NEXT:    cmp r1, #0
1850 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
1851 ; CHECK-MVE-NEXT:    it ne
1852 ; CHECK-MVE-NEXT:    movne r1, #1
1853 ; CHECK-MVE-NEXT:    vmov s14, r2
1854 ; CHECK-MVE-NEXT:    cmp r1, #0
1855 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1856 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
1857 ; CHECK-MVE-NEXT:    vmov r1, s12
1858 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
1859 ; CHECK-MVE-NEXT:    vmov s12, r2
1860 ; CHECK-MVE-NEXT:    movs r2, #0
1861 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
1862 ; CHECK-MVE-NEXT:    vmov s12, r3
1863 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1864 ; CHECK-MVE-NEXT:    it eq
1865 ; CHECK-MVE-NEXT:    moveq r2, #1
1866 ; CHECK-MVE-NEXT:    it vs
1867 ; CHECK-MVE-NEXT:    movvs r2, #1
1868 ; CHECK-MVE-NEXT:    cmp r2, #0
1869 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
1870 ; CHECK-MVE-NEXT:    it ne
1871 ; CHECK-MVE-NEXT:    movne r2, #1
1872 ; CHECK-MVE-NEXT:    vmov s14, r3
1873 ; CHECK-MVE-NEXT:    cmp r2, #0
1874 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
1875 ; CHECK-MVE-NEXT:    movs r0, #0
1876 ; CHECK-MVE-NEXT:    vmov r2, s12
1877 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
1878 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
1879 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
1880 ; CHECK-MVE-NEXT:    vmov s16, r1
1881 ; CHECK-MVE-NEXT:    movs r1, #0
1882 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1883 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
1884 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1885 ; CHECK-MVE-NEXT:    it eq
1886 ; CHECK-MVE-NEXT:    moveq r1, #1
1887 ; CHECK-MVE-NEXT:    it vs
1888 ; CHECK-MVE-NEXT:    movvs r1, #1
1889 ; CHECK-MVE-NEXT:    cmp r1, #0
1890 ; CHECK-MVE-NEXT:    vmov s16, r2
1891 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
1892 ; CHECK-MVE-NEXT:    it ne
1893 ; CHECK-MVE-NEXT:    movne r1, #1
1894 ; CHECK-MVE-NEXT:    vmov s18, r2
1895 ; CHECK-MVE-NEXT:    cmp r1, #0
1896 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
1897 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1898 ; CHECK-MVE-NEXT:    vmov r1, s16
1899 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
1900 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
1901 ; CHECK-MVE-NEXT:    vmov s16, r1
1902 ; CHECK-MVE-NEXT:    movs r1, #0
1903 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1904 ; CHECK-MVE-NEXT:    vmov s16, r2
1905 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1906 ; CHECK-MVE-NEXT:    it eq
1907 ; CHECK-MVE-NEXT:    moveq r1, #1
1908 ; CHECK-MVE-NEXT:    it vs
1909 ; CHECK-MVE-NEXT:    movvs r1, #1
1910 ; CHECK-MVE-NEXT:    cmp r1, #0
1911 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
1912 ; CHECK-MVE-NEXT:    it ne
1913 ; CHECK-MVE-NEXT:    movne r1, #1
1914 ; CHECK-MVE-NEXT:    vmov s18, r2
1915 ; CHECK-MVE-NEXT:    cmp r1, #0
1916 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1917 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
1918 ; CHECK-MVE-NEXT:    vmov r1, s16
1919 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
1920 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
1921 ; CHECK-MVE-NEXT:    vmov s16, r1
1922 ; CHECK-MVE-NEXT:    movs r1, #0
1923 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1924 ; CHECK-MVE-NEXT:    vmov s16, r2
1925 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1926 ; CHECK-MVE-NEXT:    it eq
1927 ; CHECK-MVE-NEXT:    moveq r1, #1
1928 ; CHECK-MVE-NEXT:    it vs
1929 ; CHECK-MVE-NEXT:    movvs r1, #1
1930 ; CHECK-MVE-NEXT:    cmp r1, #0
1931 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
1932 ; CHECK-MVE-NEXT:    it ne
1933 ; CHECK-MVE-NEXT:    movne r1, #1
1934 ; CHECK-MVE-NEXT:    vmov s18, r2
1935 ; CHECK-MVE-NEXT:    cmp r1, #0
1936 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1937 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
1938 ; CHECK-MVE-NEXT:    vmov r1, s16
1939 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
1940 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
1941 ; CHECK-MVE-NEXT:    vmov s16, r1
1942 ; CHECK-MVE-NEXT:    movs r1, #0
1943 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1944 ; CHECK-MVE-NEXT:    vmov s16, r2
1945 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1946 ; CHECK-MVE-NEXT:    it eq
1947 ; CHECK-MVE-NEXT:    moveq r1, #1
1948 ; CHECK-MVE-NEXT:    it vs
1949 ; CHECK-MVE-NEXT:    movvs r1, #1
1950 ; CHECK-MVE-NEXT:    cmp r1, #0
1951 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
1952 ; CHECK-MVE-NEXT:    it ne
1953 ; CHECK-MVE-NEXT:    movne r1, #1
1954 ; CHECK-MVE-NEXT:    vmov s18, r2
1955 ; CHECK-MVE-NEXT:    cmp r1, #0
1956 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1957 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
1958 ; CHECK-MVE-NEXT:    vmov r1, s16
1959 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
1960 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
1961 ; CHECK-MVE-NEXT:    vmov s16, r1
1962 ; CHECK-MVE-NEXT:    movs r1, #0
1963 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
1964 ; CHECK-MVE-NEXT:    vmov s16, r2
1965 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1966 ; CHECK-MVE-NEXT:    it eq
1967 ; CHECK-MVE-NEXT:    moveq r1, #1
1968 ; CHECK-MVE-NEXT:    it vs
1969 ; CHECK-MVE-NEXT:    movvs r1, #1
1970 ; CHECK-MVE-NEXT:    cmp r1, #0
1971 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
1972 ; CHECK-MVE-NEXT:    it ne
1973 ; CHECK-MVE-NEXT:    movne r1, #1
1974 ; CHECK-MVE-NEXT:    vmov s18, r2
1975 ; CHECK-MVE-NEXT:    cmp r1, #0
1976 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
1977 ; CHECK-MVE-NEXT:    vmov r1, s16
1978 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
1979 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
1980 ; CHECK-MVE-NEXT:    vmov s0, r1
1981 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
1982 ; CHECK-MVE-NEXT:    vcmp.f16 s0, #0
1983 ; CHECK-MVE-NEXT:    vmov s0, r1
1984 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
1985 ; CHECK-MVE-NEXT:    it eq
1986 ; CHECK-MVE-NEXT:    moveq r0, #1
1987 ; CHECK-MVE-NEXT:    it vs
1988 ; CHECK-MVE-NEXT:    movvs r0, #1
1989 ; CHECK-MVE-NEXT:    cmp r0, #0
1990 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
1991 ; CHECK-MVE-NEXT:    it ne
1992 ; CHECK-MVE-NEXT:    movne r0, #1
1993 ; CHECK-MVE-NEXT:    vmov s2, r1
1994 ; CHECK-MVE-NEXT:    cmp r0, #0
1995 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
1996 ; CHECK-MVE-NEXT:    vmov r0, s0
1997 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
1998 ; CHECK-MVE-NEXT:    vmov q0, q3
1999 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2000 ; CHECK-MVE-NEXT:    bx lr
2002 ; CHECK-MVEFP-LABEL: vcmp_ueq_v8f16:
2003 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2004 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
2005 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q3, q0
2006 ; CHECK-MVEFP-NEXT:    vpst
2007 ; CHECK-MVEFP-NEXT:    vcmpt.f16 le, q0, q3
2008 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2009 ; CHECK-MVEFP-NEXT:    bx lr
2010 entry:
2011   %c = fcmp ueq <8 x half> %src, zeroinitializer
2012   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2013   ret <8 x half> %s
2016 define arm_aapcs_vfpcc <8 x half> @vcmp_une_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2017 ; CHECK-MVE-LABEL: vcmp_une_v8f16:
2018 ; CHECK-MVE:       @ %bb.0: @ %entry
2019 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2020 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2021 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2022 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2023 ; CHECK-MVE-NEXT:    vmov s12, r1
2024 ; CHECK-MVE-NEXT:    movs r1, #0
2025 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
2026 ; CHECK-MVE-NEXT:    vmov s12, r2
2027 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2028 ; CHECK-MVE-NEXT:    it ne
2029 ; CHECK-MVE-NEXT:    movne r1, #1
2030 ; CHECK-MVE-NEXT:    cmp r1, #0
2031 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2032 ; CHECK-MVE-NEXT:    it ne
2033 ; CHECK-MVE-NEXT:    movne r1, #1
2034 ; CHECK-MVE-NEXT:    vmov s14, r2
2035 ; CHECK-MVE-NEXT:    cmp r1, #0
2036 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2037 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2038 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2039 ; CHECK-MVE-NEXT:    vmov r1, s12
2040 ; CHECK-MVE-NEXT:    movs r0, #0
2041 ; CHECK-MVE-NEXT:    vmov s12, r2
2042 ; CHECK-MVE-NEXT:    movs r2, #0
2043 ; CHECK-MVE-NEXT:    vcmp.f16 s12, #0
2044 ; CHECK-MVE-NEXT:    vmov s12, r3
2045 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2046 ; CHECK-MVE-NEXT:    it ne
2047 ; CHECK-MVE-NEXT:    movne r2, #1
2048 ; CHECK-MVE-NEXT:    cmp r2, #0
2049 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2050 ; CHECK-MVE-NEXT:    it ne
2051 ; CHECK-MVE-NEXT:    movne r2, #1
2052 ; CHECK-MVE-NEXT:    vmov s14, r3
2053 ; CHECK-MVE-NEXT:    cmp r2, #0
2054 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2055 ; CHECK-MVE-NEXT:    vmov r2, s12
2056 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2057 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2058 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2059 ; CHECK-MVE-NEXT:    vmov s16, r1
2060 ; CHECK-MVE-NEXT:    movs r1, #0
2061 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2062 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2063 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2064 ; CHECK-MVE-NEXT:    it ne
2065 ; CHECK-MVE-NEXT:    movne r1, #1
2066 ; CHECK-MVE-NEXT:    cmp r1, #0
2067 ; CHECK-MVE-NEXT:    vmov s16, r2
2068 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2069 ; CHECK-MVE-NEXT:    it ne
2070 ; CHECK-MVE-NEXT:    movne r1, #1
2071 ; CHECK-MVE-NEXT:    vmov s18, r2
2072 ; CHECK-MVE-NEXT:    cmp r1, #0
2073 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2074 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2075 ; CHECK-MVE-NEXT:    vmov r1, s16
2076 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2077 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2078 ; CHECK-MVE-NEXT:    vmov s16, r1
2079 ; CHECK-MVE-NEXT:    movs r1, #0
2080 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2081 ; CHECK-MVE-NEXT:    vmov s16, r2
2082 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2083 ; CHECK-MVE-NEXT:    it ne
2084 ; CHECK-MVE-NEXT:    movne r1, #1
2085 ; CHECK-MVE-NEXT:    cmp r1, #0
2086 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2087 ; CHECK-MVE-NEXT:    it ne
2088 ; CHECK-MVE-NEXT:    movne r1, #1
2089 ; CHECK-MVE-NEXT:    vmov s18, r2
2090 ; CHECK-MVE-NEXT:    cmp r1, #0
2091 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2092 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2093 ; CHECK-MVE-NEXT:    vmov r1, s16
2094 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2095 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2096 ; CHECK-MVE-NEXT:    vmov s16, r1
2097 ; CHECK-MVE-NEXT:    movs r1, #0
2098 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2099 ; CHECK-MVE-NEXT:    vmov s16, r2
2100 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2101 ; CHECK-MVE-NEXT:    it ne
2102 ; CHECK-MVE-NEXT:    movne r1, #1
2103 ; CHECK-MVE-NEXT:    cmp r1, #0
2104 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2105 ; CHECK-MVE-NEXT:    it ne
2106 ; CHECK-MVE-NEXT:    movne r1, #1
2107 ; CHECK-MVE-NEXT:    vmov s18, r2
2108 ; CHECK-MVE-NEXT:    cmp r1, #0
2109 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2110 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2111 ; CHECK-MVE-NEXT:    vmov r1, s16
2112 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2113 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2114 ; CHECK-MVE-NEXT:    vmov s16, r1
2115 ; CHECK-MVE-NEXT:    movs r1, #0
2116 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2117 ; CHECK-MVE-NEXT:    vmov s16, r2
2118 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2119 ; CHECK-MVE-NEXT:    it ne
2120 ; CHECK-MVE-NEXT:    movne r1, #1
2121 ; CHECK-MVE-NEXT:    cmp r1, #0
2122 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2123 ; CHECK-MVE-NEXT:    it ne
2124 ; CHECK-MVE-NEXT:    movne r1, #1
2125 ; CHECK-MVE-NEXT:    vmov s18, r2
2126 ; CHECK-MVE-NEXT:    cmp r1, #0
2127 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2128 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2129 ; CHECK-MVE-NEXT:    vmov r1, s16
2130 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2131 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2132 ; CHECK-MVE-NEXT:    vmov s16, r1
2133 ; CHECK-MVE-NEXT:    movs r1, #0
2134 ; CHECK-MVE-NEXT:    vcmp.f16 s16, #0
2135 ; CHECK-MVE-NEXT:    vmov s16, r2
2136 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2137 ; CHECK-MVE-NEXT:    it ne
2138 ; CHECK-MVE-NEXT:    movne r1, #1
2139 ; CHECK-MVE-NEXT:    cmp r1, #0
2140 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2141 ; CHECK-MVE-NEXT:    it ne
2142 ; CHECK-MVE-NEXT:    movne r1, #1
2143 ; CHECK-MVE-NEXT:    vmov s18, r2
2144 ; CHECK-MVE-NEXT:    cmp r1, #0
2145 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2146 ; CHECK-MVE-NEXT:    vmov r1, s16
2147 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2148 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2149 ; CHECK-MVE-NEXT:    vmov s0, r1
2150 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2151 ; CHECK-MVE-NEXT:    vcmp.f16 s0, #0
2152 ; CHECK-MVE-NEXT:    vmov s0, r1
2153 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2154 ; CHECK-MVE-NEXT:    it ne
2155 ; CHECK-MVE-NEXT:    movne r0, #1
2156 ; CHECK-MVE-NEXT:    cmp r0, #0
2157 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2158 ; CHECK-MVE-NEXT:    it ne
2159 ; CHECK-MVE-NEXT:    movne r0, #1
2160 ; CHECK-MVE-NEXT:    vmov s2, r1
2161 ; CHECK-MVE-NEXT:    cmp r0, #0
2162 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2163 ; CHECK-MVE-NEXT:    vmov r0, s0
2164 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2165 ; CHECK-MVE-NEXT:    vmov q0, q3
2166 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2167 ; CHECK-MVE-NEXT:    bx lr
2169 ; CHECK-MVEFP-LABEL: vcmp_une_v8f16:
2170 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2171 ; CHECK-MVEFP-NEXT:    vcmp.f16 ne, q0, zr
2172 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2173 ; CHECK-MVEFP-NEXT:    bx lr
2174 entry:
2175   %c = fcmp une <8 x half> %src, zeroinitializer
2176   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2177   ret <8 x half> %s
2180 define arm_aapcs_vfpcc <8 x half> @vcmp_ugt_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2181 ; CHECK-MVE-LABEL: vcmp_ugt_v8f16:
2182 ; CHECK-MVE:       @ %bb.0: @ %entry
2183 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2184 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2185 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2186 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2187 ; CHECK-MVE-NEXT:    vmov s12, r1
2188 ; CHECK-MVE-NEXT:    movs r1, #0
2189 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2190 ; CHECK-MVE-NEXT:    vmov s12, r2
2191 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2192 ; CHECK-MVE-NEXT:    it hi
2193 ; CHECK-MVE-NEXT:    movhi r1, #1
2194 ; CHECK-MVE-NEXT:    cmp r1, #0
2195 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2196 ; CHECK-MVE-NEXT:    it ne
2197 ; CHECK-MVE-NEXT:    movne r1, #1
2198 ; CHECK-MVE-NEXT:    vmov s14, r2
2199 ; CHECK-MVE-NEXT:    cmp r1, #0
2200 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2201 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2202 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2203 ; CHECK-MVE-NEXT:    vmov r1, s12
2204 ; CHECK-MVE-NEXT:    movs r0, #0
2205 ; CHECK-MVE-NEXT:    vmov s12, r2
2206 ; CHECK-MVE-NEXT:    movs r2, #0
2207 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2208 ; CHECK-MVE-NEXT:    vmov s12, r3
2209 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2210 ; CHECK-MVE-NEXT:    it hi
2211 ; CHECK-MVE-NEXT:    movhi r2, #1
2212 ; CHECK-MVE-NEXT:    cmp r2, #0
2213 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2214 ; CHECK-MVE-NEXT:    it ne
2215 ; CHECK-MVE-NEXT:    movne r2, #1
2216 ; CHECK-MVE-NEXT:    vmov s14, r3
2217 ; CHECK-MVE-NEXT:    cmp r2, #0
2218 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2219 ; CHECK-MVE-NEXT:    vmov r2, s12
2220 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2221 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2222 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2223 ; CHECK-MVE-NEXT:    vmov s16, r1
2224 ; CHECK-MVE-NEXT:    movs r1, #0
2225 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2226 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2227 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2228 ; CHECK-MVE-NEXT:    it hi
2229 ; CHECK-MVE-NEXT:    movhi r1, #1
2230 ; CHECK-MVE-NEXT:    cmp r1, #0
2231 ; CHECK-MVE-NEXT:    vmov s16, r2
2232 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2233 ; CHECK-MVE-NEXT:    it ne
2234 ; CHECK-MVE-NEXT:    movne r1, #1
2235 ; CHECK-MVE-NEXT:    vmov s18, r2
2236 ; CHECK-MVE-NEXT:    cmp r1, #0
2237 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2238 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2239 ; CHECK-MVE-NEXT:    vmov r1, s16
2240 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2241 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2242 ; CHECK-MVE-NEXT:    vmov s16, r1
2243 ; CHECK-MVE-NEXT:    movs r1, #0
2244 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2245 ; CHECK-MVE-NEXT:    vmov s16, r2
2246 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2247 ; CHECK-MVE-NEXT:    it hi
2248 ; CHECK-MVE-NEXT:    movhi r1, #1
2249 ; CHECK-MVE-NEXT:    cmp r1, #0
2250 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2251 ; CHECK-MVE-NEXT:    it ne
2252 ; CHECK-MVE-NEXT:    movne r1, #1
2253 ; CHECK-MVE-NEXT:    vmov s18, r2
2254 ; CHECK-MVE-NEXT:    cmp r1, #0
2255 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2256 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2257 ; CHECK-MVE-NEXT:    vmov r1, s16
2258 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2259 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2260 ; CHECK-MVE-NEXT:    vmov s16, r1
2261 ; CHECK-MVE-NEXT:    movs r1, #0
2262 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2263 ; CHECK-MVE-NEXT:    vmov s16, r2
2264 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2265 ; CHECK-MVE-NEXT:    it hi
2266 ; CHECK-MVE-NEXT:    movhi r1, #1
2267 ; CHECK-MVE-NEXT:    cmp r1, #0
2268 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2269 ; CHECK-MVE-NEXT:    it ne
2270 ; CHECK-MVE-NEXT:    movne r1, #1
2271 ; CHECK-MVE-NEXT:    vmov s18, r2
2272 ; CHECK-MVE-NEXT:    cmp r1, #0
2273 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2274 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2275 ; CHECK-MVE-NEXT:    vmov r1, s16
2276 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2277 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2278 ; CHECK-MVE-NEXT:    vmov s16, r1
2279 ; CHECK-MVE-NEXT:    movs r1, #0
2280 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2281 ; CHECK-MVE-NEXT:    vmov s16, r2
2282 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2283 ; CHECK-MVE-NEXT:    it hi
2284 ; CHECK-MVE-NEXT:    movhi r1, #1
2285 ; CHECK-MVE-NEXT:    cmp r1, #0
2286 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2287 ; CHECK-MVE-NEXT:    it ne
2288 ; CHECK-MVE-NEXT:    movne r1, #1
2289 ; CHECK-MVE-NEXT:    vmov s18, r2
2290 ; CHECK-MVE-NEXT:    cmp r1, #0
2291 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2292 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2293 ; CHECK-MVE-NEXT:    vmov r1, s16
2294 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2295 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2296 ; CHECK-MVE-NEXT:    vmov s16, r1
2297 ; CHECK-MVE-NEXT:    movs r1, #0
2298 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2299 ; CHECK-MVE-NEXT:    vmov s16, r2
2300 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2301 ; CHECK-MVE-NEXT:    it hi
2302 ; CHECK-MVE-NEXT:    movhi r1, #1
2303 ; CHECK-MVE-NEXT:    cmp r1, #0
2304 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2305 ; CHECK-MVE-NEXT:    it ne
2306 ; CHECK-MVE-NEXT:    movne r1, #1
2307 ; CHECK-MVE-NEXT:    vmov s18, r2
2308 ; CHECK-MVE-NEXT:    cmp r1, #0
2309 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2310 ; CHECK-MVE-NEXT:    vmov r1, s16
2311 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2312 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2313 ; CHECK-MVE-NEXT:    vmov s0, r1
2314 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2315 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
2316 ; CHECK-MVE-NEXT:    vmov s0, r1
2317 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2318 ; CHECK-MVE-NEXT:    it hi
2319 ; CHECK-MVE-NEXT:    movhi r0, #1
2320 ; CHECK-MVE-NEXT:    cmp r0, #0
2321 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2322 ; CHECK-MVE-NEXT:    it ne
2323 ; CHECK-MVE-NEXT:    movne r0, #1
2324 ; CHECK-MVE-NEXT:    vmov s2, r1
2325 ; CHECK-MVE-NEXT:    cmp r0, #0
2326 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2327 ; CHECK-MVE-NEXT:    vmov r0, s0
2328 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2329 ; CHECK-MVE-NEXT:    vmov q0, q3
2330 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2331 ; CHECK-MVE-NEXT:    bx lr
2333 ; CHECK-MVEFP-LABEL: vcmp_ugt_v8f16:
2334 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2335 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q0, zr
2336 ; CHECK-MVEFP-NEXT:    vpnot
2337 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2338 ; CHECK-MVEFP-NEXT:    bx lr
2339 entry:
2340   %c = fcmp ugt <8 x half> %src, zeroinitializer
2341   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2342   ret <8 x half> %s
2345 define arm_aapcs_vfpcc <8 x half> @vcmp_uge_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2346 ; CHECK-MVE-LABEL: vcmp_uge_v8f16:
2347 ; CHECK-MVE:       @ %bb.0: @ %entry
2348 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2349 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2350 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2351 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2352 ; CHECK-MVE-NEXT:    vmov s12, r1
2353 ; CHECK-MVE-NEXT:    movs r1, #0
2354 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2355 ; CHECK-MVE-NEXT:    vmov s12, r2
2356 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2357 ; CHECK-MVE-NEXT:    it pl
2358 ; CHECK-MVE-NEXT:    movpl r1, #1
2359 ; CHECK-MVE-NEXT:    cmp r1, #0
2360 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2361 ; CHECK-MVE-NEXT:    it ne
2362 ; CHECK-MVE-NEXT:    movne r1, #1
2363 ; CHECK-MVE-NEXT:    vmov s14, r2
2364 ; CHECK-MVE-NEXT:    cmp r1, #0
2365 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2366 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2367 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2368 ; CHECK-MVE-NEXT:    vmov r1, s12
2369 ; CHECK-MVE-NEXT:    movs r0, #0
2370 ; CHECK-MVE-NEXT:    vmov s12, r2
2371 ; CHECK-MVE-NEXT:    movs r2, #0
2372 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2373 ; CHECK-MVE-NEXT:    vmov s12, r3
2374 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2375 ; CHECK-MVE-NEXT:    it pl
2376 ; CHECK-MVE-NEXT:    movpl r2, #1
2377 ; CHECK-MVE-NEXT:    cmp r2, #0
2378 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2379 ; CHECK-MVE-NEXT:    it ne
2380 ; CHECK-MVE-NEXT:    movne r2, #1
2381 ; CHECK-MVE-NEXT:    vmov s14, r3
2382 ; CHECK-MVE-NEXT:    cmp r2, #0
2383 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2384 ; CHECK-MVE-NEXT:    vmov r2, s12
2385 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2386 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2387 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2388 ; CHECK-MVE-NEXT:    vmov s16, r1
2389 ; CHECK-MVE-NEXT:    movs r1, #0
2390 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2391 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2392 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2393 ; CHECK-MVE-NEXT:    it pl
2394 ; CHECK-MVE-NEXT:    movpl r1, #1
2395 ; CHECK-MVE-NEXT:    cmp r1, #0
2396 ; CHECK-MVE-NEXT:    vmov s16, r2
2397 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2398 ; CHECK-MVE-NEXT:    it ne
2399 ; CHECK-MVE-NEXT:    movne r1, #1
2400 ; CHECK-MVE-NEXT:    vmov s18, r2
2401 ; CHECK-MVE-NEXT:    cmp r1, #0
2402 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2403 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2404 ; CHECK-MVE-NEXT:    vmov r1, s16
2405 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2406 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2407 ; CHECK-MVE-NEXT:    vmov s16, r1
2408 ; CHECK-MVE-NEXT:    movs r1, #0
2409 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2410 ; CHECK-MVE-NEXT:    vmov s16, r2
2411 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2412 ; CHECK-MVE-NEXT:    it pl
2413 ; CHECK-MVE-NEXT:    movpl r1, #1
2414 ; CHECK-MVE-NEXT:    cmp r1, #0
2415 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2416 ; CHECK-MVE-NEXT:    it ne
2417 ; CHECK-MVE-NEXT:    movne r1, #1
2418 ; CHECK-MVE-NEXT:    vmov s18, r2
2419 ; CHECK-MVE-NEXT:    cmp r1, #0
2420 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2421 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2422 ; CHECK-MVE-NEXT:    vmov r1, s16
2423 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2424 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2425 ; CHECK-MVE-NEXT:    vmov s16, r1
2426 ; CHECK-MVE-NEXT:    movs r1, #0
2427 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2428 ; CHECK-MVE-NEXT:    vmov s16, r2
2429 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2430 ; CHECK-MVE-NEXT:    it pl
2431 ; CHECK-MVE-NEXT:    movpl r1, #1
2432 ; CHECK-MVE-NEXT:    cmp r1, #0
2433 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2434 ; CHECK-MVE-NEXT:    it ne
2435 ; CHECK-MVE-NEXT:    movne r1, #1
2436 ; CHECK-MVE-NEXT:    vmov s18, r2
2437 ; CHECK-MVE-NEXT:    cmp r1, #0
2438 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2439 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2440 ; CHECK-MVE-NEXT:    vmov r1, s16
2441 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2442 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2443 ; CHECK-MVE-NEXT:    vmov s16, r1
2444 ; CHECK-MVE-NEXT:    movs r1, #0
2445 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2446 ; CHECK-MVE-NEXT:    vmov s16, r2
2447 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2448 ; CHECK-MVE-NEXT:    it pl
2449 ; CHECK-MVE-NEXT:    movpl r1, #1
2450 ; CHECK-MVE-NEXT:    cmp r1, #0
2451 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2452 ; CHECK-MVE-NEXT:    it ne
2453 ; CHECK-MVE-NEXT:    movne r1, #1
2454 ; CHECK-MVE-NEXT:    vmov s18, r2
2455 ; CHECK-MVE-NEXT:    cmp r1, #0
2456 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2457 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2458 ; CHECK-MVE-NEXT:    vmov r1, s16
2459 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2460 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2461 ; CHECK-MVE-NEXT:    vmov s16, r1
2462 ; CHECK-MVE-NEXT:    movs r1, #0
2463 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2464 ; CHECK-MVE-NEXT:    vmov s16, r2
2465 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2466 ; CHECK-MVE-NEXT:    it pl
2467 ; CHECK-MVE-NEXT:    movpl r1, #1
2468 ; CHECK-MVE-NEXT:    cmp r1, #0
2469 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2470 ; CHECK-MVE-NEXT:    it ne
2471 ; CHECK-MVE-NEXT:    movne r1, #1
2472 ; CHECK-MVE-NEXT:    vmov s18, r2
2473 ; CHECK-MVE-NEXT:    cmp r1, #0
2474 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2475 ; CHECK-MVE-NEXT:    vmov r1, s16
2476 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2477 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2478 ; CHECK-MVE-NEXT:    vmov s0, r1
2479 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2480 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
2481 ; CHECK-MVE-NEXT:    vmov s0, r1
2482 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2483 ; CHECK-MVE-NEXT:    it pl
2484 ; CHECK-MVE-NEXT:    movpl r0, #1
2485 ; CHECK-MVE-NEXT:    cmp r0, #0
2486 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2487 ; CHECK-MVE-NEXT:    it ne
2488 ; CHECK-MVE-NEXT:    movne r0, #1
2489 ; CHECK-MVE-NEXT:    vmov s2, r1
2490 ; CHECK-MVE-NEXT:    cmp r0, #0
2491 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2492 ; CHECK-MVE-NEXT:    vmov r0, s0
2493 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2494 ; CHECK-MVE-NEXT:    vmov q0, q3
2495 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2496 ; CHECK-MVE-NEXT:    bx lr
2498 ; CHECK-MVEFP-LABEL: vcmp_uge_v8f16:
2499 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2500 ; CHECK-MVEFP-NEXT:    vcmp.f16 lt, q0, zr
2501 ; CHECK-MVEFP-NEXT:    vpnot
2502 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2503 ; CHECK-MVEFP-NEXT:    bx lr
2504 entry:
2505   %c = fcmp uge <8 x half> %src, zeroinitializer
2506   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2507   ret <8 x half> %s
2510 define arm_aapcs_vfpcc <8 x half> @vcmp_ult_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2511 ; CHECK-MVE-LABEL: vcmp_ult_v8f16:
2512 ; CHECK-MVE:       @ %bb.0: @ %entry
2513 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2514 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2515 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2516 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2517 ; CHECK-MVE-NEXT:    vmov s12, r1
2518 ; CHECK-MVE-NEXT:    movs r1, #0
2519 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2520 ; CHECK-MVE-NEXT:    vmov s12, r2
2521 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2522 ; CHECK-MVE-NEXT:    it lt
2523 ; CHECK-MVE-NEXT:    movlt r1, #1
2524 ; CHECK-MVE-NEXT:    cmp r1, #0
2525 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2526 ; CHECK-MVE-NEXT:    it ne
2527 ; CHECK-MVE-NEXT:    movne r1, #1
2528 ; CHECK-MVE-NEXT:    vmov s14, r2
2529 ; CHECK-MVE-NEXT:    cmp r1, #0
2530 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2531 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2532 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2533 ; CHECK-MVE-NEXT:    vmov r1, s12
2534 ; CHECK-MVE-NEXT:    movs r0, #0
2535 ; CHECK-MVE-NEXT:    vmov s12, r2
2536 ; CHECK-MVE-NEXT:    movs r2, #0
2537 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2538 ; CHECK-MVE-NEXT:    vmov s12, r3
2539 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2540 ; CHECK-MVE-NEXT:    it lt
2541 ; CHECK-MVE-NEXT:    movlt r2, #1
2542 ; CHECK-MVE-NEXT:    cmp r2, #0
2543 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2544 ; CHECK-MVE-NEXT:    it ne
2545 ; CHECK-MVE-NEXT:    movne r2, #1
2546 ; CHECK-MVE-NEXT:    vmov s14, r3
2547 ; CHECK-MVE-NEXT:    cmp r2, #0
2548 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2549 ; CHECK-MVE-NEXT:    vmov r2, s12
2550 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2551 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2552 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2553 ; CHECK-MVE-NEXT:    vmov s16, r1
2554 ; CHECK-MVE-NEXT:    movs r1, #0
2555 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2556 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2557 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2558 ; CHECK-MVE-NEXT:    it lt
2559 ; CHECK-MVE-NEXT:    movlt r1, #1
2560 ; CHECK-MVE-NEXT:    cmp r1, #0
2561 ; CHECK-MVE-NEXT:    vmov s16, r2
2562 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2563 ; CHECK-MVE-NEXT:    it ne
2564 ; CHECK-MVE-NEXT:    movne r1, #1
2565 ; CHECK-MVE-NEXT:    vmov s18, r2
2566 ; CHECK-MVE-NEXT:    cmp r1, #0
2567 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2568 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2569 ; CHECK-MVE-NEXT:    vmov r1, s16
2570 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2571 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2572 ; CHECK-MVE-NEXT:    vmov s16, r1
2573 ; CHECK-MVE-NEXT:    movs r1, #0
2574 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2575 ; CHECK-MVE-NEXT:    vmov s16, r2
2576 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2577 ; CHECK-MVE-NEXT:    it lt
2578 ; CHECK-MVE-NEXT:    movlt r1, #1
2579 ; CHECK-MVE-NEXT:    cmp r1, #0
2580 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2581 ; CHECK-MVE-NEXT:    it ne
2582 ; CHECK-MVE-NEXT:    movne r1, #1
2583 ; CHECK-MVE-NEXT:    vmov s18, r2
2584 ; CHECK-MVE-NEXT:    cmp r1, #0
2585 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2586 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2587 ; CHECK-MVE-NEXT:    vmov r1, s16
2588 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2589 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2590 ; CHECK-MVE-NEXT:    vmov s16, r1
2591 ; CHECK-MVE-NEXT:    movs r1, #0
2592 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2593 ; CHECK-MVE-NEXT:    vmov s16, r2
2594 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2595 ; CHECK-MVE-NEXT:    it lt
2596 ; CHECK-MVE-NEXT:    movlt r1, #1
2597 ; CHECK-MVE-NEXT:    cmp r1, #0
2598 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2599 ; CHECK-MVE-NEXT:    it ne
2600 ; CHECK-MVE-NEXT:    movne r1, #1
2601 ; CHECK-MVE-NEXT:    vmov s18, r2
2602 ; CHECK-MVE-NEXT:    cmp r1, #0
2603 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2604 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2605 ; CHECK-MVE-NEXT:    vmov r1, s16
2606 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2607 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2608 ; CHECK-MVE-NEXT:    vmov s16, r1
2609 ; CHECK-MVE-NEXT:    movs r1, #0
2610 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2611 ; CHECK-MVE-NEXT:    vmov s16, r2
2612 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2613 ; CHECK-MVE-NEXT:    it lt
2614 ; CHECK-MVE-NEXT:    movlt r1, #1
2615 ; CHECK-MVE-NEXT:    cmp r1, #0
2616 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2617 ; CHECK-MVE-NEXT:    it ne
2618 ; CHECK-MVE-NEXT:    movne r1, #1
2619 ; CHECK-MVE-NEXT:    vmov s18, r2
2620 ; CHECK-MVE-NEXT:    cmp r1, #0
2621 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2622 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2623 ; CHECK-MVE-NEXT:    vmov r1, s16
2624 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2625 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2626 ; CHECK-MVE-NEXT:    vmov s16, r1
2627 ; CHECK-MVE-NEXT:    movs r1, #0
2628 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2629 ; CHECK-MVE-NEXT:    vmov s16, r2
2630 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2631 ; CHECK-MVE-NEXT:    it lt
2632 ; CHECK-MVE-NEXT:    movlt r1, #1
2633 ; CHECK-MVE-NEXT:    cmp r1, #0
2634 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2635 ; CHECK-MVE-NEXT:    it ne
2636 ; CHECK-MVE-NEXT:    movne r1, #1
2637 ; CHECK-MVE-NEXT:    vmov s18, r2
2638 ; CHECK-MVE-NEXT:    cmp r1, #0
2639 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2640 ; CHECK-MVE-NEXT:    vmov r1, s16
2641 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2642 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2643 ; CHECK-MVE-NEXT:    vmov s0, r1
2644 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2645 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
2646 ; CHECK-MVE-NEXT:    vmov s0, r1
2647 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2648 ; CHECK-MVE-NEXT:    it lt
2649 ; CHECK-MVE-NEXT:    movlt r0, #1
2650 ; CHECK-MVE-NEXT:    cmp r0, #0
2651 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2652 ; CHECK-MVE-NEXT:    it ne
2653 ; CHECK-MVE-NEXT:    movne r0, #1
2654 ; CHECK-MVE-NEXT:    vmov s2, r1
2655 ; CHECK-MVE-NEXT:    cmp r0, #0
2656 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2657 ; CHECK-MVE-NEXT:    vmov r0, s0
2658 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2659 ; CHECK-MVE-NEXT:    vmov q0, q3
2660 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2661 ; CHECK-MVE-NEXT:    bx lr
2663 ; CHECK-MVEFP-LABEL: vcmp_ult_v8f16:
2664 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2665 ; CHECK-MVEFP-NEXT:    vcmp.f16 ge, q0, zr
2666 ; CHECK-MVEFP-NEXT:    vpnot
2667 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2668 ; CHECK-MVEFP-NEXT:    bx lr
2669 entry:
2670   %c = fcmp ult <8 x half> %src, zeroinitializer
2671   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2672   ret <8 x half> %s
2675 define arm_aapcs_vfpcc <8 x half> @vcmp_ule_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2676 ; CHECK-MVE-LABEL: vcmp_ule_v8f16:
2677 ; CHECK-MVE:       @ %bb.0: @ %entry
2678 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2679 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2680 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2681 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2682 ; CHECK-MVE-NEXT:    vmov s12, r1
2683 ; CHECK-MVE-NEXT:    movs r1, #0
2684 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2685 ; CHECK-MVE-NEXT:    vmov s12, r2
2686 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2687 ; CHECK-MVE-NEXT:    it le
2688 ; CHECK-MVE-NEXT:    movle r1, #1
2689 ; CHECK-MVE-NEXT:    cmp r1, #0
2690 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2691 ; CHECK-MVE-NEXT:    it ne
2692 ; CHECK-MVE-NEXT:    movne r1, #1
2693 ; CHECK-MVE-NEXT:    vmov s14, r2
2694 ; CHECK-MVE-NEXT:    cmp r1, #0
2695 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2696 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2697 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2698 ; CHECK-MVE-NEXT:    vmov r1, s12
2699 ; CHECK-MVE-NEXT:    movs r0, #0
2700 ; CHECK-MVE-NEXT:    vmov s12, r2
2701 ; CHECK-MVE-NEXT:    movs r2, #0
2702 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, #0
2703 ; CHECK-MVE-NEXT:    vmov s12, r3
2704 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2705 ; CHECK-MVE-NEXT:    it le
2706 ; CHECK-MVE-NEXT:    movle r2, #1
2707 ; CHECK-MVE-NEXT:    cmp r2, #0
2708 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2709 ; CHECK-MVE-NEXT:    it ne
2710 ; CHECK-MVE-NEXT:    movne r2, #1
2711 ; CHECK-MVE-NEXT:    vmov s14, r3
2712 ; CHECK-MVE-NEXT:    cmp r2, #0
2713 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2714 ; CHECK-MVE-NEXT:    vmov r2, s12
2715 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2716 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2717 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2718 ; CHECK-MVE-NEXT:    vmov s16, r1
2719 ; CHECK-MVE-NEXT:    movs r1, #0
2720 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2721 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2722 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2723 ; CHECK-MVE-NEXT:    it le
2724 ; CHECK-MVE-NEXT:    movle r1, #1
2725 ; CHECK-MVE-NEXT:    cmp r1, #0
2726 ; CHECK-MVE-NEXT:    vmov s16, r2
2727 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2728 ; CHECK-MVE-NEXT:    it ne
2729 ; CHECK-MVE-NEXT:    movne r1, #1
2730 ; CHECK-MVE-NEXT:    vmov s18, r2
2731 ; CHECK-MVE-NEXT:    cmp r1, #0
2732 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2733 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2734 ; CHECK-MVE-NEXT:    vmov r1, s16
2735 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2736 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2737 ; CHECK-MVE-NEXT:    vmov s16, r1
2738 ; CHECK-MVE-NEXT:    movs r1, #0
2739 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2740 ; CHECK-MVE-NEXT:    vmov s16, r2
2741 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2742 ; CHECK-MVE-NEXT:    it le
2743 ; CHECK-MVE-NEXT:    movle r1, #1
2744 ; CHECK-MVE-NEXT:    cmp r1, #0
2745 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2746 ; CHECK-MVE-NEXT:    it ne
2747 ; CHECK-MVE-NEXT:    movne r1, #1
2748 ; CHECK-MVE-NEXT:    vmov s18, r2
2749 ; CHECK-MVE-NEXT:    cmp r1, #0
2750 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2751 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2752 ; CHECK-MVE-NEXT:    vmov r1, s16
2753 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2754 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2755 ; CHECK-MVE-NEXT:    vmov s16, r1
2756 ; CHECK-MVE-NEXT:    movs r1, #0
2757 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2758 ; CHECK-MVE-NEXT:    vmov s16, r2
2759 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2760 ; CHECK-MVE-NEXT:    it le
2761 ; CHECK-MVE-NEXT:    movle r1, #1
2762 ; CHECK-MVE-NEXT:    cmp r1, #0
2763 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2764 ; CHECK-MVE-NEXT:    it ne
2765 ; CHECK-MVE-NEXT:    movne r1, #1
2766 ; CHECK-MVE-NEXT:    vmov s18, r2
2767 ; CHECK-MVE-NEXT:    cmp r1, #0
2768 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2769 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2770 ; CHECK-MVE-NEXT:    vmov r1, s16
2771 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2772 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2773 ; CHECK-MVE-NEXT:    vmov s16, r1
2774 ; CHECK-MVE-NEXT:    movs r1, #0
2775 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2776 ; CHECK-MVE-NEXT:    vmov s16, r2
2777 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2778 ; CHECK-MVE-NEXT:    it le
2779 ; CHECK-MVE-NEXT:    movle r1, #1
2780 ; CHECK-MVE-NEXT:    cmp r1, #0
2781 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2782 ; CHECK-MVE-NEXT:    it ne
2783 ; CHECK-MVE-NEXT:    movne r1, #1
2784 ; CHECK-MVE-NEXT:    vmov s18, r2
2785 ; CHECK-MVE-NEXT:    cmp r1, #0
2786 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2787 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2788 ; CHECK-MVE-NEXT:    vmov r1, s16
2789 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2790 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2791 ; CHECK-MVE-NEXT:    vmov s16, r1
2792 ; CHECK-MVE-NEXT:    movs r1, #0
2793 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, #0
2794 ; CHECK-MVE-NEXT:    vmov s16, r2
2795 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2796 ; CHECK-MVE-NEXT:    it le
2797 ; CHECK-MVE-NEXT:    movle r1, #1
2798 ; CHECK-MVE-NEXT:    cmp r1, #0
2799 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2800 ; CHECK-MVE-NEXT:    it ne
2801 ; CHECK-MVE-NEXT:    movne r1, #1
2802 ; CHECK-MVE-NEXT:    vmov s18, r2
2803 ; CHECK-MVE-NEXT:    cmp r1, #0
2804 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2805 ; CHECK-MVE-NEXT:    vmov r1, s16
2806 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2807 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2808 ; CHECK-MVE-NEXT:    vmov s0, r1
2809 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2810 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, #0
2811 ; CHECK-MVE-NEXT:    vmov s0, r1
2812 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2813 ; CHECK-MVE-NEXT:    it le
2814 ; CHECK-MVE-NEXT:    movle r0, #1
2815 ; CHECK-MVE-NEXT:    cmp r0, #0
2816 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2817 ; CHECK-MVE-NEXT:    it ne
2818 ; CHECK-MVE-NEXT:    movne r0, #1
2819 ; CHECK-MVE-NEXT:    vmov s2, r1
2820 ; CHECK-MVE-NEXT:    cmp r0, #0
2821 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2822 ; CHECK-MVE-NEXT:    vmov r0, s0
2823 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2824 ; CHECK-MVE-NEXT:    vmov q0, q3
2825 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2826 ; CHECK-MVE-NEXT:    bx lr
2828 ; CHECK-MVEFP-LABEL: vcmp_ule_v8f16:
2829 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2830 ; CHECK-MVEFP-NEXT:    vcmp.f16 gt, q0, zr
2831 ; CHECK-MVEFP-NEXT:    vpnot
2832 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
2833 ; CHECK-MVEFP-NEXT:    bx lr
2834 entry:
2835   %c = fcmp ule <8 x half> %src, zeroinitializer
2836   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
2837   ret <8 x half> %s
2840 define arm_aapcs_vfpcc <8 x half> @vcmp_ord_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
2841 ; CHECK-MVE-LABEL: vcmp_ord_v8f16:
2842 ; CHECK-MVE:       @ %bb.0: @ %entry
2843 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
2844 ; CHECK-MVE-NEXT:    vpush {d8, d9}
2845 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
2846 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
2847 ; CHECK-MVE-NEXT:    vmov s12, r1
2848 ; CHECK-MVE-NEXT:    movs r1, #0
2849 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, s12
2850 ; CHECK-MVE-NEXT:    vmov s12, r2
2851 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2852 ; CHECK-MVE-NEXT:    it vc
2853 ; CHECK-MVE-NEXT:    movvc r1, #1
2854 ; CHECK-MVE-NEXT:    cmp r1, #0
2855 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
2856 ; CHECK-MVE-NEXT:    it ne
2857 ; CHECK-MVE-NEXT:    movne r1, #1
2858 ; CHECK-MVE-NEXT:    vmov s14, r2
2859 ; CHECK-MVE-NEXT:    cmp r1, #0
2860 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
2861 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2862 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
2863 ; CHECK-MVE-NEXT:    vmov r1, s12
2864 ; CHECK-MVE-NEXT:    movs r0, #0
2865 ; CHECK-MVE-NEXT:    vmov s12, r2
2866 ; CHECK-MVE-NEXT:    movs r2, #0
2867 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, s12
2868 ; CHECK-MVE-NEXT:    vmov s12, r3
2869 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2870 ; CHECK-MVE-NEXT:    it vc
2871 ; CHECK-MVE-NEXT:    movvc r2, #1
2872 ; CHECK-MVE-NEXT:    cmp r2, #0
2873 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
2874 ; CHECK-MVE-NEXT:    it ne
2875 ; CHECK-MVE-NEXT:    movne r2, #1
2876 ; CHECK-MVE-NEXT:    vmov s14, r3
2877 ; CHECK-MVE-NEXT:    cmp r2, #0
2878 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
2879 ; CHECK-MVE-NEXT:    vmov r2, s12
2880 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
2881 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
2882 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
2883 ; CHECK-MVE-NEXT:    vmov s16, r1
2884 ; CHECK-MVE-NEXT:    movs r1, #0
2885 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2886 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
2887 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2888 ; CHECK-MVE-NEXT:    it vc
2889 ; CHECK-MVE-NEXT:    movvc r1, #1
2890 ; CHECK-MVE-NEXT:    cmp r1, #0
2891 ; CHECK-MVE-NEXT:    vmov s16, r2
2892 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
2893 ; CHECK-MVE-NEXT:    it ne
2894 ; CHECK-MVE-NEXT:    movne r1, #1
2895 ; CHECK-MVE-NEXT:    vmov s18, r2
2896 ; CHECK-MVE-NEXT:    cmp r1, #0
2897 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2898 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
2899 ; CHECK-MVE-NEXT:    vmov r1, s16
2900 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
2901 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
2902 ; CHECK-MVE-NEXT:    vmov s16, r1
2903 ; CHECK-MVE-NEXT:    movs r1, #0
2904 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2905 ; CHECK-MVE-NEXT:    vmov s16, r2
2906 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2907 ; CHECK-MVE-NEXT:    it vc
2908 ; CHECK-MVE-NEXT:    movvc r1, #1
2909 ; CHECK-MVE-NEXT:    cmp r1, #0
2910 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
2911 ; CHECK-MVE-NEXT:    it ne
2912 ; CHECK-MVE-NEXT:    movne r1, #1
2913 ; CHECK-MVE-NEXT:    vmov s18, r2
2914 ; CHECK-MVE-NEXT:    cmp r1, #0
2915 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
2916 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2917 ; CHECK-MVE-NEXT:    vmov r1, s16
2918 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
2919 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
2920 ; CHECK-MVE-NEXT:    vmov s16, r1
2921 ; CHECK-MVE-NEXT:    movs r1, #0
2922 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2923 ; CHECK-MVE-NEXT:    vmov s16, r2
2924 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2925 ; CHECK-MVE-NEXT:    it vc
2926 ; CHECK-MVE-NEXT:    movvc r1, #1
2927 ; CHECK-MVE-NEXT:    cmp r1, #0
2928 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
2929 ; CHECK-MVE-NEXT:    it ne
2930 ; CHECK-MVE-NEXT:    movne r1, #1
2931 ; CHECK-MVE-NEXT:    vmov s18, r2
2932 ; CHECK-MVE-NEXT:    cmp r1, #0
2933 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
2934 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2935 ; CHECK-MVE-NEXT:    vmov r1, s16
2936 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
2937 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
2938 ; CHECK-MVE-NEXT:    vmov s16, r1
2939 ; CHECK-MVE-NEXT:    movs r1, #0
2940 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2941 ; CHECK-MVE-NEXT:    vmov s16, r2
2942 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2943 ; CHECK-MVE-NEXT:    it vc
2944 ; CHECK-MVE-NEXT:    movvc r1, #1
2945 ; CHECK-MVE-NEXT:    cmp r1, #0
2946 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
2947 ; CHECK-MVE-NEXT:    it ne
2948 ; CHECK-MVE-NEXT:    movne r1, #1
2949 ; CHECK-MVE-NEXT:    vmov s18, r2
2950 ; CHECK-MVE-NEXT:    cmp r1, #0
2951 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
2952 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2953 ; CHECK-MVE-NEXT:    vmov r1, s16
2954 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
2955 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
2956 ; CHECK-MVE-NEXT:    vmov s16, r1
2957 ; CHECK-MVE-NEXT:    movs r1, #0
2958 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
2959 ; CHECK-MVE-NEXT:    vmov s16, r2
2960 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2961 ; CHECK-MVE-NEXT:    it vc
2962 ; CHECK-MVE-NEXT:    movvc r1, #1
2963 ; CHECK-MVE-NEXT:    cmp r1, #0
2964 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
2965 ; CHECK-MVE-NEXT:    it ne
2966 ; CHECK-MVE-NEXT:    movne r1, #1
2967 ; CHECK-MVE-NEXT:    vmov s18, r2
2968 ; CHECK-MVE-NEXT:    cmp r1, #0
2969 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
2970 ; CHECK-MVE-NEXT:    vmov r1, s16
2971 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
2972 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
2973 ; CHECK-MVE-NEXT:    vmov s0, r1
2974 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
2975 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, s0
2976 ; CHECK-MVE-NEXT:    vmov s0, r1
2977 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
2978 ; CHECK-MVE-NEXT:    it vc
2979 ; CHECK-MVE-NEXT:    movvc r0, #1
2980 ; CHECK-MVE-NEXT:    cmp r0, #0
2981 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
2982 ; CHECK-MVE-NEXT:    it ne
2983 ; CHECK-MVE-NEXT:    movne r0, #1
2984 ; CHECK-MVE-NEXT:    vmov s2, r1
2985 ; CHECK-MVE-NEXT:    cmp r0, #0
2986 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
2987 ; CHECK-MVE-NEXT:    vmov r0, s0
2988 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
2989 ; CHECK-MVE-NEXT:    vmov q0, q3
2990 ; CHECK-MVE-NEXT:    vpop {d8, d9}
2991 ; CHECK-MVE-NEXT:    bx lr
2993 ; CHECK-MVEFP-LABEL: vcmp_ord_v8f16:
2994 ; CHECK-MVEFP:       @ %bb.0: @ %entry
2995 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
2996 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q3, q0
2997 ; CHECK-MVEFP-NEXT:    vpst
2998 ; CHECK-MVEFP-NEXT:    vcmpt.f16 lt, q0, q3
2999 ; CHECK-MVEFP-NEXT:    vpnot
3000 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
3001 ; CHECK-MVEFP-NEXT:    bx lr
3002 entry:
3003   %c = fcmp ord <8 x half> %src, zeroinitializer
3004   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
3005   ret <8 x half> %s
3008 define arm_aapcs_vfpcc <8 x half> @vcmp_uno_v8f16(<8 x half> %src, <8 x half> %a, <8 x half> %b) {
3009 ; CHECK-MVE-LABEL: vcmp_uno_v8f16:
3010 ; CHECK-MVE:       @ %bb.0: @ %entry
3011 ; CHECK-MVE-NEXT:    .vsave {d8, d9}
3012 ; CHECK-MVE-NEXT:    vpush {d8, d9}
3013 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[0]
3014 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[0]
3015 ; CHECK-MVE-NEXT:    vmov s12, r1
3016 ; CHECK-MVE-NEXT:    movs r1, #0
3017 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, s12
3018 ; CHECK-MVE-NEXT:    vmov s12, r2
3019 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3020 ; CHECK-MVE-NEXT:    it vs
3021 ; CHECK-MVE-NEXT:    movvs r1, #1
3022 ; CHECK-MVE-NEXT:    cmp r1, #0
3023 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[0]
3024 ; CHECK-MVE-NEXT:    it ne
3025 ; CHECK-MVE-NEXT:    movne r1, #1
3026 ; CHECK-MVE-NEXT:    vmov s14, r2
3027 ; CHECK-MVE-NEXT:    cmp r1, #0
3028 ; CHECK-MVE-NEXT:    vmov.u16 r2, q0[1]
3029 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
3030 ; CHECK-MVE-NEXT:    vmov.u16 r3, q1[1]
3031 ; CHECK-MVE-NEXT:    vmov r1, s12
3032 ; CHECK-MVE-NEXT:    movs r0, #0
3033 ; CHECK-MVE-NEXT:    vmov s12, r2
3034 ; CHECK-MVE-NEXT:    movs r2, #0
3035 ; CHECK-MVE-NEXT:    vcmpe.f16 s12, s12
3036 ; CHECK-MVE-NEXT:    vmov s12, r3
3037 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3038 ; CHECK-MVE-NEXT:    it vs
3039 ; CHECK-MVE-NEXT:    movvs r2, #1
3040 ; CHECK-MVE-NEXT:    cmp r2, #0
3041 ; CHECK-MVE-NEXT:    vmov.u16 r3, q2[1]
3042 ; CHECK-MVE-NEXT:    it ne
3043 ; CHECK-MVE-NEXT:    movne r2, #1
3044 ; CHECK-MVE-NEXT:    vmov s14, r3
3045 ; CHECK-MVE-NEXT:    cmp r2, #0
3046 ; CHECK-MVE-NEXT:    vseleq.f16 s12, s14, s12
3047 ; CHECK-MVE-NEXT:    vmov r2, s12
3048 ; CHECK-MVE-NEXT:    vmov.16 q3[0], r1
3049 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[2]
3050 ; CHECK-MVE-NEXT:    vmov.16 q3[1], r2
3051 ; CHECK-MVE-NEXT:    vmov s16, r1
3052 ; CHECK-MVE-NEXT:    movs r1, #0
3053 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3054 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[2]
3055 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3056 ; CHECK-MVE-NEXT:    it vs
3057 ; CHECK-MVE-NEXT:    movvs r1, #1
3058 ; CHECK-MVE-NEXT:    cmp r1, #0
3059 ; CHECK-MVE-NEXT:    vmov s16, r2
3060 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[2]
3061 ; CHECK-MVE-NEXT:    it ne
3062 ; CHECK-MVE-NEXT:    movne r1, #1
3063 ; CHECK-MVE-NEXT:    vmov s18, r2
3064 ; CHECK-MVE-NEXT:    cmp r1, #0
3065 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3066 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[3]
3067 ; CHECK-MVE-NEXT:    vmov r1, s16
3068 ; CHECK-MVE-NEXT:    vmov.16 q3[2], r1
3069 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[3]
3070 ; CHECK-MVE-NEXT:    vmov s16, r1
3071 ; CHECK-MVE-NEXT:    movs r1, #0
3072 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3073 ; CHECK-MVE-NEXT:    vmov s16, r2
3074 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3075 ; CHECK-MVE-NEXT:    it vs
3076 ; CHECK-MVE-NEXT:    movvs r1, #1
3077 ; CHECK-MVE-NEXT:    cmp r1, #0
3078 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[3]
3079 ; CHECK-MVE-NEXT:    it ne
3080 ; CHECK-MVE-NEXT:    movne r1, #1
3081 ; CHECK-MVE-NEXT:    vmov s18, r2
3082 ; CHECK-MVE-NEXT:    cmp r1, #0
3083 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[4]
3084 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3085 ; CHECK-MVE-NEXT:    vmov r1, s16
3086 ; CHECK-MVE-NEXT:    vmov.16 q3[3], r1
3087 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[4]
3088 ; CHECK-MVE-NEXT:    vmov s16, r1
3089 ; CHECK-MVE-NEXT:    movs r1, #0
3090 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3091 ; CHECK-MVE-NEXT:    vmov s16, r2
3092 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3093 ; CHECK-MVE-NEXT:    it vs
3094 ; CHECK-MVE-NEXT:    movvs r1, #1
3095 ; CHECK-MVE-NEXT:    cmp r1, #0
3096 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[4]
3097 ; CHECK-MVE-NEXT:    it ne
3098 ; CHECK-MVE-NEXT:    movne r1, #1
3099 ; CHECK-MVE-NEXT:    vmov s18, r2
3100 ; CHECK-MVE-NEXT:    cmp r1, #0
3101 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[5]
3102 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3103 ; CHECK-MVE-NEXT:    vmov r1, s16
3104 ; CHECK-MVE-NEXT:    vmov.16 q3[4], r1
3105 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[5]
3106 ; CHECK-MVE-NEXT:    vmov s16, r1
3107 ; CHECK-MVE-NEXT:    movs r1, #0
3108 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3109 ; CHECK-MVE-NEXT:    vmov s16, r2
3110 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3111 ; CHECK-MVE-NEXT:    it vs
3112 ; CHECK-MVE-NEXT:    movvs r1, #1
3113 ; CHECK-MVE-NEXT:    cmp r1, #0
3114 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[5]
3115 ; CHECK-MVE-NEXT:    it ne
3116 ; CHECK-MVE-NEXT:    movne r1, #1
3117 ; CHECK-MVE-NEXT:    vmov s18, r2
3118 ; CHECK-MVE-NEXT:    cmp r1, #0
3119 ; CHECK-MVE-NEXT:    vmov.u16 r2, q1[6]
3120 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3121 ; CHECK-MVE-NEXT:    vmov r1, s16
3122 ; CHECK-MVE-NEXT:    vmov.16 q3[5], r1
3123 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[6]
3124 ; CHECK-MVE-NEXT:    vmov s16, r1
3125 ; CHECK-MVE-NEXT:    movs r1, #0
3126 ; CHECK-MVE-NEXT:    vcmpe.f16 s16, s16
3127 ; CHECK-MVE-NEXT:    vmov s16, r2
3128 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3129 ; CHECK-MVE-NEXT:    it vs
3130 ; CHECK-MVE-NEXT:    movvs r1, #1
3131 ; CHECK-MVE-NEXT:    cmp r1, #0
3132 ; CHECK-MVE-NEXT:    vmov.u16 r2, q2[6]
3133 ; CHECK-MVE-NEXT:    it ne
3134 ; CHECK-MVE-NEXT:    movne r1, #1
3135 ; CHECK-MVE-NEXT:    vmov s18, r2
3136 ; CHECK-MVE-NEXT:    cmp r1, #0
3137 ; CHECK-MVE-NEXT:    vseleq.f16 s16, s18, s16
3138 ; CHECK-MVE-NEXT:    vmov r1, s16
3139 ; CHECK-MVE-NEXT:    vmov.16 q3[6], r1
3140 ; CHECK-MVE-NEXT:    vmov.u16 r1, q0[7]
3141 ; CHECK-MVE-NEXT:    vmov s0, r1
3142 ; CHECK-MVE-NEXT:    vmov.u16 r1, q1[7]
3143 ; CHECK-MVE-NEXT:    vcmpe.f16 s0, s0
3144 ; CHECK-MVE-NEXT:    vmov s0, r1
3145 ; CHECK-MVE-NEXT:    vmrs APSR_nzcv, fpscr
3146 ; CHECK-MVE-NEXT:    it vs
3147 ; CHECK-MVE-NEXT:    movvs r0, #1
3148 ; CHECK-MVE-NEXT:    cmp r0, #0
3149 ; CHECK-MVE-NEXT:    vmov.u16 r1, q2[7]
3150 ; CHECK-MVE-NEXT:    it ne
3151 ; CHECK-MVE-NEXT:    movne r0, #1
3152 ; CHECK-MVE-NEXT:    vmov s2, r1
3153 ; CHECK-MVE-NEXT:    cmp r0, #0
3154 ; CHECK-MVE-NEXT:    vseleq.f16 s0, s2, s0
3155 ; CHECK-MVE-NEXT:    vmov r0, s0
3156 ; CHECK-MVE-NEXT:    vmov.16 q3[7], r0
3157 ; CHECK-MVE-NEXT:    vmov q0, q3
3158 ; CHECK-MVE-NEXT:    vpop {d8, d9}
3159 ; CHECK-MVE-NEXT:    bx lr
3161 ; CHECK-MVEFP-LABEL: vcmp_uno_v8f16:
3162 ; CHECK-MVEFP:       @ %bb.0: @ %entry
3163 ; CHECK-MVEFP-NEXT:    vmov.i32 q3, #0x0
3164 ; CHECK-MVEFP-NEXT:    vcmp.f16 le, q3, q0
3165 ; CHECK-MVEFP-NEXT:    vpst
3166 ; CHECK-MVEFP-NEXT:    vcmpt.f16 lt, q0, q3
3167 ; CHECK-MVEFP-NEXT:    vpsel q0, q1, q2
3168 ; CHECK-MVEFP-NEXT:    bx lr
3169 entry:
3170   %c = fcmp uno <8 x half> %src, zeroinitializer
3171   %s = select <8 x i1> %c, <8 x half> %a, <8 x half> %b
3172   ret <8 x half> %s