gcc/config/aarch64/iterators.md

   1 ;; Machine description for AArch64 architecture.
   2 ;; Copyright (C) 2009-2016 Free Software Foundation, Inc.
   3 ;; Contributed by ARM Ltd.
   4 ;;
   5 ;; This file is part of GCC.
   6 ;;
   7 ;; GCC is free software; you can redistribute it and/or modify it
   8 ;; under the terms of the GNU General Public License as published by
   9 ;; the Free Software Foundation; either version 3, or (at your option)
  10 ;; any later version.
  11 ;;
  12 ;; GCC is distributed in the hope that it will be useful, but
  13 ;; WITHOUT ANY WARRANTY; without even the implied warranty of
  14 ;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15 ;; General Public License for more details.
  16 ;;
  17 ;; You should have received a copy of the GNU General Public License
  18 ;; along with GCC; see the file COPYING3.  If not see
  19 ;; <http://www.gnu.org/licenses/>.
  20
  21 ;; -------------------------------------------------------------------
  22 ;; Mode Iterators
  23 ;; -------------------------------------------------------------------
  24
  25
  26 ;; Iterator for General Purpose Integer registers (32- and 64-bit modes)
  27 (define_mode_iterator GPI [SI DI])
  28
  29 ;; Iterator for QI and HI modes
  30 (define_mode_iterator SHORT [QI HI])
  31
  32 ;; Iterator for all integer modes (up to 64-bit)
  33 (define_mode_iterator ALLI [QI HI SI DI])
  34
  35 ;; Iterator for all integer modes that can be extended (up to 64-bit)
  36 (define_mode_iterator ALLX [QI HI SI])
  37
  38 ;; Iterator for General Purpose Floating-point registers (32- and 64-bit modes)
  39 (define_mode_iterator GPF [SF DF])
  40
  41 ;; Iterator for all scalar floating point modes (HF, SF, DF and TF)
  42 (define_mode_iterator GPF_TF_F16 [HF SF DF TF])
  43
  44 ;; Double vector modes.
  45 (define_mode_iterator VDF [V2SF V4HF])
  46
  47 ;; Iterator for all scalar floating point modes (SF, DF and TF)
  48 (define_mode_iterator GPF_TF [SF DF TF])
  49
  50 ;; Integer vector modes.
  51 (define_mode_iterator VDQ_I [V8QI V16QI V4HI V8HI V2SI V4SI V2DI])
  52
  53 ;; vector and scalar, 64 & 128-bit container, all integer modes
  54 (define_mode_iterator VSDQ_I [V8QI V16QI V4HI V8HI V2SI V4SI V2DI QI HI SI DI])
  55
  56 ;; vector and scalar, 64 & 128-bit container: all vector integer modes;
  57 ;; 64-bit scalar integer mode
  58 (define_mode_iterator VSDQ_I_DI [V8QI V16QI V4HI V8HI V2SI V4SI V2DI DI])
  59
  60 ;; Double vector modes.
  61 (define_mode_iterator VD [V8QI V4HI V4HF V2SI V2SF])
  62
  63 ;; vector, 64-bit container, all integer modes
  64 (define_mode_iterator VD_BHSI [V8QI V4HI V2SI])
  65
  66 ;; 128 and 64-bit container; 8, 16, 32-bit vector integer modes
  67 (define_mode_iterator VDQ_BHSI [V8QI V16QI V4HI V8HI V2SI V4SI])
  68
  69 ;; Quad vector modes.
  70 (define_mode_iterator VQ [V16QI V8HI V4SI V2DI V8HF V4SF V2DF])
  71
  72 ;; VQ without 2 element modes.
  73 (define_mode_iterator VQ_NO2E [V16QI V8HI V4SI V8HF V4SF])
  74
  75 ;; Quad vector with only 2 element modes.
  76 (define_mode_iterator VQ_2E [V2DI V2DF])
  77
  78 ;; This mode iterator allows :P to be used for patterns that operate on
  79 ;; addresses in different modes.  In LP64, only DI will match, while in
  80 ;; ILP32, either can match.
  81 (define_mode_iterator P [(SI "ptr_mode == SImode || Pmode == SImode")
  82                          (DI "ptr_mode == DImode || Pmode == DImode")])
  83
  84 ;; This mode iterator allows :PTR to be used for patterns that operate on
  85 ;; pointer-sized quantities.  Exactly one of the two alternatives will match.
  86 (define_mode_iterator PTR [(SI "ptr_mode == SImode") (DI "ptr_mode == DImode")])
  87
  88 ;; Vector Float modes suitable for moving, loading and storing.
  89 (define_mode_iterator VDQF_F16 [V4HF V8HF V2SF V4SF V2DF])
  90
  91 ;; Vector Float modes, barring HF modes.
  92 (define_mode_iterator VDQF [V2SF V4SF V2DF])
  93
  94 ;; Vector Float modes, and DF.
  95 (define_mode_iterator VDQF_DF [V2SF V4SF V2DF DF])
  96
  97 ;; Vector single Float modes.
  98 (define_mode_iterator VDQSF [V2SF V4SF])
  99
 100 ;; Quad vector Float modes with half/single elements.
 101 (define_mode_iterator VQ_HSF [V8HF V4SF])
 102
 103 ;; Modes suitable to use as the return type of a vcond expression.
 104 (define_mode_iterator VDQF_COND [V2SF V2SI V4SF V4SI V2DF V2DI])
 105
 106 ;; All Float modes.
 107 (define_mode_iterator VALLF [V2SF V4SF V2DF SF DF])
 108
 109 ;; Vector Float modes with 2 elements.
 110 (define_mode_iterator V2F [V2SF V2DF])
 111
 112 ;; All vector modes on which we support any arithmetic operations.
 113 (define_mode_iterator VALL [V8QI V16QI V4HI V8HI V2SI V4SI V2DI V2SF V4SF V2DF])
 114
 115 ;; All vector modes suitable for moving, loading, and storing.
 116 (define_mode_iterator VALL_F16 [V8QI V16QI V4HI V8HI V2SI V4SI V2DI
 117                                 V4HF V8HF V2SF V4SF V2DF])
 118
 119 ;; All vector modes barring HF modes, plus DI.
 120 (define_mode_iterator VALLDI [V8QI V16QI V4HI V8HI V2SI V4SI V2DI V2SF V4SF V2DF DI])
 121
 122 ;; All vector modes and DI.
 123 (define_mode_iterator VALLDI_F16 [V8QI V16QI V4HI V8HI V2SI V4SI V2DI
 124                                   V4HF V8HF V2SF V4SF V2DF DI])
 125
 126 ;; All vector modes, plus DI and DF.
 127 (define_mode_iterator VALLDIF [V8QI V16QI V4HI V8HI V2SI V4SI
 128                                V2DI V4HF V8HF V2SF V4SF V2DF DI DF])
 129
 130 ;; Vector modes for Integer reduction across lanes.
 131 (define_mode_iterator VDQV [V8QI V16QI V4HI V8HI V4SI V2DI])
 132
 133 ;; Vector modes(except V2DI) for Integer reduction across lanes.
 134 (define_mode_iterator VDQV_S [V8QI V16QI V4HI V8HI V4SI])
 135
 136 ;; All double integer narrow-able modes.
 137 (define_mode_iterator VDN [V4HI V2SI DI])
 138
 139 ;; All quad integer narrow-able modes.
 140 (define_mode_iterator VQN [V8HI V4SI V2DI])
 141
 142 ;; Vector and scalar 128-bit container: narrowable 16, 32, 64-bit integer modes
 143 (define_mode_iterator VSQN_HSDI [V8HI V4SI V2DI HI SI DI])
 144
 145 ;; All quad integer widen-able modes.
 146 (define_mode_iterator VQW [V16QI V8HI V4SI])
 147
 148 ;; Double vector modes for combines.
 149 (define_mode_iterator VDC [V8QI V4HI V4HF V2SI V2SF DI DF])
 150
 151 ;; Vector modes except double int.
 152 (define_mode_iterator VDQIF [V8QI V16QI V4HI V8HI V2SI V4SI V2SF V4SF V2DF])
 153
 154 ;; Vector modes for S type.
 155 (define_mode_iterator VDQ_SI [V2SI V4SI])
 156
 157 ;; Vector modes for Q and H types.
 158 (define_mode_iterator VDQQH [V8QI V16QI V4HI V8HI])
 159
 160 ;; Vector modes for H and S types.
 161 (define_mode_iterator VDQHS [V4HI V8HI V2SI V4SI])
 162
 163 ;; Vector modes for H, S and D types.
 164 (define_mode_iterator VDQHSD [V4HI V8HI V2SI V4SI V2DI])
 165
 166 ;; Vector and scalar integer modes for H and S
 167 (define_mode_iterator VSDQ_HSI [V4HI V8HI V2SI V4SI HI SI])
 168
 169 ;; Vector and scalar 64-bit container: 16, 32-bit integer modes
 170 (define_mode_iterator VSD_HSI [V4HI V2SI HI SI])
 171
 172 ;; Vector 64-bit container: 16, 32-bit integer modes
 173 (define_mode_iterator VD_HSI [V4HI V2SI])
 174
 175 ;; Scalar 64-bit container: 16, 32-bit integer modes
 176 (define_mode_iterator SD_HSI [HI SI])
 177
 178 ;; Vector 64-bit container: 16, 32-bit integer modes
 179 (define_mode_iterator VQ_HSI [V8HI V4SI])
 180
 181 ;; All byte modes.
 182 (define_mode_iterator VB [V8QI V16QI])
 183
 184 ;; 2 and 4 lane SI modes.
 185 (define_mode_iterator VS [V2SI V4SI])
 186
 187 (define_mode_iterator TX [TI TF])
 188
 189 ;; Opaque structure modes.
 190 (define_mode_iterator VSTRUCT [OI CI XI])
 191
 192 ;; Double scalar modes
 193 (define_mode_iterator DX [DI DF])
 194
 195 ;; Modes available for <f>mul lane operations.
 196 (define_mode_iterator VMUL [V4HI V8HI V2SI V4SI V2SF V4SF V2DF])
 197
 198 ;; Modes available for <f>mul lane operations changing lane count.
 199 (define_mode_iterator VMUL_CHANGE_NLANES [V4HI V8HI V2SI V4SI V2SF V4SF])
 200
 201 ;; ------------------------------------------------------------------
 202 ;; Unspec enumerations for Advance SIMD. These could well go into
 203 ;; aarch64.md but for their use in int_iterators here.
 204 ;; ------------------------------------------------------------------
 205
 206 (define_c_enum "unspec"
 207  [
 208     UNSPEC_ASHIFT_SIGNED        ; Used in aarch-simd.md.
 209     UNSPEC_ASHIFT_UNSIGNED      ; Used in aarch64-simd.md.
 210     UNSPEC_ABS          ; Used in aarch64-simd.md.
 211     UNSPEC_FMAX         ; Used in aarch64-simd.md.
 212     UNSPEC_FMAXNMV      ; Used in aarch64-simd.md.
 213     UNSPEC_FMAXV        ; Used in aarch64-simd.md.
 214     UNSPEC_FMIN         ; Used in aarch64-simd.md.
 215     UNSPEC_FMINNMV      ; Used in aarch64-simd.md.
 216     UNSPEC_FMINV        ; Used in aarch64-simd.md.
 217     UNSPEC_FADDV        ; Used in aarch64-simd.md.
 218     UNSPEC_ADDV         ; Used in aarch64-simd.md.
 219     UNSPEC_SMAXV        ; Used in aarch64-simd.md.
 220     UNSPEC_SMINV        ; Used in aarch64-simd.md.
 221     UNSPEC_UMAXV        ; Used in aarch64-simd.md.
 222     UNSPEC_UMINV        ; Used in aarch64-simd.md.
 223     UNSPEC_SHADD        ; Used in aarch64-simd.md.
 224     UNSPEC_UHADD        ; Used in aarch64-simd.md.
 225     UNSPEC_SRHADD       ; Used in aarch64-simd.md.
 226     UNSPEC_URHADD       ; Used in aarch64-simd.md.
 227     UNSPEC_SHSUB        ; Used in aarch64-simd.md.
 228     UNSPEC_UHSUB        ; Used in aarch64-simd.md.
 229     UNSPEC_SRHSUB       ; Used in aarch64-simd.md.
 230     UNSPEC_URHSUB       ; Used in aarch64-simd.md.
 231     UNSPEC_ADDHN        ; Used in aarch64-simd.md.
 232     UNSPEC_RADDHN       ; Used in aarch64-simd.md.
 233     UNSPEC_SUBHN        ; Used in aarch64-simd.md.
 234     UNSPEC_RSUBHN       ; Used in aarch64-simd.md.
 235     UNSPEC_ADDHN2       ; Used in aarch64-simd.md.
 236     UNSPEC_RADDHN2      ; Used in aarch64-simd.md.
 237     UNSPEC_SUBHN2       ; Used in aarch64-simd.md.
 238     UNSPEC_RSUBHN2      ; Used in aarch64-simd.md.
 239     UNSPEC_SQDMULH      ; Used in aarch64-simd.md.
 240     UNSPEC_SQRDMULH     ; Used in aarch64-simd.md.
 241     UNSPEC_PMUL         ; Used in aarch64-simd.md.
 242     UNSPEC_FMULX        ; Used in aarch64-simd.md.
 243     UNSPEC_USQADD       ; Used in aarch64-simd.md.
 244     UNSPEC_SUQADD       ; Used in aarch64-simd.md.
 245     UNSPEC_SQXTUN       ; Used in aarch64-simd.md.
 246     UNSPEC_SQXTN        ; Used in aarch64-simd.md.
 247     UNSPEC_UQXTN        ; Used in aarch64-simd.md.
 248     UNSPEC_SSRA         ; Used in aarch64-simd.md.
 249     UNSPEC_USRA         ; Used in aarch64-simd.md.
 250     UNSPEC_SRSRA        ; Used in aarch64-simd.md.
 251     UNSPEC_URSRA        ; Used in aarch64-simd.md.
 252     UNSPEC_SRSHR        ; Used in aarch64-simd.md.
 253     UNSPEC_URSHR        ; Used in aarch64-simd.md.
 254     UNSPEC_SQSHLU       ; Used in aarch64-simd.md.
 255     UNSPEC_SQSHL        ; Used in aarch64-simd.md.
 256     UNSPEC_UQSHL        ; Used in aarch64-simd.md.
 257     UNSPEC_SQSHRUN      ; Used in aarch64-simd.md.
 258     UNSPEC_SQRSHRUN     ; Used in aarch64-simd.md.
 259     UNSPEC_SQSHRN       ; Used in aarch64-simd.md.
 260     UNSPEC_UQSHRN       ; Used in aarch64-simd.md.
 261     UNSPEC_SQRSHRN      ; Used in aarch64-simd.md.
 262     UNSPEC_UQRSHRN      ; Used in aarch64-simd.md.
 263     UNSPEC_SSHL         ; Used in aarch64-simd.md.
 264     UNSPEC_USHL         ; Used in aarch64-simd.md.
 265     UNSPEC_SRSHL        ; Used in aarch64-simd.md.
 266     UNSPEC_URSHL        ; Used in aarch64-simd.md.
 267     UNSPEC_SQRSHL       ; Used in aarch64-simd.md.
 268     UNSPEC_UQRSHL       ; Used in aarch64-simd.md.
 269     UNSPEC_SSLI         ; Used in aarch64-simd.md.
 270     UNSPEC_USLI         ; Used in aarch64-simd.md.
 271     UNSPEC_SSRI         ; Used in aarch64-simd.md.
 272     UNSPEC_USRI         ; Used in aarch64-simd.md.
 273     UNSPEC_SSHLL        ; Used in aarch64-simd.md.
 274     UNSPEC_USHLL        ; Used in aarch64-simd.md.
 275     UNSPEC_ADDP         ; Used in aarch64-simd.md.
 276     UNSPEC_TBL          ; Used in vector permute patterns.
 277     UNSPEC_TBX          ; Used in vector permute patterns.
 278     UNSPEC_CONCAT       ; Used in vector permute patterns.
 279     UNSPEC_ZIP1         ; Used in vector permute patterns.
 280     UNSPEC_ZIP2         ; Used in vector permute patterns.
 281     UNSPEC_UZP1         ; Used in vector permute patterns.
 282     UNSPEC_UZP2         ; Used in vector permute patterns.
 283     UNSPEC_TRN1         ; Used in vector permute patterns.
 284     UNSPEC_TRN2         ; Used in vector permute patterns.
 285     UNSPEC_EXT          ; Used in aarch64-simd.md.
 286     UNSPEC_REV64        ; Used in vector reverse patterns (permute).
 287     UNSPEC_REV32        ; Used in vector reverse patterns (permute).
 288     UNSPEC_REV16        ; Used in vector reverse patterns (permute).
 289     UNSPEC_AESE         ; Used in aarch64-simd.md.
 290     UNSPEC_AESD         ; Used in aarch64-simd.md.
 291     UNSPEC_AESMC        ; Used in aarch64-simd.md.
 292     UNSPEC_AESIMC       ; Used in aarch64-simd.md.
 293     UNSPEC_SHA1C        ; Used in aarch64-simd.md.
 294     UNSPEC_SHA1M        ; Used in aarch64-simd.md.
 295     UNSPEC_SHA1P        ; Used in aarch64-simd.md.
 296     UNSPEC_SHA1H        ; Used in aarch64-simd.md.
 297     UNSPEC_SHA1SU0      ; Used in aarch64-simd.md.
 298     UNSPEC_SHA1SU1      ; Used in aarch64-simd.md.
 299     UNSPEC_SHA256H      ; Used in aarch64-simd.md.
 300     UNSPEC_SHA256H2     ; Used in aarch64-simd.md.
 301     UNSPEC_SHA256SU0    ; Used in aarch64-simd.md.
 302     UNSPEC_SHA256SU1    ; Used in aarch64-simd.md.
 303     UNSPEC_PMULL        ; Used in aarch64-simd.md.
 304     UNSPEC_PMULL2       ; Used in aarch64-simd.md.
 305     UNSPEC_REV_REGLIST  ; Used in aarch64-simd.md.
 306     UNSPEC_VEC_SHR      ; Used in aarch64-simd.md.
 307     UNSPEC_SQRDMLAH     ; Used in aarch64-simd.md.
 308     UNSPEC_SQRDMLSH     ; Used in aarch64-simd.md.
 309     UNSPEC_FMAXNM       ; Used in aarch64-simd.md.
 310     UNSPEC_FMINNM       ; Used in aarch64-simd.md.
 311 ])
 312
 313 ;; ------------------------------------------------------------------
 314 ;; Unspec enumerations for Atomics.  They are here so that they can be
 315 ;; used in the int_iterators for atomic operations.
 316 ;; ------------------------------------------------------------------
 317
 318 (define_c_enum "unspecv"
 319  [
 320     UNSPECV_LX                  ; Represent a load-exclusive.
 321     UNSPECV_SX                  ; Represent a store-exclusive.
 322     UNSPECV_LDA                 ; Represent an atomic load or load-acquire.
 323     UNSPECV_STL                 ; Represent an atomic store or store-release.
 324     UNSPECV_ATOMIC_CMPSW        ; Represent an atomic compare swap.
 325     UNSPECV_ATOMIC_EXCHG        ; Represent an atomic exchange.
 326     UNSPECV_ATOMIC_CAS          ; Represent an atomic CAS.
 327     UNSPECV_ATOMIC_SWP          ; Represent an atomic SWP.
 328     UNSPECV_ATOMIC_OP           ; Represent an atomic operation.
 329     UNSPECV_ATOMIC_LDOP         ; Represent an atomic load-operation
 330     UNSPECV_ATOMIC_LDOP_OR      ; Represent an atomic load-or
 331     UNSPECV_ATOMIC_LDOP_BIC     ; Represent an atomic load-bic
 332     UNSPECV_ATOMIC_LDOP_XOR     ; Represent an atomic load-xor
 333     UNSPECV_ATOMIC_LDOP_PLUS    ; Represent an atomic load-add
 334 ])
 335
 336 ;; -------------------------------------------------------------------
 337 ;; Mode attributes
 338 ;; -------------------------------------------------------------------
 339
 340 ;; In GPI templates, a string like "%<w>0" will expand to "%w0" in the
 341 ;; 32-bit version and "%x0" in the 64-bit version.
 342 (define_mode_attr w [(QI "w") (HI "w") (SI "w") (DI "x") (SF "s") (DF "d")])
 343
 344 ;; For inequal width int to float conversion
 345 (define_mode_attr w1 [(SF "w") (DF "x")])
 346 (define_mode_attr w2 [(SF "x") (DF "w")])
 347
 348 (define_mode_attr short_mask [(HI "65535") (QI "255")])
 349
 350 ;; For constraints used in scalar immediate vector moves
 351 (define_mode_attr hq [(HI "h") (QI "q")])
 352
 353 ;; For scalar usage of vector/FP registers
 354 (define_mode_attr v [(QI "b") (HI "h") (SI "s") (DI "d")
 355                     (SF "s") (DF "d")
 356                     (V8QI "") (V16QI "")
 357                     (V4HI "") (V8HI "")
 358                     (V2SI "") (V4SI  "")
 359                     (V2DI "") (V2SF "")
 360                     (V4SF "") (V2DF "")])
 361
 362 ;; For scalar usage of vector/FP registers, narrowing
 363 (define_mode_attr vn2 [(QI "") (HI "b") (SI "h") (DI "s")
 364                     (V8QI "") (V16QI "")
 365                     (V4HI "") (V8HI "")
 366                     (V2SI "") (V4SI  "")
 367                     (V2DI "") (V2SF "")
 368                     (V4SF "") (V2DF "")])
 369
 370 ;; For scalar usage of vector/FP registers, widening
 371 (define_mode_attr vw2 [(DI "") (QI "h") (HI "s") (SI "d")
 372                     (V8QI "") (V16QI "")
 373                     (V4HI "") (V8HI "")
 374                     (V2SI "") (V4SI  "")
 375                     (V2DI "") (V2SF "")
 376                     (V4SF "") (V2DF "")])
 377
 378 ;; Register Type Name and Vector Arrangement Specifier for when
 379 ;; we are doing scalar for DI and SIMD for SI (ignoring all but
 380 ;; lane 0).
 381 (define_mode_attr rtn [(DI "d") (SI "")])
 382 (define_mode_attr vas [(DI "") (SI ".2s")])
 383
 384 ;; Map a floating point mode to the appropriate register name prefix
 385 (define_mode_attr s [(SF "s") (DF "d")])
 386
 387 ;; Give the length suffix letter for a sign- or zero-extension.
 388 (define_mode_attr size [(QI "b") (HI "h") (SI "w")])
 389
 390 ;; Give the number of bits in the mode
 391 (define_mode_attr sizen [(QI "8") (HI "16") (SI "32") (DI "64")])
 392
 393 ;; Give the ordinal of the MSB in the mode
 394 (define_mode_attr sizem1 [(QI "#7") (HI "#15") (SI "#31") (DI "#63")])
 395
 396 ;; Attribute to describe constants acceptable in logical operations
 397 (define_mode_attr lconst [(SI "K") (DI "L")])
 398
 399 ;; Map a mode to a specific constraint character.
 400 (define_mode_attr cmode [(QI "q") (HI "h") (SI "s") (DI "d")])
 401
 402 (define_mode_attr Vtype [(V8QI "8b") (V16QI "16b")
 403                          (V4HI "4h") (V8HI  "8h")
 404                          (V2SI "2s") (V4SI  "4s")
 405                          (DI   "1d") (DF    "1d")
 406                          (V2DI "2d") (V2SF "2s")
 407                          (V4SF "4s") (V2DF "2d")
 408                          (V4HF "4h") (V8HF "8h")])
 409
 410 (define_mode_attr Vrevsuff [(V4HI "16") (V8HI "16") (V2SI "32")
 411                             (V4SI "32") (V2DI "64")])
 412
 413 (define_mode_attr Vmtype [(V8QI ".8b") (V16QI ".16b")
 414                          (V4HI ".4h") (V8HI  ".8h")
 415                          (V2SI ".2s") (V4SI  ".4s")
 416                          (V2DI ".2d") (V4HF ".4h")
 417                          (V8HF ".8h") (V2SF ".2s")
 418                          (V4SF ".4s") (V2DF ".2d")
 419                          (DI   "")    (SI   "")
 420                          (HI   "")    (QI   "")
 421                          (TI   "")    (SF   "")
 422                          (DF   "")])
 423
 424 ;; Register suffix narrowed modes for VQN.
 425 (define_mode_attr Vmntype [(V8HI ".8b") (V4SI ".4h")
 426                            (V2DI ".2s")
 427                            (DI   "")    (SI   "")
 428                            (HI   "")])
 429
 430 ;; Mode-to-individual element type mapping.
 431 (define_mode_attr Vetype [(V8QI "b") (V16QI "b")
 432                           (V4HI "h") (V8HI  "h")
 433                           (V2SI "s") (V4SI  "s")
 434                           (V2DI "d") (V4HF "h")
 435                           (V8HF "h") (V2SF  "s")
 436                           (V4SF "s") (V2DF  "d")
 437                           (SF   "s") (DF  "d")
 438                           (QI "b")   (HI "h")
 439                           (SI "s")   (DI "d")])
 440
 441 ;; Mode-to-bitwise operation type mapping.
 442 (define_mode_attr Vbtype [(V8QI "8b")  (V16QI "16b")
 443                           (V4HI "8b") (V8HI  "16b")
 444                           (V2SI "8b") (V4SI  "16b")
 445                           (V2DI "16b") (V4HF "8b")
 446                           (V8HF "16b") (V2SF  "8b")
 447                           (V4SF "16b") (V2DF  "16b")
 448                           (DI   "8b")  (DF    "8b")
 449                           (SI   "8b")])
 450
 451 ;; Define element mode for each vector mode.
 452 (define_mode_attr VEL [(V8QI "QI") (V16QI "QI")
 453                         (V4HI "HI") (V8HI "HI")
 454                         (V2SI "SI") (V4SI "SI")
 455                         (DI "DI")   (V2DI "DI")
 456                         (V4HF "HF") (V8HF "HF")
 457                         (V2SF "SF") (V4SF "SF")
 458                         (V2DF "DF") (DF "DF")
 459                         (SI   "SI") (HI   "HI")
 460                         (QI   "QI")])
 461
 462 ;; 64-bit container modes the inner or scalar source mode.
 463 (define_mode_attr VCOND [(HI "V4HI") (SI "V2SI")
 464                          (V4HI "V4HI") (V8HI "V4HI")
 465                          (V2SI "V2SI") (V4SI "V2SI")
 466                          (DI   "DI") (V2DI "DI")
 467                          (V2SF "V2SF") (V4SF "V2SF")
 468                          (V2DF "DF")])
 469
 470 ;; 128-bit container modes the inner or scalar source mode.
 471 (define_mode_attr VCONQ [(V8QI "V16QI") (V16QI "V16QI")
 472                          (V4HI "V8HI") (V8HI "V8HI")
 473                          (V2SI "V4SI") (V4SI "V4SI")
 474                          (DI   "V2DI") (V2DI "V2DI")
 475                          (V4HF "V8HF") (V8HF "V8HF")
 476                          (V2SF "V2SF") (V4SF "V4SF")
 477                          (V2DF "V2DF") (SI   "V4SI")
 478                          (HI   "V8HI") (QI   "V16QI")])
 479
 480 ;; Half modes of all vector modes.
 481 (define_mode_attr VHALF [(V8QI "V4QI")  (V16QI "V8QI")
 482                          (V4HI "V2HI")  (V8HI  "V4HI")
 483                          (V2SI "SI")    (V4SI  "V2SI")
 484                          (V2DI "DI")    (V2SF  "SF")
 485                          (V4SF "V2SF")  (V4HF "V2HF")
 486                          (V8HF "V4HF")  (V2DF  "DF")])
 487
 488 ;; Half modes of all vector modes, in lower-case.
 489 (define_mode_attr Vhalf [(V8QI "v4qi")  (V16QI "v8qi")
 490                          (V4HI "v2hi")  (V8HI  "v4hi")
 491                          (V2SI "si")    (V4SI  "v2si")
 492                          (V2DI "di")    (V2SF  "sf")
 493                          (V4SF "v2sf")  (V2DF  "df")])
 494
 495 ;; Double modes of vector modes.
 496 (define_mode_attr VDBL [(V8QI "V16QI") (V4HI "V8HI")
 497                         (V4HF "V8HF")
 498                         (V2SI "V4SI")  (V2SF "V4SF")
 499                         (SI   "V2SI")  (DI   "V2DI")
 500                         (DF   "V2DF")])
 501
 502 ;; Register suffix for double-length mode.
 503 (define_mode_attr Vdtype [(V4HF "8h") (V2SF "4s")])
 504
 505 ;; Double modes of vector modes (lower case).
 506 (define_mode_attr Vdbl [(V8QI "v16qi") (V4HI "v8hi")
 507                         (V4HF "v8hf")
 508                         (V2SI "v4si")  (V2SF "v4sf")
 509                         (SI   "v2si")  (DI   "v2di")
 510                         (DF   "v2df")])
 511
 512 ;; Modes with double-width elements.
 513 (define_mode_attr VDBLW [(V8QI "V4HI") (V16QI "V8HI")
 514                   (V4HI "V2SI") (V8HI "V4SI")
 515                   (V2SI "DI")   (V4SI "V2DI")])
 516
 517 ;; Narrowed modes for VDN.
 518 (define_mode_attr VNARROWD [(V4HI "V8QI") (V2SI "V4HI")
 519                             (DI   "V2SI")])
 520
 521 ;; Narrowed double-modes for VQN (Used for XTN).
 522 (define_mode_attr VNARROWQ [(V8HI "V8QI") (V4SI "V4HI")
 523                             (V2DI "V2SI")
 524                             (DI   "SI")   (SI   "HI")
 525                             (HI   "QI")])
 526
 527 ;; Narrowed quad-modes for VQN (Used for XTN2).
 528 (define_mode_attr VNARROWQ2 [(V8HI "V16QI") (V4SI "V8HI")
 529                              (V2DI "V4SI")])
 530
 531 ;; Register suffix narrowed modes for VQN.
 532 (define_mode_attr Vntype [(V8HI "8b") (V4SI "4h")
 533                           (V2DI "2s")])
 534
 535 ;; Register suffix narrowed modes for VQN.
 536 (define_mode_attr V2ntype [(V8HI "16b") (V4SI "8h")
 537                            (V2DI "4s")])
 538
 539 ;; Widened modes of vector modes.
 540 (define_mode_attr VWIDE [(V8QI "V8HI") (V4HI "V4SI")
 541                          (V2SI "V2DI") (V16QI "V8HI")
 542                          (V8HI "V4SI") (V4SI "V2DI")
 543                          (HI "SI")     (SI "DI")
 544                          (V8HF "V4SF") (V4SF "V2DF")
 545                          (V4HF "V4SF") (V2SF "V2DF")]
 546 )
 547
 548 ;; Widened modes of vector modes, lowercase
 549 (define_mode_attr Vwide [(V2SF "v2df") (V4HF "v4sf")])
 550
 551 ;; Widened mode register suffixes for VD_BHSI/VQW/VQ_HSF.
 552 (define_mode_attr Vwtype [(V8QI "8h") (V4HI "4s")
 553                           (V2SI "2d") (V16QI "8h")
 554                           (V8HI "4s") (V4SI "2d")
 555                           (V8HF "4s") (V4SF "2d")])
 556
 557 ;; Widened mode register suffixes for VDW/VQW.
 558 (define_mode_attr Vmwtype [(V8QI ".8h") (V4HI ".4s")
 559                            (V2SI ".2d") (V16QI ".8h")
 560                            (V8HI ".4s") (V4SI ".2d")
 561                            (V4HF ".4s") (V2SF ".2d")
 562                            (SI   "")    (HI   "")])
 563
 564 ;; Lower part register suffixes for VQW/VQ_HSF.
 565 (define_mode_attr Vhalftype [(V16QI "8b") (V8HI "4h")
 566                              (V4SI "2s") (V8HF "4h")
 567                              (V4SF "2s")])
 568
 569 ;; Define corresponding core/FP element mode for each vector mode.
 570 (define_mode_attr vw   [(V8QI "w") (V16QI "w")
 571                         (V4HI "w") (V8HI "w")
 572                         (V2SI "w") (V4SI "w")
 573                         (DI   "x") (V2DI "x")
 574                         (V2SF "s") (V4SF "s")
 575                         (V2DF "d")])
 576
 577 ;; Corresponding core element mode for each vector mode.  This is a
 578 ;; variation on <vw> mapping FP modes to GP regs.
 579 (define_mode_attr vwcore  [(V8QI "w") (V16QI "w")
 580                            (V4HI "w") (V8HI "w")
 581                            (V2SI "w") (V4SI "w")
 582                            (DI   "x") (V2DI "x")
 583                            (V4HF "w") (V8HF "w")
 584                            (V2SF "w") (V4SF "w")
 585                            (V2DF "x")])
 586
 587 ;; Double vector types for ALLX.
 588 (define_mode_attr Vallxd [(QI "8b") (HI "4h") (SI "2s")])
 589
 590 ;; Mode of result of comparison operations.
 591 (define_mode_attr V_cmp_result [(V8QI "V8QI") (V16QI "V16QI")
 592                                 (V4HI "V4HI") (V8HI  "V8HI")
 593                                 (V2SI "V2SI") (V4SI  "V4SI")
 594                                 (DI   "DI")   (V2DI  "V2DI")
 595                                 (V4HF "V4HI") (V8HF  "V8HI")
 596                                 (V2SF "V2SI") (V4SF  "V4SI")
 597                                 (V2DF "V2DI") (DF    "DI")
 598                                 (SF   "SI")])
 599
 600 ;; Lower case mode of results of comparison operations.
 601 (define_mode_attr v_cmp_result [(V8QI "v8qi") (V16QI "v16qi")
 602                                 (V4HI "v4hi") (V8HI  "v8hi")
 603                                 (V2SI "v2si") (V4SI  "v4si")
 604                                 (DI   "di")   (V2DI  "v2di")
 605                                 (V4HF "v4hi") (V8HF  "v8hi")
 606                                 (V2SF "v2si") (V4SF  "v4si")
 607                                 (V2DF "v2di") (DF    "di")
 608                                 (SF   "si")])
 609
 610 ;; Lower case element modes (as used in shift immediate patterns).
 611 (define_mode_attr ve_mode [(V8QI "qi") (V16QI "qi")
 612                            (V4HI "hi") (V8HI  "hi")
 613                            (V2SI "si") (V4SI  "si")
 614                            (DI   "di") (V2DI  "di")
 615                            (QI   "qi") (HI    "hi")
 616                            (SI   "si")])
 617
 618 ;; Vm for lane instructions is restricted to FP_LO_REGS.
 619 (define_mode_attr vwx [(V4HI "x") (V8HI "x") (HI "x")
 620                        (V2SI "w") (V4SI "w") (SI "w")])
 621
 622 (define_mode_attr Vendreg [(OI "T") (CI "U") (XI "V")])
 623
 624 ;; This is both the number of Q-Registers needed to hold the corresponding
 625 ;; opaque large integer mode, and the number of elements touched by the
 626 ;; ld..._lane and st..._lane operations.
 627 (define_mode_attr nregs [(OI "2") (CI "3") (XI "4")])
 628
 629 (define_mode_attr VRL2 [(V8QI "V32QI") (V4HI "V16HI")
 630                         (V4HF "V16HF")
 631                         (V2SI "V8SI")  (V2SF "V8SF")
 632                         (DI   "V4DI")  (DF   "V4DF")])
 633
 634 (define_mode_attr VRL3 [(V8QI "V48QI") (V4HI "V24HI")
 635                         (V4HF "V24HF")
 636                         (V2SI "V12SI")  (V2SF "V12SF")
 637                         (DI   "V6DI")  (DF   "V6DF")])
 638
 639 (define_mode_attr VRL4 [(V8QI "V64QI") (V4HI "V32HI")
 640                         (V4HF "V32HF")
 641                         (V2SI "V16SI")  (V2SF "V16SF")
 642                         (DI   "V8DI")  (DF   "V8DF")])
 643
 644 ;; Mode for atomic operation suffixes
 645 (define_mode_attr atomic_sfx
 646   [(QI "b") (HI "h") (SI "") (DI "")])
 647
 648 (define_mode_attr fcvt_target [(V2DF "v2di") (V4SF "v4si") (V2SF "v2si") (SF "si") (DF "di")])
 649 (define_mode_attr FCVT_TARGET [(V2DF "V2DI") (V4SF "V4SI") (V2SF "V2SI") (SF "SI") (DF "DI")])
 650
 651 ;; for the inequal width integer to fp conversions
 652 (define_mode_attr fcvt_iesize [(SF "di") (DF "si")])
 653 (define_mode_attr FCVT_IESIZE [(SF "DI") (DF "SI")])
 654
 655 (define_mode_attr VSWAP_WIDTH [(V8QI "V16QI") (V16QI "V8QI")
 656                                 (V4HI "V8HI") (V8HI  "V4HI")
 657                                 (V2SI "V4SI") (V4SI  "V2SI")
 658                                 (DI   "V2DI") (V2DI  "DI")
 659                                 (V2SF "V4SF") (V4SF  "V2SF")
 660                                 (V4HF "V8HF") (V8HF  "V4HF")
 661                                 (DF   "V2DF") (V2DF  "DF")])
 662
 663 (define_mode_attr vswap_width_name [(V8QI "to_128") (V16QI "to_64")
 664                                     (V4HI "to_128") (V8HI  "to_64")
 665                                     (V2SI "to_128") (V4SI  "to_64")
 666                                     (DI   "to_128") (V2DI  "to_64")
 667                                     (V4HF "to_128") (V8HF  "to_64")
 668                                     (V2SF "to_128") (V4SF  "to_64")
 669                                     (DF   "to_128") (V2DF  "to_64")])
 670
 671 ;; For certain vector-by-element multiplication instructions we must
 672 ;; constrain the HI cases to use only V0-V15.  This is covered by
 673 ;; the 'x' constraint.  All other modes may use the 'w' constraint.
 674 (define_mode_attr h_con [(V2SI "w") (V4SI "w")
 675                          (V4HI "x") (V8HI "x")
 676                          (V2SF "w") (V4SF "w")
 677                          (V2DF "w") (DF "w")])
 678
 679 ;; Defined to 'f' for types whose element type is a float type.
 680 (define_mode_attr f [(V8QI "")  (V16QI "")
 681                      (V4HI "")  (V8HI  "")
 682                      (V2SI "")  (V4SI  "")
 683                      (DI   "")  (V2DI  "")
 684                      (V2SF "f") (V4SF  "f")
 685                      (V2DF "f") (DF    "f")])
 686
 687 ;; Defined to '_fp' for types whose element type is a float type.
 688 (define_mode_attr fp [(V8QI "")  (V16QI "")
 689                       (V4HI "")  (V8HI  "")
 690                       (V2SI "")  (V4SI  "")
 691                       (DI   "")  (V2DI  "")
 692                       (V2SF "_fp") (V4SF  "_fp")
 693                       (V2DF "_fp") (DF    "_fp")
 694                       (SF "_fp")])
 695
 696 ;; Defined to '_q' for 128-bit types.
 697 (define_mode_attr q [(V8QI "") (V16QI "_q")
 698                      (V4HI "") (V8HI  "_q")
 699                      (V2SI "") (V4SI  "_q")
 700                      (DI   "") (V2DI  "_q")
 701                      (V4HF "") (V8HF "_q")
 702                      (V2SF "") (V4SF  "_q")
 703                                (V2DF  "_q")
 704                      (QI "") (HI "") (SI "") (DI "") (SF "") (DF "")])
 705
 706 (define_mode_attr vp [(V8QI "v") (V16QI "v")
 707                       (V4HI "v") (V8HI  "v")
 708                       (V2SI "p") (V4SI  "v")
 709                       (V2DI  "p") (V2DF  "p")
 710                       (V2SF "p") (V4SF  "v")])
 711
 712 (define_mode_attr vsi2qi [(V2SI "v8qi") (V4SI "v16qi")])
 713 (define_mode_attr VSI2QI [(V2SI "V8QI") (V4SI "V16QI")])
 714
 715 (define_mode_attr insn_count [(OI "8") (CI "12") (XI "16")])
 716
 717 ;; -fpic small model GOT reloc modifers: gotpage_lo15/lo14 for ILP64/32.
 718 ;; No need of iterator for -fPIC as it use got_lo12 for both modes.
 719 (define_mode_attr got_modifier [(SI "gotpage_lo14") (DI "gotpage_lo15")])
 720
 721 ;; -------------------------------------------------------------------
 722 ;; Code Iterators
 723 ;; -------------------------------------------------------------------
 724
 725 ;; This code iterator allows the various shifts supported on the core
 726 (define_code_iterator SHIFT [ashift ashiftrt lshiftrt rotatert])
 727
 728 ;; This code iterator allows the shifts supported in arithmetic instructions
 729 (define_code_iterator ASHIFT [ashift ashiftrt lshiftrt])
 730
 731 ;; Code iterator for logical operations
 732 (define_code_iterator LOGICAL [and ior xor])
 733
 734 ;; Code iterator for logical operations whose :nlogical works on SIMD registers.
 735 (define_code_iterator NLOGICAL [and ior])
 736
 737 ;; Code iterator for unary negate and bitwise complement.
 738 (define_code_iterator NEG_NOT [neg not])
 739
 740 ;; Code iterator for sign/zero extension
 741 (define_code_iterator ANY_EXTEND [sign_extend zero_extend])
 742
 743 ;; All division operations (signed/unsigned)
 744 (define_code_iterator ANY_DIV [div udiv])
 745
 746 ;; Code iterator for sign/zero extraction
 747 (define_code_iterator ANY_EXTRACT [sign_extract zero_extract])
 748
 749 ;; Code iterator for equality comparisons
 750 (define_code_iterator EQL [eq ne])
 751
 752 ;; Code iterator for less-than and greater/equal-to
 753 (define_code_iterator LTGE [lt ge])
 754
 755 ;; Iterator for __sync_<op> operations that where the operation can be
 756 ;; represented directly RTL.  This is all of the sync operations bar
 757 ;; nand.
 758 (define_code_iterator atomic_op [plus minus ior xor and])
 759
 760 ;; Iterator for integer conversions
 761 (define_code_iterator FIXUORS [fix unsigned_fix])
 762
 763 ;; Iterator for float conversions
 764 (define_code_iterator FLOATUORS [float unsigned_float])
 765
 766 ;; Code iterator for variants of vector max and min.
 767 (define_code_iterator MAXMIN [smax smin umax umin])
 768
 769 (define_code_iterator FMAXMIN [smax smin])
 770
 771 ;; Code iterator for variants of vector max and min.
 772 (define_code_iterator ADDSUB [plus minus])
 773
 774 ;; Code iterator for variants of vector saturating binary ops.
 775 (define_code_iterator BINQOPS [ss_plus us_plus ss_minus us_minus])
 776
 777 ;; Code iterator for variants of vector saturating unary ops.
 778 (define_code_iterator UNQOPS [ss_neg ss_abs])
 779
 780 ;; Code iterator for signed variants of vector saturating binary ops.
 781 (define_code_iterator SBINQOPS [ss_plus ss_minus])
 782
 783 ;; Comparison operators for <F>CM.
 784 (define_code_iterator COMPARISONS [lt le eq ge gt])
 785
 786 ;; Unsigned comparison operators.
 787 (define_code_iterator UCOMPARISONS [ltu leu geu gtu])
 788
 789 ;; Unsigned comparison operators.
 790 (define_code_iterator FAC_COMPARISONS [lt le ge gt])
 791
 792 ;; -------------------------------------------------------------------
 793 ;; Code Attributes
 794 ;; -------------------------------------------------------------------
 795 ;; Map rtl objects to optab names
 796 (define_code_attr optab [(ashift "ashl")
 797                          (ashiftrt "ashr")
 798                          (lshiftrt "lshr")
 799                          (rotatert "rotr")
 800                          (sign_extend "extend")
 801                          (zero_extend "zero_extend")
 802                          (sign_extract "extv")
 803                          (zero_extract "extzv")
 804                          (fix "fix")
 805                          (unsigned_fix "fixuns")
 806                          (float "float")
 807                          (unsigned_float "floatuns")
 808                          (and "and")
 809                          (ior "ior")
 810                          (xor "xor")
 811                          (not "one_cmpl")
 812                          (neg "neg")
 813                          (plus "add")
 814                          (minus "sub")
 815                          (ss_plus "qadd")
 816                          (us_plus "qadd")
 817                          (ss_minus "qsub")
 818                          (us_minus "qsub")
 819                          (ss_neg "qneg")
 820                          (ss_abs "qabs")
 821                          (eq "eq")
 822                          (ne "ne")
 823                          (lt "lt")
 824                          (ge "ge")
 825                          (le "le")
 826                          (gt "gt")
 827                          (ltu "ltu")
 828                          (leu "leu")
 829                          (geu "geu")
 830                          (gtu "gtu")])
 831
 832 ;; For comparison operators we use the FCM* and CM* instructions.
 833 ;; As there are no CMLE or CMLT instructions which act on 3 vector
 834 ;; operands, we must use CMGE or CMGT and swap the order of the
 835 ;; source operands.
 836
 837 (define_code_attr n_optab [(lt "gt") (le "ge") (eq "eq") (ge "ge") (gt "gt")
 838                            (ltu "hi") (leu "hs") (geu "hs") (gtu "hi")])
 839 (define_code_attr cmp_1   [(lt "2") (le "2") (eq "1") (ge "1") (gt "1")
 840                            (ltu "2") (leu "2") (geu "1") (gtu "1")])
 841 (define_code_attr cmp_2   [(lt "1") (le "1") (eq "2") (ge "2") (gt "2")
 842                            (ltu "1") (leu "1") (geu "2") (gtu "2")])
 843
 844 (define_code_attr CMP [(lt "LT") (le "LE") (eq "EQ") (ge "GE") (gt "GT")
 845                         (ltu "LTU") (leu "LEU") (ne "NE") (geu "GEU")
 846                         (gtu "GTU")])
 847
 848 (define_code_attr fix_trunc_optab [(fix "fix_trunc")
 849                                    (unsigned_fix "fixuns_trunc")])
 850
 851 ;; Optab prefix for sign/zero-extending operations
 852 (define_code_attr su_optab [(sign_extend "") (zero_extend "u")
 853                             (div "") (udiv "u")
 854                             (fix "") (unsigned_fix "u")
 855                             (float "s") (unsigned_float "u")
 856                             (ss_plus "s") (us_plus "u")
 857                             (ss_minus "s") (us_minus "u")])
 858
 859 ;; Similar for the instruction mnemonics
 860 (define_code_attr shift [(ashift "lsl") (ashiftrt "asr")
 861                          (lshiftrt "lsr") (rotatert "ror")])
 862
 863 ;; Map shift operators onto underlying bit-field instructions
 864 (define_code_attr bfshift [(ashift "ubfiz") (ashiftrt "sbfx")
 865                            (lshiftrt "ubfx") (rotatert "extr")])
 866
 867 ;; Logical operator instruction mnemonics
 868 (define_code_attr logical [(and "and") (ior "orr") (xor "eor")])
 869
 870 ;; Operation names for negate and bitwise complement.
 871 (define_code_attr neg_not_op [(neg "neg") (not "not")])
 872
 873 ;; Similar, but when not(op)
 874 (define_code_attr nlogical [(and "bic") (ior "orn") (xor "eon")])
 875
 876 ;; Sign- or zero-extending load
 877 (define_code_attr ldrxt [(sign_extend "ldrs") (zero_extend "ldr")])
 878
 879 ;; Sign- or zero-extending data-op
 880 (define_code_attr su [(sign_extend "s") (zero_extend "u")
 881                       (sign_extract "s") (zero_extract "u")
 882                       (fix "s") (unsigned_fix "u")
 883                       (div "s") (udiv "u")
 884                       (smax "s") (umax "u")
 885                       (smin "s") (umin "u")])
 886
 887 ;; Emit conditional branch instructions.
 888 (define_code_attr bcond [(eq "beq") (ne "bne") (lt "bne") (ge "beq")])
 889
 890 ;; Emit cbz/cbnz depending on comparison type.
 891 (define_code_attr cbz [(eq "cbz") (ne "cbnz") (lt "cbnz") (ge "cbz")])
 892
 893 ;; Emit inverted cbz/cbnz depending on comparison type.
 894 (define_code_attr inv_cb [(eq "cbnz") (ne "cbz") (lt "cbz") (ge "cbnz")])
 895
 896 ;; Emit tbz/tbnz depending on comparison type.
 897 (define_code_attr tbz [(eq "tbz") (ne "tbnz") (lt "tbnz") (ge "tbz")])
 898
 899 ;; Emit inverted tbz/tbnz depending on comparison type.
 900 (define_code_attr inv_tb [(eq "tbnz") (ne "tbz") (lt "tbz") (ge "tbnz")])
 901
 902 ;; Max/min attributes.
 903 (define_code_attr maxmin [(smax "max")
 904                           (smin "min")
 905                           (umax "max")
 906                           (umin "min")])
 907
 908 ;; MLA/MLS attributes.
 909 (define_code_attr as [(ss_plus "a") (ss_minus "s")])
 910
 911 ;; Atomic operations
 912 (define_code_attr atomic_optab
 913   [(ior "or") (xor "xor") (and "and") (plus "add") (minus "sub")])
 914
 915 (define_code_attr atomic_op_operand
 916   [(ior "aarch64_logical_operand")
 917    (xor "aarch64_logical_operand")
 918    (and "aarch64_logical_operand")
 919    (plus "aarch64_plus_operand")
 920    (minus "aarch64_plus_operand")])
 921
 922 ;; Constants acceptable for atomic operations.
 923 ;; This definition must appear in this file before the iterators it refers to.
 924 (define_code_attr const_atomic
 925  [(plus "IJ") (minus "IJ")
 926   (xor "<lconst_atomic>") (ior "<lconst_atomic>")
 927   (and "<lconst_atomic>")])
 928
 929 ;; Attribute to describe constants acceptable in atomic logical operations
 930 (define_mode_attr lconst_atomic [(QI "K") (HI "K") (SI "K") (DI "L")])
 931
 932 ;; -------------------------------------------------------------------
 933 ;; Int Iterators.
 934 ;; -------------------------------------------------------------------
 935 (define_int_iterator MAXMINV [UNSPEC_UMAXV UNSPEC_UMINV
 936                               UNSPEC_SMAXV UNSPEC_SMINV])
 937
 938 (define_int_iterator FMAXMINV [UNSPEC_FMAXV UNSPEC_FMINV
 939                                UNSPEC_FMAXNMV UNSPEC_FMINNMV])
 940
 941 (define_int_iterator HADDSUB [UNSPEC_SHADD UNSPEC_UHADD
 942                               UNSPEC_SRHADD UNSPEC_URHADD
 943                               UNSPEC_SHSUB UNSPEC_UHSUB
 944                               UNSPEC_SRHSUB UNSPEC_URHSUB])
 945
 946
 947 (define_int_iterator ADDSUBHN [UNSPEC_ADDHN UNSPEC_RADDHN
 948                                UNSPEC_SUBHN UNSPEC_RSUBHN])
 949
 950 (define_int_iterator ADDSUBHN2 [UNSPEC_ADDHN2 UNSPEC_RADDHN2
 951                                 UNSPEC_SUBHN2 UNSPEC_RSUBHN2])
 952
 953 (define_int_iterator FMAXMIN_UNS [UNSPEC_FMAX UNSPEC_FMIN])
 954
 955 (define_int_iterator FMAXMIN [UNSPEC_FMAXNM UNSPEC_FMINNM])
 956
 957 (define_int_iterator VQDMULH [UNSPEC_SQDMULH UNSPEC_SQRDMULH])
 958
 959 (define_int_iterator USSUQADD [UNSPEC_SUQADD UNSPEC_USQADD])
 960
 961 (define_int_iterator SUQMOVN [UNSPEC_SQXTN UNSPEC_UQXTN])
 962
 963 (define_int_iterator VSHL [UNSPEC_SSHL UNSPEC_USHL
 964                            UNSPEC_SRSHL UNSPEC_URSHL])
 965
 966 (define_int_iterator VSHLL [UNSPEC_SSHLL UNSPEC_USHLL])
 967
 968 (define_int_iterator VQSHL [UNSPEC_SQSHL UNSPEC_UQSHL
 969                             UNSPEC_SQRSHL UNSPEC_UQRSHL])
 970
 971 (define_int_iterator VSRA [UNSPEC_SSRA UNSPEC_USRA
 972                              UNSPEC_SRSRA UNSPEC_URSRA])
 973
 974 (define_int_iterator VSLRI [UNSPEC_SSLI UNSPEC_USLI
 975                               UNSPEC_SSRI UNSPEC_USRI])
 976
 977
 978 (define_int_iterator VRSHR_N [UNSPEC_SRSHR UNSPEC_URSHR])
 979
 980 (define_int_iterator VQSHL_N [UNSPEC_SQSHLU UNSPEC_SQSHL UNSPEC_UQSHL])
 981
 982 (define_int_iterator VQSHRN_N [UNSPEC_SQSHRUN UNSPEC_SQRSHRUN
 983                                UNSPEC_SQSHRN UNSPEC_UQSHRN
 984                                UNSPEC_SQRSHRN UNSPEC_UQRSHRN])
 985
 986 (define_int_iterator SQRDMLH_AS [UNSPEC_SQRDMLAH UNSPEC_SQRDMLSH])
 987
 988 (define_int_iterator PERMUTE [UNSPEC_ZIP1 UNSPEC_ZIP2
 989                               UNSPEC_TRN1 UNSPEC_TRN2
 990                               UNSPEC_UZP1 UNSPEC_UZP2])
 991
 992 (define_int_iterator REVERSE [UNSPEC_REV64 UNSPEC_REV32 UNSPEC_REV16])
 993
 994 (define_int_iterator FRINT [UNSPEC_FRINTZ UNSPEC_FRINTP UNSPEC_FRINTM
 995                              UNSPEC_FRINTN UNSPEC_FRINTI UNSPEC_FRINTX
 996                              UNSPEC_FRINTA])
 997
 998 (define_int_iterator FCVT [UNSPEC_FRINTZ UNSPEC_FRINTP UNSPEC_FRINTM
 999                             UNSPEC_FRINTA UNSPEC_FRINTN])
1000
1001 (define_int_iterator FRECP [UNSPEC_FRECPE UNSPEC_FRECPX])
1002
1003 (define_int_iterator CRC [UNSPEC_CRC32B UNSPEC_CRC32H UNSPEC_CRC32W
1004                           UNSPEC_CRC32X UNSPEC_CRC32CB UNSPEC_CRC32CH
1005                           UNSPEC_CRC32CW UNSPEC_CRC32CX])
1006
1007 (define_int_iterator CRYPTO_AES [UNSPEC_AESE UNSPEC_AESD])
1008 (define_int_iterator CRYPTO_AESMC [UNSPEC_AESMC UNSPEC_AESIMC])
1009
1010 (define_int_iterator CRYPTO_SHA1 [UNSPEC_SHA1C UNSPEC_SHA1M UNSPEC_SHA1P])
1011
1012 (define_int_iterator CRYPTO_SHA256 [UNSPEC_SHA256H UNSPEC_SHA256H2])
1013
1014 ;; Iterators for atomic operations.
1015
1016 (define_int_iterator ATOMIC_LDOP
1017  [UNSPECV_ATOMIC_LDOP_OR UNSPECV_ATOMIC_LDOP_BIC
1018   UNSPECV_ATOMIC_LDOP_XOR UNSPECV_ATOMIC_LDOP_PLUS])
1019
1020 (define_int_attr atomic_ldop
1021  [(UNSPECV_ATOMIC_LDOP_OR "set") (UNSPECV_ATOMIC_LDOP_BIC "clr")
1022   (UNSPECV_ATOMIC_LDOP_XOR "eor") (UNSPECV_ATOMIC_LDOP_PLUS "add")])
1023
1024 ;; -------------------------------------------------------------------
1025 ;; Int Iterators Attributes.
1026 ;; -------------------------------------------------------------------
1027 (define_int_attr  maxmin_uns [(UNSPEC_UMAXV "umax")
1028                               (UNSPEC_UMINV "umin")
1029                               (UNSPEC_SMAXV "smax")
1030                               (UNSPEC_SMINV "smin")
1031                               (UNSPEC_FMAX  "smax_nan")
1032                               (UNSPEC_FMAXNMV "smax")
1033                               (UNSPEC_FMAXV "smax_nan")
1034                               (UNSPEC_FMIN "smin_nan")
1035                               (UNSPEC_FMINNMV "smin")
1036                               (UNSPEC_FMINV "smin_nan")])
1037
1038 (define_int_attr  maxmin_uns_op [(UNSPEC_UMAXV "umax")
1039                                  (UNSPEC_UMINV "umin")
1040                                  (UNSPEC_SMAXV "smax")
1041                                  (UNSPEC_SMINV "smin")
1042                                  (UNSPEC_FMAX "fmax")
1043                                  (UNSPEC_FMAXNMV "fmaxnm")
1044                                  (UNSPEC_FMAXV "fmax")
1045                                  (UNSPEC_FMIN "fmin")
1046                                  (UNSPEC_FMINNMV "fminnm")
1047                                  (UNSPEC_FMINV "fmin")])
1048
1049 (define_int_attr fmaxmin [(UNSPEC_FMAXNM "fmax")
1050                           (UNSPEC_FMINNM "fmin")])
1051
1052 (define_int_attr fmaxmin_op [(UNSPEC_FMAXNM "fmaxnm")
1053                              (UNSPEC_FMINNM "fminnm")])
1054
1055 (define_int_attr sur [(UNSPEC_SHADD "s") (UNSPEC_UHADD "u")
1056                       (UNSPEC_SRHADD "sr") (UNSPEC_URHADD "ur")
1057                       (UNSPEC_SHSUB "s") (UNSPEC_UHSUB "u")
1058                       (UNSPEC_SRHSUB "sr") (UNSPEC_URHSUB "ur")
1059                       (UNSPEC_ADDHN "") (UNSPEC_RADDHN "r")
1060                       (UNSPEC_SUBHN "") (UNSPEC_RSUBHN "r")
1061                       (UNSPEC_ADDHN2 "") (UNSPEC_RADDHN2 "r")
1062                       (UNSPEC_SUBHN2 "") (UNSPEC_RSUBHN2 "r")
1063                       (UNSPEC_SQXTN "s") (UNSPEC_UQXTN "u")
1064                       (UNSPEC_USQADD "us") (UNSPEC_SUQADD "su")
1065                       (UNSPEC_SSLI  "s") (UNSPEC_USLI  "u")
1066                       (UNSPEC_SSRI  "s") (UNSPEC_USRI  "u")
1067                       (UNSPEC_USRA  "u") (UNSPEC_SSRA  "s")
1068                       (UNSPEC_URSRA  "ur") (UNSPEC_SRSRA  "sr")
1069                       (UNSPEC_URSHR  "ur") (UNSPEC_SRSHR  "sr")
1070                       (UNSPEC_SQSHLU "s") (UNSPEC_SQSHL   "s")
1071                       (UNSPEC_UQSHL  "u")
1072                       (UNSPEC_SQSHRUN "s") (UNSPEC_SQRSHRUN "s")
1073                       (UNSPEC_SQSHRN "s")  (UNSPEC_UQSHRN "u")
1074                       (UNSPEC_SQRSHRN "s") (UNSPEC_UQRSHRN "u")
1075                       (UNSPEC_USHL  "u")   (UNSPEC_SSHL  "s")
1076                       (UNSPEC_USHLL  "u")  (UNSPEC_SSHLL "s")
1077                       (UNSPEC_URSHL  "ur") (UNSPEC_SRSHL  "sr")
1078                       (UNSPEC_UQRSHL  "u") (UNSPEC_SQRSHL  "s")
1079 ])
1080
1081 (define_int_attr r [(UNSPEC_SQDMULH "") (UNSPEC_SQRDMULH "r")
1082                     (UNSPEC_SQSHRUN "") (UNSPEC_SQRSHRUN "r")
1083                     (UNSPEC_SQSHRN "")  (UNSPEC_UQSHRN "")
1084                     (UNSPEC_SQRSHRN "r") (UNSPEC_UQRSHRN "r")
1085                     (UNSPEC_SQSHL   "")  (UNSPEC_UQSHL  "")
1086                     (UNSPEC_SQRSHL   "r")(UNSPEC_UQRSHL  "r")
1087 ])
1088
1089 (define_int_attr lr [(UNSPEC_SSLI  "l") (UNSPEC_USLI  "l")
1090                      (UNSPEC_SSRI  "r") (UNSPEC_USRI  "r")])
1091
1092 (define_int_attr u [(UNSPEC_SQSHLU "u") (UNSPEC_SQSHL "") (UNSPEC_UQSHL "")
1093                     (UNSPEC_SQSHRUN "u") (UNSPEC_SQRSHRUN "u")
1094                     (UNSPEC_SQSHRN "")  (UNSPEC_UQSHRN "")
1095                     (UNSPEC_SQRSHRN "") (UNSPEC_UQRSHRN "")])
1096
1097 (define_int_attr addsub [(UNSPEC_SHADD "add")
1098                          (UNSPEC_UHADD "add")
1099                          (UNSPEC_SRHADD "add")
1100                          (UNSPEC_URHADD "add")
1101                          (UNSPEC_SHSUB "sub")
1102                          (UNSPEC_UHSUB "sub")
1103                          (UNSPEC_SRHSUB "sub")
1104                          (UNSPEC_URHSUB "sub")
1105                          (UNSPEC_ADDHN "add")
1106                          (UNSPEC_SUBHN "sub")
1107                          (UNSPEC_RADDHN "add")
1108                          (UNSPEC_RSUBHN "sub")
1109                          (UNSPEC_ADDHN2 "add")
1110                          (UNSPEC_SUBHN2 "sub")
1111                          (UNSPEC_RADDHN2 "add")
1112                          (UNSPEC_RSUBHN2 "sub")])
1113
1114 (define_int_attr offsetlr [(UNSPEC_SSLI "") (UNSPEC_USLI "")
1115                            (UNSPEC_SSRI "offset_")
1116                            (UNSPEC_USRI "offset_")])
1117
1118 ;; Standard pattern names for floating-point rounding instructions.
1119 (define_int_attr frint_pattern [(UNSPEC_FRINTZ "btrunc")
1120                                 (UNSPEC_FRINTP "ceil")
1121                                 (UNSPEC_FRINTM "floor")
1122                                 (UNSPEC_FRINTI "nearbyint")
1123                                 (UNSPEC_FRINTX "rint")
1124                                 (UNSPEC_FRINTA "round")
1125                                 (UNSPEC_FRINTN "frintn")])
1126
1127 ;; frint suffix for floating-point rounding instructions.
1128 (define_int_attr frint_suffix [(UNSPEC_FRINTZ "z") (UNSPEC_FRINTP "p")
1129                                (UNSPEC_FRINTM "m") (UNSPEC_FRINTI "i")
1130                                (UNSPEC_FRINTX "x") (UNSPEC_FRINTA "a")
1131                                (UNSPEC_FRINTN "n")])
1132
1133 (define_int_attr fcvt_pattern [(UNSPEC_FRINTZ "btrunc") (UNSPEC_FRINTA "round")
1134                                (UNSPEC_FRINTP "ceil") (UNSPEC_FRINTM "floor")
1135                                (UNSPEC_FRINTN "frintn")])
1136
1137 (define_int_attr perm_insn [(UNSPEC_ZIP1 "zip") (UNSPEC_ZIP2 "zip")
1138                             (UNSPEC_TRN1 "trn") (UNSPEC_TRN2 "trn")
1139                             (UNSPEC_UZP1 "uzp") (UNSPEC_UZP2 "uzp")])
1140
1141 ; op code for REV instructions (size within which elements are reversed).
1142 (define_int_attr rev_op [(UNSPEC_REV64 "64") (UNSPEC_REV32 "32")
1143                          (UNSPEC_REV16 "16")])
1144
1145 (define_int_attr perm_hilo [(UNSPEC_ZIP1 "1") (UNSPEC_ZIP2 "2")
1146                             (UNSPEC_TRN1 "1") (UNSPEC_TRN2 "2")
1147                             (UNSPEC_UZP1 "1") (UNSPEC_UZP2 "2")])
1148
1149 (define_int_attr frecp_suffix  [(UNSPEC_FRECPE "e") (UNSPEC_FRECPX "x")])
1150
1151 (define_int_attr crc_variant [(UNSPEC_CRC32B "crc32b") (UNSPEC_CRC32H "crc32h")
1152                         (UNSPEC_CRC32W "crc32w") (UNSPEC_CRC32X "crc32x")
1153                         (UNSPEC_CRC32CB "crc32cb") (UNSPEC_CRC32CH "crc32ch")
1154                         (UNSPEC_CRC32CW "crc32cw") (UNSPEC_CRC32CX "crc32cx")])
1155
1156 (define_int_attr crc_mode [(UNSPEC_CRC32B "QI") (UNSPEC_CRC32H "HI")
1157                         (UNSPEC_CRC32W "SI") (UNSPEC_CRC32X "DI")
1158                         (UNSPEC_CRC32CB "QI") (UNSPEC_CRC32CH "HI")
1159                         (UNSPEC_CRC32CW "SI") (UNSPEC_CRC32CX "DI")])
1160
1161 (define_int_attr aes_op [(UNSPEC_AESE "e") (UNSPEC_AESD "d")])
1162 (define_int_attr aesmc_op [(UNSPEC_AESMC "mc") (UNSPEC_AESIMC "imc")])
1163
1164 (define_int_attr sha1_op [(UNSPEC_SHA1C "c") (UNSPEC_SHA1P "p")
1165                           (UNSPEC_SHA1M "m")])
1166
1167 (define_int_attr sha256_op [(UNSPEC_SHA256H "") (UNSPEC_SHA256H2 "2")])
1168
1169 (define_int_attr rdma_as [(UNSPEC_SQRDMLAH "a") (UNSPEC_SQRDMLSH "s")])