sysdeps/x86_64/multiarch/mempcpy.S

   1 /* Multiple versions of mempcpy
   2    All versions must be listed in ifunc-impl-list.c.
   3    Copyright (C) 2010-2015 Free Software Foundation, Inc.
   4    Contributed by Intel Corporation.
   5    This file is part of the GNU C Library.
   6
   7    The GNU C Library is free software; you can redistribute it and/or
   8    modify it under the terms of the GNU Lesser General Public
   9    License as published by the Free Software Foundation; either
  10    version 2.1 of the License, or (at your option) any later version.
  11
  12    The GNU C Library is distributed in the hope that it will be useful,
  13    but WITHOUT ANY WARRANTY; without even the implied warranty of
  14    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15    Lesser General Public License for more details.
  16
  17    You should have received a copy of the GNU Lesser General Public
  18    License along with the GNU C Library; if not, see
  19    <http://www.gnu.org/licenses/>.  */
  20
  21 #include <sysdep.h>
  22 #include <init-arch.h>
  23
  24 /* Define multiple versions only for the definition in lib and for
  25    DSO.  In static binaries we need mempcpy before the initialization
  26    happened.  */
  27 #if defined SHARED && IS_IN (libc)
  28 ENTRY(__mempcpy)
  29         .type   __mempcpy, @gnu_indirect_function
  30         LOAD_RTLD_GLOBAL_RO_RDX
  31         leaq    __mempcpy_sse2(%rip), %rax
  32         HAS_CPU_FEATURE (SSSE3)
  33         jz      2f
  34         leaq    __mempcpy_ssse3(%rip), %rax
  35         HAS_ARCH_FEATURE (Fast_Copy_Backward)
  36         jz      2f
  37         leaq    __mempcpy_ssse3_back(%rip), %rax
  38         HAS_ARCH_FEATURE (AVX_Fast_Unaligned_Load)
  39         jz      2f
  40         leaq    __mempcpy_avx_unaligned(%rip), %rax
  41 2:      ret
  42 END(__mempcpy)
  43
  44 # undef ENTRY
  45 # define ENTRY(name) \
  46         .type __mempcpy_sse2, @function; \
  47         .p2align 4; \
  48         .globl __mempcpy_sse2; \
  49         .hidden __mempcpy_sse2; \
  50         __mempcpy_sse2: cfi_startproc; \
  51         CALL_MCOUNT
  52 # undef END
  53 # define END(name) \
  54         cfi_endproc; .size __mempcpy_sse2, .-__mempcpy_sse2
  55
  56 # undef ENTRY_CHK
  57 # define ENTRY_CHK(name) \
  58         .type __mempcpy_chk_sse2, @function; \
  59         .globl __mempcpy_chk_sse2; \
  60         .p2align 4; \
  61         __mempcpy_chk_sse2: cfi_startproc; \
  62         CALL_MCOUNT
  63 # undef END_CHK
  64 # define END_CHK(name) \
  65         cfi_endproc; .size __mempcpy_chk_sse2, .-__mempcpy_chk_sse2
  66
  67 # undef libc_hidden_def
  68 # undef libc_hidden_builtin_def
  69 /* It doesn't make sense to send libc-internal mempcpy calls through a PLT.
  70    The speedup we get from using SSSE3 instruction is likely eaten away
  71    by the indirect call in the PLT.  */
  72 # define libc_hidden_def(name) \
  73         .globl __GI_mempcpy; __GI_mempcpy = __mempcpy_sse2
  74 # define libc_hidden_builtin_def(name) \
  75         .globl __GI___mempcpy; __GI___mempcpy = __mempcpy_sse2
  76 #endif
  77
  78 #include "../mempcpy.S"