sysdeps/i386/i686/multiarch/memcpy.S

   1 /* Multiple versions of memcpy
   2    All versions must be listed in ifunc-impl-list.c.
   3    Copyright (C) 2010-2014 Free Software Foundation, Inc.
   4    Contributed by Intel Corporation.
   5    This file is part of the GNU C Library.
   6
   7    The GNU C Library is free software; you can redistribute it and/or
   8    modify it under the terms of the GNU Lesser General Public
   9    License as published by the Free Software Foundation; either
  10    version 2.1 of the License, or (at your option) any later version.
  11
  12    The GNU C Library is distributed in the hope that it will be useful,
  13    but WITHOUT ANY WARRANTY; without even the implied warranty of
  14    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15    Lesser General Public License for more details.
  16
  17    You should have received a copy of the GNU Lesser General Public
  18    License along with the GNU C Library; if not, see
  19    <http://www.gnu.org/licenses/>.  */
  20
  21 #include <sysdep.h>
  22 #include <init-arch.h>
  23
  24 /* Define multiple versions only for the definition in lib and for
  25    DSO.  In static binaries we need memcpy before the initialization
  26    happened.  */
  27 #if defined SHARED && IS_IN (libc)
  28         .text
  29 ENTRY(memcpy)
  30         .type   memcpy, @gnu_indirect_function
  31         pushl   %ebx
  32         cfi_adjust_cfa_offset (4)
  33         cfi_rel_offset (ebx, 0)
  34         LOAD_PIC_REG(bx)
  35         cmpl    $0, KIND_OFFSET+__cpu_features@GOTOFF(%ebx)
  36         jne     1f
  37         call    __init_cpu_features
  38 1:      leal    __memcpy_ia32@GOTOFF(%ebx), %eax
  39         testl   $bit_SSSE3, CPUID_OFFSET+index_SSSE3+__cpu_features@GOTOFF(%ebx)
  40         jz      2f
  41         leal    __memcpy_ssse3@GOTOFF(%ebx), %eax
  42         testl   $bit_Fast_Rep_String, FEATURE_OFFSET+index_Fast_Rep_String+__cpu_features@GOTOFF(%ebx)
  43         jz      2f
  44         leal    __memcpy_ssse3_rep@GOTOFF(%ebx), %eax
  45 2:      popl    %ebx
  46         cfi_adjust_cfa_offset (-4)
  47         cfi_restore (ebx)
  48         ret
  49 END(memcpy)
  50
  51 # undef ENTRY
  52 # define ENTRY(name) \
  53         .type __memcpy_ia32, @function; \
  54         .p2align 4; \
  55         .globl __memcpy_ia32; \
  56         .hidden __memcpy_ia32; \
  57         __memcpy_ia32: cfi_startproc; \
  58         CALL_MCOUNT
  59 # undef END
  60 # define END(name) \
  61         cfi_endproc; .size __memcpy_ia32, .-__memcpy_ia32
  62
  63 # undef ENTRY_CHK
  64 # define ENTRY_CHK(name) \
  65         .type __memcpy_chk_ia32, @function; \
  66         .globl __memcpy_chk_ia32; \
  67         .p2align 4; \
  68         __memcpy_chk_ia32: cfi_startproc; \
  69         CALL_MCOUNT
  70 # undef END_CHK
  71 # define END_CHK(name) \
  72         cfi_endproc; .size __memcpy_chk_ia32, .-__memcpy_chk_ia32
  73
  74 # undef libc_hidden_builtin_def
  75 /* IFUNC doesn't work with the hidden functions in shared library since
  76    they will be called without setting up EBX needed for PLT which is
  77    used by IFUNC.  */
  78 # define libc_hidden_builtin_def(name) \
  79         .globl __GI_memcpy; __GI_memcpy = __memcpy_ia32
  80 #endif
  81
  82 #include "../memcpy.S"