test/ScheduleOptimizer/full_partial_tile_separation.ll

   1 ; RUN: opt -S %loadPolly -polly-pattern-matching-based-opts=false \
   2 ; RUN: -polly-vectorizer=stripmine -polly-opt-isl -polly-ast -analyze \
   3 ; RUN: < %s | FileCheck %s
   4 ; CHECK:          // 1st level tiling - Tiles
   5 ; CHECK-NEXT:    #pragma known-parallel
   6 ; CHECK-NEXT:    for (int c0 = 0; c0 <= floord(ni - 1, 32); c0 += 1)
   7 ; CHECK-NEXT:      for (int c1 = 0; c1 <= floord(nj - 1, 32); c1 += 1)
   8 ; CHECK-NEXT:        for (int c2 = 0; c2 <= floord(nk - 1, 32); c2 += 1) {
   9 ; CHECK-NEXT:          // 1st level tiling - Points
  10 ; CHECK-NEXT:          for (int c3 = 0; c3 <= min(31, ni - 32 * c0 - 1); c3 += 1) {
  11 ; CHECK-NEXT:            for (int c4 = 0; c4 <= min(7, -8 * c1 + nj / 4 - 1); c4 += 1)
  12 ; CHECK-NEXT:              for (int c5 = 0; c5 <= min(31, nk - 32 * c2 - 1); c5 += 1) {
  13 ; CHECK-NEXT:                // SIMD
  14 ; CHECK-NEXT:                for (int c6 = 0; c6 <= 3; c6 += 1)
  15 ; CHECK-NEXT:                  Stmt_for_body_6(32 * c0 + c3, 32 * c1 + 4 * c4 + c6, 32 * c2 + c5);
  16 ; CHECK-NEXT:              }
  17 ; CHECK-NEXT:            if (32 * c1 + 31 >= nj)
  18 ; CHECK-NEXT:              #pragma minimal dependence distance: 1
  19 ; CHECK-NEXT:              for (int c5 = 0; c5 <= min(31, nk - 32 * c2 - 1); c5 += 1) {
  20 ; CHECK-NEXT:                // SIMD
  21 ; CHECK-NEXT:                for (int c6 = 0; c6 < nj % 4; c6 += 1)
  22 ; CHECK-NEXT:                  Stmt_for_body_6(32 * c0 + c3, -(nj % 4) + nj + c6, 32 * c2 + c5);
  23 ; CHECK-NEXT:              }
  24 ; CHECK-NEXT:          }
  25 ; CHECK-NEXT:        }
  26
  27 ; Function Attrs: nounwind uwtable
  28 define void @kernel_gemm(i32 %ni, i32 %nj, i32 %nk, double %alpha, double %beta, [1024 x double]* %C, [1024 x double]* %A, [1024 x double]* %B) #0 {
  29 entry:
  30   %cmp.27 = icmp sgt i32 %ni, 0
  31   br i1 %cmp.27, label %for.cond.1.preheader.lr.ph, label %for.end.22
  32
  33 for.cond.1.preheader.lr.ph:                       ; preds = %entry
  34   br label %for.cond.1.preheader
  35
  36 for.cond.1.preheader:                             ; preds = %for.cond.1.preheader.lr.ph, %for.inc.20
  37   %indvars.iv33 = phi i64 [ 0, %for.cond.1.preheader.lr.ph ], [ %indvars.iv.next34, %for.inc.20 ]
  38   %cmp2.25 = icmp sgt i32 %nj, 0
  39   br i1 %cmp2.25, label %for.cond.4.preheader.lr.ph, label %for.inc.20
  40
  41 for.cond.4.preheader.lr.ph:                       ; preds = %for.cond.1.preheader
  42   br label %for.cond.4.preheader
  43
  44 for.cond.4.preheader:                             ; preds = %for.cond.4.preheader.lr.ph, %for.inc.17
  45   %indvars.iv29 = phi i64 [ 0, %for.cond.4.preheader.lr.ph ], [ %indvars.iv.next30, %for.inc.17 ]
  46   %cmp5.23 = icmp sgt i32 %nk, 0
  47   br i1 %cmp5.23, label %for.body.6.lr.ph, label %for.inc.17
  48
  49 for.body.6.lr.ph:                                 ; preds = %for.cond.4.preheader
  50   br label %for.body.6
  51
  52 for.body.6:                                       ; preds = %for.body.6.lr.ph, %for.body.6
  53   %indvars.iv = phi i64 [ 0, %for.body.6.lr.ph ], [ %indvars.iv.next, %for.body.6 ]
  54   %arrayidx8 = getelementptr inbounds [1024 x double], [1024 x double]* %A, i64 %indvars.iv33, i64 %indvars.iv
  55   %0 = load double, double* %arrayidx8, align 8
  56   %arrayidx12 = getelementptr inbounds [1024 x double], [1024 x double]* %B, i64 %indvars.iv, i64 %indvars.iv29
  57   %1 = load double, double* %arrayidx12, align 8
  58   %mul = fmul double %0, %1
  59   %arrayidx16 = getelementptr inbounds [1024 x double], [1024 x double]* %C, i64 %indvars.iv33, i64 %indvars.iv29
  60   %2 = load double, double* %arrayidx16, align 8
  61   %add = fadd double %2, %mul
  62   store double %add, double* %arrayidx16, align 8
  63   %indvars.iv.next = add nuw nsw i64 %indvars.iv, 1
  64   %lftr.wideiv = trunc i64 %indvars.iv.next to i32
  65   %exitcond = icmp ne i32 %lftr.wideiv, %nk
  66   br i1 %exitcond, label %for.body.6, label %for.cond.4.for.inc.17_crit_edge
  67
  68 for.cond.4.for.inc.17_crit_edge:                  ; preds = %for.body.6
  69   br label %for.inc.17
  70
  71 for.inc.17:                                       ; preds = %for.cond.4.for.inc.17_crit_edge, %for.cond.4.preheader
  72   %indvars.iv.next30 = add nuw nsw i64 %indvars.iv29, 1
  73   %lftr.wideiv31 = trunc i64 %indvars.iv.next30 to i32
  74   %exitcond32 = icmp ne i32 %lftr.wideiv31, %nj
  75   br i1 %exitcond32, label %for.cond.4.preheader, label %for.cond.1.for.inc.20_crit_edge
  76
  77 for.cond.1.for.inc.20_crit_edge:                  ; preds = %for.inc.17
  78   br label %for.inc.20
  79
  80 for.inc.20:                                       ; preds = %for.cond.1.for.inc.20_crit_edge, %for.cond.1.preheader
  81   %indvars.iv.next34 = add nuw nsw i64 %indvars.iv33, 1
  82   %lftr.wideiv35 = trunc i64 %indvars.iv.next34 to i32
  83   %exitcond36 = icmp ne i32 %lftr.wideiv35, %ni
  84   br i1 %exitcond36, label %for.cond.1.preheader, label %for.cond.for.end.22_crit_edge
  85
  86 for.cond.for.end.22_crit_edge:                    ; preds = %for.inc.20
  87   br label %for.end.22
  88
  89 for.end.22:                                       ; preds = %for.cond.for.end.22_crit_edge, %entry
  90   ret void
  91 }