Ticket #1383: i420_mmx_pic.patch

File i420_mmx_pic.patch, 8.9 kB (added by aballier, 1 year ago)

let gcc choose how to reference memory addresses

  • modules/video_chroma/i420_rgb_mmx.h

    old new  
    3434#define USED_U64(foo) \ 
    3535    static const uint64_t foo __asm__ (#foo) __attribute__((unused)) 
    3636#endif 
    37 USED_U64(mmx_80w)     = 0x0080008000800080ULL; 
    38 USED_U64(mmx_10w)     = 0x1010101010101010ULL; 
    39 USED_U64(mmx_00ffw)   = 0x00ff00ff00ff00ffULL; 
    40 USED_U64(mmx_Y_coeff) = 0x253f253f253f253fULL; 
     37USED_U64(mmx_80w)     = 0x0080008000800080ULL; /* Will be referenced as %4 in inline asm */ 
     38USED_U64(mmx_10w)     = 0x1010101010101010ULL; /* -- as %5 */ 
     39USED_U64(mmx_00ffw)   = 0x00ff00ff00ff00ffULL; /* -- as %6 */ 
     40USED_U64(mmx_Y_coeff) = 0x253f253f253f253fULL; /* -- as %7 */ 
    4141 
    42 USED_U64(mmx_U_green) = 0xf37df37df37df37dULL; 
    43 USED_U64(mmx_U_blue)  = 0x4093409340934093ULL; 
    44 USED_U64(mmx_V_red)   = 0x3312331233123312ULL; 
    45 USED_U64(mmx_V_green) = 0xe5fce5fce5fce5fcULL; 
     42USED_U64(mmx_U_green) = 0xf37df37df37df37dULL; /* -- as %8 */ 
     43USED_U64(mmx_U_blue)  = 0x4093409340934093ULL; /* -- as %9 */ 
     44USED_U64(mmx_V_red)   = 0x3312331233123312ULL; /* -- as %10 */ 
     45USED_U64(mmx_V_green) = 0xe5fce5fce5fce5fcULL; /* -- as %11 */ 
    4646 
    47 USED_U64(mmx_mask_f8) = 0xf8f8f8f8f8f8f8f8ULL; 
    48 USED_U64(mmx_mask_fc) = 0xfcfcfcfcfcfcfcfcULL; 
     47USED_U64(mmx_mask_f8) = 0xf8f8f8f8f8f8f8f8ULL; /* -- as %12 */ 
     48USED_U64(mmx_mask_fc) = 0xfcfcfcfcfcfcfcfcULL; /* -- as %13 */ 
    4949#undef USED_U64 
    5050 
    5151#if defined(CAN_COMPILE_MMX) 
    …… 
    5959        MMX_INSTRUCTIONS                \ 
    6060        :                               \ 
    6161        : "r" (p_y), "r" (p_u),         \ 
    62           "r" (p_v), "r" (p_buffer) );  \ 
     62          "r" (p_v), "r" (p_buffer),    \ 
     63          "m" (mmx_80w), "m" (mmx_10w), \ 
     64          "m" (mmx_00ffw), "m" (mmx_Y_coeff), \ 
     65          "m" (mmx_U_green), "m" (mmx_U_blue), \ 
     66          "m" (mmx_V_red), "m" (mmx_V_green), \ 
     67          "m" (mmx_mask_f8), "m" (mmx_mask_fc) );  \ 
    6368    } while(0) 
    6469 
    6570#define MMX_END __asm__ __volatile__ ( "emms" ) 
    6671 
    67 /* Use RIP-relative code in PIC mode on amd64 */ 
    68 #if defined(__x86_64__) && defined(__PIC__) 
    69 #   define G "(%%rip)" 
    70 #else 
    71 #   define G 
    72 #endif 
    73  
    7472#define MMX_INIT_16 "                                                       \n\ 
    7573movd       (%1), %%mm0      # Load 4 Cb       00 00 00 00 u3 u2 u1 u0       \n\ 
    7674movd       (%2), %%mm1      # Load 4 Cr       00 00 00 00 v3 v2 v1 v0       \n\ 
    …… 
    103101# convert the chroma part                                                   \n\ 
    104102punpcklbw %%mm4, %%mm0          # scatter 4 Cb    00 u3 00 u2 00 u1 00 u0   \n\ 
    105103punpcklbw %%mm4, %%mm1          # scatter 4 Cr    00 v3 00 v2 00 v1 00 v0   \n\ 
    106 psubsw    mmx_80w"G", %%mm0     # Cb -= 128                                 \n\ 
    107 psubsw    mmx_80w"G", %%mm1     # Cr -= 128                                 \n\ 
     104psubsw    %4, %%mm0     # Cb -= 128                                 \n\ 
     105psubsw    %4, %%mm1     # Cr -= 128                                 \n\ 
    108106psllw     $3, %%mm0             # Promote precision                         \n\ 
    109107psllw     $3, %%mm1             # Promote precision                         \n\ 
    110108movq      %%mm0, %%mm2          # Copy 4 Cb       00 u3 00 u2 00 u1 00 u0   \n\ 
    111109movq      %%mm1, %%mm3          # Copy 4 Cr       00 v3 00 v2 00 v1 00 v0   \n\ 
    112 pmulhw    mmx_U_green"G", %%mm2 # Mul Cb with green coeff -> Cb green       \n\ 
    113 pmulhw    mmx_V_green"G", %%mm3 # Mul Cr with green coeff -> Cr green       \n\ 
    114 pmulhw    mmx_U_blue"G", %%mm0  # Mul Cb -> Cblue 00 b3 00 b2 00 b1 00 b0   \n\ 
    115 pmulhw    mmx_V_red"G", %%mm1   # Mul Cr -> Cred  00 r3 00 r2 00 r1 00 r0   \n\ 
     110pmulhw    %8, %%mm2 # Mul Cb with green coeff -> Cb green       \n\ 
     111pmulhw    %11, %%mm3 # Mul Cr with green coeff -> Cr green       \n\ 
     112pmulhw    %9, %%mm0  # Mul Cb -> Cblue 00 b3 00 b2 00 b1 00 b0   \n\ 
     113pmulhw    %10, %%mm1   # Mul Cr -> Cred  00 r3 00 r2 00 r1 00 r0   \n\ 
    116114paddsw    %%mm3, %%mm2          # Cb green + Cr green -> Cgreen             \n\ 
    117115                                                                            \n\ 
    118116# convert the luma part                                                     \n\ 
    119 psubusb   mmx_10w"G", %%mm6     # Y -= 16                                   \n\ 
     117psubusb   %5, %%mm6     # Y -= 16                                   \n\ 
    120118movq      %%mm6, %%mm7          # Copy 8 Y        Y7 Y6 Y5 Y4 Y3 Y2 Y1 Y0   \n\ 
    121 pand      mmx_00ffw"G", %%mm6   # get Y even      00 Y6 00 Y4 00 Y2 00 Y0   \n\ 
     119pand      %6, %%mm6   # get Y even      00 Y6 00 Y4 00 Y2 00 Y0   \n\ 
    122120psrlw     $8, %%mm7             # get Y odd       00 Y7 00 Y5 00 Y3 00 Y1   \n\ 
    123121psllw     $3, %%mm6             # Promote precision                         \n\ 
    124122psllw     $3, %%mm7             # Promote precision                         \n\ 
    125 pmulhw    mmx_Y_coeff"G", %%mm6 # Mul 4 Y even    00 y6 00 y4 00 y2 00 y0   \n\ 
    126 pmulhw    mmx_Y_coeff"G", %%mm7 # Mul 4 Y odd     00 y7 00 y5 00 y3 00 y1   \n\ 
     123pmulhw    %7, %%mm6 # Mul 4 Y even    00 y6 00 y4 00 y2 00 y0   \n\ 
     124pmulhw    %7, %%mm7 # Mul 4 Y odd     00 y7 00 y5 00 y3 00 y1   \n\ 
    127125" 
    128126 
    129127/* 
    …… 
    168166 
    169167#define MMX_YUV_GRAY "                                                      \n\ 
    170168# convert the luma part                                                     \n\ 
    171 psubusb   mmx_10w"G", %%mm6                                                 \n\ 
     169psubusb   %5, %%mm6                                                 \n\ 
    172170movq      %%mm6, %%mm7                                                      \n\ 
    173 pand      mmx_00ffw"G", %%mm6                                               \n\ 
     171pand      %6, %%mm6                                               \n\ 
    174172psrlw     $8, %%mm7                                                         \n\ 
    175173psllw     $3, %%mm6                                                         \n\ 
    176174psllw     $3, %%mm7                                                         \n\ 
    177 pmulhw    mmx_Y_coeff"G", %%mm6                                             \n\ 
    178 pmulhw    mmx_Y_coeff"G", %%mm7                                             \n\ 
     175pmulhw    %7, %%mm6                                             \n\ 
     176pmulhw    %7, %%mm7                                             \n\ 
    179177packuswb  %%mm6, %%mm6                                                      \n\ 
    180178packuswb  %%mm7, %%mm7                                                      \n\ 
    181179punpcklbw %%mm7, %%mm6                                                      \n\ 
    …… 
    183181 
    184182#define MMX_UNPACK_16_GRAY "                                                \n\ 
    185183movq      %%mm6, %%mm5                                                      \n\ 
    186 pand      mmx_mask_f8"G", %%mm6                                             \n\ 
    187 pand      mmx_mask_fc"G", %%mm5                                             \n\ 
     184pand      %12, %%mm6                                             \n\ 
     185pand      %13, %%mm5                                             \n\ 
    188186movq      %%mm6, %%mm7                                                      \n\ 
    189187psrlw     $3, %%mm7                                                         \n\ 
    190188pxor      %%mm3, %%mm3                                                      \n\ 
    …… 
    213211 
    214212#define MMX_UNPACK_15 "                                                     \n\ 
    215213# mask unneeded bits off                                                    \n\ 
    216 pand      mmx_mask_f8"G", %%mm0 # b7b6b5b4 b3______ b7b6b5b4 b3______       \n\ 
     214pand      %12, %%mm0 # b7b6b5b4 b3______ b7b6b5b4 b3______       \n\ 
    217215psrlw     $3,%%mm0              # ______b7 b6b5b4b3 ______b7 b6b5b4b3       \n\ 
    218 pand      mmx_mask_f8"G", %%mm2 # g7g6g5g4 g3______ g7g6g5g4 g3______       \n\ 
    219 pand      mmx_mask_f8"G", %%mm1 # r7r6r5r4 r3______ r7r6r5r4 r3______       \n\ 
     216pand      %12, %%mm2 # g7g6g5g4 g3______ g7g6g5g4 g3______       \n\ 
     217pand      %12, %%mm1 # r7r6r5r4 r3______ r7r6r5r4 r3______       \n\ 
    220218psrlw     $1,%%mm1              # __r7r6r5 r4r3____ __r7r6r5 r4r3____       \n\ 
    221219pxor      %%mm4, %%mm4          # zero mm4                                  \n\ 
    222220movq      %%mm0, %%mm5          # Copy B7-B0                                \n\ 
    …… 
    249247 
    250248#define MMX_UNPACK_16 "                                                     \n\ 
    251249# mask unneeded bits off                                                    \n\ 
    252 pand      mmx_mask_f8"G", %%mm0 # b7b6b5b4 b3______ b7b6b5b4 b3______       \n\ 
    253 pand      mmx_mask_fc"G", %%mm2 # g7g6g5g4 g3g2____ g7g6g5g4 g3g2____       \n\ 
    254 pand      mmx_mask_f8"G", %%mm1 # r7r6r5r4 r3______ r7r6r5r4 r3______       \n\ 
     250pand      %12, %%mm0 # b7b6b5b4 b3______ b7b6b5b4 b3______       \n\ 
     251pand      %13, %%mm2 # g7g6g5g4 g3g2____ g7g6g5g4 g3g2____       \n\ 
     252pand      %12, %%mm1 # r7r6r5r4 r3______ r7r6r5r4 r3______       \n\ 
    255253psrlw     $3,%%mm0              # ______b7 b6b5b4b3 ______b7 b6b5b4b3       \n\ 
    256254pxor      %%mm4, %%mm4          # zero mm4                                  \n\ 
    257255movq      %%mm0, %%mm5          # Copy B7-B0                                \n\