LCOV - code coverage report
Current view: top level - libswscale - yuv2rgb.c (source / functions) Hit Total Coverage
Test: coverage.info Lines: 213 590 36.1 %
Date: 2018-05-20 11:54:08 Functions: 5 20 25.0 %

          Line data    Source code
       1             : /*
       2             :  * software YUV to RGB converter
       3             :  *
       4             :  * Copyright (C) 2009 Konstantin Shishkov
       5             :  *
       6             :  * 1,4,8bpp support and context / deglobalize stuff
       7             :  * by Michael Niedermayer (michaelni@gmx.at)
       8             :  *
       9             :  * This file is part of FFmpeg.
      10             :  *
      11             :  * FFmpeg is free software; you can redistribute it and/or
      12             :  * modify it under the terms of the GNU Lesser General Public
      13             :  * License as published by the Free Software Foundation; either
      14             :  * version 2.1 of the License, or (at your option) any later version.
      15             :  *
      16             :  * FFmpeg is distributed in the hope that it will be useful,
      17             :  * but WITHOUT ANY WARRANTY; without even the implied warranty of
      18             :  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
      19             :  * Lesser General Public License for more details.
      20             :  *
      21             :  * You should have received a copy of the GNU Lesser General Public
      22             :  * License along with FFmpeg; if not, write to the Free Software
      23             :  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
      24             :  */
      25             : 
      26             : #include <stdio.h>
      27             : #include <stdlib.h>
      28             : #include <inttypes.h>
      29             : 
      30             : #include "libavutil/cpu.h"
      31             : #include "libavutil/bswap.h"
      32             : #include "config.h"
      33             : #include "rgb2rgb.h"
      34             : #include "swscale.h"
      35             : #include "swscale_internal.h"
      36             : #include "libavutil/pixdesc.h"
      37             : 
      38             : /* Color space conversion coefficients for YCbCr -> RGB mapping.
      39             :  *
      40             :  * Entries are {crv, cbu, cgu, cgv}
      41             :  *
      42             :  *   crv = (255 / 224) * 65536 * (1 - cr) / 0.5
      43             :  *   cbu = (255 / 224) * 65536 * (1 - cb) / 0.5
      44             :  *   cgu = (255 / 224) * 65536 * (cb / cg) * (1 - cb) / 0.5
      45             :  *   cgv = (255 / 224) * 65536 * (cr / cg) * (1 - cr) / 0.5
      46             :  *
      47             :  * where Y = cr * R + cg * G + cb * B and cr + cg + cb = 1.
      48             :  */
      49             : const int32_t ff_yuv2rgb_coeffs[11][4] = {
      50             :     { 117489, 138438, 13975, 34925 }, /* no sequence_display_extension */
      51             :     { 117489, 138438, 13975, 34925 }, /* ITU-R Rec. 709 (1990) */
      52             :     { 104597, 132201, 25675, 53279 }, /* unspecified */
      53             :     { 104597, 132201, 25675, 53279 }, /* reserved */
      54             :     { 104448, 132798, 24759, 53109 }, /* FCC */
      55             :     { 104597, 132201, 25675, 53279 }, /* ITU-R Rec. 624-4 System B, G */
      56             :     { 104597, 132201, 25675, 53279 }, /* SMPTE 170M */
      57             :     { 117579, 136230, 16907, 35559 }, /* SMPTE 240M (1987) */
      58             :     {      0                       }, /* YCgCo */
      59             :     { 110013, 140363, 12277, 42626 }, /* Bt-2020-NCL */
      60             :     { 110013, 140363, 12277, 42626 }, /* Bt-2020-CL */
      61             : };
      62             : 
      63       38162 : const int *sws_getCoefficients(int colorspace)
      64             : {
      65       38162 :     if (colorspace > 10 || colorspace < 0 || colorspace == 8)
      66           0 :         colorspace = SWS_CS_DEFAULT;
      67       38162 :     return ff_yuv2rgb_coeffs[colorspace];
      68             : }
      69             : 
      70             : #define LOADCHROMA(i)                               \
      71             :     U = pu[i];                                      \
      72             :     V = pv[i];                                      \
      73             :     r = (void *)c->table_rV[V+YUVRGB_TABLE_HEADROOM];                     \
      74             :     g = (void *)(c->table_gU[U+YUVRGB_TABLE_HEADROOM] + c->table_gV[V+YUVRGB_TABLE_HEADROOM]);  \
      75             :     b = (void *)c->table_bU[U+YUVRGB_TABLE_HEADROOM];
      76             : 
      77             : #define PUTRGB(dst, src, i)                         \
      78             :     Y              = src[2 * i];                    \
      79             :     dst[2 * i]     = r[Y] + g[Y] + b[Y];            \
      80             :     Y              = src[2 * i + 1];                \
      81             :     dst[2 * i + 1] = r[Y] + g[Y] + b[Y];
      82             : 
      83             : #define PUTRGB24(dst, src, i)                       \
      84             :     Y              = src[2 * i];                    \
      85             :     dst[6 * i + 0] = r[Y];                          \
      86             :     dst[6 * i + 1] = g[Y];                          \
      87             :     dst[6 * i + 2] = b[Y];                          \
      88             :     Y              = src[2 * i + 1];                \
      89             :     dst[6 * i + 3] = r[Y];                          \
      90             :     dst[6 * i + 4] = g[Y];                          \
      91             :     dst[6 * i + 5] = b[Y];
      92             : 
      93             : #define PUTBGR24(dst, src, i)                       \
      94             :     Y              = src[2 * i];                    \
      95             :     dst[6 * i + 0] = b[Y];                          \
      96             :     dst[6 * i + 1] = g[Y];                          \
      97             :     dst[6 * i + 2] = r[Y];                          \
      98             :     Y              = src[2 * i + 1];                \
      99             :     dst[6 * i + 3] = b[Y];                          \
     100             :     dst[6 * i + 4] = g[Y];                          \
     101             :     dst[6 * i + 5] = r[Y];
     102             : 
     103             : #define PUTRGBA(dst, ysrc, asrc, i, s)                                  \
     104             :     Y              = ysrc[2 * i];                                       \
     105             :     dst[2 * i]     = r[Y] + g[Y] + b[Y] + (asrc[2 * i]     << s);       \
     106             :     Y              = ysrc[2 * i + 1];                                   \
     107             :     dst[2 * i + 1] = r[Y] + g[Y] + b[Y] + (asrc[2 * i + 1] << s);
     108             : 
     109             : #define PUTRGB48(dst, src, i)                       \
     110             :     Y                = src[ 2 * i];                 \
     111             :     dst[12 * i +  0] = dst[12 * i +  1] = r[Y];     \
     112             :     dst[12 * i +  2] = dst[12 * i +  3] = g[Y];     \
     113             :     dst[12 * i +  4] = dst[12 * i +  5] = b[Y];     \
     114             :     Y                = src[ 2 * i + 1];             \
     115             :     dst[12 * i +  6] = dst[12 * i +  7] = r[Y];     \
     116             :     dst[12 * i +  8] = dst[12 * i +  9] = g[Y];     \
     117             :     dst[12 * i + 10] = dst[12 * i + 11] = b[Y];
     118             : 
     119             : #define PUTBGR48(dst, src, i)                       \
     120             :     Y                = src[2 * i];                  \
     121             :     dst[12 * i +  0] = dst[12 * i +  1] = b[Y];     \
     122             :     dst[12 * i +  2] = dst[12 * i +  3] = g[Y];     \
     123             :     dst[12 * i +  4] = dst[12 * i +  5] = r[Y];     \
     124             :     Y                = src[2  * i +  1];            \
     125             :     dst[12 * i +  6] = dst[12 * i +  7] = b[Y];     \
     126             :     dst[12 * i +  8] = dst[12 * i +  9] = g[Y];     \
     127             :     dst[12 * i + 10] = dst[12 * i + 11] = r[Y];
     128             : 
     129             : #define YUV2RGBFUNC(func_name, dst_type, alpha)                             \
     130             :     static int func_name(SwsContext *c, const uint8_t *src[],               \
     131             :                          int srcStride[], int srcSliceY, int srcSliceH,     \
     132             :                          uint8_t *dst[], int dstStride[])                   \
     133             :     {                                                                       \
     134             :         int y;                                                              \
     135             :                                                                             \
     136             :         if (!alpha && c->srcFormat == AV_PIX_FMT_YUV422P) {                    \
     137             :             srcStride[1] *= 2;                                              \
     138             :             srcStride[2] *= 2;                                              \
     139             :         }                                                                   \
     140             :         for (y = 0; y < srcSliceH; y += 2) {                                \
     141             :             dst_type *dst_1 =                                               \
     142             :                 (dst_type *)(dst[0] + (y + srcSliceY)     * dstStride[0]);  \
     143             :             dst_type *dst_2 =                                               \
     144             :                 (dst_type *)(dst[0] + (y + srcSliceY + 1) * dstStride[0]);  \
     145             :             dst_type av_unused *r, *g, *b;                                  \
     146             :             const uint8_t *py_1 = src[0] +  y       * srcStride[0];         \
     147             :             const uint8_t *py_2 = py_1   +            srcStride[0];         \
     148             :             const uint8_t *pu   = src[1] + (y >> 1) * srcStride[1];         \
     149             :             const uint8_t *pv   = src[2] + (y >> 1) * srcStride[2];         \
     150             :             const uint8_t av_unused *pa_1, *pa_2;                           \
     151             :             unsigned int h_size = c->dstW >> 3;                             \
     152             :             if (alpha) {                                                    \
     153             :                 pa_1 = src[3] + y * srcStride[3];                           \
     154             :                 pa_2 = pa_1   +     srcStride[3];                           \
     155             :             }                                                               \
     156             :             while (h_size--) {                                              \
     157             :                 int av_unused U, V, Y;                                      \
     158             : 
     159             : #define ENDYUV2RGBLINE(dst_delta, ss)               \
     160             :     pu    += 4 >> ss;                               \
     161             :     pv    += 4 >> ss;                               \
     162             :     py_1  += 8 >> ss;                               \
     163             :     py_2  += 8 >> ss;                               \
     164             :     dst_1 += dst_delta >> ss;                       \
     165             :     dst_2 += dst_delta >> ss;                       \
     166             :     }                                               \
     167             :     if (c->dstW & (4 >> ss)) {                      \
     168             :         int av_unused Y, U, V;                      \
     169             : 
     170             : #define ENDYUV2RGBFUNC()                            \
     171             :             }                                       \
     172             :         }                                           \
     173             :         return srcSliceH;                           \
     174             :     }
     175             : 
     176             : #define CLOSEYUV2RGBFUNC(dst_delta)                 \
     177             :     ENDYUV2RGBLINE(dst_delta, 0)                    \
     178             :     ENDYUV2RGBFUNC()
     179             : 
     180           0 : YUV2RGBFUNC(yuv2rgb_c_48, uint8_t, 0)
     181           0 :     LOADCHROMA(0);
     182           0 :     PUTRGB48(dst_1, py_1, 0);
     183           0 :     PUTRGB48(dst_2, py_2, 0);
     184             : 
     185           0 :     LOADCHROMA(1);
     186           0 :     PUTRGB48(dst_2, py_2, 1);
     187           0 :     PUTRGB48(dst_1, py_1, 1);
     188             : 
     189           0 :     LOADCHROMA(2);
     190           0 :     PUTRGB48(dst_1, py_1, 2);
     191           0 :     PUTRGB48(dst_2, py_2, 2);
     192             : 
     193           0 :     LOADCHROMA(3);
     194           0 :     PUTRGB48(dst_2, py_2, 3);
     195           0 :     PUTRGB48(dst_1, py_1, 3);
     196           0 : ENDYUV2RGBLINE(48, 0)
     197           0 :     LOADCHROMA(0);
     198           0 :     PUTRGB48(dst_1, py_1, 0);
     199           0 :     PUTRGB48(dst_2, py_2, 0);
     200             : 
     201           0 :     LOADCHROMA(1);
     202           0 :     PUTRGB48(dst_2, py_2, 1);
     203           0 :     PUTRGB48(dst_1, py_1, 1);
     204           0 : ENDYUV2RGBLINE(48, 1)
     205           0 :     LOADCHROMA(0);
     206           0 :     PUTRGB48(dst_1, py_1, 0);
     207           0 :     PUTRGB48(dst_2, py_2, 0);
     208           0 : ENDYUV2RGBFUNC()
     209             : 
     210           0 : YUV2RGBFUNC(yuv2rgb_c_bgr48, uint8_t, 0)
     211           0 :     LOADCHROMA(0);
     212           0 :     PUTBGR48(dst_1, py_1, 0);
     213           0 :     PUTBGR48(dst_2, py_2, 0);
     214             : 
     215           0 :     LOADCHROMA(1);
     216           0 :     PUTBGR48(dst_2, py_2, 1);
     217           0 :     PUTBGR48(dst_1, py_1, 1);
     218             : 
     219           0 :     LOADCHROMA(2);
     220           0 :     PUTBGR48(dst_1, py_1, 2);
     221           0 :     PUTBGR48(dst_2, py_2, 2);
     222             : 
     223           0 :     LOADCHROMA(3);
     224           0 :     PUTBGR48(dst_2, py_2, 3);
     225           0 :     PUTBGR48(dst_1, py_1, 3);
     226           0 : ENDYUV2RGBLINE(48, 0)
     227           0 :     LOADCHROMA(0);
     228           0 :     PUTBGR48(dst_1, py_1, 0);
     229           0 :     PUTBGR48(dst_2, py_2, 0);
     230             : 
     231           0 :     LOADCHROMA(1);
     232           0 :     PUTBGR48(dst_2, py_2, 1);
     233           0 :     PUTBGR48(dst_1, py_1, 1);
     234           0 : ENDYUV2RGBLINE(48, 1)
     235           0 :     LOADCHROMA(0);
     236           0 :     PUTBGR48(dst_1, py_1, 0);
     237           0 :     PUTBGR48(dst_2, py_2, 0);
     238           0 : ENDYUV2RGBFUNC()
     239             : 
     240           0 : YUV2RGBFUNC(yuv2rgb_c_32, uint32_t, 0)
     241           0 :     LOADCHROMA(0);
     242           0 :     PUTRGB(dst_1, py_1, 0);
     243           0 :     PUTRGB(dst_2, py_2, 0);
     244             : 
     245           0 :     LOADCHROMA(1);
     246           0 :     PUTRGB(dst_2, py_2, 1);
     247           0 :     PUTRGB(dst_1, py_1, 1);
     248             : 
     249           0 :     LOADCHROMA(2);
     250           0 :     PUTRGB(dst_1, py_1, 2);
     251           0 :     PUTRGB(dst_2, py_2, 2);
     252             : 
     253           0 :     LOADCHROMA(3);
     254           0 :     PUTRGB(dst_2, py_2, 3);
     255           0 :     PUTRGB(dst_1, py_1, 3);
     256           0 : ENDYUV2RGBLINE(8, 0)
     257           0 :     LOADCHROMA(0);
     258           0 :     PUTRGB(dst_1, py_1, 0);
     259           0 :     PUTRGB(dst_2, py_2, 0);
     260             : 
     261           0 :     LOADCHROMA(1);
     262           0 :     PUTRGB(dst_2, py_2, 1);
     263           0 :     PUTRGB(dst_1, py_1, 1);
     264           0 : ENDYUV2RGBLINE(8, 1)
     265           0 :     LOADCHROMA(0);
     266           0 :     PUTRGB(dst_1, py_1, 0);
     267           0 :     PUTRGB(dst_2, py_2, 0);
     268           0 : ENDYUV2RGBFUNC()
     269             : 
     270             : #if HAVE_BIGENDIAN
     271             : YUV2RGBFUNC(yuva2argb_c, uint32_t, 1)
     272             : #else
     273           0 : YUV2RGBFUNC(yuva2rgba_c, uint32_t, 1)
     274             : #endif
     275           0 :     LOADCHROMA(0);
     276           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 24);
     277           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 24);
     278             : 
     279           0 :     LOADCHROMA(1);
     280           0 :     PUTRGBA(dst_2, py_2, pa_2, 1, 24);
     281           0 :     PUTRGBA(dst_1, py_1, pa_1, 1, 24);
     282             : 
     283           0 :     LOADCHROMA(2);
     284           0 :     PUTRGBA(dst_1, py_1, pa_1, 2, 24);
     285           0 :     PUTRGBA(dst_2, py_2, pa_2, 2, 24);
     286             : 
     287           0 :     LOADCHROMA(3);
     288           0 :     PUTRGBA(dst_2, py_2, pa_2, 3, 24);
     289           0 :     PUTRGBA(dst_1, py_1, pa_1, 3, 24);
     290           0 :     pa_1 += 8;
     291           0 :     pa_2 += 8;
     292           0 : ENDYUV2RGBLINE(8, 0)
     293           0 :     LOADCHROMA(0);
     294           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 24);
     295           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 24);
     296             : 
     297           0 :     LOADCHROMA(1);
     298           0 :     PUTRGBA(dst_2, py_2, pa_2, 1, 24);
     299           0 :     PUTRGBA(dst_1, py_1, pa_1, 1, 24);
     300           0 :     pa_1 += 4;
     301           0 :     pa_2 += 4;
     302           0 : ENDYUV2RGBLINE(8, 1)
     303           0 :     LOADCHROMA(0);
     304           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 24);
     305           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 24);
     306           0 : ENDYUV2RGBFUNC()
     307             : 
     308             : #if HAVE_BIGENDIAN
     309             : YUV2RGBFUNC(yuva2rgba_c, uint32_t, 1)
     310             : #else
     311           0 : YUV2RGBFUNC(yuva2argb_c, uint32_t, 1)
     312             : #endif
     313           0 :     LOADCHROMA(0);
     314           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 0);
     315           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 0);
     316             : 
     317           0 :     LOADCHROMA(1);
     318           0 :     PUTRGBA(dst_2, py_2, pa_2, 1, 0);
     319           0 :     PUTRGBA(dst_1, py_1, pa_1, 1, 0);
     320             : 
     321           0 :     LOADCHROMA(2);
     322           0 :     PUTRGBA(dst_1, py_1, pa_1, 2, 0);
     323           0 :     PUTRGBA(dst_2, py_2, pa_2, 2, 0);
     324             : 
     325           0 :     LOADCHROMA(3);
     326           0 :     PUTRGBA(dst_2, py_2, pa_2, 3, 0);
     327           0 :     PUTRGBA(dst_1, py_1, pa_1, 3, 0);
     328           0 :     pa_1 += 8;
     329           0 :     pa_2 += 8;
     330           0 : ENDYUV2RGBLINE(8, 0)
     331           0 :     LOADCHROMA(0);
     332           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 0);
     333           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 0);
     334             : 
     335           0 :     LOADCHROMA(1);
     336           0 :     PUTRGBA(dst_2, py_2, pa_2, 1, 0);
     337           0 :     PUTRGBA(dst_1, py_1, pa_1, 1, 0);
     338           0 :     pa_1 += 4;
     339           0 :     pa_2 += 4;
     340           0 : ENDYUV2RGBLINE(8, 1)
     341           0 :     LOADCHROMA(0);
     342           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 0);
     343           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 0);
     344           0 : ENDYUV2RGBFUNC()
     345             : 
     346           0 : YUV2RGBFUNC(yuv2rgb_c_24_rgb, uint8_t, 0)
     347           0 :     LOADCHROMA(0);
     348           0 :     PUTRGB24(dst_1, py_1, 0);
     349           0 :     PUTRGB24(dst_2, py_2, 0);
     350             : 
     351           0 :     LOADCHROMA(1);
     352           0 :     PUTRGB24(dst_2, py_2, 1);
     353           0 :     PUTRGB24(dst_1, py_1, 1);
     354             : 
     355           0 :     LOADCHROMA(2);
     356           0 :     PUTRGB24(dst_1, py_1, 2);
     357           0 :     PUTRGB24(dst_2, py_2, 2);
     358             : 
     359           0 :     LOADCHROMA(3);
     360           0 :     PUTRGB24(dst_2, py_2, 3);
     361           0 :     PUTRGB24(dst_1, py_1, 3);
     362           0 : ENDYUV2RGBLINE(24, 0)
     363           0 :     LOADCHROMA(0);
     364           0 :     PUTRGB24(dst_1, py_1, 0);
     365           0 :     PUTRGB24(dst_2, py_2, 0);
     366             : 
     367           0 :     LOADCHROMA(1);
     368           0 :     PUTRGB24(dst_2, py_2, 1);
     369           0 :     PUTRGB24(dst_1, py_1, 1);
     370           0 : ENDYUV2RGBLINE(24, 1)
     371           0 :     LOADCHROMA(0);
     372           0 :     PUTRGB24(dst_1, py_1, 0);
     373           0 :     PUTRGB24(dst_2, py_2, 0);
     374           0 : ENDYUV2RGBFUNC()
     375             : 
     376             : // only trivial mods from yuv2rgb_c_24_rgb
     377           0 : YUV2RGBFUNC(yuv2rgb_c_24_bgr, uint8_t, 0)
     378           0 :     LOADCHROMA(0);
     379           0 :     PUTBGR24(dst_1, py_1, 0);
     380           0 :     PUTBGR24(dst_2, py_2, 0);
     381             : 
     382           0 :     LOADCHROMA(1);
     383           0 :     PUTBGR24(dst_2, py_2, 1);
     384           0 :     PUTBGR24(dst_1, py_1, 1);
     385             : 
     386           0 :     LOADCHROMA(2);
     387           0 :     PUTBGR24(dst_1, py_1, 2);
     388           0 :     PUTBGR24(dst_2, py_2, 2);
     389             : 
     390           0 :     LOADCHROMA(3);
     391           0 :     PUTBGR24(dst_2, py_2, 3);
     392           0 :     PUTBGR24(dst_1, py_1, 3);
     393           0 : ENDYUV2RGBLINE(24, 0)
     394           0 :     LOADCHROMA(0);
     395           0 :     PUTBGR24(dst_1, py_1, 0);
     396           0 :     PUTBGR24(dst_2, py_2, 0);
     397             : 
     398           0 :     LOADCHROMA(1);
     399           0 :     PUTBGR24(dst_2, py_2, 1);
     400           0 :     PUTBGR24(dst_1, py_1, 1);
     401           0 : ENDYUV2RGBLINE(24, 1)
     402           0 :     LOADCHROMA(0);
     403           0 :     PUTBGR24(dst_1, py_1, 0);
     404           0 :     PUTBGR24(dst_2, py_2, 0);
     405           0 : ENDYUV2RGBFUNC()
     406             : 
     407           0 : YUV2RGBFUNC(yuv2rgb_c_16_ordered_dither, uint16_t, 0)
     408           0 :     const uint8_t *d16 = ff_dither_2x2_8[y & 1];
     409           0 :     const uint8_t *e16 = ff_dither_2x2_4[y & 1];
     410           0 :     const uint8_t *f16 = ff_dither_2x2_8[(y & 1)^1];
     411             : 
     412             : #define PUTRGB16(dst, src, i, o)                    \
     413             :     Y              = src[2 * i];                    \
     414             :     dst[2 * i]     = r[Y + d16[0 + o]] +            \
     415             :                      g[Y + e16[0 + o]] +            \
     416             :                      b[Y + f16[0 + o]];             \
     417             :     Y              = src[2 * i + 1];                \
     418             :     dst[2 * i + 1] = r[Y + d16[1 + o]] +            \
     419             :                      g[Y + e16[1 + o]] +            \
     420             :                      b[Y + f16[1 + o]];
     421           0 :     LOADCHROMA(0);
     422           0 :     PUTRGB16(dst_1, py_1, 0, 0);
     423           0 :     PUTRGB16(dst_2, py_2, 0, 0 + 8);
     424             : 
     425           0 :     LOADCHROMA(1);
     426           0 :     PUTRGB16(dst_2, py_2, 1, 2 + 8);
     427           0 :     PUTRGB16(dst_1, py_1, 1, 2);
     428             : 
     429           0 :     LOADCHROMA(2);
     430           0 :     PUTRGB16(dst_1, py_1, 2, 4);
     431           0 :     PUTRGB16(dst_2, py_2, 2, 4 + 8);
     432             : 
     433           0 :     LOADCHROMA(3);
     434           0 :     PUTRGB16(dst_2, py_2, 3, 6 + 8);
     435           0 :     PUTRGB16(dst_1, py_1, 3, 6);
     436           0 : CLOSEYUV2RGBFUNC(8)
     437             : 
     438           0 : YUV2RGBFUNC(yuv2rgb_c_15_ordered_dither, uint16_t, 0)
     439           0 :     const uint8_t *d16 = ff_dither_2x2_8[y & 1];
     440           0 :     const uint8_t *e16 = ff_dither_2x2_8[(y & 1)^1];
     441             : 
     442             : #define PUTRGB15(dst, src, i, o)                    \
     443             :     Y              = src[2 * i];                    \
     444             :     dst[2 * i]     = r[Y + d16[0 + o]] +            \
     445             :                      g[Y + d16[1 + o]] +            \
     446             :                      b[Y + e16[0 + o]];             \
     447             :     Y              = src[2 * i + 1];                \
     448             :     dst[2 * i + 1] = r[Y + d16[1 + o]] +            \
     449             :                      g[Y + d16[0 + o]] +            \
     450             :                      b[Y + e16[1 + o]];
     451           0 :     LOADCHROMA(0);
     452           0 :     PUTRGB15(dst_1, py_1, 0, 0);
     453           0 :     PUTRGB15(dst_2, py_2, 0, 0 + 8);
     454             : 
     455           0 :     LOADCHROMA(1);
     456           0 :     PUTRGB15(dst_2, py_2, 1, 2 + 8);
     457           0 :     PUTRGB15(dst_1, py_1, 1, 2);
     458             : 
     459           0 :     LOADCHROMA(2);
     460           0 :     PUTRGB15(dst_1, py_1, 2, 4);
     461           0 :     PUTRGB15(dst_2, py_2, 2, 4 + 8);
     462             : 
     463           0 :     LOADCHROMA(3);
     464           0 :     PUTRGB15(dst_2, py_2, 3, 6 + 8);
     465           0 :     PUTRGB15(dst_1, py_1, 3, 6);
     466           0 : CLOSEYUV2RGBFUNC(8)
     467             : 
     468             : // r, g, b, dst_1, dst_2
     469           0 : YUV2RGBFUNC(yuv2rgb_c_12_ordered_dither, uint16_t, 0)
     470           0 :     const uint8_t *d16 = ff_dither_4x4_16[y & 3];
     471             : 
     472             : #define PUTRGB12(dst, src, i, o)                    \
     473             :     Y              = src[2 * i];                    \
     474             :     dst[2 * i]     = r[Y + d16[0 + o]] +            \
     475             :                      g[Y + d16[0 + o]] +            \
     476             :                      b[Y + d16[0 + o]];             \
     477             :     Y              = src[2 * i + 1];                \
     478             :     dst[2 * i + 1] = r[Y + d16[1 + o]] +            \
     479             :                      g[Y + d16[1 + o]] +            \
     480             :                      b[Y + d16[1 + o]];
     481             : 
     482           0 :     LOADCHROMA(0);
     483           0 :     PUTRGB12(dst_1, py_1, 0, 0);
     484           0 :     PUTRGB12(dst_2, py_2, 0, 0 + 8);
     485             : 
     486           0 :     LOADCHROMA(1);
     487           0 :     PUTRGB12(dst_2, py_2, 1, 2 + 8);
     488           0 :     PUTRGB12(dst_1, py_1, 1, 2);
     489             : 
     490           0 :     LOADCHROMA(2);
     491           0 :     PUTRGB12(dst_1, py_1, 2, 4);
     492           0 :     PUTRGB12(dst_2, py_2, 2, 4 + 8);
     493             : 
     494           0 :     LOADCHROMA(3);
     495           0 :     PUTRGB12(dst_2, py_2, 3, 6 + 8);
     496           0 :     PUTRGB12(dst_1, py_1, 3, 6);
     497           0 : CLOSEYUV2RGBFUNC(8)
     498             : 
     499             : // r, g, b, dst_1, dst_2
     500           0 : YUV2RGBFUNC(yuv2rgb_c_8_ordered_dither, uint8_t, 0)
     501           0 :     const uint8_t *d32 = ff_dither_8x8_32[y & 7];
     502           0 :     const uint8_t *d64 = ff_dither_8x8_73[y & 7];
     503             : 
     504             : #define PUTRGB8(dst, src, i, o)                     \
     505             :     Y              = src[2 * i];                    \
     506             :     dst[2 * i]     = r[Y + d32[0 + o]] +            \
     507             :                      g[Y + d32[0 + o]] +            \
     508             :                      b[Y + d64[0 + o]];             \
     509             :     Y              = src[2 * i + 1];                \
     510             :     dst[2 * i + 1] = r[Y + d32[1 + o]] +            \
     511             :                      g[Y + d32[1 + o]] +            \
     512             :                      b[Y + d64[1 + o]];
     513             : 
     514           0 :     LOADCHROMA(0);
     515           0 :     PUTRGB8(dst_1, py_1, 0, 0);
     516           0 :     PUTRGB8(dst_2, py_2, 0, 0 + 8);
     517             : 
     518           0 :     LOADCHROMA(1);
     519           0 :     PUTRGB8(dst_2, py_2, 1, 2 + 8);
     520           0 :     PUTRGB8(dst_1, py_1, 1, 2);
     521             : 
     522           0 :     LOADCHROMA(2);
     523           0 :     PUTRGB8(dst_1, py_1, 2, 4);
     524           0 :     PUTRGB8(dst_2, py_2, 2, 4 + 8);
     525             : 
     526           0 :     LOADCHROMA(3);
     527           0 :     PUTRGB8(dst_2, py_2, 3, 6 + 8);
     528           0 :     PUTRGB8(dst_1, py_1, 3, 6);
     529             : 
     530           0 : ENDYUV2RGBLINE(8, 0)
     531           0 :     const uint8_t *d32 = ff_dither_8x8_32[y & 7];
     532           0 :     const uint8_t *d64 = ff_dither_8x8_73[y & 7];
     533           0 :     LOADCHROMA(0);
     534           0 :     PUTRGB8(dst_1, py_1, 0, 0);
     535           0 :     PUTRGB8(dst_2, py_2, 0, 0 + 8);
     536             : 
     537           0 :     LOADCHROMA(1);
     538           0 :     PUTRGB8(dst_2, py_2, 1, 2 + 8);
     539           0 :     PUTRGB8(dst_1, py_1, 1, 2);
     540             : 
     541           0 : ENDYUV2RGBLINE(8, 1)
     542           0 :     const uint8_t *d32 = ff_dither_8x8_32[y & 7];
     543           0 :     const uint8_t *d64 = ff_dither_8x8_73[y & 7];
     544           0 :     LOADCHROMA(0);
     545           0 :     PUTRGB8(dst_1, py_1, 0, 0);
     546           0 :     PUTRGB8(dst_2, py_2, 0, 0 + 8);
     547             : 
     548           0 : ENDYUV2RGBFUNC()
     549             : 
     550             : 
     551           0 : YUV2RGBFUNC(yuv2rgb_c_4_ordered_dither, uint8_t, 0)
     552           0 :     const uint8_t * d64 = ff_dither_8x8_73[y & 7];
     553           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     554             :     int acc;
     555             : 
     556             : #define PUTRGB4D(dst, src, i, o)                    \
     557             :     Y      = src[2 * i];                            \
     558             :     acc    = r[Y + d128[0 + o]] +                   \
     559             :              g[Y +  d64[0 + o]] +                   \
     560             :              b[Y + d128[0 + o]];                    \
     561             :     Y      = src[2 * i + 1];                        \
     562             :     acc   |= (r[Y + d128[1 + o]] +                  \
     563             :               g[Y +  d64[1 + o]] +                  \
     564             :               b[Y + d128[1 + o]]) << 4;             \
     565             :     dst[i] = acc;
     566             : 
     567           0 :     LOADCHROMA(0);
     568           0 :     PUTRGB4D(dst_1, py_1, 0, 0);
     569           0 :     PUTRGB4D(dst_2, py_2, 0, 0 + 8);
     570             : 
     571           0 :     LOADCHROMA(1);
     572           0 :     PUTRGB4D(dst_2, py_2, 1, 2 + 8);
     573           0 :     PUTRGB4D(dst_1, py_1, 1, 2);
     574             : 
     575           0 :     LOADCHROMA(2);
     576           0 :     PUTRGB4D(dst_1, py_1, 2, 4);
     577           0 :     PUTRGB4D(dst_2, py_2, 2, 4 + 8);
     578             : 
     579           0 :     LOADCHROMA(3);
     580           0 :     PUTRGB4D(dst_2, py_2, 3, 6 + 8);
     581           0 :     PUTRGB4D(dst_1, py_1, 3, 6);
     582             : 
     583           0 : ENDYUV2RGBLINE(4, 0)
     584           0 :     const uint8_t * d64 = ff_dither_8x8_73[y & 7];
     585           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     586             :     int acc;
     587           0 :     LOADCHROMA(0);
     588           0 :     PUTRGB4D(dst_1, py_1, 0, 0);
     589           0 :     PUTRGB4D(dst_2, py_2, 0, 0 + 8);
     590             : 
     591           0 :     LOADCHROMA(1);
     592           0 :     PUTRGB4D(dst_2, py_2, 1, 2 + 8);
     593           0 :     PUTRGB4D(dst_1, py_1, 1, 2);
     594             : 
     595           0 : ENDYUV2RGBLINE(4, 1)
     596           0 :     const uint8_t * d64 = ff_dither_8x8_73[y & 7];
     597           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     598             :     int acc;
     599           0 :     LOADCHROMA(0);
     600           0 :     PUTRGB4D(dst_1, py_1, 0, 0);
     601           0 :     PUTRGB4D(dst_2, py_2, 0, 0 + 8);
     602           0 : ENDYUV2RGBFUNC()
     603             : 
     604           0 : YUV2RGBFUNC(yuv2rgb_c_4b_ordered_dither, uint8_t, 0)
     605           0 :     const uint8_t *d64  = ff_dither_8x8_73[y & 7];
     606           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     607             : 
     608             : #define PUTRGB4DB(dst, src, i, o)                   \
     609             :     Y              = src[2 * i];                    \
     610             :     dst[2 * i]     = r[Y + d128[0 + o]] +           \
     611             :                      g[Y +  d64[0 + o]] +           \
     612             :                      b[Y + d128[0 + o]];            \
     613             :     Y              = src[2 * i + 1];                \
     614             :     dst[2 * i + 1] = r[Y + d128[1 + o]] +           \
     615             :                      g[Y +  d64[1 + o]] +           \
     616             :                      b[Y + d128[1 + o]];
     617             : 
     618           0 :     LOADCHROMA(0);
     619           0 :     PUTRGB4DB(dst_1, py_1, 0, 0);
     620           0 :     PUTRGB4DB(dst_2, py_2, 0, 0 + 8);
     621             : 
     622           0 :     LOADCHROMA(1);
     623           0 :     PUTRGB4DB(dst_2, py_2, 1, 2 + 8);
     624           0 :     PUTRGB4DB(dst_1, py_1, 1, 2);
     625             : 
     626           0 :     LOADCHROMA(2);
     627           0 :     PUTRGB4DB(dst_1, py_1, 2, 4);
     628           0 :     PUTRGB4DB(dst_2, py_2, 2, 4 + 8);
     629             : 
     630           0 :     LOADCHROMA(3);
     631           0 :     PUTRGB4DB(dst_2, py_2, 3, 6 + 8);
     632           0 :     PUTRGB4DB(dst_1, py_1, 3, 6);
     633           0 : ENDYUV2RGBLINE(8, 0)
     634           0 :     const uint8_t *d64  = ff_dither_8x8_73[y & 7];
     635           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     636           0 :     LOADCHROMA(0);
     637           0 :     PUTRGB4DB(dst_1, py_1, 0, 0);
     638           0 :     PUTRGB4DB(dst_2, py_2, 0, 0 + 8);
     639             : 
     640           0 :     LOADCHROMA(1);
     641           0 :     PUTRGB4DB(dst_2, py_2, 1, 2 + 8);
     642           0 :     PUTRGB4DB(dst_1, py_1, 1, 2);
     643           0 : ENDYUV2RGBLINE(8, 1)
     644           0 :     const uint8_t *d64  = ff_dither_8x8_73[y & 7];
     645           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     646           0 :     LOADCHROMA(0);
     647           0 :     PUTRGB4DB(dst_1, py_1, 0, 0);
     648           0 :     PUTRGB4DB(dst_2, py_2, 0, 0 + 8);
     649           0 : ENDYUV2RGBFUNC()
     650             : 
     651           0 : YUV2RGBFUNC(yuv2rgb_c_1_ordered_dither, uint8_t, 0)
     652           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     653           0 :     char out_1 = 0, out_2 = 0;
     654           0 :     g = c->table_gU[128 + YUVRGB_TABLE_HEADROOM] + c->table_gV[128 + YUVRGB_TABLE_HEADROOM];
     655             : 
     656             : #define PUTRGB1(out, src, i, o)                     \
     657             :     Y    = src[2 * i];                              \
     658             :     out += out + g[Y + d128[0 + o]];                \
     659             :     Y    = src[2 * i + 1];                          \
     660             :     out += out + g[Y + d128[1 + o]];
     661             : 
     662           0 :     PUTRGB1(out_1, py_1, 0, 0);
     663           0 :     PUTRGB1(out_2, py_2, 0, 0 + 8);
     664             : 
     665           0 :     PUTRGB1(out_2, py_2, 1, 2 + 8);
     666           0 :     PUTRGB1(out_1, py_1, 1, 2);
     667             : 
     668           0 :     PUTRGB1(out_1, py_1, 2, 4);
     669           0 :     PUTRGB1(out_2, py_2, 2, 4 + 8);
     670             : 
     671           0 :     PUTRGB1(out_2, py_2, 3, 6 + 8);
     672           0 :     PUTRGB1(out_1, py_1, 3, 6);
     673             : 
     674           0 :     dst_1[0] = out_1;
     675           0 :     dst_2[0] = out_2;
     676           0 : CLOSEYUV2RGBFUNC(1)
     677             : 
     678           0 : SwsFunc ff_yuv2rgb_get_func_ptr(SwsContext *c)
     679             : {
     680           0 :     SwsFunc t = NULL;
     681             : 
     682             :     if (ARCH_PPC)
     683             :         t = ff_yuv2rgb_init_ppc(c);
     684             :     if (ARCH_X86)
     685           0 :         t = ff_yuv2rgb_init_x86(c);
     686             : 
     687           0 :     if (t)
     688           0 :         return t;
     689             : 
     690           0 :     av_log(c, AV_LOG_WARNING,
     691             :            "No accelerated colorspace conversion found from %s to %s.\n",
     692             :            av_get_pix_fmt_name(c->srcFormat), av_get_pix_fmt_name(c->dstFormat));
     693             : 
     694           0 :     switch (c->dstFormat) {
     695           0 :     case AV_PIX_FMT_BGR48BE:
     696             :     case AV_PIX_FMT_BGR48LE:
     697           0 :         return yuv2rgb_c_bgr48;
     698           0 :     case AV_PIX_FMT_RGB48BE:
     699             :     case AV_PIX_FMT_RGB48LE:
     700           0 :         return yuv2rgb_c_48;
     701           0 :     case AV_PIX_FMT_ARGB:
     702             :     case AV_PIX_FMT_ABGR:
     703           0 :         if (CONFIG_SWSCALE_ALPHA && isALPHA(c->srcFormat))
     704           0 :             return yuva2argb_c;
     705             :     case AV_PIX_FMT_RGBA:
     706             :     case AV_PIX_FMT_BGRA:
     707           0 :         return (CONFIG_SWSCALE_ALPHA && isALPHA(c->srcFormat)) ? yuva2rgba_c : yuv2rgb_c_32;
     708           0 :     case AV_PIX_FMT_RGB24:
     709           0 :         return yuv2rgb_c_24_rgb;
     710           0 :     case AV_PIX_FMT_BGR24:
     711           0 :         return yuv2rgb_c_24_bgr;
     712           0 :     case AV_PIX_FMT_RGB565:
     713             :     case AV_PIX_FMT_BGR565:
     714           0 :         return yuv2rgb_c_16_ordered_dither;
     715           0 :     case AV_PIX_FMT_RGB555:
     716             :     case AV_PIX_FMT_BGR555:
     717           0 :         return yuv2rgb_c_15_ordered_dither;
     718           0 :     case AV_PIX_FMT_RGB444:
     719             :     case AV_PIX_FMT_BGR444:
     720           0 :         return yuv2rgb_c_12_ordered_dither;
     721           0 :     case AV_PIX_FMT_RGB8:
     722             :     case AV_PIX_FMT_BGR8:
     723           0 :         return yuv2rgb_c_8_ordered_dither;
     724           0 :     case AV_PIX_FMT_RGB4:
     725             :     case AV_PIX_FMT_BGR4:
     726           0 :         return yuv2rgb_c_4_ordered_dither;
     727           0 :     case AV_PIX_FMT_RGB4_BYTE:
     728             :     case AV_PIX_FMT_BGR4_BYTE:
     729           0 :         return yuv2rgb_c_4b_ordered_dither;
     730           0 :     case AV_PIX_FMT_MONOBLACK:
     731           0 :         return yuv2rgb_c_1_ordered_dither;
     732             :     }
     733           0 :     return NULL;
     734             : }
     735             : 
     736        2793 : static void fill_table(uint8_t* table[256 + 2*YUVRGB_TABLE_HEADROOM], const int elemsize,
     737             :                        const int64_t inc, void *y_tab)
     738             : {
     739             :     int i;
     740        2793 :     uint8_t *y_table = y_tab;
     741             : 
     742        2793 :     y_table -= elemsize * (inc >> 9);
     743             : 
     744     3577833 :     for (i = 0; i < 256 + 2*YUVRGB_TABLE_HEADROOM; i++) {
     745     3575040 :         int64_t cb = av_clip_uint8(i-YUVRGB_TABLE_HEADROOM)*inc;
     746     3575040 :         table[i] = y_table + elemsize * (cb >> 16);
     747             :     }
     748        2793 : }
     749             : 
     750         951 : static void fill_gv_table(int table[256 + 2*YUVRGB_TABLE_HEADROOM], const int elemsize, const int64_t inc)
     751             : {
     752             :     int i;
     753         951 :     int off    = -(inc >> 9);
     754             : 
     755     1218231 :     for (i = 0; i < 256 + 2*YUVRGB_TABLE_HEADROOM; i++) {
     756     1217280 :         int64_t cb = av_clip_uint8(i-YUVRGB_TABLE_HEADROOM)*inc;
     757     1217280 :         table[i] = elemsize * (off + (cb >> 16));
     758             :     }
     759         951 : }
     760             : 
     761       12996 : static uint16_t roundToInt16(int64_t f)
     762             : {
     763       12996 :     int r = (f + (1 << 15)) >> 16;
     764             : 
     765       12996 :     if (r < -0x7FFF)
     766           0 :         return 0x8000;
     767       12996 :     else if (r > 0x7FFF)
     768           0 :         return 0x7FFF;
     769             :     else
     770       12996 :         return r;
     771             : }
     772             : 
     773        1083 : av_cold int ff_yuv2rgb_c_init_tables(SwsContext *c, const int inv_table[4],
     774             :                                      int fullRange, int brightness,
     775             :                                      int contrast, int saturation)
     776             : {
     777        3175 :     const int isRgb = c->dstFormat == AV_PIX_FMT_RGB32     ||
     778        1986 :                       c->dstFormat == AV_PIX_FMT_RGB32_1   ||
     779        1912 :                       c->dstFormat == AV_PIX_FMT_BGR24     ||
     780        1856 :                       c->dstFormat == AV_PIX_FMT_RGB565BE  ||
     781        1824 :                       c->dstFormat == AV_PIX_FMT_RGB565LE  ||
     782        1792 :                       c->dstFormat == AV_PIX_FMT_RGB555BE  ||
     783        1757 :                       c->dstFormat == AV_PIX_FMT_RGB555LE  ||
     784        1724 :                       c->dstFormat == AV_PIX_FMT_RGB444BE  ||
     785        1700 :                       c->dstFormat == AV_PIX_FMT_RGB444LE  ||
     786        1673 :                       c->dstFormat == AV_PIX_FMT_RGB8      ||
     787        1658 :                       c->dstFormat == AV_PIX_FMT_RGB4      ||
     788        2727 :                       c->dstFormat == AV_PIX_FMT_RGB4_BYTE ||
     789         815 :                       c->dstFormat == AV_PIX_FMT_MONOBLACK;
     790        3235 :     const int isNotNe = c->dstFormat == AV_PIX_FMT_NE(RGB565LE, RGB565BE) ||
     791        2124 :                         c->dstFormat == AV_PIX_FMT_NE(RGB555LE, RGB555BE) ||
     792        2098 :                         c->dstFormat == AV_PIX_FMT_NE(RGB444LE, RGB444BE) ||
     793        2073 :                         c->dstFormat == AV_PIX_FMT_NE(BGR565LE, BGR565BE) ||
     794        3130 :                         c->dstFormat == AV_PIX_FMT_NE(BGR555LE, BGR555BE) ||
     795        1017 :                         c->dstFormat == AV_PIX_FMT_NE(BGR444LE, BGR444BE);
     796        1083 :     const int bpp = c->dstFormatBpp;
     797             :     uint8_t *y_table;
     798             :     uint16_t *y_table16;
     799             :     uint32_t *y_table32;
     800        1083 :     int i, base, rbase, gbase, bbase, av_uninit(abase), needAlpha;
     801        1083 :     const int yoffs = (fullRange ? 384 : 326) + YUVRGB_TABLE_LUMA_HEADROOM;
     802        1083 :     const int table_plane_size = 1024 + 2*YUVRGB_TABLE_LUMA_HEADROOM;
     803             : 
     804        1083 :     int64_t crv =  inv_table[0];
     805        1083 :     int64_t cbu =  inv_table[1];
     806        1083 :     int64_t cgu = -inv_table[2];
     807        1083 :     int64_t cgv = -inv_table[3];
     808        1083 :     int64_t cy  = 1 << 16;
     809        1083 :     int64_t oy  = 0;
     810        1083 :     int64_t yb  = 0;
     811             : 
     812        1083 :     if (!fullRange) {
     813        1073 :         cy = (cy * 255) / 219;
     814        1073 :         oy = 16 << 16;
     815             :     } else {
     816          10 :         crv = (crv * 224) / 255;
     817          10 :         cbu = (cbu * 224) / 255;
     818          10 :         cgu = (cgu * 224) / 255;
     819          10 :         cgv = (cgv * 224) / 255;
     820             :     }
     821             : 
     822        1083 :     cy   = (cy  * contrast)              >> 16;
     823        1083 :     crv  = (crv * contrast * saturation) >> 32;
     824        1083 :     cbu  = (cbu * contrast * saturation) >> 32;
     825        1083 :     cgu  = (cgu * contrast * saturation) >> 32;
     826        1083 :     cgv  = (cgv * contrast * saturation) >> 32;
     827        1083 :     oy  -= 256 * brightness;
     828             : 
     829        1083 :     c->uOffset = 0x0400040004000400LL;
     830        1083 :     c->vOffset = 0x0400040004000400LL;
     831        1083 :     c->yCoeff  = roundToInt16(cy  * (1 << 13)) * 0x0001000100010001ULL;
     832        1083 :     c->vrCoeff = roundToInt16(crv * (1 << 13)) * 0x0001000100010001ULL;
     833        1083 :     c->ubCoeff = roundToInt16(cbu * (1 << 13)) * 0x0001000100010001ULL;
     834        1083 :     c->vgCoeff = roundToInt16(cgv * (1 << 13)) * 0x0001000100010001ULL;
     835        1083 :     c->ugCoeff = roundToInt16(cgu * (1 << 13)) * 0x0001000100010001ULL;
     836        1083 :     c->yOffset = roundToInt16(oy  * (1 <<  3)) * 0x0001000100010001ULL;
     837             : 
     838        1083 :     c->yuv2rgb_y_coeff   = (int16_t)roundToInt16(cy  * (1 << 13));
     839        1083 :     c->yuv2rgb_y_offset  = (int16_t)roundToInt16(oy  * (1 <<  9));
     840        1083 :     c->yuv2rgb_v2r_coeff = (int16_t)roundToInt16(crv * (1 << 13));
     841        1083 :     c->yuv2rgb_v2g_coeff = (int16_t)roundToInt16(cgv * (1 << 13));
     842        1083 :     c->yuv2rgb_u2g_coeff = (int16_t)roundToInt16(cgu * (1 << 13));
     843        1083 :     c->yuv2rgb_u2b_coeff = (int16_t)roundToInt16(cbu * (1 << 13));
     844             : 
     845             :     //scale coefficients by cy
     846        1083 :     crv = ((crv * (1 << 16)) + 0x8000) / FFMAX(cy, 1);
     847        1083 :     cbu = ((cbu * (1 << 16)) + 0x8000) / FFMAX(cy, 1);
     848        1083 :     cgu = ((cgu * (1 << 16)) + 0x8000) / FFMAX(cy, 1);
     849        1083 :     cgv = ((cgv * (1 << 16)) + 0x8000) / FFMAX(cy, 1);
     850             : 
     851        1083 :     av_freep(&c->yuvTable);
     852             : 
     853             : #define ALLOC_YUV_TABLE(x)          \
     854             :         c->yuvTable = av_malloc(x); \
     855             :         if (!c->yuvTable)           \
     856             :             return AVERROR(ENOMEM);
     857        1083 :     switch (bpp) {
     858          30 :     case 1:
     859          30 :         ALLOC_YUV_TABLE(table_plane_size);
     860          30 :         y_table     = c->yuvTable;
     861          30 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     862       58170 :         for (i = 0; i < table_plane_size - 110; i++) {
     863       58140 :             y_table[i + 110]  = av_clip_uint8((yb + 0x8000) >> 16) >> 7;
     864       58140 :             yb               += cy;
     865             :         }
     866          30 :         fill_table(c->table_gU, 1, cgu, y_table + yoffs);
     867          30 :         fill_gv_table(c->table_gV, 1, cgv);
     868          30 :         break;
     869          27 :     case 4:
     870             :     case 4 | 128:
     871          27 :         rbase       = isRgb ? 3 : 0;
     872          27 :         gbase       = 1;
     873          27 :         bbase       = isRgb ? 0 : 3;
     874          27 :         ALLOC_YUV_TABLE(table_plane_size * 3);
     875          27 :         y_table     = c->yuvTable;
     876          27 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     877       52353 :         for (i = 0; i < table_plane_size - 110; i++) {
     878       52326 :             int yval                = av_clip_uint8((yb + 0x8000) >> 16);
     879       52326 :             y_table[i + 110]        = (yval >> 7)        << rbase;
     880       52326 :             y_table[i +  37 +   table_plane_size] = ((yval + 43) / 85) << gbase;
     881       52326 :             y_table[i + 110 + 2*table_plane_size] = (yval >> 7)        << bbase;
     882       52326 :             yb += cy;
     883             :         }
     884          27 :         fill_table(c->table_rV, 1, crv, y_table + yoffs);
     885          27 :         fill_table(c->table_gU, 1, cgu, y_table + yoffs +   table_plane_size);
     886          27 :         fill_table(c->table_bU, 1, cbu, y_table + yoffs + 2*table_plane_size);
     887          27 :         fill_gv_table(c->table_gV, 1, cgv);
     888          27 :         break;
     889          37 :     case 8:
     890          37 :         rbase       = isRgb ? 5 : 0;
     891          37 :         gbase       = isRgb ? 2 : 3;
     892          37 :         bbase       = isRgb ? 0 : 6;
     893          37 :         ALLOC_YUV_TABLE(table_plane_size * 3);
     894          37 :         y_table     = c->yuvTable;
     895          37 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     896       74407 :         for (i = 0; i < table_plane_size - 38; i++) {
     897       74370 :             int yval               = av_clip_uint8((yb + 0x8000) >> 16);
     898       74370 :             y_table[i + 16]        = ((yval + 18) / 36) << rbase;
     899       74370 :             y_table[i + 16 +   table_plane_size] = ((yval + 18) / 36) << gbase;
     900       74370 :             y_table[i + 37 + 2*table_plane_size] = ((yval + 43) / 85) << bbase;
     901       74370 :             yb += cy;
     902             :         }
     903          37 :         fill_table(c->table_rV, 1, crv, y_table + yoffs);
     904          37 :         fill_table(c->table_gU, 1, cgu, y_table + yoffs +   table_plane_size);
     905          37 :         fill_table(c->table_bU, 1, cbu, y_table + yoffs + 2*table_plane_size);
     906          37 :         fill_gv_table(c->table_gV, 1, cgv);
     907          37 :         break;
     908          48 :     case 12:
     909          48 :         rbase       = isRgb ? 8 : 0;
     910          48 :         gbase       = 4;
     911          48 :         bbase       = isRgb ? 0 : 8;
     912          48 :         ALLOC_YUV_TABLE(table_plane_size * 3 * 2);
     913          48 :         y_table16   = c->yuvTable;
     914          48 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     915       98352 :         for (i = 0; i < table_plane_size; i++) {
     916       98304 :             uint8_t yval        = av_clip_uint8((yb + 0x8000) >> 16);
     917       98304 :             y_table16[i]        = (yval >> 4) << rbase;
     918       98304 :             y_table16[i +   table_plane_size] = (yval >> 4) << gbase;
     919       98304 :             y_table16[i + 2*table_plane_size] = (yval >> 4) << bbase;
     920       98304 :             yb += cy;
     921             :         }
     922          48 :         if (isNotNe)
     923      147480 :             for (i = 0; i < table_plane_size * 3; i++)
     924      147456 :                 y_table16[i] = av_bswap16(y_table16[i]);
     925          48 :         fill_table(c->table_rV, 2, crv, y_table16 + yoffs);
     926          48 :         fill_table(c->table_gU, 2, cgu, y_table16 + yoffs +   table_plane_size);
     927          48 :         fill_table(c->table_bU, 2, cbu, y_table16 + yoffs + 2*table_plane_size);
     928          48 :         fill_gv_table(c->table_gV, 2, cgv);
     929          48 :         break;
     930         123 :     case 15:
     931             :     case 16:
     932         123 :         rbase       = isRgb ? bpp - 5 : 0;
     933         123 :         gbase       = 5;
     934         123 :         bbase       = isRgb ? 0 : (bpp - 5);
     935         123 :         ALLOC_YUV_TABLE(table_plane_size * 3 * 2);
     936         123 :         y_table16   = c->yuvTable;
     937         123 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     938      252027 :         for (i = 0; i < table_plane_size; i++) {
     939      251904 :             uint8_t yval        = av_clip_uint8((yb + 0x8000) >> 16);
     940      251904 :             y_table16[i]        = (yval >> 3)          << rbase;
     941      251904 :             y_table16[i +   table_plane_size] = (yval >> (18 - bpp)) << gbase;
     942      251904 :             y_table16[i + 2*table_plane_size] = (yval >> 3)          << bbase;
     943      251904 :             yb += cy;
     944             :         }
     945         123 :         if (isNotNe)
     946      331830 :             for (i = 0; i < table_plane_size * 3; i++)
     947      331776 :                 y_table16[i] = av_bswap16(y_table16[i]);
     948         123 :         fill_table(c->table_rV, 2, crv, y_table16 + yoffs);
     949         123 :         fill_table(c->table_gU, 2, cgu, y_table16 + yoffs +   table_plane_size);
     950         123 :         fill_table(c->table_bU, 2, cbu, y_table16 + yoffs + 2*table_plane_size);
     951         123 :         fill_gv_table(c->table_gV, 2, cgv);
     952         123 :         break;
     953         404 :     case 24:
     954             :     case 48:
     955         404 :         ALLOC_YUV_TABLE(table_plane_size);
     956         404 :         y_table     = c->yuvTable;
     957         404 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     958      827796 :         for (i = 0; i < table_plane_size; i++) {
     959      827392 :             y_table[i]  = av_clip_uint8((yb + 0x8000) >> 16);
     960      827392 :             yb         += cy;
     961             :         }
     962         404 :         fill_table(c->table_rV, 1, crv, y_table + yoffs);
     963         404 :         fill_table(c->table_gU, 1, cgu, y_table + yoffs);
     964         404 :         fill_table(c->table_bU, 1, cbu, y_table + yoffs);
     965         404 :         fill_gv_table(c->table_gV, 1, cgv);
     966         404 :         break;
     967         282 :     case 32:
     968             :     case 64:
     969         814 :         base      = (c->dstFormat == AV_PIX_FMT_RGB32_1 ||
     970         348 :                      c->dstFormat == AV_PIX_FMT_BGR32_1) ? 8 : 0;
     971         282 :         rbase     = base + (isRgb ? 16 : 0);
     972         282 :         gbase     = base + 8;
     973         282 :         bbase     = base + (isRgb ? 0 : 16);
     974         282 :         needAlpha = CONFIG_SWSCALE_ALPHA && isALPHA(c->srcFormat);
     975         282 :         if (!needAlpha)
     976         235 :             abase = (base + 24) & 31;
     977         282 :         ALLOC_YUV_TABLE(table_plane_size * 3 * 4);
     978         282 :         y_table32   = c->yuvTable;
     979         282 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     980      577818 :         for (i = 0; i < table_plane_size; i++) {
     981      577536 :             unsigned yval       = av_clip_uint8((yb + 0x8000) >> 16);
     982     1155072 :             y_table32[i]        = (yval << rbase) +
     983      577536 :                                   (needAlpha ? 0 : (255u << abase));
     984      577536 :             y_table32[i +   table_plane_size] =  yval << gbase;
     985      577536 :             y_table32[i + 2*table_plane_size] =  yval << bbase;
     986      577536 :             yb += cy;
     987             :         }
     988         282 :         fill_table(c->table_rV, 4, crv, y_table32 + yoffs);
     989         282 :         fill_table(c->table_gU, 4, cgu, y_table32 + yoffs +   table_plane_size);
     990         282 :         fill_table(c->table_bU, 4, cbu, y_table32 + yoffs + 2*table_plane_size);
     991         282 :         fill_gv_table(c->table_gV, 4, cgv);
     992         282 :         break;
     993         132 :     default:
     994         132 :         if(!isPlanar(c->dstFormat) || bpp <= 24)
     995           0 :             av_log(c, AV_LOG_ERROR, "%ibpp not supported by yuv2rgb\n", bpp);
     996         132 :         return -1;
     997             :     }
     998         951 :     return 0;
     999             : }

Generated by: LCOV version 1.13