LCOV - code coverage report
Current view: top level - libswscale - yuv2rgb.c (source / functions) Hit Total Coverage
Test: coverage.info Lines: 213 590 36.1 %
Date: 2017-10-24 00:14:43 Functions: 5 20 25.0 %

          Line data    Source code
       1             : /*
       2             :  * software YUV to RGB converter
       3             :  *
       4             :  * Copyright (C) 2009 Konstantin Shishkov
       5             :  *
       6             :  * 1,4,8bpp support and context / deglobalize stuff
       7             :  * by Michael Niedermayer (michaelni@gmx.at)
       8             :  *
       9             :  * This file is part of FFmpeg.
      10             :  *
      11             :  * FFmpeg is free software; you can redistribute it and/or
      12             :  * modify it under the terms of the GNU Lesser General Public
      13             :  * License as published by the Free Software Foundation; either
      14             :  * version 2.1 of the License, or (at your option) any later version.
      15             :  *
      16             :  * FFmpeg is distributed in the hope that it will be useful,
      17             :  * but WITHOUT ANY WARRANTY; without even the implied warranty of
      18             :  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
      19             :  * Lesser General Public License for more details.
      20             :  *
      21             :  * You should have received a copy of the GNU Lesser General Public
      22             :  * License along with FFmpeg; if not, write to the Free Software
      23             :  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
      24             :  */
      25             : 
      26             : #include <stdio.h>
      27             : #include <stdlib.h>
      28             : #include <inttypes.h>
      29             : 
      30             : #include "libavutil/cpu.h"
      31             : #include "libavutil/bswap.h"
      32             : #include "config.h"
      33             : #include "rgb2rgb.h"
      34             : #include "swscale.h"
      35             : #include "swscale_internal.h"
      36             : #include "libavutil/pixdesc.h"
      37             : 
      38             : /* Color space conversion coefficients for YCbCr -> RGB mapping.
      39             :  *
      40             :  * Entries are {crv, cbu, cgu, cgv}
      41             :  *
      42             :  *   crv = (255 / 224) * 65536 * (1 - cr) / 0.5
      43             :  *   cbu = (255 / 224) * 65536 * (1 - cb) / 0.5
      44             :  *   cgu = (255 / 224) * 65536 * (cb / cg) * (1 - cb) / 0.5
      45             :  *   cgv = (255 / 224) * 65536 * (cr / cg) * (1 - cr) / 0.5
      46             :  *
      47             :  * where Y = cr * R + cg * G + cb * B and cr + cg + cb = 1.
      48             :  */
      49             : const int32_t ff_yuv2rgb_coeffs[11][4] = {
      50             :     { 117489, 138438, 13975, 34925 }, /* no sequence_display_extension */
      51             :     { 117489, 138438, 13975, 34925 }, /* ITU-R Rec. 709 (1990) */
      52             :     { 104597, 132201, 25675, 53279 }, /* unspecified */
      53             :     { 104597, 132201, 25675, 53279 }, /* reserved */
      54             :     { 104448, 132798, 24759, 53109 }, /* FCC */
      55             :     { 104597, 132201, 25675, 53279 }, /* ITU-R Rec. 624-4 System B, G */
      56             :     { 104597, 132201, 25675, 53279 }, /* SMPTE 170M */
      57             :     { 117579, 136230, 16907, 35559 }, /* SMPTE 240M (1987) */
      58             :     {      0                       }, /* YCgCo */
      59             :     { 110013, 140363, 12277, 42626 }, /* Bt-2020-NCL */
      60             :     { 110013, 140363, 12277, 42626 }, /* Bt-2020-CL */
      61             : };
      62             : 
      63       37555 : const int *sws_getCoefficients(int colorspace)
      64             : {
      65       37555 :     if (colorspace > 10 || colorspace < 0 || colorspace == 8)
      66           0 :         colorspace = SWS_CS_DEFAULT;
      67       37555 :     return ff_yuv2rgb_coeffs[colorspace];
      68             : }
      69             : 
      70             : #define LOADCHROMA(i)                               \
      71             :     U = pu[i];                                      \
      72             :     V = pv[i];                                      \
      73             :     r = (void *)c->table_rV[V+YUVRGB_TABLE_HEADROOM];                     \
      74             :     g = (void *)(c->table_gU[U+YUVRGB_TABLE_HEADROOM] + c->table_gV[V+YUVRGB_TABLE_HEADROOM]);  \
      75             :     b = (void *)c->table_bU[U+YUVRGB_TABLE_HEADROOM];
      76             : 
      77             : #define PUTRGB(dst, src, i)                         \
      78             :     Y              = src[2 * i];                    \
      79             :     dst[2 * i]     = r[Y] + g[Y] + b[Y];            \
      80             :     Y              = src[2 * i + 1];                \
      81             :     dst[2 * i + 1] = r[Y] + g[Y] + b[Y];
      82             : 
      83             : #define PUTRGB24(dst, src, i)                       \
      84             :     Y              = src[2 * i];                    \
      85             :     dst[6 * i + 0] = r[Y];                          \
      86             :     dst[6 * i + 1] = g[Y];                          \
      87             :     dst[6 * i + 2] = b[Y];                          \
      88             :     Y              = src[2 * i + 1];                \
      89             :     dst[6 * i + 3] = r[Y];                          \
      90             :     dst[6 * i + 4] = g[Y];                          \
      91             :     dst[6 * i + 5] = b[Y];
      92             : 
      93             : #define PUTBGR24(dst, src, i)                       \
      94             :     Y              = src[2 * i];                    \
      95             :     dst[6 * i + 0] = b[Y];                          \
      96             :     dst[6 * i + 1] = g[Y];                          \
      97             :     dst[6 * i + 2] = r[Y];                          \
      98             :     Y              = src[2 * i + 1];                \
      99             :     dst[6 * i + 3] = b[Y];                          \
     100             :     dst[6 * i + 4] = g[Y];                          \
     101             :     dst[6 * i + 5] = r[Y];
     102             : 
     103             : #define PUTRGBA(dst, ysrc, asrc, i, s)                                  \
     104             :     Y              = ysrc[2 * i];                                       \
     105             :     dst[2 * i]     = r[Y] + g[Y] + b[Y] + (asrc[2 * i]     << s);       \
     106             :     Y              = ysrc[2 * i + 1];                                   \
     107             :     dst[2 * i + 1] = r[Y] + g[Y] + b[Y] + (asrc[2 * i + 1] << s);
     108             : 
     109             : #define PUTRGB48(dst, src, i)                       \
     110             :     Y                = src[ 2 * i];                 \
     111             :     dst[12 * i +  0] = dst[12 * i +  1] = r[Y];     \
     112             :     dst[12 * i +  2] = dst[12 * i +  3] = g[Y];     \
     113             :     dst[12 * i +  4] = dst[12 * i +  5] = b[Y];     \
     114             :     Y                = src[ 2 * i + 1];             \
     115             :     dst[12 * i +  6] = dst[12 * i +  7] = r[Y];     \
     116             :     dst[12 * i +  8] = dst[12 * i +  9] = g[Y];     \
     117             :     dst[12 * i + 10] = dst[12 * i + 11] = b[Y];
     118             : 
     119             : #define PUTBGR48(dst, src, i)                       \
     120             :     Y                = src[2 * i];                  \
     121             :     dst[12 * i +  0] = dst[12 * i +  1] = b[Y];     \
     122             :     dst[12 * i +  2] = dst[12 * i +  3] = g[Y];     \
     123             :     dst[12 * i +  4] = dst[12 * i +  5] = r[Y];     \
     124             :     Y                = src[2  * i +  1];            \
     125             :     dst[12 * i +  6] = dst[12 * i +  7] = b[Y];     \
     126             :     dst[12 * i +  8] = dst[12 * i +  9] = g[Y];     \
     127             :     dst[12 * i + 10] = dst[12 * i + 11] = r[Y];
     128             : 
     129             : #define YUV2RGBFUNC(func_name, dst_type, alpha)                             \
     130             :     static int func_name(SwsContext *c, const uint8_t *src[],               \
     131             :                          int srcStride[], int srcSliceY, int srcSliceH,     \
     132             :                          uint8_t *dst[], int dstStride[])                   \
     133             :     {                                                                       \
     134             :         int y;                                                              \
     135             :                                                                             \
     136             :         if (!alpha && c->srcFormat == AV_PIX_FMT_YUV422P) {                    \
     137             :             srcStride[1] *= 2;                                              \
     138             :             srcStride[2] *= 2;                                              \
     139             :         }                                                                   \
     140             :         for (y = 0; y < srcSliceH; y += 2) {                                \
     141             :             dst_type *dst_1 =                                               \
     142             :                 (dst_type *)(dst[0] + (y + srcSliceY)     * dstStride[0]);  \
     143             :             dst_type *dst_2 =                                               \
     144             :                 (dst_type *)(dst[0] + (y + srcSliceY + 1) * dstStride[0]);  \
     145             :             dst_type av_unused *r, *g, *b;                                  \
     146             :             const uint8_t *py_1 = src[0] +  y       * srcStride[0];         \
     147             :             const uint8_t *py_2 = py_1   +            srcStride[0];         \
     148             :             const uint8_t *pu   = src[1] + (y >> 1) * srcStride[1];         \
     149             :             const uint8_t *pv   = src[2] + (y >> 1) * srcStride[2];         \
     150             :             const uint8_t av_unused *pa_1, *pa_2;                           \
     151             :             unsigned int h_size = c->dstW >> 3;                             \
     152             :             if (alpha) {                                                    \
     153             :                 pa_1 = src[3] + y * srcStride[3];                           \
     154             :                 pa_2 = pa_1   +     srcStride[3];                           \
     155             :             }                                                               \
     156             :             while (h_size--) {                                              \
     157             :                 int av_unused U, V, Y;                                      \
     158             : 
     159             : #define ENDYUV2RGBLINE(dst_delta, ss)               \
     160             :     pu    += 4 >> ss;                               \
     161             :     pv    += 4 >> ss;                               \
     162             :     py_1  += 8 >> ss;                               \
     163             :     py_2  += 8 >> ss;                               \
     164             :     dst_1 += dst_delta >> ss;                       \
     165             :     dst_2 += dst_delta >> ss;                       \
     166             :     }                                               \
     167             :     if (c->dstW & (4 >> ss)) {                      \
     168             :         int av_unused Y, U, V;                      \
     169             : 
     170             : #define ENDYUV2RGBFUNC()                            \
     171             :             }                                       \
     172             :         }                                           \
     173             :         return srcSliceH;                           \
     174             :     }
     175             : 
     176             : #define CLOSEYUV2RGBFUNC(dst_delta)                 \
     177             :     ENDYUV2RGBLINE(dst_delta, 0)                    \
     178             :     ENDYUV2RGBFUNC()
     179             : 
     180           0 : YUV2RGBFUNC(yuv2rgb_c_48, uint8_t, 0)
     181           0 :     LOADCHROMA(0);
     182           0 :     PUTRGB48(dst_1, py_1, 0);
     183           0 :     PUTRGB48(dst_2, py_2, 0);
     184             : 
     185           0 :     LOADCHROMA(1);
     186           0 :     PUTRGB48(dst_2, py_2, 1);
     187           0 :     PUTRGB48(dst_1, py_1, 1);
     188             : 
     189           0 :     LOADCHROMA(2);
     190           0 :     PUTRGB48(dst_1, py_1, 2);
     191           0 :     PUTRGB48(dst_2, py_2, 2);
     192             : 
     193           0 :     LOADCHROMA(3);
     194           0 :     PUTRGB48(dst_2, py_2, 3);
     195           0 :     PUTRGB48(dst_1, py_1, 3);
     196           0 : ENDYUV2RGBLINE(48, 0)
     197           0 :     LOADCHROMA(0);
     198           0 :     PUTRGB48(dst_1, py_1, 0);
     199           0 :     PUTRGB48(dst_2, py_2, 0);
     200             : 
     201           0 :     LOADCHROMA(1);
     202           0 :     PUTRGB48(dst_2, py_2, 1);
     203           0 :     PUTRGB48(dst_1, py_1, 1);
     204           0 : ENDYUV2RGBLINE(48, 1)
     205           0 :     LOADCHROMA(0);
     206           0 :     PUTRGB48(dst_1, py_1, 0);
     207           0 :     PUTRGB48(dst_2, py_2, 0);
     208           0 : ENDYUV2RGBFUNC()
     209             : 
     210           0 : YUV2RGBFUNC(yuv2rgb_c_bgr48, uint8_t, 0)
     211           0 :     LOADCHROMA(0);
     212           0 :     PUTBGR48(dst_1, py_1, 0);
     213           0 :     PUTBGR48(dst_2, py_2, 0);
     214             : 
     215           0 :     LOADCHROMA(1);
     216           0 :     PUTBGR48(dst_2, py_2, 1);
     217           0 :     PUTBGR48(dst_1, py_1, 1);
     218             : 
     219           0 :     LOADCHROMA(2);
     220           0 :     PUTBGR48(dst_1, py_1, 2);
     221           0 :     PUTBGR48(dst_2, py_2, 2);
     222             : 
     223           0 :     LOADCHROMA(3);
     224           0 :     PUTBGR48(dst_2, py_2, 3);
     225           0 :     PUTBGR48(dst_1, py_1, 3);
     226           0 : ENDYUV2RGBLINE(48, 0)
     227           0 :     LOADCHROMA(0);
     228           0 :     PUTBGR48(dst_1, py_1, 0);
     229           0 :     PUTBGR48(dst_2, py_2, 0);
     230             : 
     231           0 :     LOADCHROMA(1);
     232           0 :     PUTBGR48(dst_2, py_2, 1);
     233           0 :     PUTBGR48(dst_1, py_1, 1);
     234           0 : ENDYUV2RGBLINE(48, 1)
     235           0 :     LOADCHROMA(0);
     236           0 :     PUTBGR48(dst_1, py_1, 0);
     237           0 :     PUTBGR48(dst_2, py_2, 0);
     238           0 : ENDYUV2RGBFUNC()
     239             : 
     240           0 : YUV2RGBFUNC(yuv2rgb_c_32, uint32_t, 0)
     241           0 :     LOADCHROMA(0);
     242           0 :     PUTRGB(dst_1, py_1, 0);
     243           0 :     PUTRGB(dst_2, py_2, 0);
     244             : 
     245           0 :     LOADCHROMA(1);
     246           0 :     PUTRGB(dst_2, py_2, 1);
     247           0 :     PUTRGB(dst_1, py_1, 1);
     248             : 
     249           0 :     LOADCHROMA(2);
     250           0 :     PUTRGB(dst_1, py_1, 2);
     251           0 :     PUTRGB(dst_2, py_2, 2);
     252             : 
     253           0 :     LOADCHROMA(3);
     254           0 :     PUTRGB(dst_2, py_2, 3);
     255           0 :     PUTRGB(dst_1, py_1, 3);
     256           0 : ENDYUV2RGBLINE(8, 0)
     257           0 :     LOADCHROMA(0);
     258           0 :     PUTRGB(dst_1, py_1, 0);
     259           0 :     PUTRGB(dst_2, py_2, 0);
     260             : 
     261           0 :     LOADCHROMA(1);
     262           0 :     PUTRGB(dst_2, py_2, 1);
     263           0 :     PUTRGB(dst_1, py_1, 1);
     264           0 : ENDYUV2RGBLINE(8, 1)
     265           0 :     LOADCHROMA(0);
     266           0 :     PUTRGB(dst_1, py_1, 0);
     267           0 :     PUTRGB(dst_2, py_2, 0);
     268           0 : ENDYUV2RGBFUNC()
     269             : 
     270           0 : YUV2RGBFUNC(yuva2rgba_c, uint32_t, 1)
     271           0 :     LOADCHROMA(0);
     272           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 24);
     273           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 24);
     274             : 
     275           0 :     LOADCHROMA(1);
     276           0 :     PUTRGBA(dst_2, py_2, pa_2, 1, 24);
     277           0 :     PUTRGBA(dst_1, py_1, pa_1, 1, 24);
     278             : 
     279           0 :     LOADCHROMA(2);
     280           0 :     PUTRGBA(dst_1, py_1, pa_1, 2, 24);
     281           0 :     PUTRGBA(dst_2, py_2, pa_2, 2, 24);
     282             : 
     283           0 :     LOADCHROMA(3);
     284           0 :     PUTRGBA(dst_2, py_2, pa_2, 3, 24);
     285           0 :     PUTRGBA(dst_1, py_1, pa_1, 3, 24);
     286           0 :     pa_1 += 8;
     287           0 :     pa_2 += 8;
     288           0 : ENDYUV2RGBLINE(8, 0)
     289           0 :     LOADCHROMA(0);
     290           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 24);
     291           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 24);
     292             : 
     293           0 :     LOADCHROMA(1);
     294           0 :     PUTRGBA(dst_2, py_2, pa_2, 1, 24);
     295           0 :     PUTRGBA(dst_1, py_1, pa_1, 1, 24);
     296           0 :     pa_1 += 4;
     297           0 :     pa_2 += 4;
     298           0 : ENDYUV2RGBLINE(8, 1)
     299           0 :     LOADCHROMA(0);
     300           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 24);
     301           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 24);
     302           0 : ENDYUV2RGBFUNC()
     303             : 
     304           0 : YUV2RGBFUNC(yuva2argb_c, uint32_t, 1)
     305           0 :     LOADCHROMA(0);
     306           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 0);
     307           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 0);
     308             : 
     309           0 :     LOADCHROMA(1);
     310           0 :     PUTRGBA(dst_2, py_2, pa_2, 1, 0);
     311           0 :     PUTRGBA(dst_1, py_1, pa_1, 1, 0);
     312             : 
     313           0 :     LOADCHROMA(2);
     314           0 :     PUTRGBA(dst_1, py_1, pa_1, 2, 0);
     315           0 :     PUTRGBA(dst_2, py_2, pa_2, 2, 0);
     316             : 
     317           0 :     LOADCHROMA(3);
     318           0 :     PUTRGBA(dst_2, py_2, pa_2, 3, 0);
     319           0 :     PUTRGBA(dst_1, py_1, pa_1, 3, 0);
     320           0 :     pa_1 += 8;
     321           0 :     pa_2 += 8;
     322           0 : ENDYUV2RGBLINE(8, 0)
     323           0 :     LOADCHROMA(0);
     324           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 0);
     325           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 0);
     326             : 
     327           0 :     LOADCHROMA(1);
     328           0 :     PUTRGBA(dst_2, py_2, pa_2, 1, 0);
     329           0 :     PUTRGBA(dst_1, py_1, pa_1, 1, 0);
     330           0 :     pa_1 += 4;
     331           0 :     pa_2 += 4;
     332           0 : ENDYUV2RGBLINE(8, 1)
     333           0 :     LOADCHROMA(0);
     334           0 :     PUTRGBA(dst_1, py_1, pa_1, 0, 0);
     335           0 :     PUTRGBA(dst_2, py_2, pa_2, 0, 0);
     336           0 : ENDYUV2RGBFUNC()
     337             : 
     338           0 : YUV2RGBFUNC(yuv2rgb_c_24_rgb, uint8_t, 0)
     339           0 :     LOADCHROMA(0);
     340           0 :     PUTRGB24(dst_1, py_1, 0);
     341           0 :     PUTRGB24(dst_2, py_2, 0);
     342             : 
     343           0 :     LOADCHROMA(1);
     344           0 :     PUTRGB24(dst_2, py_2, 1);
     345           0 :     PUTRGB24(dst_1, py_1, 1);
     346             : 
     347           0 :     LOADCHROMA(2);
     348           0 :     PUTRGB24(dst_1, py_1, 2);
     349           0 :     PUTRGB24(dst_2, py_2, 2);
     350             : 
     351           0 :     LOADCHROMA(3);
     352           0 :     PUTRGB24(dst_2, py_2, 3);
     353           0 :     PUTRGB24(dst_1, py_1, 3);
     354           0 : ENDYUV2RGBLINE(24, 0)
     355           0 :     LOADCHROMA(0);
     356           0 :     PUTRGB24(dst_1, py_1, 0);
     357           0 :     PUTRGB24(dst_2, py_2, 0);
     358             : 
     359           0 :     LOADCHROMA(1);
     360           0 :     PUTRGB24(dst_2, py_2, 1);
     361           0 :     PUTRGB24(dst_1, py_1, 1);
     362           0 : ENDYUV2RGBLINE(24, 1)
     363           0 :     LOADCHROMA(0);
     364           0 :     PUTRGB24(dst_1, py_1, 0);
     365           0 :     PUTRGB24(dst_2, py_2, 0);
     366           0 : ENDYUV2RGBFUNC()
     367             : 
     368             : // only trivial mods from yuv2rgb_c_24_rgb
     369           0 : YUV2RGBFUNC(yuv2rgb_c_24_bgr, uint8_t, 0)
     370           0 :     LOADCHROMA(0);
     371           0 :     PUTBGR24(dst_1, py_1, 0);
     372           0 :     PUTBGR24(dst_2, py_2, 0);
     373             : 
     374           0 :     LOADCHROMA(1);
     375           0 :     PUTBGR24(dst_2, py_2, 1);
     376           0 :     PUTBGR24(dst_1, py_1, 1);
     377             : 
     378           0 :     LOADCHROMA(2);
     379           0 :     PUTBGR24(dst_1, py_1, 2);
     380           0 :     PUTBGR24(dst_2, py_2, 2);
     381             : 
     382           0 :     LOADCHROMA(3);
     383           0 :     PUTBGR24(dst_2, py_2, 3);
     384           0 :     PUTBGR24(dst_1, py_1, 3);
     385           0 : ENDYUV2RGBLINE(24, 0)
     386           0 :     LOADCHROMA(0);
     387           0 :     PUTBGR24(dst_1, py_1, 0);
     388           0 :     PUTBGR24(dst_2, py_2, 0);
     389             : 
     390           0 :     LOADCHROMA(1);
     391           0 :     PUTBGR24(dst_2, py_2, 1);
     392           0 :     PUTBGR24(dst_1, py_1, 1);
     393           0 : ENDYUV2RGBLINE(24, 1)
     394           0 :     LOADCHROMA(0);
     395           0 :     PUTBGR24(dst_1, py_1, 0);
     396           0 :     PUTBGR24(dst_2, py_2, 0);
     397           0 : ENDYUV2RGBFUNC()
     398             : 
     399           0 : YUV2RGBFUNC(yuv2rgb_c_16_ordered_dither, uint16_t, 0)
     400           0 :     const uint8_t *d16 = ff_dither_2x2_8[y & 1];
     401           0 :     const uint8_t *e16 = ff_dither_2x2_4[y & 1];
     402           0 :     const uint8_t *f16 = ff_dither_2x2_8[(y & 1)^1];
     403             : 
     404             : #define PUTRGB16(dst, src, i, o)                    \
     405             :     Y              = src[2 * i];                    \
     406             :     dst[2 * i]     = r[Y + d16[0 + o]] +            \
     407             :                      g[Y + e16[0 + o]] +            \
     408             :                      b[Y + f16[0 + o]];             \
     409             :     Y              = src[2 * i + 1];                \
     410             :     dst[2 * i + 1] = r[Y + d16[1 + o]] +            \
     411             :                      g[Y + e16[1 + o]] +            \
     412             :                      b[Y + f16[1 + o]];
     413           0 :     LOADCHROMA(0);
     414           0 :     PUTRGB16(dst_1, py_1, 0, 0);
     415           0 :     PUTRGB16(dst_2, py_2, 0, 0 + 8);
     416             : 
     417           0 :     LOADCHROMA(1);
     418           0 :     PUTRGB16(dst_2, py_2, 1, 2 + 8);
     419           0 :     PUTRGB16(dst_1, py_1, 1, 2);
     420             : 
     421           0 :     LOADCHROMA(2);
     422           0 :     PUTRGB16(dst_1, py_1, 2, 4);
     423           0 :     PUTRGB16(dst_2, py_2, 2, 4 + 8);
     424             : 
     425           0 :     LOADCHROMA(3);
     426           0 :     PUTRGB16(dst_2, py_2, 3, 6 + 8);
     427           0 :     PUTRGB16(dst_1, py_1, 3, 6);
     428           0 : CLOSEYUV2RGBFUNC(8)
     429             : 
     430           0 : YUV2RGBFUNC(yuv2rgb_c_15_ordered_dither, uint16_t, 0)
     431           0 :     const uint8_t *d16 = ff_dither_2x2_8[y & 1];
     432           0 :     const uint8_t *e16 = ff_dither_2x2_8[(y & 1)^1];
     433             : 
     434             : #define PUTRGB15(dst, src, i, o)                    \
     435             :     Y              = src[2 * i];                    \
     436             :     dst[2 * i]     = r[Y + d16[0 + o]] +            \
     437             :                      g[Y + d16[1 + o]] +            \
     438             :                      b[Y + e16[0 + o]];             \
     439             :     Y              = src[2 * i + 1];                \
     440             :     dst[2 * i + 1] = r[Y + d16[1 + o]] +            \
     441             :                      g[Y + d16[0 + o]] +            \
     442             :                      b[Y + e16[1 + o]];
     443           0 :     LOADCHROMA(0);
     444           0 :     PUTRGB15(dst_1, py_1, 0, 0);
     445           0 :     PUTRGB15(dst_2, py_2, 0, 0 + 8);
     446             : 
     447           0 :     LOADCHROMA(1);
     448           0 :     PUTRGB15(dst_2, py_2, 1, 2 + 8);
     449           0 :     PUTRGB15(dst_1, py_1, 1, 2);
     450             : 
     451           0 :     LOADCHROMA(2);
     452           0 :     PUTRGB15(dst_1, py_1, 2, 4);
     453           0 :     PUTRGB15(dst_2, py_2, 2, 4 + 8);
     454             : 
     455           0 :     LOADCHROMA(3);
     456           0 :     PUTRGB15(dst_2, py_2, 3, 6 + 8);
     457           0 :     PUTRGB15(dst_1, py_1, 3, 6);
     458           0 : CLOSEYUV2RGBFUNC(8)
     459             : 
     460             : // r, g, b, dst_1, dst_2
     461           0 : YUV2RGBFUNC(yuv2rgb_c_12_ordered_dither, uint16_t, 0)
     462           0 :     const uint8_t *d16 = ff_dither_4x4_16[y & 3];
     463             : 
     464             : #define PUTRGB12(dst, src, i, o)                    \
     465             :     Y              = src[2 * i];                    \
     466             :     dst[2 * i]     = r[Y + d16[0 + o]] +            \
     467             :                      g[Y + d16[0 + o]] +            \
     468             :                      b[Y + d16[0 + o]];             \
     469             :     Y              = src[2 * i + 1];                \
     470             :     dst[2 * i + 1] = r[Y + d16[1 + o]] +            \
     471             :                      g[Y + d16[1 + o]] +            \
     472             :                      b[Y + d16[1 + o]];
     473             : 
     474           0 :     LOADCHROMA(0);
     475           0 :     PUTRGB12(dst_1, py_1, 0, 0);
     476           0 :     PUTRGB12(dst_2, py_2, 0, 0 + 8);
     477             : 
     478           0 :     LOADCHROMA(1);
     479           0 :     PUTRGB12(dst_2, py_2, 1, 2 + 8);
     480           0 :     PUTRGB12(dst_1, py_1, 1, 2);
     481             : 
     482           0 :     LOADCHROMA(2);
     483           0 :     PUTRGB12(dst_1, py_1, 2, 4);
     484           0 :     PUTRGB12(dst_2, py_2, 2, 4 + 8);
     485             : 
     486           0 :     LOADCHROMA(3);
     487           0 :     PUTRGB12(dst_2, py_2, 3, 6 + 8);
     488           0 :     PUTRGB12(dst_1, py_1, 3, 6);
     489           0 : CLOSEYUV2RGBFUNC(8)
     490             : 
     491             : // r, g, b, dst_1, dst_2
     492           0 : YUV2RGBFUNC(yuv2rgb_c_8_ordered_dither, uint8_t, 0)
     493           0 :     const uint8_t *d32 = ff_dither_8x8_32[y & 7];
     494           0 :     const uint8_t *d64 = ff_dither_8x8_73[y & 7];
     495             : 
     496             : #define PUTRGB8(dst, src, i, o)                     \
     497             :     Y              = src[2 * i];                    \
     498             :     dst[2 * i]     = r[Y + d32[0 + o]] +            \
     499             :                      g[Y + d32[0 + o]] +            \
     500             :                      b[Y + d64[0 + o]];             \
     501             :     Y              = src[2 * i + 1];                \
     502             :     dst[2 * i + 1] = r[Y + d32[1 + o]] +            \
     503             :                      g[Y + d32[1 + o]] +            \
     504             :                      b[Y + d64[1 + o]];
     505             : 
     506           0 :     LOADCHROMA(0);
     507           0 :     PUTRGB8(dst_1, py_1, 0, 0);
     508           0 :     PUTRGB8(dst_2, py_2, 0, 0 + 8);
     509             : 
     510           0 :     LOADCHROMA(1);
     511           0 :     PUTRGB8(dst_2, py_2, 1, 2 + 8);
     512           0 :     PUTRGB8(dst_1, py_1, 1, 2);
     513             : 
     514           0 :     LOADCHROMA(2);
     515           0 :     PUTRGB8(dst_1, py_1, 2, 4);
     516           0 :     PUTRGB8(dst_2, py_2, 2, 4 + 8);
     517             : 
     518           0 :     LOADCHROMA(3);
     519           0 :     PUTRGB8(dst_2, py_2, 3, 6 + 8);
     520           0 :     PUTRGB8(dst_1, py_1, 3, 6);
     521             : 
     522           0 : ENDYUV2RGBLINE(8, 0)
     523           0 :     const uint8_t *d32 = ff_dither_8x8_32[y & 7];
     524           0 :     const uint8_t *d64 = ff_dither_8x8_73[y & 7];
     525           0 :     LOADCHROMA(0);
     526           0 :     PUTRGB8(dst_1, py_1, 0, 0);
     527           0 :     PUTRGB8(dst_2, py_2, 0, 0 + 8);
     528             : 
     529           0 :     LOADCHROMA(1);
     530           0 :     PUTRGB8(dst_2, py_2, 1, 2 + 8);
     531           0 :     PUTRGB8(dst_1, py_1, 1, 2);
     532             : 
     533           0 : ENDYUV2RGBLINE(8, 1)
     534           0 :     const uint8_t *d32 = ff_dither_8x8_32[y & 7];
     535           0 :     const uint8_t *d64 = ff_dither_8x8_73[y & 7];
     536           0 :     LOADCHROMA(0);
     537           0 :     PUTRGB8(dst_1, py_1, 0, 0);
     538           0 :     PUTRGB8(dst_2, py_2, 0, 0 + 8);
     539             : 
     540           0 : ENDYUV2RGBFUNC()
     541             : 
     542             : 
     543           0 : YUV2RGBFUNC(yuv2rgb_c_4_ordered_dither, uint8_t, 0)
     544           0 :     const uint8_t * d64 = ff_dither_8x8_73[y & 7];
     545           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     546             :     int acc;
     547             : 
     548             : #define PUTRGB4D(dst, src, i, o)                    \
     549             :     Y      = src[2 * i];                            \
     550             :     acc    = r[Y + d128[0 + o]] +                   \
     551             :              g[Y +  d64[0 + o]] +                   \
     552             :              b[Y + d128[0 + o]];                    \
     553             :     Y      = src[2 * i + 1];                        \
     554             :     acc   |= (r[Y + d128[1 + o]] +                  \
     555             :               g[Y +  d64[1 + o]] +                  \
     556             :               b[Y + d128[1 + o]]) << 4;             \
     557             :     dst[i] = acc;
     558             : 
     559           0 :     LOADCHROMA(0);
     560           0 :     PUTRGB4D(dst_1, py_1, 0, 0);
     561           0 :     PUTRGB4D(dst_2, py_2, 0, 0 + 8);
     562             : 
     563           0 :     LOADCHROMA(1);
     564           0 :     PUTRGB4D(dst_2, py_2, 1, 2 + 8);
     565           0 :     PUTRGB4D(dst_1, py_1, 1, 2);
     566             : 
     567           0 :     LOADCHROMA(2);
     568           0 :     PUTRGB4D(dst_1, py_1, 2, 4);
     569           0 :     PUTRGB4D(dst_2, py_2, 2, 4 + 8);
     570             : 
     571           0 :     LOADCHROMA(3);
     572           0 :     PUTRGB4D(dst_2, py_2, 3, 6 + 8);
     573           0 :     PUTRGB4D(dst_1, py_1, 3, 6);
     574             : 
     575           0 : ENDYUV2RGBLINE(4, 0)
     576           0 :     const uint8_t * d64 = ff_dither_8x8_73[y & 7];
     577           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     578             :     int acc;
     579           0 :     LOADCHROMA(0);
     580           0 :     PUTRGB4D(dst_1, py_1, 0, 0);
     581           0 :     PUTRGB4D(dst_2, py_2, 0, 0 + 8);
     582             : 
     583           0 :     LOADCHROMA(1);
     584           0 :     PUTRGB4D(dst_2, py_2, 1, 2 + 8);
     585           0 :     PUTRGB4D(dst_1, py_1, 1, 2);
     586             : 
     587           0 : ENDYUV2RGBLINE(4, 1)
     588           0 :     const uint8_t * d64 = ff_dither_8x8_73[y & 7];
     589           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     590             :     int acc;
     591           0 :     LOADCHROMA(0);
     592           0 :     PUTRGB4D(dst_1, py_1, 0, 0);
     593           0 :     PUTRGB4D(dst_2, py_2, 0, 0 + 8);
     594           0 : ENDYUV2RGBFUNC()
     595             : 
     596           0 : YUV2RGBFUNC(yuv2rgb_c_4b_ordered_dither, uint8_t, 0)
     597           0 :     const uint8_t *d64  = ff_dither_8x8_73[y & 7];
     598           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     599             : 
     600             : #define PUTRGB4DB(dst, src, i, o)                   \
     601             :     Y              = src[2 * i];                    \
     602             :     dst[2 * i]     = r[Y + d128[0 + o]] +           \
     603             :                      g[Y +  d64[0 + o]] +           \
     604             :                      b[Y + d128[0 + o]];            \
     605             :     Y              = src[2 * i + 1];                \
     606             :     dst[2 * i + 1] = r[Y + d128[1 + o]] +           \
     607             :                      g[Y +  d64[1 + o]] +           \
     608             :                      b[Y + d128[1 + o]];
     609             : 
     610           0 :     LOADCHROMA(0);
     611           0 :     PUTRGB4DB(dst_1, py_1, 0, 0);
     612           0 :     PUTRGB4DB(dst_2, py_2, 0, 0 + 8);
     613             : 
     614           0 :     LOADCHROMA(1);
     615           0 :     PUTRGB4DB(dst_2, py_2, 1, 2 + 8);
     616           0 :     PUTRGB4DB(dst_1, py_1, 1, 2);
     617             : 
     618           0 :     LOADCHROMA(2);
     619           0 :     PUTRGB4DB(dst_1, py_1, 2, 4);
     620           0 :     PUTRGB4DB(dst_2, py_2, 2, 4 + 8);
     621             : 
     622           0 :     LOADCHROMA(3);
     623           0 :     PUTRGB4DB(dst_2, py_2, 3, 6 + 8);
     624           0 :     PUTRGB4DB(dst_1, py_1, 3, 6);
     625           0 : ENDYUV2RGBLINE(8, 0)
     626           0 :     const uint8_t *d64  = ff_dither_8x8_73[y & 7];
     627           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     628           0 :     LOADCHROMA(0);
     629           0 :     PUTRGB4DB(dst_1, py_1, 0, 0);
     630           0 :     PUTRGB4DB(dst_2, py_2, 0, 0 + 8);
     631             : 
     632           0 :     LOADCHROMA(1);
     633           0 :     PUTRGB4DB(dst_2, py_2, 1, 2 + 8);
     634           0 :     PUTRGB4DB(dst_1, py_1, 1, 2);
     635           0 : ENDYUV2RGBLINE(8, 1)
     636           0 :     const uint8_t *d64  = ff_dither_8x8_73[y & 7];
     637           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     638           0 :     LOADCHROMA(0);
     639           0 :     PUTRGB4DB(dst_1, py_1, 0, 0);
     640           0 :     PUTRGB4DB(dst_2, py_2, 0, 0 + 8);
     641           0 : ENDYUV2RGBFUNC()
     642             : 
     643           0 : YUV2RGBFUNC(yuv2rgb_c_1_ordered_dither, uint8_t, 0)
     644           0 :     const uint8_t *d128 = ff_dither_8x8_220[y & 7];
     645           0 :     char out_1 = 0, out_2 = 0;
     646           0 :     g = c->table_gU[128 + YUVRGB_TABLE_HEADROOM] + c->table_gV[128 + YUVRGB_TABLE_HEADROOM];
     647             : 
     648             : #define PUTRGB1(out, src, i, o)                     \
     649             :     Y    = src[2 * i];                              \
     650             :     out += out + g[Y + d128[0 + o]];                \
     651             :     Y    = src[2 * i + 1];                          \
     652             :     out += out + g[Y + d128[1 + o]];
     653             : 
     654           0 :     PUTRGB1(out_1, py_1, 0, 0);
     655           0 :     PUTRGB1(out_2, py_2, 0, 0 + 8);
     656             : 
     657           0 :     PUTRGB1(out_2, py_2, 1, 2 + 8);
     658           0 :     PUTRGB1(out_1, py_1, 1, 2);
     659             : 
     660           0 :     PUTRGB1(out_1, py_1, 2, 4);
     661           0 :     PUTRGB1(out_2, py_2, 2, 4 + 8);
     662             : 
     663           0 :     PUTRGB1(out_2, py_2, 3, 6 + 8);
     664           0 :     PUTRGB1(out_1, py_1, 3, 6);
     665             : 
     666           0 :     dst_1[0] = out_1;
     667           0 :     dst_2[0] = out_2;
     668           0 : CLOSEYUV2RGBFUNC(1)
     669             : 
     670           0 : SwsFunc ff_yuv2rgb_get_func_ptr(SwsContext *c)
     671             : {
     672           0 :     SwsFunc t = NULL;
     673             : 
     674             :     if (ARCH_PPC)
     675             :         t = ff_yuv2rgb_init_ppc(c);
     676             :     if (ARCH_X86)
     677           0 :         t = ff_yuv2rgb_init_x86(c);
     678             : 
     679           0 :     if (t)
     680           0 :         return t;
     681             : 
     682           0 :     av_log(c, AV_LOG_WARNING,
     683             :            "No accelerated colorspace conversion found from %s to %s.\n",
     684             :            av_get_pix_fmt_name(c->srcFormat), av_get_pix_fmt_name(c->dstFormat));
     685             : 
     686           0 :     switch (c->dstFormat) {
     687           0 :     case AV_PIX_FMT_BGR48BE:
     688             :     case AV_PIX_FMT_BGR48LE:
     689           0 :         return yuv2rgb_c_bgr48;
     690           0 :     case AV_PIX_FMT_RGB48BE:
     691             :     case AV_PIX_FMT_RGB48LE:
     692           0 :         return yuv2rgb_c_48;
     693           0 :     case AV_PIX_FMT_ARGB:
     694             :     case AV_PIX_FMT_ABGR:
     695           0 :         if (CONFIG_SWSCALE_ALPHA && isALPHA(c->srcFormat))
     696           0 :             return yuva2argb_c;
     697             :     case AV_PIX_FMT_RGBA:
     698             :     case AV_PIX_FMT_BGRA:
     699           0 :         return (CONFIG_SWSCALE_ALPHA && isALPHA(c->srcFormat)) ? yuva2rgba_c : yuv2rgb_c_32;
     700           0 :     case AV_PIX_FMT_RGB24:
     701           0 :         return yuv2rgb_c_24_rgb;
     702           0 :     case AV_PIX_FMT_BGR24:
     703           0 :         return yuv2rgb_c_24_bgr;
     704           0 :     case AV_PIX_FMT_RGB565:
     705             :     case AV_PIX_FMT_BGR565:
     706           0 :         return yuv2rgb_c_16_ordered_dither;
     707           0 :     case AV_PIX_FMT_RGB555:
     708             :     case AV_PIX_FMT_BGR555:
     709           0 :         return yuv2rgb_c_15_ordered_dither;
     710           0 :     case AV_PIX_FMT_RGB444:
     711             :     case AV_PIX_FMT_BGR444:
     712           0 :         return yuv2rgb_c_12_ordered_dither;
     713           0 :     case AV_PIX_FMT_RGB8:
     714             :     case AV_PIX_FMT_BGR8:
     715           0 :         return yuv2rgb_c_8_ordered_dither;
     716           0 :     case AV_PIX_FMT_RGB4:
     717             :     case AV_PIX_FMT_BGR4:
     718           0 :         return yuv2rgb_c_4_ordered_dither;
     719           0 :     case AV_PIX_FMT_RGB4_BYTE:
     720             :     case AV_PIX_FMT_BGR4_BYTE:
     721           0 :         return yuv2rgb_c_4b_ordered_dither;
     722           0 :     case AV_PIX_FMT_MONOBLACK:
     723           0 :         return yuv2rgb_c_1_ordered_dither;
     724             :     }
     725           0 :     return NULL;
     726             : }
     727             : 
     728        2661 : static void fill_table(uint8_t* table[256 + 2*YUVRGB_TABLE_HEADROOM], const int elemsize,
     729             :                        const int64_t inc, void *y_tab)
     730             : {
     731             :     int i;
     732        2661 :     uint8_t *y_table = y_tab;
     733             : 
     734        2661 :     y_table -= elemsize * (inc >> 9);
     735             : 
     736     3408741 :     for (i = 0; i < 256 + 2*YUVRGB_TABLE_HEADROOM; i++) {
     737     3406080 :         int64_t cb = av_clip_uint8(i-YUVRGB_TABLE_HEADROOM)*inc;
     738     3406080 :         table[i] = y_table + elemsize * (cb >> 16);
     739             :     }
     740        2661 : }
     741             : 
     742         907 : static void fill_gv_table(int table[256 + 2*YUVRGB_TABLE_HEADROOM], const int elemsize, const int64_t inc)
     743             : {
     744             :     int i;
     745         907 :     int off    = -(inc >> 9);
     746             : 
     747     1161867 :     for (i = 0; i < 256 + 2*YUVRGB_TABLE_HEADROOM; i++) {
     748     1160960 :         int64_t cb = av_clip_uint8(i-YUVRGB_TABLE_HEADROOM)*inc;
     749     1160960 :         table[i] = elemsize * (off + (cb >> 16));
     750             :     }
     751         907 : }
     752             : 
     753       12348 : static uint16_t roundToInt16(int64_t f)
     754             : {
     755       12348 :     int r = (f + (1 << 15)) >> 16;
     756             : 
     757       12348 :     if (r < -0x7FFF)
     758           0 :         return 0x8000;
     759       12348 :     else if (r > 0x7FFF)
     760           0 :         return 0x7FFF;
     761             :     else
     762       12348 :         return r;
     763             : }
     764             : 
     765        1029 : av_cold int ff_yuv2rgb_c_init_tables(SwsContext *c, const int inv_table[4],
     766             :                                      int fullRange, int brightness,
     767             :                                      int contrast, int saturation)
     768             : {
     769        3015 :     const int isRgb = c->dstFormat == AV_PIX_FMT_RGB32     ||
     770        1884 :                       c->dstFormat == AV_PIX_FMT_RGB32_1   ||
     771        1813 :                       c->dstFormat == AV_PIX_FMT_BGR24     ||
     772        1759 :                       c->dstFormat == AV_PIX_FMT_RGB565BE  ||
     773        1729 :                       c->dstFormat == AV_PIX_FMT_RGB565LE  ||
     774        1699 :                       c->dstFormat == AV_PIX_FMT_RGB555BE  ||
     775        1666 :                       c->dstFormat == AV_PIX_FMT_RGB555LE  ||
     776        1635 :                       c->dstFormat == AV_PIX_FMT_RGB444BE  ||
     777        1613 :                       c->dstFormat == AV_PIX_FMT_RGB444LE  ||
     778        1588 :                       c->dstFormat == AV_PIX_FMT_RGB8      ||
     779        1574 :                       c->dstFormat == AV_PIX_FMT_RGB4      ||
     780        2590 :                       c->dstFormat == AV_PIX_FMT_RGB4_BYTE ||
     781         774 :                       c->dstFormat == AV_PIX_FMT_MONOBLACK;
     782        3074 :     const int isNotNe = c->dstFormat == AV_PIX_FMT_NE(RGB565LE, RGB565BE) ||
     783        2019 :                         c->dstFormat == AV_PIX_FMT_NE(RGB555LE, RGB555BE) ||
     784        1995 :                         c->dstFormat == AV_PIX_FMT_NE(RGB444LE, RGB444BE) ||
     785        1972 :                         c->dstFormat == AV_PIX_FMT_NE(BGR565LE, BGR565BE) ||
     786        2977 :                         c->dstFormat == AV_PIX_FMT_NE(BGR555LE, BGR555BE) ||
     787         968 :                         c->dstFormat == AV_PIX_FMT_NE(BGR444LE, BGR444BE);
     788        1029 :     const int bpp = c->dstFormatBpp;
     789             :     uint8_t *y_table;
     790             :     uint16_t *y_table16;
     791             :     uint32_t *y_table32;
     792        1029 :     int i, base, rbase, gbase, bbase, av_uninit(abase), needAlpha;
     793        1029 :     const int yoffs = (fullRange ? 384 : 326) + YUVRGB_TABLE_LUMA_HEADROOM;
     794        1029 :     const int table_plane_size = 1024 + 2*YUVRGB_TABLE_LUMA_HEADROOM;
     795             : 
     796        1029 :     int64_t crv =  inv_table[0];
     797        1029 :     int64_t cbu =  inv_table[1];
     798        1029 :     int64_t cgu = -inv_table[2];
     799        1029 :     int64_t cgv = -inv_table[3];
     800        1029 :     int64_t cy  = 1 << 16;
     801        1029 :     int64_t oy  = 0;
     802        1029 :     int64_t yb  = 0;
     803             : 
     804        1029 :     if (!fullRange) {
     805        1019 :         cy = (cy * 255) / 219;
     806        1019 :         oy = 16 << 16;
     807             :     } else {
     808          10 :         crv = (crv * 224) / 255;
     809          10 :         cbu = (cbu * 224) / 255;
     810          10 :         cgu = (cgu * 224) / 255;
     811          10 :         cgv = (cgv * 224) / 255;
     812             :     }
     813             : 
     814        1029 :     cy   = (cy  * contrast)              >> 16;
     815        1029 :     crv  = (crv * contrast * saturation) >> 32;
     816        1029 :     cbu  = (cbu * contrast * saturation) >> 32;
     817        1029 :     cgu  = (cgu * contrast * saturation) >> 32;
     818        1029 :     cgv  = (cgv * contrast * saturation) >> 32;
     819        1029 :     oy  -= 256 * brightness;
     820             : 
     821        1029 :     c->uOffset = 0x0400040004000400LL;
     822        1029 :     c->vOffset = 0x0400040004000400LL;
     823        1029 :     c->yCoeff  = roundToInt16(cy  * (1 << 13)) * 0x0001000100010001ULL;
     824        1029 :     c->vrCoeff = roundToInt16(crv * (1 << 13)) * 0x0001000100010001ULL;
     825        1029 :     c->ubCoeff = roundToInt16(cbu * (1 << 13)) * 0x0001000100010001ULL;
     826        1029 :     c->vgCoeff = roundToInt16(cgv * (1 << 13)) * 0x0001000100010001ULL;
     827        1029 :     c->ugCoeff = roundToInt16(cgu * (1 << 13)) * 0x0001000100010001ULL;
     828        1029 :     c->yOffset = roundToInt16(oy  * (1 <<  3)) * 0x0001000100010001ULL;
     829             : 
     830        1029 :     c->yuv2rgb_y_coeff   = (int16_t)roundToInt16(cy  * (1 << 13));
     831        1029 :     c->yuv2rgb_y_offset  = (int16_t)roundToInt16(oy  * (1 <<  9));
     832        1029 :     c->yuv2rgb_v2r_coeff = (int16_t)roundToInt16(crv * (1 << 13));
     833        1029 :     c->yuv2rgb_v2g_coeff = (int16_t)roundToInt16(cgv * (1 << 13));
     834        1029 :     c->yuv2rgb_u2g_coeff = (int16_t)roundToInt16(cgu * (1 << 13));
     835        1029 :     c->yuv2rgb_u2b_coeff = (int16_t)roundToInt16(cbu * (1 << 13));
     836             : 
     837             :     //scale coefficients by cy
     838        1029 :     crv = ((crv * (1 << 16)) + 0x8000) / FFMAX(cy, 1);
     839        1029 :     cbu = ((cbu * (1 << 16)) + 0x8000) / FFMAX(cy, 1);
     840        1029 :     cgu = ((cgu * (1 << 16)) + 0x8000) / FFMAX(cy, 1);
     841        1029 :     cgv = ((cgv * (1 << 16)) + 0x8000) / FFMAX(cy, 1);
     842             : 
     843        1029 :     av_freep(&c->yuvTable);
     844             : 
     845             : #define ALLOC_YUV_TABLE(x)          \
     846             :         c->yuvTable = av_malloc(x); \
     847             :         if (!c->yuvTable)           \
     848             :             return AVERROR(ENOMEM);
     849        1029 :     switch (bpp) {
     850          30 :     case 1:
     851          30 :         ALLOC_YUV_TABLE(table_plane_size);
     852          30 :         y_table     = c->yuvTable;
     853          30 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     854       58170 :         for (i = 0; i < table_plane_size - 110; i++) {
     855       58140 :             y_table[i + 110]  = av_clip_uint8((yb + 0x8000) >> 16) >> 7;
     856       58140 :             yb               += cy;
     857             :         }
     858          30 :         fill_table(c->table_gU, 1, cgu, y_table + yoffs);
     859          30 :         fill_gv_table(c->table_gV, 1, cgv);
     860          30 :         break;
     861          25 :     case 4:
     862             :     case 4 | 128:
     863          25 :         rbase       = isRgb ? 3 : 0;
     864          25 :         gbase       = 1;
     865          25 :         bbase       = isRgb ? 0 : 3;
     866          25 :         ALLOC_YUV_TABLE(table_plane_size * 3);
     867          25 :         y_table     = c->yuvTable;
     868          25 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     869       48475 :         for (i = 0; i < table_plane_size - 110; i++) {
     870       48450 :             int yval                = av_clip_uint8((yb + 0x8000) >> 16);
     871       48450 :             y_table[i + 110]        = (yval >> 7)        << rbase;
     872       48450 :             y_table[i +  37 +   table_plane_size] = ((yval + 43) / 85) << gbase;
     873       48450 :             y_table[i + 110 + 2*table_plane_size] = (yval >> 7)        << bbase;
     874       48450 :             yb += cy;
     875             :         }
     876          25 :         fill_table(c->table_rV, 1, crv, y_table + yoffs);
     877          25 :         fill_table(c->table_gU, 1, cgu, y_table + yoffs +   table_plane_size);
     878          25 :         fill_table(c->table_bU, 1, cbu, y_table + yoffs + 2*table_plane_size);
     879          25 :         fill_gv_table(c->table_gV, 1, cgv);
     880          25 :         break;
     881          35 :     case 8:
     882          35 :         rbase       = isRgb ? 5 : 0;
     883          35 :         gbase       = isRgb ? 2 : 3;
     884          35 :         bbase       = isRgb ? 0 : 6;
     885          35 :         ALLOC_YUV_TABLE(table_plane_size * 3);
     886          35 :         y_table     = c->yuvTable;
     887          35 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     888       70385 :         for (i = 0; i < table_plane_size - 38; i++) {
     889       70350 :             int yval               = av_clip_uint8((yb + 0x8000) >> 16);
     890       70350 :             y_table[i + 16]        = ((yval + 18) / 36) << rbase;
     891       70350 :             y_table[i + 16 +   table_plane_size] = ((yval + 18) / 36) << gbase;
     892       70350 :             y_table[i + 37 + 2*table_plane_size] = ((yval + 43) / 85) << bbase;
     893       70350 :             yb += cy;
     894             :         }
     895          35 :         fill_table(c->table_rV, 1, crv, y_table + yoffs);
     896          35 :         fill_table(c->table_gU, 1, cgu, y_table + yoffs +   table_plane_size);
     897          35 :         fill_table(c->table_bU, 1, cbu, y_table + yoffs + 2*table_plane_size);
     898          35 :         fill_gv_table(c->table_gV, 1, cgv);
     899          35 :         break;
     900          44 :     case 12:
     901          44 :         rbase       = isRgb ? 8 : 0;
     902          44 :         gbase       = 4;
     903          44 :         bbase       = isRgb ? 0 : 8;
     904          44 :         ALLOC_YUV_TABLE(table_plane_size * 3 * 2);
     905          44 :         y_table16   = c->yuvTable;
     906          44 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     907       90156 :         for (i = 0; i < table_plane_size; i++) {
     908       90112 :             uint8_t yval        = av_clip_uint8((yb + 0x8000) >> 16);
     909       90112 :             y_table16[i]        = (yval >> 4) << rbase;
     910       90112 :             y_table16[i +   table_plane_size] = (yval >> 4) << gbase;
     911       90112 :             y_table16[i + 2*table_plane_size] = (yval >> 4) << bbase;
     912       90112 :             yb += cy;
     913             :         }
     914          44 :         if (isNotNe)
     915      135190 :             for (i = 0; i < table_plane_size * 3; i++)
     916      135168 :                 y_table16[i] = av_bswap16(y_table16[i]);
     917          44 :         fill_table(c->table_rV, 2, crv, y_table16 + yoffs);
     918          44 :         fill_table(c->table_gU, 2, cgu, y_table16 + yoffs +   table_plane_size);
     919          44 :         fill_table(c->table_bU, 2, cbu, y_table16 + yoffs + 2*table_plane_size);
     920          44 :         fill_gv_table(c->table_gV, 2, cgv);
     921          44 :         break;
     922         115 :     case 15:
     923             :     case 16:
     924         115 :         rbase       = isRgb ? bpp - 5 : 0;
     925         115 :         gbase       = 5;
     926         115 :         bbase       = isRgb ? 0 : (bpp - 5);
     927         115 :         ALLOC_YUV_TABLE(table_plane_size * 3 * 2);
     928         115 :         y_table16   = c->yuvTable;
     929         115 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     930      235635 :         for (i = 0; i < table_plane_size; i++) {
     931      235520 :             uint8_t yval        = av_clip_uint8((yb + 0x8000) >> 16);
     932      235520 :             y_table16[i]        = (yval >> 3)          << rbase;
     933      235520 :             y_table16[i +   table_plane_size] = (yval >> (18 - bpp)) << gbase;
     934      235520 :             y_table16[i + 2*table_plane_size] = (yval >> 3)          << bbase;
     935      235520 :             yb += cy;
     936             :         }
     937         115 :         if (isNotNe)
     938      307250 :             for (i = 0; i < table_plane_size * 3; i++)
     939      307200 :                 y_table16[i] = av_bswap16(y_table16[i]);
     940         115 :         fill_table(c->table_rV, 2, crv, y_table16 + yoffs);
     941         115 :         fill_table(c->table_gU, 2, cgu, y_table16 + yoffs +   table_plane_size);
     942         115 :         fill_table(c->table_bU, 2, cbu, y_table16 + yoffs + 2*table_plane_size);
     943         115 :         fill_gv_table(c->table_gV, 2, cgv);
     944         115 :         break;
     945         391 :     case 24:
     946             :     case 48:
     947         391 :         ALLOC_YUV_TABLE(table_plane_size);
     948         391 :         y_table     = c->yuvTable;
     949         391 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     950      801159 :         for (i = 0; i < table_plane_size; i++) {
     951      800768 :             y_table[i]  = av_clip_uint8((yb + 0x8000) >> 16);
     952      800768 :             yb         += cy;
     953             :         }
     954         391 :         fill_table(c->table_rV, 1, crv, y_table + yoffs);
     955         391 :         fill_table(c->table_gU, 1, cgu, y_table + yoffs);
     956         391 :         fill_table(c->table_bU, 1, cbu, y_table + yoffs);
     957         391 :         fill_gv_table(c->table_gV, 1, cgv);
     958         391 :         break;
     959         267 :     case 32:
     960             :     case 64:
     961         771 :         base      = (c->dstFormat == AV_PIX_FMT_RGB32_1 ||
     962         329 :                      c->dstFormat == AV_PIX_FMT_BGR32_1) ? 8 : 0;
     963         267 :         rbase     = base + (isRgb ? 16 : 0);
     964         267 :         gbase     = base + 8;
     965         267 :         bbase     = base + (isRgb ? 0 : 16);
     966         267 :         needAlpha = CONFIG_SWSCALE_ALPHA && isALPHA(c->srcFormat);
     967         267 :         if (!needAlpha)
     968         220 :             abase = (base + 24) & 31;
     969         267 :         ALLOC_YUV_TABLE(table_plane_size * 3 * 4);
     970         267 :         y_table32   = c->yuvTable;
     971         267 :         yb = -(384 << 16) - YUVRGB_TABLE_LUMA_HEADROOM*cy - oy;
     972      547083 :         for (i = 0; i < table_plane_size; i++) {
     973      546816 :             unsigned yval       = av_clip_uint8((yb + 0x8000) >> 16);
     974     1093632 :             y_table32[i]        = (yval << rbase) +
     975      546816 :                                   (needAlpha ? 0 : (255u << abase));
     976      546816 :             y_table32[i +   table_plane_size] =  yval << gbase;
     977      546816 :             y_table32[i + 2*table_plane_size] =  yval << bbase;
     978      546816 :             yb += cy;
     979             :         }
     980         267 :         fill_table(c->table_rV, 4, crv, y_table32 + yoffs);
     981         267 :         fill_table(c->table_gU, 4, cgu, y_table32 + yoffs +   table_plane_size);
     982         267 :         fill_table(c->table_bU, 4, cbu, y_table32 + yoffs + 2*table_plane_size);
     983         267 :         fill_gv_table(c->table_gV, 4, cgv);
     984         267 :         break;
     985         122 :     default:
     986         122 :         if(!isPlanar(c->dstFormat) || bpp <= 24)
     987           0 :             av_log(c, AV_LOG_ERROR, "%ibpp not supported by yuv2rgb\n", bpp);
     988         122 :         return -1;
     989             :     }
     990         907 :     return 0;
     991             : }

Generated by: LCOV version 1.13