LCOV - code coverage report
Current view: top level - libavcodec - scpr.c (source / functions) Hit Total Coverage
Test: coverage.info Lines: 0 584 0.0 %
Date: 2018-05-20 11:54:08 Functions: 0 13 0.0 %

          Line data    Source code
       1             : /*
       2             :  * ScreenPressor decoder
       3             :  *
       4             :  * Copyright (c) 2017 Paul B Mahol
       5             :  *
       6             :  * This file is part of FFmpeg.
       7             :  *
       8             :  * FFmpeg is free software; you can redistribute it and/or
       9             :  * modify it under the terms of the GNU Lesser General Public
      10             :  * License as published by the Free Software Foundation; either
      11             :  * version 2.1 of the License, or (at your option) any later version.
      12             :  *
      13             :  * FFmpeg is distributed in the hope that it will be useful,
      14             :  * but WITHOUT ANY WARRANTY; without even the implied warranty of
      15             :  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
      16             :  * Lesser General Public License for more details.
      17             :  *
      18             :  * You should have received a copy of the GNU Lesser General Public
      19             :  * License along with FFmpeg; if not, write to the Free Software
      20             :  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
      21             :  */
      22             : 
      23             : #include <stdio.h>
      24             : #include <stdlib.h>
      25             : #include <string.h>
      26             : 
      27             : #include "avcodec.h"
      28             : #include "bytestream.h"
      29             : #include "internal.h"
      30             : 
      31             : #define TOP  0x01000000
      32             : #define BOT    0x010000
      33             : 
      34             : typedef struct RangeCoder {
      35             :     unsigned   code;
      36             :     unsigned   range;
      37             :     unsigned   code1;
      38             : } RangeCoder;
      39             : 
      40             : typedef struct PixelModel {
      41             :     unsigned    freq[256];
      42             :     unsigned    lookup[16];
      43             :     unsigned    total_freq;
      44             : } PixelModel;
      45             : 
      46             : typedef struct SCPRContext {
      47             :     AVFrame        *last_frame;
      48             :     AVFrame        *current_frame;
      49             :     GetByteContext  gb;
      50             :     RangeCoder      rc;
      51             :     PixelModel      pixel_model[3][4096];
      52             :     unsigned        op_model[6][7];
      53             :     unsigned        run_model[6][257];
      54             :     unsigned        range_model[257];
      55             :     unsigned        count_model[257];
      56             :     unsigned        fill_model[6];
      57             :     unsigned        sxy_model[4][17];
      58             :     unsigned        mv_model[2][513];
      59             :     unsigned        nbx, nby;
      60             :     unsigned        nbcount;
      61             :     unsigned       *blocks;
      62             :     unsigned        cbits;
      63             :     int             cxshift;
      64             : 
      65             :     int           (*get_freq)(RangeCoder *rc, unsigned total_freq, unsigned *freq);
      66             :     int           (*decode)(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq);
      67             : } SCPRContext;
      68             : 
      69           0 : static void init_rangecoder(RangeCoder *rc, GetByteContext *gb)
      70             : {
      71           0 :     rc->code1 = 0;
      72           0 :     rc->range = 0xFFFFFFFFU;
      73           0 :     rc->code  = bytestream2_get_be32(gb);
      74           0 : }
      75             : 
      76           0 : static void reinit_tables(SCPRContext *s)
      77             : {
      78             :     int comp, i, j;
      79             : 
      80           0 :     for (comp = 0; comp < 3; comp++) {
      81           0 :         for (j = 0; j < 4096; j++) {
      82           0 :             if (s->pixel_model[comp][j].total_freq != 256) {
      83           0 :                 for (i = 0; i < 256; i++)
      84           0 :                     s->pixel_model[comp][j].freq[i] = 1;
      85           0 :                 for (i = 0; i < 16; i++)
      86           0 :                     s->pixel_model[comp][j].lookup[i] = 16;
      87           0 :                 s->pixel_model[comp][j].total_freq = 256;
      88             :             }
      89             :         }
      90             :     }
      91             : 
      92           0 :     for (j = 0; j < 6; j++) {
      93           0 :         unsigned *p = s->run_model[j];
      94           0 :         for (i = 0; i < 256; i++)
      95           0 :             p[i] = 1;
      96           0 :         p[256] = 256;
      97             :     }
      98             : 
      99           0 :     for (j = 0; j < 6; j++) {
     100           0 :         unsigned *op = s->op_model[j];
     101           0 :         for (i = 0; i < 6; i++)
     102           0 :             op[i] = 1;
     103           0 :         op[6] = 6;
     104             :     }
     105             : 
     106           0 :     for (i = 0; i < 256; i++) {
     107           0 :         s->range_model[i] = 1;
     108           0 :         s->count_model[i] = 1;
     109             :     }
     110           0 :     s->range_model[256] = 256;
     111           0 :     s->count_model[256] = 256;
     112             : 
     113           0 :     for (i = 0; i < 5; i++) {
     114           0 :         s->fill_model[i] = 1;
     115             :     }
     116           0 :     s->fill_model[5] = 5;
     117             : 
     118           0 :     for (j = 0; j < 4; j++) {
     119           0 :         for (i = 0; i < 16; i++) {
     120           0 :             s->sxy_model[j][i] = 1;
     121             :         }
     122           0 :         s->sxy_model[j][16] = 16;
     123             :     }
     124             : 
     125           0 :     for (i = 0; i < 512; i++) {
     126           0 :         s->mv_model[0][i] = 1;
     127           0 :         s->mv_model[1][i] = 1;
     128             :     }
     129           0 :     s->mv_model[0][512] = 512;
     130           0 :     s->mv_model[1][512] = 512;
     131           0 : }
     132             : 
     133           0 : static int decode(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq)
     134             : {
     135           0 :     rc->code -= cumFreq * rc->range;
     136           0 :     rc->range *= freq;
     137             : 
     138           0 :     while (rc->range < TOP && bytestream2_get_bytes_left(gb) > 0) {
     139           0 :         unsigned byte = bytestream2_get_byte(gb);
     140           0 :         rc->code = (rc->code << 8) | byte;
     141           0 :         rc->range <<= 8;
     142             :     }
     143             : 
     144           0 :     return 0;
     145             : }
     146             : 
     147           0 : static int get_freq(RangeCoder *rc, unsigned total_freq, unsigned *freq)
     148             : {
     149           0 :     if (total_freq == 0)
     150           0 :         return AVERROR_INVALIDDATA;
     151             : 
     152           0 :     rc->range = rc->range / total_freq;
     153             : 
     154           0 :     if (rc->range == 0)
     155           0 :         return AVERROR_INVALIDDATA;
     156             : 
     157           0 :     *freq = rc->code / rc->range;
     158             : 
     159           0 :     return 0;
     160             : }
     161             : 
     162           0 : static int decode0(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq)
     163             : {
     164             :     unsigned t;
     165             : 
     166           0 :     if (total_freq == 0)
     167           0 :         return AVERROR_INVALIDDATA;
     168             : 
     169           0 :     t = rc->range * (uint64_t)cumFreq / total_freq;
     170             : 
     171           0 :     rc->code1 += t + 1;
     172           0 :     rc->range = rc->range * (uint64_t)(freq + cumFreq) / total_freq - (t + 1);
     173             : 
     174           0 :     while (rc->range < TOP && bytestream2_get_bytes_left(gb) > 0) {
     175           0 :         unsigned byte = bytestream2_get_byte(gb);
     176           0 :         rc->code = (rc->code << 8) | byte;
     177           0 :         rc->code1 <<= 8;
     178           0 :         rc->range <<= 8;
     179             :     }
     180             : 
     181           0 :     return 0;
     182             : }
     183             : 
     184           0 : static int get_freq0(RangeCoder *rc, unsigned total_freq, unsigned *freq)
     185             : {
     186           0 :     if (rc->range == 0)
     187           0 :         return AVERROR_INVALIDDATA;
     188             : 
     189           0 :     *freq = total_freq * (uint64_t)(rc->code - rc->code1) / rc->range;
     190             : 
     191           0 :     return 0;
     192             : }
     193             : 
     194           0 : static int decode_value(SCPRContext *s, unsigned *cnt, unsigned maxc, unsigned step, unsigned *rval)
     195             : {
     196           0 :     GetByteContext *gb = &s->gb;
     197           0 :     RangeCoder *rc = &s->rc;
     198           0 :     unsigned totfr = cnt[maxc];
     199             :     unsigned value;
     200           0 :     unsigned c = 0, cumfr = 0, cnt_c = 0;
     201             :     int i, ret;
     202             : 
     203           0 :     if ((ret = s->get_freq(rc, totfr, &value)) < 0)
     204           0 :         return ret;
     205             : 
     206           0 :     while (c < maxc) {
     207           0 :         cnt_c = cnt[c];
     208           0 :         if (value >= cumfr + cnt_c)
     209           0 :             cumfr += cnt_c;
     210             :         else
     211           0 :             break;
     212           0 :         c++;
     213             :     }
     214             : 
     215           0 :     if (c >= maxc)
     216           0 :         return AVERROR_INVALIDDATA;
     217             : 
     218           0 :     if ((ret = s->decode(gb, rc, cumfr, cnt_c, totfr)) < 0)
     219           0 :         return ret;
     220             : 
     221           0 :     cnt[c] = cnt_c + step;
     222           0 :     totfr += step;
     223           0 :     if (totfr > BOT) {
     224           0 :         totfr = 0;
     225           0 :         for (i = 0; i < maxc; i++) {
     226           0 :             unsigned nc = (cnt[i] >> 1) + 1;
     227           0 :             cnt[i] = nc;
     228           0 :             totfr += nc;
     229             :         }
     230             :     }
     231             : 
     232           0 :     cnt[maxc] = totfr;
     233           0 :     *rval = c;
     234             : 
     235           0 :     return 0;
     236             : }
     237             : 
     238           0 : static int decode_unit(SCPRContext *s, PixelModel *pixel, unsigned step, unsigned *rval)
     239             : {
     240           0 :     GetByteContext *gb = &s->gb;
     241           0 :     RangeCoder *rc = &s->rc;
     242           0 :     unsigned totfr = pixel->total_freq;
     243           0 :     unsigned value, x = 0, cumfr = 0, cnt_x = 0;
     244             :     int i, j, ret, c, cnt_c;
     245             : 
     246           0 :     if ((ret = s->get_freq(rc, totfr, &value)) < 0)
     247           0 :         return ret;
     248             : 
     249           0 :     while (x < 16) {
     250           0 :         cnt_x = pixel->lookup[x];
     251           0 :         if (value >= cumfr + cnt_x)
     252           0 :             cumfr += cnt_x;
     253             :         else
     254           0 :             break;
     255           0 :         x++;
     256             :     }
     257             : 
     258           0 :     c = x * 16;
     259           0 :     cnt_c = 0;
     260           0 :     while (c < 256) {
     261           0 :         cnt_c = pixel->freq[c];
     262           0 :         if (value >= cumfr + cnt_c)
     263           0 :             cumfr += cnt_c;
     264             :         else
     265           0 :             break;
     266           0 :         c++;
     267             :     }
     268           0 :     if (x >= 16 || c >= 256) {
     269           0 :         return AVERROR_INVALIDDATA;
     270             :     }
     271             : 
     272           0 :     if ((ret = s->decode(gb, rc, cumfr, cnt_c, totfr)) < 0)
     273           0 :         return ret;
     274             : 
     275           0 :     pixel->freq[c] = cnt_c + step;
     276           0 :     pixel->lookup[x] = cnt_x + step;
     277           0 :     totfr += step;
     278           0 :     if (totfr > BOT) {
     279           0 :         totfr = 0;
     280           0 :         for (i = 0; i < 256; i++) {
     281           0 :             unsigned nc = (pixel->freq[i] >> 1) + 1;
     282           0 :             pixel->freq[i] = nc;
     283           0 :             totfr += nc;
     284             :         }
     285           0 :         for (i = 0; i < 16; i++) {
     286           0 :             unsigned sum = 0;
     287           0 :             unsigned i16_17 = i << 4;
     288           0 :             for (j = 0; j < 16; j++)
     289           0 :                 sum += pixel->freq[i16_17 + j];
     290           0 :             pixel->lookup[i] = sum;
     291             :         }
     292             :     }
     293           0 :     pixel->total_freq = totfr;
     294             : 
     295           0 :     *rval = c & s->cbits;
     296             : 
     297           0 :     return 0;
     298             : }
     299             : 
     300           0 : static int decompress_i(AVCodecContext *avctx, uint32_t *dst, int linesize)
     301             : {
     302           0 :     SCPRContext *s = avctx->priv_data;
     303           0 :     GetByteContext *gb = &s->gb;
     304           0 :     int cx = 0, cx1 = 0, k = 0, clr = 0;
     305           0 :     int run, r, g, b, off, y = 0, x = 0, z, ret;
     306           0 :     unsigned backstep = linesize - avctx->width;
     307           0 :     const int cxshift = s->cxshift;
     308             :     unsigned lx, ly, ptype;
     309             : 
     310           0 :     reinit_tables(s);
     311           0 :     bytestream2_skip(gb, 2);
     312           0 :     init_rangecoder(&s->rc, gb);
     313             : 
     314           0 :     while (k < avctx->width + 1) {
     315           0 :         ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
     316           0 :         if (ret < 0)
     317           0 :             return ret;
     318             : 
     319           0 :         cx1 = (cx << 6) & 0xFC0;
     320           0 :         cx = r >> cxshift;
     321           0 :         ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
     322           0 :         if (ret < 0)
     323           0 :             return ret;
     324             : 
     325           0 :         cx1 = (cx << 6) & 0xFC0;
     326           0 :         cx = g >> cxshift;
     327           0 :         ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
     328           0 :         if (ret < 0)
     329           0 :             return ret;
     330             : 
     331           0 :         cx1 = (cx << 6) & 0xFC0;
     332           0 :         cx = b >> cxshift;
     333             : 
     334           0 :         ret = decode_value(s, s->run_model[0], 256, 400, &run);
     335           0 :         if (ret < 0)
     336           0 :             return ret;
     337             : 
     338           0 :         clr = (b << 16) + (g << 8) + r;
     339           0 :         k += run;
     340           0 :         while (run-- > 0) {
     341           0 :             if (y >= avctx->height)
     342           0 :                 return AVERROR_INVALIDDATA;
     343             : 
     344           0 :             dst[y * linesize + x] = clr;
     345           0 :             lx = x;
     346           0 :             ly = y;
     347           0 :             x++;
     348           0 :             if (x >= avctx->width) {
     349           0 :                 x = 0;
     350           0 :                 y++;
     351             :             }
     352             :         }
     353             :     }
     354           0 :     off = -linesize - 1;
     355           0 :     ptype = 0;
     356             : 
     357           0 :     while (x < avctx->width && y < avctx->height) {
     358           0 :         ret = decode_value(s, s->op_model[ptype], 6, 1000, &ptype);
     359           0 :         if (ret < 0)
     360           0 :             return ret;
     361           0 :         if (ptype == 0) {
     362           0 :             ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
     363           0 :             if (ret < 0)
     364           0 :                 return ret;
     365             : 
     366           0 :             cx1 = (cx << 6) & 0xFC0;
     367           0 :             cx = r >> cxshift;
     368           0 :             ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
     369           0 :             if (ret < 0)
     370           0 :                 return ret;
     371             : 
     372           0 :             cx1 = (cx << 6) & 0xFC0;
     373           0 :             cx = g >> cxshift;
     374           0 :             ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
     375           0 :             if (ret < 0)
     376           0 :                 return ret;
     377             : 
     378           0 :             clr = (b << 16) + (g << 8) + r;
     379             :         }
     380           0 :         if (ptype > 5)
     381           0 :             return AVERROR_INVALIDDATA;
     382           0 :         ret = decode_value(s, s->run_model[ptype], 256, 400, &run);
     383           0 :         if (ret < 0)
     384           0 :             return ret;
     385             : 
     386           0 :         switch (ptype) {
     387           0 :         case 0:
     388           0 :             while (run-- > 0) {
     389           0 :                 if (y >= avctx->height)
     390           0 :                     return AVERROR_INVALIDDATA;
     391             : 
     392           0 :                 dst[y * linesize + x] = clr;
     393           0 :                 lx = x;
     394           0 :                 ly = y;
     395           0 :                 x++;
     396           0 :                 if (x >= avctx->width) {
     397           0 :                     x = 0;
     398           0 :                     y++;
     399             :                 }
     400             :             }
     401           0 :             break;
     402           0 :         case 1:
     403           0 :             while (run-- > 0) {
     404           0 :                 if (y >= avctx->height)
     405           0 :                     return AVERROR_INVALIDDATA;
     406             : 
     407           0 :                 dst[y * linesize + x] = dst[ly * linesize + lx];
     408           0 :                 lx = x;
     409           0 :                 ly = y;
     410           0 :                 x++;
     411           0 :                 if (x >= avctx->width) {
     412           0 :                     x = 0;
     413           0 :                     y++;
     414             :                 }
     415             :             }
     416           0 :             clr = dst[ly * linesize + lx];
     417           0 :             break;
     418           0 :         case 2:
     419           0 :             while (run-- > 0) {
     420           0 :                 if (y < 1 || y >= avctx->height)
     421           0 :                     return AVERROR_INVALIDDATA;
     422             : 
     423           0 :                 clr = dst[y * linesize + x + off + 1];
     424           0 :                 dst[y * linesize + x] = clr;
     425           0 :                 lx = x;
     426           0 :                 ly = y;
     427           0 :                 x++;
     428           0 :                 if (x >= avctx->width) {
     429           0 :                     x = 0;
     430           0 :                     y++;
     431             :                 }
     432             :             }
     433           0 :             break;
     434           0 :         case 4:
     435           0 :             while (run-- > 0) {
     436           0 :                 uint8_t *odst = (uint8_t *)dst;
     437             : 
     438           0 :                 if (y < 1 || y >= avctx->height ||
     439           0 :                     (y == 1 && x == 0))
     440           0 :                     return AVERROR_INVALIDDATA;
     441             : 
     442           0 :                 if (x == 0) {
     443           0 :                     z = backstep;
     444             :                 } else {
     445           0 :                     z = 0;
     446             :                 }
     447             : 
     448           0 :                 r = odst[(ly * linesize + lx) * 4] +
     449           0 :                     odst[((y * linesize + x) + off) * 4 + 4] -
     450           0 :                     odst[((y * linesize + x) + off - z) * 4];
     451           0 :                 g = odst[(ly * linesize + lx) * 4 + 1] +
     452           0 :                     odst[((y * linesize + x) + off) * 4 + 5] -
     453           0 :                     odst[((y * linesize + x) + off - z) * 4 + 1];
     454           0 :                 b = odst[(ly * linesize + lx) * 4 + 2] +
     455           0 :                     odst[((y * linesize + x) + off) * 4 + 6] -
     456           0 :                     odst[((y * linesize + x) + off - z) * 4 + 2];
     457           0 :                 clr = ((b & 0xFF) << 16) + ((g & 0xFF) << 8) + (r & 0xFF);
     458           0 :                 dst[y * linesize + x] = clr;
     459           0 :                 lx = x;
     460           0 :                 ly = y;
     461           0 :                 x++;
     462           0 :                 if (x >= avctx->width) {
     463           0 :                     x = 0;
     464           0 :                     y++;
     465             :                 }
     466             :             }
     467           0 :             break;
     468           0 :         case 5:
     469           0 :             while (run-- > 0) {
     470           0 :                 if (y < 1 || y >= avctx->height ||
     471           0 :                     (y == 1 && x == 0))
     472           0 :                     return AVERROR_INVALIDDATA;
     473             : 
     474           0 :                 if (x == 0) {
     475           0 :                     z = backstep;
     476             :                 } else {
     477           0 :                     z = 0;
     478             :                 }
     479             : 
     480           0 :                 clr = dst[y * linesize + x + off - z];
     481           0 :                 dst[y * linesize + x] = clr;
     482           0 :                 lx = x;
     483           0 :                 ly = y;
     484           0 :                 x++;
     485           0 :                 if (x >= avctx->width) {
     486           0 :                     x = 0;
     487           0 :                     y++;
     488             :                 }
     489             :             }
     490           0 :             break;
     491             :         }
     492             : 
     493           0 :         if (avctx->bits_per_coded_sample == 16) {
     494           0 :             cx1 = (clr & 0x3F00) >> 2;
     495           0 :             cx = (clr & 0x3FFFFF) >> 16;
     496             :         } else {
     497           0 :             cx1 = (clr & 0xFC00) >> 4;
     498           0 :             cx = (clr & 0xFFFFFF) >> 18;
     499             :         }
     500             :     }
     501             : 
     502           0 :     return 0;
     503             : }
     504             : 
     505           0 : static int decompress_p(AVCodecContext *avctx,
     506             :                         uint32_t *dst, int linesize,
     507             :                         uint32_t *prev, int plinesize)
     508             : {
     509           0 :     SCPRContext *s = avctx->priv_data;
     510           0 :     GetByteContext *gb = &s->gb;
     511           0 :     int ret, temp, min, max, x, y, cx = 0, cx1 = 0;
     512           0 :     int backstep = linesize - avctx->width;
     513           0 :     const int cxshift = s->cxshift;
     514             : 
     515           0 :     if (bytestream2_get_byte(gb) == 0)
     516           0 :         return 0;
     517           0 :     bytestream2_skip(gb, 1);
     518           0 :     init_rangecoder(&s->rc, gb);
     519             : 
     520           0 :     ret  = decode_value(s, s->range_model, 256, 1, &min);
     521           0 :     ret |= decode_value(s, s->range_model, 256, 1, &temp);
     522           0 :     min += temp << 8;
     523           0 :     ret |= decode_value(s, s->range_model, 256, 1, &max);
     524           0 :     ret |= decode_value(s, s->range_model, 256, 1, &temp);
     525           0 :     if (ret < 0)
     526           0 :         return ret;
     527             : 
     528           0 :     max += temp << 8;
     529           0 :     memset(s->blocks, 0, sizeof(*s->blocks) * s->nbcount);
     530             : 
     531           0 :     while (min <= max) {
     532             :         int fill, count;
     533             : 
     534           0 :         ret  = decode_value(s, s->fill_model,  5,   10, &fill);
     535           0 :         ret |= decode_value(s, s->count_model, 256, 20, &count);
     536           0 :         if (ret < 0)
     537           0 :             return ret;
     538             : 
     539           0 :         while (min < s->nbcount && count-- > 0) {
     540           0 :             s->blocks[min++] = fill;
     541             :         }
     542             :     }
     543             : 
     544           0 :     for (y = 0; y < s->nby; y++) {
     545           0 :         for (x = 0; x < s->nbx; x++) {
     546           0 :             int sy1 = 0, sy2 = 16, sx1 = 0, sx2 = 16;
     547             : 
     548           0 :             if (s->blocks[y * s->nbx + x] == 0)
     549           0 :                 continue;
     550             : 
     551           0 :             if (((s->blocks[y * s->nbx + x] - 1) & 1) > 0) {
     552           0 :                 ret  = decode_value(s, s->sxy_model[0], 16, 100, &sx1);
     553           0 :                 ret |= decode_value(s, s->sxy_model[1], 16, 100, &sy1);
     554           0 :                 ret |= decode_value(s, s->sxy_model[2], 16, 100, &sx2);
     555           0 :                 ret |= decode_value(s, s->sxy_model[3], 16, 100, &sy2);
     556           0 :                 if (ret < 0)
     557           0 :                     return ret;
     558             : 
     559           0 :                 sx2++;
     560           0 :                 sy2++;
     561             :             }
     562           0 :             if (((s->blocks[y * s->nbx + x] - 1) & 2) > 0) {
     563           0 :                 int i, j, by = y * 16, bx = x * 16;
     564             :                 int mvx, mvy;
     565             : 
     566           0 :                 ret  = decode_value(s, s->mv_model[0], 512, 100, &mvx);
     567           0 :                 ret |= decode_value(s, s->mv_model[1], 512, 100, &mvy);
     568           0 :                 if (ret < 0)
     569           0 :                     return ret;
     570             : 
     571           0 :                 mvx -= 256;
     572           0 :                 mvy -= 256;
     573             : 
     574           0 :                 if (by + mvy + sy1 < 0 || bx + mvx + sx1 < 0 ||
     575           0 :                     by + mvy + sy1 >= avctx->height || bx + mvx + sx1 >= avctx->width)
     576           0 :                     return AVERROR_INVALIDDATA;
     577             : 
     578           0 :                 for (i = 0; i < sy2 - sy1 && (by + sy1 + i) < avctx->height && (by + mvy + sy1 + i) < avctx->height; i++) {
     579           0 :                     for (j = 0; j < sx2 - sx1 && (bx + sx1 + j) < avctx->width && (bx + mvx + sx1 + j) < avctx->width; j++) {
     580           0 :                         dst[(by + i + sy1) * linesize + bx + sx1 + j] = prev[(by + mvy + sy1 + i) * plinesize + bx + sx1 + mvx + j];
     581             :                     }
     582             :                 }
     583             :             } else {
     584           0 :                 int run, r, g, b, z, bx = x * 16 + sx1, by = y * 16 + sy1;
     585           0 :                 unsigned clr, ptype = 0;
     586             : 
     587           0 :                 for (; by < y * 16 + sy2 && by < avctx->height;) {
     588           0 :                     ret = decode_value(s, s->op_model[ptype], 6, 1000, &ptype);
     589           0 :                     if (ret < 0)
     590           0 :                         return ret;
     591           0 :                     if (ptype == 0) {
     592           0 :                         ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
     593           0 :                         if (ret < 0)
     594           0 :                             return ret;
     595             : 
     596           0 :                         cx1 = (cx << 6) & 0xFC0;
     597           0 :                         cx = r >> cxshift;
     598           0 :                         ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
     599           0 :                         if (ret < 0)
     600           0 :                             return ret;
     601             : 
     602           0 :                         cx1 = (cx << 6) & 0xFC0;
     603           0 :                         cx = g >> cxshift;
     604           0 :                         ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
     605           0 :                         if (ret < 0)
     606           0 :                             return ret;
     607             : 
     608           0 :                         clr = (b << 16) + (g << 8) + r;
     609             :                     }
     610           0 :                     if (ptype > 5)
     611           0 :                         return AVERROR_INVALIDDATA;
     612           0 :                     ret = decode_value(s, s->run_model[ptype], 256, 400, &run);
     613           0 :                     if (ret < 0)
     614           0 :                         return ret;
     615             : 
     616           0 :                     switch (ptype) {
     617           0 :                     case 0:
     618           0 :                         while (run-- > 0) {
     619           0 :                             if (by >= avctx->height)
     620           0 :                                 return AVERROR_INVALIDDATA;
     621             : 
     622           0 :                             dst[by * linesize + bx] = clr;
     623           0 :                             bx++;
     624           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     625           0 :                                 bx = x * 16 + sx1;
     626           0 :                                 by++;
     627             :                             }
     628             :                         }
     629           0 :                         break;
     630           0 :                     case 1:
     631           0 :                         while (run-- > 0) {
     632           0 :                             if (bx == 0) {
     633           0 :                                 if (by < 1)
     634           0 :                                     return AVERROR_INVALIDDATA;
     635           0 :                                 z = backstep;
     636             :                             } else {
     637           0 :                                 z = 0;
     638             :                             }
     639             : 
     640           0 :                             if (by >= avctx->height)
     641           0 :                                 return AVERROR_INVALIDDATA;
     642             : 
     643           0 :                             clr = dst[by * linesize + bx - 1 - z];
     644           0 :                             dst[by * linesize + bx] = clr;
     645           0 :                             bx++;
     646           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     647           0 :                                 bx = x * 16 + sx1;
     648           0 :                                 by++;
     649             :                             }
     650             :                         }
     651           0 :                         break;
     652           0 :                     case 2:
     653           0 :                         while (run-- > 0) {
     654           0 :                             if (by < 1 || by >= avctx->height)
     655           0 :                                 return AVERROR_INVALIDDATA;
     656             : 
     657           0 :                             clr = dst[(by - 1) * linesize + bx];
     658           0 :                             dst[by * linesize + bx] = clr;
     659           0 :                             bx++;
     660           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     661           0 :                                 bx = x * 16 + sx1;
     662           0 :                                 by++;
     663             :                             }
     664             :                         }
     665           0 :                         break;
     666           0 :                     case 3:
     667           0 :                         while (run-- > 0) {
     668           0 :                             if (by >= avctx->height)
     669           0 :                                 return AVERROR_INVALIDDATA;
     670             : 
     671           0 :                             clr = prev[by * plinesize + bx];
     672           0 :                             dst[by * linesize + bx] = clr;
     673           0 :                             bx++;
     674           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     675           0 :                                 bx = x * 16 + sx1;
     676           0 :                                 by++;
     677             :                             }
     678             :                         }
     679           0 :                         break;
     680           0 :                     case 4:
     681           0 :                         while (run-- > 0) {
     682           0 :                             uint8_t *odst = (uint8_t *)dst;
     683             : 
     684           0 :                             if (by < 1 || by >= avctx->height)
     685           0 :                                 return AVERROR_INVALIDDATA;
     686             : 
     687           0 :                             if (bx == 0) {
     688           0 :                                 if (by < 2)
     689           0 :                                     return AVERROR_INVALIDDATA;
     690           0 :                                 z = backstep;
     691             :                             } else {
     692           0 :                                 z = 0;
     693             :                             }
     694             : 
     695           0 :                             r = odst[((by - 1) * linesize + bx) * 4] +
     696           0 :                                 odst[(by * linesize + bx - 1 - z) * 4] -
     697           0 :                                 odst[((by - 1) * linesize + bx - 1 - z) * 4];
     698           0 :                             g = odst[((by - 1) * linesize + bx) * 4 + 1] +
     699           0 :                                 odst[(by * linesize + bx - 1 - z) * 4 + 1] -
     700           0 :                                 odst[((by - 1) * linesize + bx - 1 - z) * 4 + 1];
     701           0 :                             b = odst[((by - 1) * linesize + bx) * 4 + 2] +
     702           0 :                                 odst[(by * linesize + bx - 1 - z) * 4 + 2] -
     703           0 :                                 odst[((by - 1) * linesize + bx - 1 - z) * 4 + 2];
     704           0 :                             clr = ((b & 0xFF) << 16) + ((g & 0xFF) << 8) + (r & 0xFF);
     705           0 :                             dst[by * linesize + bx] = clr;
     706           0 :                             bx++;
     707           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     708           0 :                                 bx = x * 16 + sx1;
     709           0 :                                 by++;
     710             :                             }
     711             :                         }
     712           0 :                         break;
     713           0 :                     case 5:
     714           0 :                         while (run-- > 0) {
     715           0 :                             if (by < 1 || by >= avctx->height)
     716           0 :                                 return AVERROR_INVALIDDATA;
     717             : 
     718           0 :                             if (bx == 0) {
     719           0 :                                 if (by < 2)
     720           0 :                                     return AVERROR_INVALIDDATA;
     721           0 :                                 z = backstep;
     722             :                             } else {
     723           0 :                                 z = 0;
     724             :                             }
     725             : 
     726           0 :                             clr = dst[(by - 1) * linesize + bx - 1 - z];
     727           0 :                             dst[by * linesize + bx] = clr;
     728           0 :                             bx++;
     729           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     730           0 :                                 bx = x * 16 + sx1;
     731           0 :                                 by++;
     732             :                             }
     733             :                         }
     734           0 :                         break;
     735             :                     }
     736             : 
     737           0 :                     if (avctx->bits_per_coded_sample == 16) {
     738           0 :                         cx1 = (clr & 0x3F00) >> 2;
     739           0 :                         cx = (clr & 0x3FFFFF) >> 16;
     740             :                     } else {
     741           0 :                         cx1 = (clr & 0xFC00) >> 4;
     742           0 :                         cx = (clr & 0xFFFFFF) >> 18;
     743             :                     }
     744             :                 }
     745             :             }
     746             :         }
     747             :     }
     748             : 
     749           0 :     return 0;
     750             : }
     751             : 
     752           0 : static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
     753             :                         AVPacket *avpkt)
     754             : {
     755           0 :     SCPRContext *s = avctx->priv_data;
     756           0 :     GetByteContext *gb = &s->gb;
     757           0 :     AVFrame *frame = data;
     758             :     int ret, type;
     759             : 
     760           0 :     if (avctx->bits_per_coded_sample == 16) {
     761           0 :         if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
     762           0 :             return ret;
     763             :     }
     764             : 
     765           0 :     if ((ret = ff_reget_buffer(avctx, s->current_frame)) < 0)
     766           0 :         return ret;
     767             : 
     768           0 :     bytestream2_init(gb, avpkt->data, avpkt->size);
     769             : 
     770           0 :     type = bytestream2_peek_byte(gb);
     771             : 
     772           0 :     if (type == 2) {
     773           0 :         s->get_freq = get_freq0;
     774           0 :         s->decode = decode0;
     775           0 :         frame->key_frame = 1;
     776           0 :         ret = decompress_i(avctx, (uint32_t *)s->current_frame->data[0],
     777           0 :                            s->current_frame->linesize[0] / 4);
     778           0 :     } else if (type == 18) {
     779           0 :         s->get_freq = get_freq;
     780           0 :         s->decode = decode;
     781           0 :         frame->key_frame = 1;
     782           0 :         ret = decompress_i(avctx, (uint32_t *)s->current_frame->data[0],
     783           0 :                            s->current_frame->linesize[0] / 4);
     784           0 :     } else if (type == 17) {
     785           0 :         uint32_t clr, *dst = (uint32_t *)s->current_frame->data[0];
     786             :         int x, y;
     787             : 
     788           0 :         frame->key_frame = 1;
     789           0 :         bytestream2_skip(gb, 1);
     790           0 :         if (avctx->bits_per_coded_sample == 16) {
     791           0 :             uint16_t value = bytestream2_get_le16(gb);
     792             :             int r, g, b;
     793             : 
     794           0 :             r = (value      ) & 31;
     795           0 :             g = (value >>  5) & 31;
     796           0 :             b = (value >> 10) & 31;
     797           0 :             clr = (r << 16) + (g << 8) + b;
     798             :         } else {
     799           0 :             clr = bytestream2_get_le24(gb);
     800             :         }
     801           0 :         for (y = 0; y < avctx->height; y++) {
     802           0 :             for (x = 0; x < avctx->width; x++) {
     803           0 :                 dst[x] = clr;
     804             :             }
     805           0 :             dst += s->current_frame->linesize[0] / 4;
     806             :         }
     807           0 :     } else if (type == 0 || type == 1) {
     808           0 :         frame->key_frame = 0;
     809             : 
     810           0 :         ret = av_frame_copy(s->current_frame, s->last_frame);
     811           0 :         if (ret < 0)
     812           0 :             return ret;
     813             : 
     814           0 :         ret = decompress_p(avctx, (uint32_t *)s->current_frame->data[0],
     815           0 :                            s->current_frame->linesize[0] / 4,
     816           0 :                            (uint32_t *)s->last_frame->data[0],
     817           0 :                            s->last_frame->linesize[0] / 4);
     818             :     } else {
     819           0 :         return AVERROR_PATCHWELCOME;
     820             :     }
     821             : 
     822           0 :     if (ret < 0)
     823           0 :         return ret;
     824             : 
     825           0 :     if (avctx->bits_per_coded_sample != 16) {
     826           0 :         ret = av_frame_ref(data, s->current_frame);
     827           0 :         if (ret < 0)
     828           0 :             return ret;
     829             :     } else {
     830           0 :         uint8_t *dst = frame->data[0];
     831             :         int x, y;
     832             : 
     833           0 :         ret = av_frame_copy(frame, s->current_frame);
     834           0 :         if (ret < 0)
     835           0 :             return ret;
     836             : 
     837             :         // scale up each sample by 8
     838           0 :         for (y = 0; y < avctx->height; y++) {
     839             :             // If the image is sufficiently aligned, compute 8 samples at once
     840           0 :             if (!(((uintptr_t)dst) & 7)) {
     841           0 :                 uint64_t *dst64 = (uint64_t *)dst;
     842           0 :                 int w = avctx->width>>1;
     843           0 :                 for (x = 0; x < w; x++) {
     844           0 :                     dst64[x] = (dst64[x] << 3) & 0xFCFCFCFCFCFCFCFCULL;
     845             :                 }
     846           0 :                 x *= 8;
     847             :             } else
     848           0 :                 x = 0;
     849           0 :             for (; x < avctx->width * 4; x++) {
     850           0 :                 dst[x] = dst[x] << 3;
     851             :             }
     852           0 :             dst += frame->linesize[0];
     853             :         }
     854             :     }
     855             : 
     856           0 :     frame->pict_type = frame->key_frame ? AV_PICTURE_TYPE_I : AV_PICTURE_TYPE_P;
     857             : 
     858           0 :     FFSWAP(AVFrame *, s->current_frame, s->last_frame);
     859             : 
     860           0 :     frame->data[0]     += frame->linesize[0] * (avctx->height - 1);
     861           0 :     frame->linesize[0] *= -1;
     862             : 
     863           0 :     *got_frame = 1;
     864             : 
     865           0 :     return avpkt->size;
     866             : }
     867             : 
     868           0 : static av_cold int decode_init(AVCodecContext *avctx)
     869             : {
     870           0 :     SCPRContext *s = avctx->priv_data;
     871             : 
     872           0 :     switch (avctx->bits_per_coded_sample) {
     873           0 :     case 16: avctx->pix_fmt = AV_PIX_FMT_RGB0; break;
     874           0 :     case 24:
     875           0 :     case 32: avctx->pix_fmt = AV_PIX_FMT_BGR0; break;
     876           0 :     default:
     877           0 :         av_log(avctx, AV_LOG_ERROR, "Unsupported bitdepth %i\n", avctx->bits_per_coded_sample);
     878           0 :         return AVERROR_INVALIDDATA;
     879             :     }
     880             : 
     881           0 :     s->get_freq = get_freq0;
     882           0 :     s->decode = decode0;
     883             : 
     884           0 :     s->cxshift = avctx->bits_per_coded_sample == 16 ? 0 : 2;
     885           0 :     s->cbits = avctx->bits_per_coded_sample == 16 ? 0x1F : 0xFF;
     886           0 :     s->nbx = (avctx->width + 15) / 16;
     887           0 :     s->nby = (avctx->height + 15) / 16;
     888           0 :     s->nbcount = s->nbx * s->nby;
     889           0 :     s->blocks = av_malloc_array(s->nbcount, sizeof(*s->blocks));
     890           0 :     if (!s->blocks)
     891           0 :         return AVERROR(ENOMEM);
     892             : 
     893           0 :     s->last_frame = av_frame_alloc();
     894           0 :     s->current_frame = av_frame_alloc();
     895           0 :     if (!s->last_frame || !s->current_frame)
     896           0 :         return AVERROR(ENOMEM);
     897             : 
     898           0 :     return 0;
     899             : }
     900             : 
     901           0 : static av_cold int decode_close(AVCodecContext *avctx)
     902             : {
     903           0 :     SCPRContext *s = avctx->priv_data;
     904             : 
     905           0 :     av_freep(&s->blocks);
     906           0 :     av_frame_free(&s->last_frame);
     907           0 :     av_frame_free(&s->current_frame);
     908             : 
     909           0 :     return 0;
     910             : }
     911             : 
     912             : AVCodec ff_scpr_decoder = {
     913             :     .name             = "scpr",
     914             :     .long_name        = NULL_IF_CONFIG_SMALL("ScreenPressor"),
     915             :     .type             = AVMEDIA_TYPE_VIDEO,
     916             :     .id               = AV_CODEC_ID_SCPR,
     917             :     .priv_data_size   = sizeof(SCPRContext),
     918             :     .init             = decode_init,
     919             :     .close            = decode_close,
     920             :     .decode           = decode_frame,
     921             :     .capabilities     = AV_CODEC_CAP_DR1,
     922             :     .caps_internal    = FF_CODEC_CAP_INIT_THREADSAFE |
     923             :                         FF_CODEC_CAP_INIT_CLEANUP,
     924             : };

Generated by: LCOV version 1.13