LCOV - code coverage report
Current view: top level - libavcodec - scpr.c (source / functions) Hit Total Coverage
Test: coverage.info Lines: 0 578 0.0 %
Date: 2017-12-14 08:27:08 Functions: 0 13 0.0 %

          Line data    Source code
       1             : /*
       2             :  * ScreenPressor decoder
       3             :  *
       4             :  * Copyright (c) 2017 Paul B Mahol
       5             :  *
       6             :  * This file is part of FFmpeg.
       7             :  *
       8             :  * FFmpeg is free software; you can redistribute it and/or
       9             :  * modify it under the terms of the GNU Lesser General Public
      10             :  * License as published by the Free Software Foundation; either
      11             :  * version 2.1 of the License, or (at your option) any later version.
      12             :  *
      13             :  * FFmpeg is distributed in the hope that it will be useful,
      14             :  * but WITHOUT ANY WARRANTY; without even the implied warranty of
      15             :  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
      16             :  * Lesser General Public License for more details.
      17             :  *
      18             :  * You should have received a copy of the GNU Lesser General Public
      19             :  * License along with FFmpeg; if not, write to the Free Software
      20             :  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
      21             :  */
      22             : 
      23             : #include <stdio.h>
      24             : #include <stdlib.h>
      25             : #include <string.h>
      26             : 
      27             : #include "avcodec.h"
      28             : #include "bytestream.h"
      29             : #include "internal.h"
      30             : 
      31             : #define TOP  0x01000000
      32             : #define BOT    0x010000
      33             : 
      34             : typedef struct RangeCoder {
      35             :     unsigned   code;
      36             :     unsigned   range;
      37             :     unsigned   code1;
      38             : } RangeCoder;
      39             : 
      40             : typedef struct PixelModel {
      41             :     unsigned    freq[256];
      42             :     unsigned    lookup[16];
      43             :     unsigned    total_freq;
      44             : } PixelModel;
      45             : 
      46             : typedef struct SCPRContext {
      47             :     AVFrame        *last_frame;
      48             :     AVFrame        *current_frame;
      49             :     GetByteContext  gb;
      50             :     RangeCoder      rc;
      51             :     PixelModel      pixel_model[3][4096];
      52             :     unsigned        op_model[6][7];
      53             :     unsigned        run_model[6][257];
      54             :     unsigned        range_model[257];
      55             :     unsigned        count_model[257];
      56             :     unsigned        fill_model[6];
      57             :     unsigned        sxy_model[4][17];
      58             :     unsigned        mv_model[2][513];
      59             :     unsigned        nbx, nby;
      60             :     unsigned        nbcount;
      61             :     unsigned       *blocks;
      62             :     unsigned        cbits;
      63             :     int             cxshift;
      64             : 
      65             :     int           (*get_freq)(RangeCoder *rc, unsigned total_freq, unsigned *freq);
      66             :     int           (*decode)(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq);
      67             : } SCPRContext;
      68             : 
      69           0 : static void init_rangecoder(RangeCoder *rc, GetByteContext *gb)
      70             : {
      71           0 :     rc->code1 = 0;
      72           0 :     rc->range = 0xFFFFFFFFU;
      73           0 :     rc->code  = bytestream2_get_be32(gb);
      74           0 : }
      75             : 
      76           0 : static void reinit_tables(SCPRContext *s)
      77             : {
      78             :     int comp, i, j;
      79             : 
      80           0 :     for (comp = 0; comp < 3; comp++) {
      81           0 :         for (j = 0; j < 4096; j++) {
      82           0 :             if (s->pixel_model[comp][j].total_freq != 256) {
      83           0 :                 for (i = 0; i < 256; i++)
      84           0 :                     s->pixel_model[comp][j].freq[i] = 1;
      85           0 :                 for (i = 0; i < 16; i++)
      86           0 :                     s->pixel_model[comp][j].lookup[i] = 16;
      87           0 :                 s->pixel_model[comp][j].total_freq = 256;
      88             :             }
      89             :         }
      90             :     }
      91             : 
      92           0 :     for (j = 0; j < 6; j++) {
      93           0 :         unsigned *p = s->run_model[j];
      94           0 :         for (i = 0; i < 256; i++)
      95           0 :             p[i] = 1;
      96           0 :         p[256] = 256;
      97             :     }
      98             : 
      99           0 :     for (j = 0; j < 6; j++) {
     100           0 :         unsigned *op = s->op_model[j];
     101           0 :         for (i = 0; i < 6; i++)
     102           0 :             op[i] = 1;
     103           0 :         op[6] = 6;
     104             :     }
     105             : 
     106           0 :     for (i = 0; i < 256; i++) {
     107           0 :         s->range_model[i] = 1;
     108           0 :         s->count_model[i] = 1;
     109             :     }
     110           0 :     s->range_model[256] = 256;
     111           0 :     s->count_model[256] = 256;
     112             : 
     113           0 :     for (i = 0; i < 5; i++) {
     114           0 :         s->fill_model[i] = 1;
     115             :     }
     116           0 :     s->fill_model[5] = 5;
     117             : 
     118           0 :     for (j = 0; j < 4; j++) {
     119           0 :         for (i = 0; i < 16; i++) {
     120           0 :             s->sxy_model[j][i] = 1;
     121             :         }
     122           0 :         s->sxy_model[j][16] = 16;
     123             :     }
     124             : 
     125           0 :     for (i = 0; i < 512; i++) {
     126           0 :         s->mv_model[0][i] = 1;
     127           0 :         s->mv_model[1][i] = 1;
     128             :     }
     129           0 :     s->mv_model[0][512] = 512;
     130           0 :     s->mv_model[1][512] = 512;
     131           0 : }
     132             : 
     133           0 : static int decode(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq)
     134             : {
     135           0 :     rc->code -= cumFreq * rc->range;
     136           0 :     rc->range *= freq;
     137             : 
     138           0 :     while (rc->range < TOP && bytestream2_get_bytes_left(gb) > 0) {
     139           0 :         unsigned byte = bytestream2_get_byte(gb);
     140           0 :         rc->code = (rc->code << 8) | byte;
     141           0 :         rc->range <<= 8;
     142             :     }
     143             : 
     144           0 :     return 0;
     145             : }
     146             : 
     147           0 : static int get_freq(RangeCoder *rc, unsigned total_freq, unsigned *freq)
     148             : {
     149           0 :     if (total_freq == 0)
     150           0 :         return AVERROR_INVALIDDATA;
     151             : 
     152           0 :     rc->range = rc->range / total_freq;
     153             : 
     154           0 :     if (rc->range == 0)
     155           0 :         return AVERROR_INVALIDDATA;
     156             : 
     157           0 :     *freq = rc->code / rc->range;
     158             : 
     159           0 :     return 0;
     160             : }
     161             : 
     162           0 : static int decode0(GetByteContext *gb, RangeCoder *rc, unsigned cumFreq, unsigned freq, unsigned total_freq)
     163             : {
     164             :     unsigned t;
     165             : 
     166           0 :     if (total_freq == 0)
     167           0 :         return AVERROR_INVALIDDATA;
     168             : 
     169           0 :     t = rc->range * (uint64_t)cumFreq / total_freq;
     170             : 
     171           0 :     rc->code1 += t + 1;
     172           0 :     rc->range = rc->range * (uint64_t)(freq + cumFreq) / total_freq - (t + 1);
     173             : 
     174           0 :     while (rc->range < TOP && bytestream2_get_bytes_left(gb) > 0) {
     175           0 :         unsigned byte = bytestream2_get_byte(gb);
     176           0 :         rc->code = (rc->code << 8) | byte;
     177           0 :         rc->code1 <<= 8;
     178           0 :         rc->range <<= 8;
     179             :     }
     180             : 
     181           0 :     return 0;
     182             : }
     183             : 
     184           0 : static int get_freq0(RangeCoder *rc, unsigned total_freq, unsigned *freq)
     185             : {
     186           0 :     if (rc->range == 0)
     187           0 :         return AVERROR_INVALIDDATA;
     188             : 
     189           0 :     *freq = total_freq * (uint64_t)(rc->code - rc->code1) / rc->range;
     190             : 
     191           0 :     return 0;
     192             : }
     193             : 
     194           0 : static int decode_value(SCPRContext *s, unsigned *cnt, unsigned maxc, unsigned step, unsigned *rval)
     195             : {
     196           0 :     GetByteContext *gb = &s->gb;
     197           0 :     RangeCoder *rc = &s->rc;
     198           0 :     unsigned totfr = cnt[maxc];
     199             :     unsigned value;
     200           0 :     unsigned c = 0, cumfr = 0, cnt_c = 0;
     201             :     int i, ret;
     202             : 
     203           0 :     if ((ret = s->get_freq(rc, totfr, &value)) < 0)
     204           0 :         return ret;
     205             : 
     206           0 :     while (c < maxc) {
     207           0 :         cnt_c = cnt[c];
     208           0 :         if (value >= cumfr + cnt_c)
     209           0 :             cumfr += cnt_c;
     210             :         else
     211           0 :             break;
     212           0 :         c++;
     213             :     }
     214           0 :     if ((ret = s->decode(gb, rc, cumfr, cnt_c, totfr)) < 0)
     215           0 :         return ret;
     216             : 
     217           0 :     cnt[c] = cnt_c + step;
     218           0 :     totfr += step;
     219           0 :     if (totfr > BOT) {
     220           0 :         totfr = 0;
     221           0 :         for (i = 0; i < maxc; i++) {
     222           0 :             unsigned nc = (cnt[i] >> 1) + 1;
     223           0 :             cnt[i] = nc;
     224           0 :             totfr += nc;
     225             :         }
     226             :     }
     227             : 
     228           0 :     cnt[maxc] = totfr;
     229           0 :     *rval = c;
     230             : 
     231           0 :     return 0;
     232             : }
     233             : 
     234           0 : static int decode_unit(SCPRContext *s, PixelModel *pixel, unsigned step, unsigned *rval)
     235             : {
     236           0 :     GetByteContext *gb = &s->gb;
     237           0 :     RangeCoder *rc = &s->rc;
     238           0 :     unsigned totfr = pixel->total_freq;
     239           0 :     unsigned value, x = 0, cumfr = 0, cnt_x = 0;
     240             :     int i, j, ret, c, cnt_c;
     241             : 
     242           0 :     if ((ret = s->get_freq(rc, totfr, &value)) < 0)
     243           0 :         return ret;
     244             : 
     245           0 :     while (x < 16) {
     246           0 :         cnt_x = pixel->lookup[x];
     247           0 :         if (value >= cumfr + cnt_x)
     248           0 :             cumfr += cnt_x;
     249             :         else
     250           0 :             break;
     251           0 :         x++;
     252             :     }
     253             : 
     254           0 :     c = x * 16;
     255           0 :     cnt_c = 0;
     256           0 :     while (c < 256) {
     257           0 :         cnt_c = pixel->freq[c];
     258           0 :         if (value >= cumfr + cnt_c)
     259           0 :             cumfr += cnt_c;
     260             :         else
     261           0 :             break;
     262           0 :         c++;
     263             :     }
     264           0 :     if (x >= 16 || c >= 256) {
     265           0 :         return AVERROR_INVALIDDATA;
     266             :     }
     267             : 
     268           0 :     if ((ret = s->decode(gb, rc, cumfr, cnt_c, totfr)) < 0)
     269           0 :         return ret;
     270             : 
     271           0 :     pixel->freq[c] = cnt_c + step;
     272           0 :     pixel->lookup[x] = cnt_x + step;
     273           0 :     totfr += step;
     274           0 :     if (totfr > BOT) {
     275           0 :         totfr = 0;
     276           0 :         for (i = 0; i < 256; i++) {
     277           0 :             unsigned nc = (pixel->freq[i] >> 1) + 1;
     278           0 :             pixel->freq[i] = nc;
     279           0 :             totfr += nc;
     280             :         }
     281           0 :         for (i = 0; i < 16; i++) {
     282           0 :             unsigned sum = 0;
     283           0 :             unsigned i16_17 = i << 4;
     284           0 :             for (j = 0; j < 16; j++)
     285           0 :                 sum += pixel->freq[i16_17 + j];
     286           0 :             pixel->lookup[i] = sum;
     287             :         }
     288             :     }
     289           0 :     pixel->total_freq = totfr;
     290             : 
     291           0 :     *rval = c & s->cbits;
     292             : 
     293           0 :     return 0;
     294             : }
     295             : 
     296           0 : static int decompress_i(AVCodecContext *avctx, uint32_t *dst, int linesize)
     297             : {
     298           0 :     SCPRContext *s = avctx->priv_data;
     299           0 :     GetByteContext *gb = &s->gb;
     300           0 :     int cx = 0, cx1 = 0, k = 0, clr = 0;
     301           0 :     int run, r, g, b, off, y = 0, x = 0, z, ret;
     302           0 :     unsigned backstep = linesize - avctx->width;
     303           0 :     const int cxshift = s->cxshift;
     304             :     unsigned lx, ly, ptype;
     305             : 
     306           0 :     reinit_tables(s);
     307           0 :     bytestream2_skip(gb, 2);
     308           0 :     init_rangecoder(&s->rc, gb);
     309             : 
     310           0 :     while (k < avctx->width + 1) {
     311           0 :         ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
     312           0 :         if (ret < 0)
     313           0 :             return ret;
     314             : 
     315           0 :         cx1 = (cx << 6) & 0xFC0;
     316           0 :         cx = r >> cxshift;
     317           0 :         ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
     318           0 :         if (ret < 0)
     319           0 :             return ret;
     320             : 
     321           0 :         cx1 = (cx << 6) & 0xFC0;
     322           0 :         cx = g >> cxshift;
     323           0 :         ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
     324           0 :         if (ret < 0)
     325           0 :             return ret;
     326             : 
     327           0 :         cx1 = (cx << 6) & 0xFC0;
     328           0 :         cx = b >> cxshift;
     329             : 
     330           0 :         ret = decode_value(s, s->run_model[0], 256, 400, &run);
     331           0 :         if (ret < 0)
     332           0 :             return ret;
     333             : 
     334           0 :         clr = (b << 16) + (g << 8) + r;
     335           0 :         k += run;
     336           0 :         while (run-- > 0) {
     337           0 :             if (y >= avctx->height)
     338           0 :                 return AVERROR_INVALIDDATA;
     339             : 
     340           0 :             dst[y * linesize + x] = clr;
     341           0 :             lx = x;
     342           0 :             ly = y;
     343           0 :             x++;
     344           0 :             if (x >= avctx->width) {
     345           0 :                 x = 0;
     346           0 :                 y++;
     347             :             }
     348             :         }
     349             :     }
     350           0 :     off = -linesize - 1;
     351           0 :     ptype = 0;
     352             : 
     353           0 :     while (x < avctx->width && y < avctx->height) {
     354           0 :         ret = decode_value(s, s->op_model[ptype], 6, 1000, &ptype);
     355           0 :         if (ret < 0)
     356           0 :             return ret;
     357           0 :         if (ptype == 0) {
     358           0 :             ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
     359           0 :             if (ret < 0)
     360           0 :                 return ret;
     361             : 
     362           0 :             cx1 = (cx << 6) & 0xFC0;
     363           0 :             cx = r >> cxshift;
     364           0 :             ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
     365           0 :             if (ret < 0)
     366           0 :                 return ret;
     367             : 
     368           0 :             cx1 = (cx << 6) & 0xFC0;
     369           0 :             cx = g >> cxshift;
     370           0 :             ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
     371           0 :             if (ret < 0)
     372           0 :                 return ret;
     373             : 
     374           0 :             clr = (b << 16) + (g << 8) + r;
     375             :         }
     376           0 :         if (ptype > 5)
     377           0 :             return AVERROR_INVALIDDATA;
     378           0 :         ret = decode_value(s, s->run_model[ptype], 256, 400, &run);
     379           0 :         if (ret < 0)
     380           0 :             return ret;
     381             : 
     382           0 :         switch (ptype) {
     383           0 :         case 0:
     384           0 :             while (run-- > 0) {
     385           0 :                 if (y >= avctx->height)
     386           0 :                     return AVERROR_INVALIDDATA;
     387             : 
     388           0 :                 dst[y * linesize + x] = clr;
     389           0 :                 lx = x;
     390           0 :                 ly = y;
     391           0 :                 x++;
     392           0 :                 if (x >= avctx->width) {
     393           0 :                     x = 0;
     394           0 :                     y++;
     395             :                 }
     396             :             }
     397           0 :             break;
     398           0 :         case 1:
     399           0 :             while (run-- > 0) {
     400           0 :                 if (y >= avctx->height)
     401           0 :                     return AVERROR_INVALIDDATA;
     402             : 
     403           0 :                 dst[y * linesize + x] = dst[ly * linesize + lx];
     404           0 :                 lx = x;
     405           0 :                 ly = y;
     406           0 :                 x++;
     407           0 :                 if (x >= avctx->width) {
     408           0 :                     x = 0;
     409           0 :                     y++;
     410             :                 }
     411             :             }
     412           0 :             clr = dst[ly * linesize + lx];
     413           0 :             break;
     414           0 :         case 2:
     415           0 :             while (run-- > 0) {
     416           0 :                 if (y < 1 || y >= avctx->height)
     417           0 :                     return AVERROR_INVALIDDATA;
     418             : 
     419           0 :                 clr = dst[y * linesize + x + off + 1];
     420           0 :                 dst[y * linesize + x] = clr;
     421           0 :                 lx = x;
     422           0 :                 ly = y;
     423           0 :                 x++;
     424           0 :                 if (x >= avctx->width) {
     425           0 :                     x = 0;
     426           0 :                     y++;
     427             :                 }
     428             :             }
     429           0 :             break;
     430           0 :         case 4:
     431           0 :             while (run-- > 0) {
     432           0 :                 uint8_t *odst = (uint8_t *)dst;
     433             : 
     434           0 :                 if (y < 1 || y >= avctx->height ||
     435           0 :                     (y == 1 && x == 0))
     436           0 :                     return AVERROR_INVALIDDATA;
     437             : 
     438           0 :                 if (x == 0) {
     439           0 :                     z = backstep;
     440             :                 } else {
     441           0 :                     z = 0;
     442             :                 }
     443             : 
     444           0 :                 r = odst[(ly * linesize + lx) * 4] +
     445           0 :                     odst[((y * linesize + x) + off - z) * 4 + 4] -
     446           0 :                     odst[((y * linesize + x) + off - z) * 4];
     447           0 :                 g = odst[(ly * linesize + lx) * 4 + 1] +
     448           0 :                     odst[((y * linesize + x) + off - z) * 4 + 5] -
     449           0 :                     odst[((y * linesize + x) + off - z) * 4 + 1];
     450           0 :                 b = odst[(ly * linesize + lx) * 4 + 2] +
     451           0 :                     odst[((y * linesize + x) + off - z) * 4 + 6] -
     452           0 :                     odst[((y * linesize + x) + off - z) * 4 + 2];
     453           0 :                 clr = ((b & 0xFF) << 16) + ((g & 0xFF) << 8) + (r & 0xFF);
     454           0 :                 dst[y * linesize + x] = clr;
     455           0 :                 lx = x;
     456           0 :                 ly = y;
     457           0 :                 x++;
     458           0 :                 if (x >= avctx->width) {
     459           0 :                     x = 0;
     460           0 :                     y++;
     461             :                 }
     462             :             }
     463           0 :             break;
     464           0 :         case 5:
     465           0 :             while (run-- > 0) {
     466           0 :                 if (y < 1 || y >= avctx->height ||
     467           0 :                     (y == 1 && x == 0))
     468           0 :                     return AVERROR_INVALIDDATA;
     469             : 
     470           0 :                 if (x == 0) {
     471           0 :                     z = backstep;
     472             :                 } else {
     473           0 :                     z = 0;
     474             :                 }
     475             : 
     476           0 :                 clr = dst[y * linesize + x + off - z];
     477           0 :                 dst[y * linesize + x] = clr;
     478           0 :                 lx = x;
     479           0 :                 ly = y;
     480           0 :                 x++;
     481           0 :                 if (x >= avctx->width) {
     482           0 :                     x = 0;
     483           0 :                     y++;
     484             :                 }
     485             :             }
     486           0 :             break;
     487             :         }
     488             : 
     489           0 :         if (avctx->bits_per_coded_sample == 16) {
     490           0 :             cx1 = (clr & 0x3F00) >> 2;
     491           0 :             cx = (clr & 0x3FFFFF) >> 16;
     492             :         } else {
     493           0 :             cx1 = (clr & 0xFC00) >> 4;
     494           0 :             cx = (clr & 0xFFFFFF) >> 18;
     495             :         }
     496             :     }
     497             : 
     498           0 :     return 0;
     499             : }
     500             : 
     501           0 : static int decompress_p(AVCodecContext *avctx,
     502             :                         uint32_t *dst, int linesize,
     503             :                         uint32_t *prev, int plinesize)
     504             : {
     505           0 :     SCPRContext *s = avctx->priv_data;
     506           0 :     GetByteContext *gb = &s->gb;
     507           0 :     int ret, temp, min, max, x, y, cx = 0, cx1 = 0;
     508           0 :     int backstep = linesize - avctx->width;
     509           0 :     const int cxshift = s->cxshift;
     510             : 
     511           0 :     if (bytestream2_get_byte(gb) == 0)
     512           0 :         return 0;
     513           0 :     bytestream2_skip(gb, 1);
     514           0 :     init_rangecoder(&s->rc, gb);
     515             : 
     516           0 :     ret  = decode_value(s, s->range_model, 256, 1, &min);
     517           0 :     ret |= decode_value(s, s->range_model, 256, 1, &temp);
     518           0 :     min += temp << 8;
     519           0 :     ret |= decode_value(s, s->range_model, 256, 1, &max);
     520           0 :     ret |= decode_value(s, s->range_model, 256, 1, &temp);
     521           0 :     if (ret < 0)
     522           0 :         return ret;
     523             : 
     524           0 :     max += temp << 8;
     525           0 :     memset(s->blocks, 0, sizeof(*s->blocks) * s->nbcount);
     526             : 
     527           0 :     while (min <= max) {
     528             :         int fill, count;
     529             : 
     530           0 :         ret  = decode_value(s, s->fill_model,  5,   10, &fill);
     531           0 :         ret |= decode_value(s, s->count_model, 256, 20, &count);
     532           0 :         if (ret < 0)
     533           0 :             return ret;
     534             : 
     535           0 :         while (min < s->nbcount && count-- > 0) {
     536           0 :             s->blocks[min++] = fill;
     537             :         }
     538             :     }
     539             : 
     540           0 :     for (y = 0; y < s->nby; y++) {
     541           0 :         for (x = 0; x < s->nbx; x++) {
     542           0 :             int sy1 = 0, sy2 = 16, sx1 = 0, sx2 = 16;
     543             : 
     544           0 :             if (s->blocks[y * s->nbx + x] == 0)
     545           0 :                 continue;
     546             : 
     547           0 :             if (((s->blocks[y * s->nbx + x] - 1) & 1) > 0) {
     548           0 :                 ret  = decode_value(s, s->sxy_model[0], 16, 100, &sx1);
     549           0 :                 ret |= decode_value(s, s->sxy_model[1], 16, 100, &sy1);
     550           0 :                 ret |= decode_value(s, s->sxy_model[2], 16, 100, &sx2);
     551           0 :                 ret |= decode_value(s, s->sxy_model[3], 16, 100, &sy2);
     552           0 :                 if (ret < 0)
     553           0 :                     return ret;
     554             : 
     555           0 :                 sx2++;
     556           0 :                 sy2++;
     557             :             }
     558           0 :             if (((s->blocks[y * s->nbx + x] - 1) & 2) > 0) {
     559           0 :                 int i, j, by = y * 16, bx = x * 16;
     560             :                 int mvx, mvy;
     561             : 
     562           0 :                 ret  = decode_value(s, s->mv_model[0], 512, 100, &mvx);
     563           0 :                 ret |= decode_value(s, s->mv_model[1], 512, 100, &mvy);
     564           0 :                 if (ret < 0)
     565           0 :                     return ret;
     566             : 
     567           0 :                 mvx -= 256;
     568           0 :                 mvy -= 256;
     569             : 
     570           0 :                 if (by + mvy + sy1 < 0 || bx + mvx + sx1 < 0 ||
     571           0 :                     by + mvy + sy1 >= avctx->height || bx + mvx + sx1 >= avctx->width)
     572           0 :                     return AVERROR_INVALIDDATA;
     573             : 
     574           0 :                 for (i = 0; i < sy2 - sy1 && (by + sy1 + i) < avctx->height && (by + mvy + sy1 + i) < avctx->height; i++) {
     575           0 :                     for (j = 0; j < sx2 - sx1 && (bx + sx1 + j) < avctx->width && (bx + mvx + sx1 + j) < avctx->width; j++) {
     576           0 :                         dst[(by + i + sy1) * linesize + bx + sx1 + j] = prev[(by + mvy + sy1 + i) * plinesize + bx + sx1 + mvx + j];
     577             :                     }
     578             :                 }
     579             :             } else {
     580           0 :                 int run, r, g, b, z, bx = x * 16 + sx1, by = y * 16 + sy1;
     581           0 :                 unsigned clr, ptype = 0;
     582             : 
     583           0 :                 for (; by < y * 16 + sy2 && by < avctx->height;) {
     584           0 :                     ret = decode_value(s, s->op_model[ptype], 6, 1000, &ptype);
     585           0 :                     if (ret < 0)
     586           0 :                         return ret;
     587           0 :                     if (ptype == 0) {
     588           0 :                         ret = decode_unit(s, &s->pixel_model[0][cx + cx1], 400, &r);
     589           0 :                         if (ret < 0)
     590           0 :                             return ret;
     591             : 
     592           0 :                         cx1 = (cx << 6) & 0xFC0;
     593           0 :                         cx = r >> cxshift;
     594           0 :                         ret = decode_unit(s, &s->pixel_model[1][cx + cx1], 400, &g);
     595           0 :                         if (ret < 0)
     596           0 :                             return ret;
     597             : 
     598           0 :                         cx1 = (cx << 6) & 0xFC0;
     599           0 :                         cx = g >> cxshift;
     600           0 :                         ret = decode_unit(s, &s->pixel_model[2][cx + cx1], 400, &b);
     601           0 :                         if (ret < 0)
     602           0 :                             return ret;
     603             : 
     604           0 :                         clr = (b << 16) + (g << 8) + r;
     605             :                     }
     606           0 :                     if (ptype > 5)
     607           0 :                         return AVERROR_INVALIDDATA;
     608           0 :                     ret = decode_value(s, s->run_model[ptype], 256, 400, &run);
     609           0 :                     if (ret < 0)
     610           0 :                         return ret;
     611             : 
     612           0 :                     switch (ptype) {
     613           0 :                     case 0:
     614           0 :                         while (run-- > 0) {
     615           0 :                             if (by >= avctx->height)
     616           0 :                                 return AVERROR_INVALIDDATA;
     617             : 
     618           0 :                             dst[by * linesize + bx] = clr;
     619           0 :                             bx++;
     620           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     621           0 :                                 bx = x * 16 + sx1;
     622           0 :                                 by++;
     623             :                             }
     624             :                         }
     625           0 :                         break;
     626           0 :                     case 1:
     627           0 :                         while (run-- > 0) {
     628           0 :                             if (bx == 0) {
     629           0 :                                 if (by < 1)
     630           0 :                                     return AVERROR_INVALIDDATA;
     631           0 :                                 z = backstep;
     632             :                             } else {
     633           0 :                                 z = 0;
     634             :                             }
     635             : 
     636           0 :                             if (by >= avctx->height)
     637           0 :                                 return AVERROR_INVALIDDATA;
     638             : 
     639           0 :                             clr = dst[by * linesize + bx - 1 - z];
     640           0 :                             dst[by * linesize + bx] = clr;
     641           0 :                             bx++;
     642           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     643           0 :                                 bx = x * 16 + sx1;
     644           0 :                                 by++;
     645             :                             }
     646             :                         }
     647           0 :                         break;
     648           0 :                     case 2:
     649           0 :                         while (run-- > 0) {
     650           0 :                             if (by < 1 || by >= avctx->height)
     651           0 :                                 return AVERROR_INVALIDDATA;
     652             : 
     653           0 :                             clr = dst[(by - 1) * linesize + bx];
     654           0 :                             dst[by * linesize + bx] = clr;
     655           0 :                             bx++;
     656           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     657           0 :                                 bx = x * 16 + sx1;
     658           0 :                                 by++;
     659             :                             }
     660             :                         }
     661           0 :                         break;
     662           0 :                     case 3:
     663           0 :                         while (run-- > 0) {
     664           0 :                             if (by >= avctx->height)
     665           0 :                                 return AVERROR_INVALIDDATA;
     666             : 
     667           0 :                             clr = prev[by * plinesize + bx];
     668           0 :                             dst[by * linesize + bx] = clr;
     669           0 :                             bx++;
     670           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     671           0 :                                 bx = x * 16 + sx1;
     672           0 :                                 by++;
     673             :                             }
     674             :                         }
     675           0 :                         break;
     676           0 :                     case 4:
     677           0 :                         while (run-- > 0) {
     678           0 :                             uint8_t *odst = (uint8_t *)dst;
     679             : 
     680           0 :                             if (by < 1 || by >= avctx->height)
     681           0 :                                 return AVERROR_INVALIDDATA;
     682             : 
     683           0 :                             if (bx == 0) {
     684           0 :                                 z = backstep;
     685             :                             } else {
     686           0 :                                 z = 0;
     687             :                             }
     688             : 
     689           0 :                             r = odst[((by - 1) * linesize + bx) * 4] +
     690           0 :                                 odst[(by * linesize + bx - 1 - z) * 4] -
     691           0 :                                 odst[((by - 1) * linesize + bx - 1 - z) * 4];
     692           0 :                             g = odst[((by - 1) * linesize + bx) * 4 + 1] +
     693           0 :                                 odst[(by * linesize + bx - 1 - z) * 4 + 1] -
     694           0 :                                 odst[((by - 1) * linesize + bx - 1 - z) * 4 + 1];
     695           0 :                             b = odst[((by - 1) * linesize + bx) * 4 + 2] +
     696           0 :                                 odst[(by * linesize + bx - 1 - z) * 4 + 2] -
     697           0 :                                 odst[((by - 1) * linesize + bx - 1 - z) * 4 + 2];
     698           0 :                             clr = ((b & 0xFF) << 16) + ((g & 0xFF) << 8) + (r & 0xFF);
     699           0 :                             dst[by * linesize + bx] = clr;
     700           0 :                             bx++;
     701           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     702           0 :                                 bx = x * 16 + sx1;
     703           0 :                                 by++;
     704             :                             }
     705             :                         }
     706           0 :                         break;
     707           0 :                     case 5:
     708           0 :                         while (run-- > 0) {
     709           0 :                             if (by < 1 || by >= avctx->height)
     710           0 :                                 return AVERROR_INVALIDDATA;
     711             : 
     712           0 :                             if (bx == 0) {
     713           0 :                                 z = backstep;
     714             :                             } else {
     715           0 :                                 z = 0;
     716             :                             }
     717             : 
     718           0 :                             clr = dst[(by - 1) * linesize + bx - 1 - z];
     719           0 :                             dst[by * linesize + bx] = clr;
     720           0 :                             bx++;
     721           0 :                             if (bx >= x * 16 + sx2 || bx >= avctx->width) {
     722           0 :                                 bx = x * 16 + sx1;
     723           0 :                                 by++;
     724             :                             }
     725             :                         }
     726           0 :                         break;
     727             :                     }
     728             : 
     729           0 :                     if (avctx->bits_per_coded_sample == 16) {
     730           0 :                         cx1 = (clr & 0x3F00) >> 2;
     731           0 :                         cx = (clr & 0x3FFFFF) >> 16;
     732             :                     } else {
     733           0 :                         cx1 = (clr & 0xFC00) >> 4;
     734           0 :                         cx = (clr & 0xFFFFFF) >> 18;
     735             :                     }
     736             :                 }
     737             :             }
     738             :         }
     739             :     }
     740             : 
     741           0 :     return 0;
     742             : }
     743             : 
     744           0 : static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame,
     745             :                         AVPacket *avpkt)
     746             : {
     747           0 :     SCPRContext *s = avctx->priv_data;
     748           0 :     GetByteContext *gb = &s->gb;
     749           0 :     AVFrame *frame = data;
     750             :     int ret, type;
     751             : 
     752           0 :     if (avctx->bits_per_coded_sample == 16) {
     753           0 :         if ((ret = ff_get_buffer(avctx, frame, 0)) < 0)
     754           0 :             return ret;
     755             :     }
     756             : 
     757           0 :     if ((ret = ff_reget_buffer(avctx, s->current_frame)) < 0)
     758           0 :         return ret;
     759             : 
     760           0 :     bytestream2_init(gb, avpkt->data, avpkt->size);
     761             : 
     762           0 :     type = bytestream2_peek_byte(gb);
     763             : 
     764           0 :     if (type == 2) {
     765           0 :         s->get_freq = get_freq0;
     766           0 :         s->decode = decode0;
     767           0 :         frame->key_frame = 1;
     768           0 :         ret = decompress_i(avctx, (uint32_t *)s->current_frame->data[0],
     769           0 :                            s->current_frame->linesize[0] / 4);
     770           0 :     } else if (type == 18) {
     771           0 :         s->get_freq = get_freq;
     772           0 :         s->decode = decode;
     773           0 :         frame->key_frame = 1;
     774           0 :         ret = decompress_i(avctx, (uint32_t *)s->current_frame->data[0],
     775           0 :                            s->current_frame->linesize[0] / 4);
     776           0 :     } else if (type == 17) {
     777           0 :         uint32_t clr, *dst = (uint32_t *)s->current_frame->data[0];
     778             :         int x, y;
     779             : 
     780           0 :         frame->key_frame = 1;
     781           0 :         bytestream2_skip(gb, 1);
     782           0 :         if (avctx->bits_per_coded_sample == 16) {
     783           0 :             uint16_t value = bytestream2_get_le16(gb);
     784             :             int r, g, b;
     785             : 
     786           0 :             r = (value      ) & 31;
     787           0 :             g = (value >>  5) & 31;
     788           0 :             b = (value >> 10) & 31;
     789           0 :             clr = (r << 16) + (g << 8) + b;
     790             :         } else {
     791           0 :             clr = bytestream2_get_le24(gb);
     792             :         }
     793           0 :         for (y = 0; y < avctx->height; y++) {
     794           0 :             for (x = 0; x < avctx->width; x++) {
     795           0 :                 dst[x] = clr;
     796             :             }
     797           0 :             dst += s->current_frame->linesize[0] / 4;
     798             :         }
     799           0 :     } else if (type == 0 || type == 1) {
     800           0 :         frame->key_frame = 0;
     801             : 
     802           0 :         ret = av_frame_copy(s->current_frame, s->last_frame);
     803           0 :         if (ret < 0)
     804           0 :             return ret;
     805             : 
     806           0 :         ret = decompress_p(avctx, (uint32_t *)s->current_frame->data[0],
     807           0 :                            s->current_frame->linesize[0] / 4,
     808           0 :                            (uint32_t *)s->last_frame->data[0],
     809           0 :                            s->last_frame->linesize[0] / 4);
     810             :     } else {
     811           0 :         return AVERROR_PATCHWELCOME;
     812             :     }
     813             : 
     814           0 :     if (ret < 0)
     815           0 :         return ret;
     816             : 
     817           0 :     if (avctx->bits_per_coded_sample != 16) {
     818           0 :         ret = av_frame_ref(data, s->current_frame);
     819           0 :         if (ret < 0)
     820           0 :             return ret;
     821             :     } else {
     822           0 :         uint8_t *dst = frame->data[0];
     823             :         int x, y;
     824             : 
     825           0 :         ret = av_frame_copy(frame, s->current_frame);
     826           0 :         if (ret < 0)
     827           0 :             return ret;
     828             : 
     829             :         // scale up each sample by 8
     830           0 :         for (y = 0; y < avctx->height; y++) {
     831             :             // If the image is sufficiently aligned, compute 8 samples at once
     832           0 :             if (!(((uintptr_t)dst) & 7)) {
     833           0 :                 uint64_t *dst64 = (uint64_t *)dst;
     834           0 :                 int w = avctx->width>>1;
     835           0 :                 for (x = 0; x < w; x++) {
     836           0 :                     dst64[x] = (dst64[x] << 3) & 0xFCFCFCFCFCFCFCFCULL;
     837             :                 }
     838           0 :                 x *= 8;
     839             :             } else
     840           0 :                 x = 0;
     841           0 :             for (; x < avctx->width * 4; x++) {
     842           0 :                 dst[x] = dst[x] << 3;
     843             :             }
     844           0 :             dst += frame->linesize[0];
     845             :         }
     846             :     }
     847             : 
     848           0 :     frame->pict_type = frame->key_frame ? AV_PICTURE_TYPE_I : AV_PICTURE_TYPE_P;
     849             : 
     850           0 :     FFSWAP(AVFrame *, s->current_frame, s->last_frame);
     851             : 
     852           0 :     frame->data[0]     += frame->linesize[0] * (avctx->height - 1);
     853           0 :     frame->linesize[0] *= -1;
     854             : 
     855           0 :     *got_frame = 1;
     856             : 
     857           0 :     return avpkt->size;
     858             : }
     859             : 
     860           0 : static av_cold int decode_init(AVCodecContext *avctx)
     861             : {
     862           0 :     SCPRContext *s = avctx->priv_data;
     863             : 
     864           0 :     switch (avctx->bits_per_coded_sample) {
     865           0 :     case 16: avctx->pix_fmt = AV_PIX_FMT_RGB0; break;
     866           0 :     case 24:
     867           0 :     case 32: avctx->pix_fmt = AV_PIX_FMT_BGR0; break;
     868           0 :     default:
     869           0 :         av_log(avctx, AV_LOG_ERROR, "Unsupported bitdepth %i\n", avctx->bits_per_coded_sample);
     870           0 :         return AVERROR_INVALIDDATA;
     871             :     }
     872             : 
     873           0 :     s->get_freq = get_freq0;
     874           0 :     s->decode = decode0;
     875             : 
     876           0 :     s->cxshift = avctx->bits_per_coded_sample == 16 ? 0 : 2;
     877           0 :     s->cbits = avctx->bits_per_coded_sample == 16 ? 0x1F : 0xFF;
     878           0 :     s->nbx = (avctx->width + 15) / 16;
     879           0 :     s->nby = (avctx->height + 15) / 16;
     880           0 :     s->nbcount = s->nbx * s->nby;
     881           0 :     s->blocks = av_malloc_array(s->nbcount, sizeof(*s->blocks));
     882           0 :     if (!s->blocks)
     883           0 :         return AVERROR(ENOMEM);
     884             : 
     885           0 :     s->last_frame = av_frame_alloc();
     886           0 :     s->current_frame = av_frame_alloc();
     887           0 :     if (!s->last_frame || !s->current_frame)
     888           0 :         return AVERROR(ENOMEM);
     889             : 
     890           0 :     return 0;
     891             : }
     892             : 
     893           0 : static av_cold int decode_close(AVCodecContext *avctx)
     894             : {
     895           0 :     SCPRContext *s = avctx->priv_data;
     896             : 
     897           0 :     av_freep(&s->blocks);
     898           0 :     av_frame_free(&s->last_frame);
     899           0 :     av_frame_free(&s->current_frame);
     900             : 
     901           0 :     return 0;
     902             : }
     903             : 
     904             : AVCodec ff_scpr_decoder = {
     905             :     .name             = "scpr",
     906             :     .long_name        = NULL_IF_CONFIG_SMALL("ScreenPressor"),
     907             :     .type             = AVMEDIA_TYPE_VIDEO,
     908             :     .id               = AV_CODEC_ID_SCPR,
     909             :     .priv_data_size   = sizeof(SCPRContext),
     910             :     .init             = decode_init,
     911             :     .close            = decode_close,
     912             :     .decode           = decode_frame,
     913             :     .capabilities     = AV_CODEC_CAP_DR1,
     914             :     .caps_internal    = FF_CODEC_CAP_INIT_THREADSAFE |
     915             :                         FF_CODEC_CAP_INIT_CLEANUP,
     916             : };

Generated by: LCOV version 1.13