LCOV - code coverage report
Current view: top level - libavcodec - bink.c (source / functions) Hit Total Coverage
Test: coverage.info Lines: 650 775 83.9 %
Date: 2017-12-13 10:57:33 Functions: 28 29 96.6 %

          Line data    Source code
       1             : /*
       2             :  * Bink video decoder
       3             :  * Copyright (c) 2009 Konstantin Shishkov
       4             :  * Copyright (C) 2011 Peter Ross <pross@xvid.org>
       5             :  *
       6             :  * This file is part of FFmpeg.
       7             :  *
       8             :  * FFmpeg is free software; you can redistribute it and/or
       9             :  * modify it under the terms of the GNU Lesser General Public
      10             :  * License as published by the Free Software Foundation; either
      11             :  * version 2.1 of the License, or (at your option) any later version.
      12             :  *
      13             :  * FFmpeg is distributed in the hope that it will be useful,
      14             :  * but WITHOUT ANY WARRANTY; without even the implied warranty of
      15             :  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
      16             :  * Lesser General Public License for more details.
      17             :  *
      18             :  * You should have received a copy of the GNU Lesser General Public
      19             :  * License along with FFmpeg; if not, write to the Free Software
      20             :  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
      21             :  */
      22             : 
      23             : #include "libavutil/attributes.h"
      24             : #include "libavutil/imgutils.h"
      25             : #include "libavutil/internal.h"
      26             : 
      27             : #define BITSTREAM_READER_LE
      28             : #include "avcodec.h"
      29             : #include "binkdata.h"
      30             : #include "binkdsp.h"
      31             : #include "blockdsp.h"
      32             : #include "get_bits.h"
      33             : #include "hpeldsp.h"
      34             : #include "internal.h"
      35             : #include "mathops.h"
      36             : 
      37             : #define BINK_FLAG_ALPHA 0x00100000
      38             : #define BINK_FLAG_GRAY  0x00020000
      39             : 
      40             : static VLC bink_trees[16];
      41             : 
      42             : /**
      43             :  * IDs for different data types used in old version of Bink video codec
      44             :  */
      45             : enum OldSources {
      46             :     BINKB_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
      47             :     BINKB_SRC_COLORS,          ///< pixel values used for different block types
      48             :     BINKB_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
      49             :     BINKB_SRC_X_OFF,           ///< X components of motion value
      50             :     BINKB_SRC_Y_OFF,           ///< Y components of motion value
      51             :     BINKB_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
      52             :     BINKB_SRC_INTER_DC,        ///< DC values for interblocks with DCT
      53             :     BINKB_SRC_INTRA_Q,         ///< quantizer values for intrablocks with DCT
      54             :     BINKB_SRC_INTER_Q,         ///< quantizer values for interblocks with DCT
      55             :     BINKB_SRC_INTER_COEFS,     ///< number of coefficients for residue blocks
      56             : 
      57             :     BINKB_NB_SRC
      58             : };
      59             : 
      60             : static const int binkb_bundle_sizes[BINKB_NB_SRC] = {
      61             :     4, 8, 8, 5, 5, 11, 11, 4, 4, 7
      62             : };
      63             : 
      64             : static const int binkb_bundle_signed[BINKB_NB_SRC] = {
      65             :     0, 0, 0, 1, 1, 0, 1, 0, 0, 0
      66             : };
      67             : 
      68             : static int32_t binkb_intra_quant[16][64];
      69             : static int32_t binkb_inter_quant[16][64];
      70             : 
      71             : /**
      72             :  * IDs for different data types used in Bink video codec
      73             :  */
      74             : enum Sources {
      75             :     BINK_SRC_BLOCK_TYPES = 0, ///< 8x8 block types
      76             :     BINK_SRC_SUB_BLOCK_TYPES, ///< 16x16 block types (a subset of 8x8 block types)
      77             :     BINK_SRC_COLORS,          ///< pixel values used for different block types
      78             :     BINK_SRC_PATTERN,         ///< 8-bit values for 2-colour pattern fill
      79             :     BINK_SRC_X_OFF,           ///< X components of motion value
      80             :     BINK_SRC_Y_OFF,           ///< Y components of motion value
      81             :     BINK_SRC_INTRA_DC,        ///< DC values for intrablocks with DCT
      82             :     BINK_SRC_INTER_DC,        ///< DC values for interblocks with DCT
      83             :     BINK_SRC_RUN,             ///< run lengths for special fill block
      84             : 
      85             :     BINK_NB_SRC
      86             : };
      87             : 
      88             : /**
      89             :  * data needed to decode 4-bit Huffman-coded value
      90             :  */
      91             : typedef struct Tree {
      92             :     int     vlc_num;  ///< tree number (in bink_trees[])
      93             :     uint8_t syms[16]; ///< leaf value to symbol mapping
      94             : } Tree;
      95             : 
      96             : #define GET_HUFF(gb, tree)  (tree).syms[get_vlc2(gb, bink_trees[(tree).vlc_num].table,\
      97             :                                                  bink_trees[(tree).vlc_num].bits, 1)]
      98             : 
      99             : /**
     100             :  * data structure used for decoding single Bink data type
     101             :  */
     102             : typedef struct Bundle {
     103             :     int     len;       ///< length of number of entries to decode (in bits)
     104             :     Tree    tree;      ///< Huffman tree-related data
     105             :     uint8_t *data;     ///< buffer for decoded symbols
     106             :     uint8_t *data_end; ///< buffer end
     107             :     uint8_t *cur_dec;  ///< pointer to the not yet decoded part of the buffer
     108             :     uint8_t *cur_ptr;  ///< pointer to the data that is not read from buffer yet
     109             : } Bundle;
     110             : 
     111             : /*
     112             :  * Decoder context
     113             :  */
     114             : typedef struct BinkContext {
     115             :     AVCodecContext *avctx;
     116             :     BlockDSPContext bdsp;
     117             :     HpelDSPContext hdsp;
     118             :     BinkDSPContext binkdsp;
     119             :     AVFrame        *last;
     120             :     int            version;              ///< internal Bink file version
     121             :     int            has_alpha;
     122             :     int            swap_planes;
     123             :     unsigned       frame_num;
     124             : 
     125             :     Bundle         bundle[BINKB_NB_SRC]; ///< bundles for decoding all data types
     126             :     Tree           col_high[16];         ///< trees for decoding high nibble in "colours" data type
     127             :     int            col_lastval;          ///< value of last decoded high nibble in "colours" data type
     128             : } BinkContext;
     129             : 
     130             : /**
     131             :  * Bink video block types
     132             :  */
     133             : enum BlockTypes {
     134             :     SKIP_BLOCK = 0, ///< skipped block
     135             :     SCALED_BLOCK,   ///< block has size 16x16
     136             :     MOTION_BLOCK,   ///< block is copied from previous frame with some offset
     137             :     RUN_BLOCK,      ///< block is composed from runs of colours with custom scan order
     138             :     RESIDUE_BLOCK,  ///< motion block with some difference added
     139             :     INTRA_BLOCK,    ///< intra DCT block
     140             :     FILL_BLOCK,     ///< block is filled with single colour
     141             :     INTER_BLOCK,    ///< motion block with DCT applied to the difference
     142             :     PATTERN_BLOCK,  ///< block is filled with two colours following custom pattern
     143             :     RAW_BLOCK,      ///< uncoded 8x8 block
     144             : };
     145             : 
     146             : /**
     147             :  * Initialize length in all bundles.
     148             :  *
     149             :  * @param c     decoder context
     150             :  * @param width plane width
     151             :  * @param bw    plane width in 8x8 blocks
     152             :  */
     153         153 : static void init_lengths(BinkContext *c, int width, int bw)
     154             : {
     155         153 :     width = FFALIGN(width, 8);
     156             : 
     157         153 :     c->bundle[BINK_SRC_BLOCK_TYPES].len = av_log2((width >> 3) + 511) + 1;
     158             : 
     159         153 :     c->bundle[BINK_SRC_SUB_BLOCK_TYPES].len = av_log2((width >> 4) + 511) + 1;
     160             : 
     161         153 :     c->bundle[BINK_SRC_COLORS].len = av_log2(bw*64 + 511) + 1;
     162             : 
     163         153 :     c->bundle[BINK_SRC_INTRA_DC].len =
     164         153 :     c->bundle[BINK_SRC_INTER_DC].len =
     165         153 :     c->bundle[BINK_SRC_X_OFF].len =
     166         153 :     c->bundle[BINK_SRC_Y_OFF].len = av_log2((width >> 3) + 511) + 1;
     167             : 
     168         153 :     c->bundle[BINK_SRC_PATTERN].len = av_log2((bw << 3) + 511) + 1;
     169             : 
     170         153 :     c->bundle[BINK_SRC_RUN].len = av_log2(bw*48 + 511) + 1;
     171         153 : }
     172             : 
     173             : /**
     174             :  * Allocate memory for bundles.
     175             :  *
     176             :  * @param c decoder context
     177             :  */
     178           9 : static av_cold int init_bundles(BinkContext *c)
     179             : {
     180             :     int bw, bh, blocks;
     181             :     int i;
     182             : 
     183           9 :     bw = (c->avctx->width  + 7) >> 3;
     184           9 :     bh = (c->avctx->height + 7) >> 3;
     185           9 :     blocks = bw * bh;
     186             : 
     187          99 :     for (i = 0; i < BINKB_NB_SRC; i++) {
     188          90 :         c->bundle[i].data = av_mallocz(blocks * 64);
     189          90 :         if (!c->bundle[i].data)
     190           0 :             return AVERROR(ENOMEM);
     191          90 :         c->bundle[i].data_end = c->bundle[i].data + blocks * 64;
     192             :     }
     193             : 
     194           9 :     return 0;
     195             : }
     196             : 
     197             : /**
     198             :  * Free memory used by bundles.
     199             :  *
     200             :  * @param c decoder context
     201             :  */
     202           9 : static av_cold void free_bundles(BinkContext *c)
     203             : {
     204             :     int i;
     205          99 :     for (i = 0; i < BINKB_NB_SRC; i++)
     206          90 :         av_freep(&c->bundle[i].data);
     207           9 : }
     208             : 
     209             : /**
     210             :  * Merge two consequent lists of equal size depending on bits read.
     211             :  *
     212             :  * @param gb   context for reading bits
     213             :  * @param dst  buffer where merged list will be written to
     214             :  * @param src  pointer to the head of the first list (the second lists starts at src+size)
     215             :  * @param size input lists size
     216             :  */
     217        1600 : static void merge(GetBitContext *gb, uint8_t *dst, uint8_t *src, int size)
     218             : {
     219        1600 :     uint8_t *src2 = src + size;
     220        1600 :     int size2 = size;
     221             : 
     222             :     do {
     223        3761 :         if (!get_bits1(gb)) {
     224        2289 :             *dst++ = *src++;
     225        2289 :             size--;
     226             :         } else {
     227        1472 :             *dst++ = *src2++;
     228        1472 :             size2--;
     229             :         }
     230        3761 :     } while (size && size2);
     231             : 
     232        4151 :     while (size--)
     233         951 :         *dst++ = *src++;
     234        4968 :     while (size2--)
     235        1768 :         *dst++ = *src2++;
     236        1600 : }
     237             : 
     238             : /**
     239             :  * Read information about Huffman tree used to decode data.
     240             :  *
     241             :  * @param gb   context for reading bits
     242             :  * @param tree pointer for storing tree data
     243             :  */
     244        3519 : static void read_tree(GetBitContext *gb, Tree *tree)
     245             : {
     246        3519 :     uint8_t tmp1[16] = { 0 }, tmp2[16], *in = tmp1, *out = tmp2;
     247             :     int i, t, len;
     248             : 
     249        3519 :     tree->vlc_num = get_bits(gb, 4);
     250        3519 :     if (!tree->vlc_num) {
     251       26163 :         for (i = 0; i < 16; i++)
     252       24624 :             tree->syms[i] = i;
     253        1539 :         return;
     254             :     }
     255        1980 :     if (get_bits1(gb)) {
     256        1871 :         len = get_bits(gb, 3);
     257        8413 :         for (i = 0; i <= len; i++) {
     258        6542 :             tree->syms[i] = get_bits(gb, 4);
     259        6542 :             tmp1[tree->syms[i]] = 1;
     260             :         }
     261       30950 :         for (i = 0; i < 16 && len < 16 - 1; i++)
     262       29079 :             if (!tmp1[i])
     263       23394 :                 tree->syms[++len] = i;
     264             :     } else {
     265         109 :         len = get_bits(gb, 2);
     266        1853 :         for (i = 0; i < 16; i++)
     267        1744 :             in[i] = i;
     268         514 :         for (i = 0; i <= len; i++) {
     269         405 :             int size = 1 << i;
     270        2005 :             for (t = 0; t < 16; t += size << 1)
     271        1600 :                 merge(gb, out + t, in + t, size);
     272         405 :             FFSWAP(uint8_t*, in, out);
     273             :         }
     274         109 :         memcpy(tree->syms, in, 16);
     275             :     }
     276             : }
     277             : 
     278             : /**
     279             :  * Prepare bundle for decoding data.
     280             :  *
     281             :  * @param gb          context for reading bits
     282             :  * @param c           decoder context
     283             :  * @param bundle_num  number of the bundle to initialize
     284             :  */
     285        1377 : static void read_bundle(GetBitContext *gb, BinkContext *c, int bundle_num)
     286             : {
     287             :     int i;
     288             : 
     289        1377 :     if (bundle_num == BINK_SRC_COLORS) {
     290        2601 :         for (i = 0; i < 16; i++)
     291        2448 :             read_tree(gb, &c->col_high[i]);
     292         153 :         c->col_lastval = 0;
     293             :     }
     294        1377 :     if (bundle_num != BINK_SRC_INTRA_DC && bundle_num != BINK_SRC_INTER_DC)
     295        1071 :         read_tree(gb, &c->bundle[bundle_num].tree);
     296        1377 :     c->bundle[bundle_num].cur_dec =
     297        1377 :     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
     298        1377 : }
     299             : 
     300             : /**
     301             :  * common check before starting decoding bundle data
     302             :  *
     303             :  * @param gb context for reading bits
     304             :  * @param b  bundle
     305             :  * @param t  variable where number of elements to decode will be stored
     306             :  */
     307             : #define CHECK_READ_VAL(gb, b, t) \
     308             :     if (!b->cur_dec || (b->cur_dec > b->cur_ptr)) \
     309             :         return 0; \
     310             :     t = get_bits(gb, b->len); \
     311             :     if (!t) { \
     312             :         b->cur_dec = NULL; \
     313             :         return 0; \
     314             :     } \
     315             : 
     316        6120 : static int read_runs(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
     317             : {
     318             :     int t, v;
     319             :     const uint8_t *dec_end;
     320             : 
     321        6120 :     CHECK_READ_VAL(gb, b, t);
     322         285 :     dec_end = b->cur_dec + t;
     323         285 :     if (dec_end > b->data_end) {
     324           0 :         av_log(avctx, AV_LOG_ERROR, "Run value went out of bounds\n");
     325           0 :         return AVERROR_INVALIDDATA;
     326             :     }
     327         285 :     if (get_bits1(gb)) {
     328           0 :         v = get_bits(gb, 4);
     329           0 :         memset(b->cur_dec, v, t);
     330           0 :         b->cur_dec += t;
     331             :     } else {
     332       97383 :         while (b->cur_dec < dec_end)
     333       96813 :             *b->cur_dec++ = GET_HUFF(gb, b->tree);
     334             :     }
     335         285 :     return 0;
     336             : }
     337             : 
     338       12240 : static int read_motion_values(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
     339             : {
     340             :     int t, sign, v;
     341             :     const uint8_t *dec_end;
     342             : 
     343       12240 :     CHECK_READ_VAL(gb, b, t);
     344         572 :     dec_end = b->cur_dec + t;
     345         572 :     if (dec_end > b->data_end) {
     346           0 :         av_log(avctx, AV_LOG_ERROR, "Too many motion values\n");
     347           0 :         return AVERROR_INVALIDDATA;
     348             :     }
     349         572 :     if (get_bits1(gb)) {
     350           0 :         v = get_bits(gb, 4);
     351           0 :         if (v) {
     352           0 :             sign = -get_bits1(gb);
     353           0 :             v = (v ^ sign) - sign;
     354             :         }
     355           0 :         memset(b->cur_dec, v, t);
     356           0 :         b->cur_dec += t;
     357             :     } else {
     358      221736 :         while (b->cur_dec < dec_end) {
     359      220592 :             v = GET_HUFF(gb, b->tree);
     360      220592 :             if (v) {
     361      207492 :                 sign = -get_bits1(gb);
     362      207492 :                 v = (v ^ sign) - sign;
     363             :             }
     364      220592 :             *b->cur_dec++ = v;
     365             :         }
     366             :     }
     367         572 :     return 0;
     368             : }
     369             : 
     370             : static const uint8_t bink_rlelens[4] = { 4, 8, 12, 32 };
     371             : 
     372       12240 : static int read_block_types(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
     373             : {
     374             :     int t, v;
     375       12240 :     int last = 0;
     376             :     const uint8_t *dec_end;
     377             : 
     378       12240 :     CHECK_READ_VAL(gb, b, t);
     379         832 :     dec_end = b->cur_dec + t;
     380         832 :     if (dec_end > b->data_end) {
     381           0 :         av_log(avctx, AV_LOG_ERROR, "Too many block type values\n");
     382           0 :         return AVERROR_INVALIDDATA;
     383             :     }
     384         832 :     if (get_bits1(gb)) {
     385           0 :         v = get_bits(gb, 4);
     386           0 :         memset(b->cur_dec, v, t);
     387           0 :         b->cur_dec += t;
     388             :     } else {
     389      253084 :         while (b->cur_dec < dec_end) {
     390      251420 :             v = GET_HUFF(gb, b->tree);
     391      251420 :             if (v < 12) {
     392      238193 :                 last = v;
     393      238193 :                 *b->cur_dec++ = v;
     394             :             } else {
     395       13227 :                 int run = bink_rlelens[v - 12];
     396             : 
     397       13227 :                 if (dec_end - b->cur_dec < run)
     398           0 :                     return AVERROR_INVALIDDATA;
     399       13227 :                 memset(b->cur_dec, last, run);
     400       13227 :                 b->cur_dec += run;
     401             :             }
     402             :         }
     403             :     }
     404         832 :     return 0;
     405             : }
     406             : 
     407        6120 : static int read_patterns(AVCodecContext *avctx, GetBitContext *gb, Bundle *b)
     408             : {
     409             :     int t, v;
     410             :     const uint8_t *dec_end;
     411             : 
     412        6120 :     CHECK_READ_VAL(gb, b, t);
     413         206 :     dec_end = b->cur_dec + t;
     414         206 :     if (dec_end > b->data_end) {
     415           0 :         av_log(avctx, AV_LOG_ERROR, "Too many pattern values\n");
     416           0 :         return AVERROR_INVALIDDATA;
     417             :     }
     418       53708 :     while (b->cur_dec < dec_end) {
     419       53296 :         v  = GET_HUFF(gb, b->tree);
     420       53296 :         v |= GET_HUFF(gb, b->tree) << 4;
     421       53296 :         *b->cur_dec++ = v;
     422             :     }
     423             : 
     424         206 :     return 0;
     425             : }
     426             : 
     427        6120 : static int read_colors(GetBitContext *gb, Bundle *b, BinkContext *c)
     428             : {
     429             :     int t, sign, v;
     430             :     const uint8_t *dec_end;
     431             : 
     432        6120 :     CHECK_READ_VAL(gb, b, t);
     433         410 :     dec_end = b->cur_dec + t;
     434         410 :     if (dec_end > b->data_end) {
     435           0 :         av_log(c->avctx, AV_LOG_ERROR, "Too many color values\n");
     436           0 :         return AVERROR_INVALIDDATA;
     437             :     }
     438         410 :     if (get_bits1(gb)) {
     439           0 :         c->col_lastval = GET_HUFF(gb, c->col_high[c->col_lastval]);
     440           0 :         v = GET_HUFF(gb, b->tree);
     441           0 :         v = (c->col_lastval << 4) | v;
     442           0 :         if (c->version < 'i') {
     443           0 :             sign = ((int8_t) v) >> 7;
     444           0 :             v = ((v & 0x7F) ^ sign) - sign;
     445           0 :             v += 0x80;
     446             :         }
     447           0 :         memset(b->cur_dec, v, t);
     448           0 :         b->cur_dec += t;
     449             :     } else {
     450      191692 :         while (b->cur_dec < dec_end) {
     451      190872 :             c->col_lastval = GET_HUFF(gb, c->col_high[c->col_lastval]);
     452      190872 :             v = GET_HUFF(gb, b->tree);
     453      190872 :             v = (c->col_lastval << 4) | v;
     454      190872 :             if (c->version < 'i') {
     455      148464 :                 sign = ((int8_t) v) >> 7;
     456      148464 :                 v = ((v & 0x7F) ^ sign) - sign;
     457      148464 :                 v += 0x80;
     458             :             }
     459      190872 :             *b->cur_dec++ = v;
     460             :         }
     461             :     }
     462         410 :     return 0;
     463             : }
     464             : 
     465             : /** number of bits used to store first DC value in bundle */
     466             : #define DC_START_BITS 11
     467             : 
     468       12240 : static int read_dcs(AVCodecContext *avctx, GetBitContext *gb, Bundle *b,
     469             :                     int start_bits, int has_sign)
     470             : {
     471             :     int i, j, len, len2, bsize, sign, v, v2;
     472       12240 :     int16_t *dst     = (int16_t*)b->cur_dec;
     473       12240 :     int16_t *dst_end = (int16_t*)b->data_end;
     474             : 
     475       12240 :     CHECK_READ_VAL(gb, b, len);
     476         332 :     v = get_bits(gb, start_bits - has_sign);
     477         332 :     if (v && has_sign) {
     478         129 :         sign = -get_bits1(gb);
     479         129 :         v = (v ^ sign) - sign;
     480             :     }
     481         332 :     if (dst_end - dst < 1)
     482           0 :         return AVERROR_INVALIDDATA;
     483         332 :     *dst++ = v;
     484         332 :     len--;
     485        6125 :     for (i = 0; i < len; i += 8) {
     486        5793 :         len2 = FFMIN(len - i, 8);
     487        5793 :         if (dst_end - dst < len2)
     488           0 :             return AVERROR_INVALIDDATA;
     489        5793 :         bsize = get_bits(gb, 4);
     490        5793 :         if (bsize) {
     491       50942 :             for (j = 0; j < len2; j++) {
     492       45153 :                 v2 = get_bits(gb, bsize);
     493       45153 :                 if (v2) {
     494       42581 :                     sign = -get_bits1(gb);
     495       42581 :                     v2 = (v2 ^ sign) - sign;
     496             :                 }
     497       45153 :                 v += v2;
     498       45153 :                 *dst++ = v;
     499       45153 :                 if (v < -32768 || v > 32767) {
     500           0 :                     av_log(avctx, AV_LOG_ERROR, "DC value went out of bounds: %d\n", v);
     501           0 :                     return AVERROR_INVALIDDATA;
     502             :                 }
     503             :             }
     504             :         } else {
     505          22 :             for (j = 0; j < len2; j++)
     506          18 :                 *dst++ = v;
     507             :         }
     508             :     }
     509             : 
     510         332 :     b->cur_dec = (uint8_t*)dst;
     511         332 :     return 0;
     512             : }
     513             : 
     514             : /**
     515             :  * Retrieve next value from bundle.
     516             :  *
     517             :  * @param c      decoder context
     518             :  * @param bundle bundle number
     519             :  */
     520      939741 : static inline int get_value(BinkContext *c, int bundle)
     521             : {
     522             :     int ret;
     523             : 
     524      939741 :     if (bundle < BINK_SRC_X_OFF || bundle == BINK_SRC_RUN)
     525      673646 :         return *c->bundle[bundle].cur_ptr++;
     526      266095 :     if (bundle == BINK_SRC_X_OFF || bundle == BINK_SRC_Y_OFF)
     527      220592 :         return (int8_t)*c->bundle[bundle].cur_ptr++;
     528       45503 :     ret = *(int16_t*)c->bundle[bundle].cur_ptr;
     529       45503 :     c->bundle[bundle].cur_ptr += 2;
     530       45503 :     return ret;
     531             : }
     532             : 
     533         900 : static av_cold void binkb_init_bundle(BinkContext *c, int bundle_num)
     534             : {
     535         900 :     c->bundle[bundle_num].cur_dec =
     536         900 :     c->bundle[bundle_num].cur_ptr = c->bundle[bundle_num].data;
     537         900 :     c->bundle[bundle_num].len = 13;
     538         900 : }
     539             : 
     540          90 : static av_cold void binkb_init_bundles(BinkContext *c)
     541             : {
     542             :     int i;
     543         990 :     for (i = 0; i < BINKB_NB_SRC; i++)
     544         900 :         binkb_init_bundle(c, i);
     545          90 : }
     546             : 
     547        9300 : static int binkb_read_bundle(BinkContext *c, GetBitContext *gb, int bundle_num)
     548             : {
     549        9300 :     const int bits = binkb_bundle_sizes[bundle_num];
     550        9300 :     const int mask = 1 << (bits - 1);
     551        9300 :     const int issigned = binkb_bundle_signed[bundle_num];
     552        9300 :     Bundle *b = &c->bundle[bundle_num];
     553             :     int i, len;
     554             : 
     555        9300 :     CHECK_READ_VAL(gb, b, len);
     556         468 :     if (b->data_end - b->cur_dec < len * (1 + (bits > 8)))
     557           0 :         return AVERROR_INVALIDDATA;
     558         468 :     if (bits <= 8) {
     559         463 :         if (!issigned) {
     560       40084 :             for (i = 0; i < len; i++)
     561       39801 :                 *b->cur_dec++ = get_bits(gb, bits);
     562             :         } else {
     563       27350 :             for (i = 0; i < len; i++)
     564       27170 :                 *b->cur_dec++ = get_bits(gb, bits) - mask;
     565             :         }
     566             :     } else {
     567           5 :         int16_t *dst = (int16_t*)b->cur_dec;
     568             : 
     569           5 :         if (!issigned) {
     570           0 :             for (i = 0; i < len; i++)
     571           0 :                 *dst++ = get_bits(gb, bits);
     572             :         } else {
     573          10 :             for (i = 0; i < len; i++)
     574           5 :                 *dst++ = get_bits(gb, bits) - mask;
     575             :         }
     576           5 :         b->cur_dec = (uint8_t*)dst;
     577             :     }
     578         468 :     return 0;
     579             : }
     580             : 
     581       61472 : static inline int binkb_get_value(BinkContext *c, int bundle_num)
     582             : {
     583             :     int16_t ret;
     584       61472 :     const int bits = binkb_bundle_sizes[bundle_num];
     585             : 
     586       61472 :     if (bits <= 8) {
     587       61467 :         int val = *c->bundle[bundle_num].cur_ptr++;
     588       61467 :         return binkb_bundle_signed[bundle_num] ? (int8_t)val : val;
     589             :     }
     590           5 :     ret = *(int16_t*)c->bundle[bundle_num].cur_ptr;
     591           5 :     c->bundle[bundle_num].cur_ptr += 2;
     592           5 :     return ret;
     593             : }
     594             : 
     595             : /**
     596             :  * Read 8x8 block of DCT coefficients.
     597             :  *
     598             :  * @param gb       context for reading bits
     599             :  * @param block    place for storing coefficients
     600             :  * @param scan     scan order table
     601             :  * @param quant_matrices quantization matrices
     602             :  * @return 0 for success, negative value in other cases
     603             :  */
     604       45508 : static int read_dct_coeffs(GetBitContext *gb, int32_t block[64],
     605             :                            const uint8_t *scan, int *coef_count_,
     606             :                            int coef_idx[64], int q)
     607             : {
     608             :     int coef_list[128];
     609             :     int mode_list[128];
     610             :     int i, t, bits, ccoef, mode, sign;
     611       45508 :     int list_start = 64, list_end = 64, list_pos;
     612       45508 :     int coef_count = 0;
     613             :     int quant_idx;
     614             : 
     615       45508 :     coef_list[list_end] = 4;  mode_list[list_end++] = 0;
     616       45508 :     coef_list[list_end] = 24; mode_list[list_end++] = 0;
     617       45508 :     coef_list[list_end] = 44; mode_list[list_end++] = 0;
     618       45508 :     coef_list[list_end] = 1;  mode_list[list_end++] = 3;
     619       45508 :     coef_list[list_end] = 2;  mode_list[list_end++] = 3;
     620       45508 :     coef_list[list_end] = 3;  mode_list[list_end++] = 3;
     621             : 
     622      147042 :     for (bits = get_bits(gb, 4) - 1; bits >= 0; bits--) {
     623      101534 :         list_pos = list_start;
     624     1185801 :         while (list_pos < list_end) {
     625      982733 :             if (!(mode_list[list_pos] | coef_list[list_pos]) || !get_bits1(gb)) {
     626      671039 :                 list_pos++;
     627      671039 :                 continue;
     628             :             }
     629      311694 :             ccoef = coef_list[list_pos];
     630      311694 :             mode  = mode_list[list_pos];
     631      311694 :             switch (mode) {
     632       66858 :             case 0:
     633       66858 :                 coef_list[list_pos] = ccoef + 4;
     634       66858 :                 mode_list[list_pos] = 1;
     635      121182 :             case 2:
     636      121182 :                 if (mode == 2) {
     637       54324 :                     coef_list[list_pos]   = 0;
     638       54324 :                     mode_list[list_pos++] = 0;
     639             :                 }
     640      605910 :                 for (i = 0; i < 4; i++, ccoef++) {
     641      484728 :                     if (get_bits1(gb)) {
     642      291256 :                         coef_list[--list_start] = ccoef;
     643      291256 :                         mode_list[  list_start] = 3;
     644             :                     } else {
     645      193472 :                         if (!bits) {
     646      131103 :                             t = 1 - (get_bits1(gb) << 1);
     647             :                         } else {
     648       62369 :                             t = get_bits(gb, bits) | 1 << bits;
     649       62369 :                             sign = -get_bits1(gb);
     650       62369 :                             t = (t ^ sign) - sign;
     651             :                         }
     652      193472 :                         block[scan[ccoef]] = t;
     653      193472 :                         coef_idx[coef_count++] = ccoef;
     654             :                     }
     655             :                 }
     656      121182 :                 break;
     657       25484 :             case 1:
     658       25484 :                 mode_list[list_pos] = 2;
     659      101936 :                 for (i = 0; i < 3; i++) {
     660       76452 :                     ccoef += 4;
     661       76452 :                     coef_list[list_end]   = ccoef;
     662       76452 :                     mode_list[list_end++] = 2;
     663             :                 }
     664       25484 :                 break;
     665      165028 :             case 3:
     666      165028 :                 if (!bits) {
     667       92955 :                     t = 1 - (get_bits1(gb) << 1);
     668             :                 } else {
     669       72073 :                     t = get_bits(gb, bits) | 1 << bits;
     670       72073 :                     sign = -get_bits1(gb);
     671       72073 :                     t = (t ^ sign) - sign;
     672             :                 }
     673      165028 :                 block[scan[ccoef]] = t;
     674      165028 :                 coef_idx[coef_count++] = ccoef;
     675      165028 :                 coef_list[list_pos]   = 0;
     676      165028 :                 mode_list[list_pos++] = 0;
     677      165028 :                 break;
     678             :             }
     679             :         }
     680             :     }
     681             : 
     682       45508 :     if (q == -1) {
     683       45503 :         quant_idx = get_bits(gb, 4);
     684             :     } else {
     685           5 :         quant_idx = q;
     686           5 :         if (quant_idx > 15U) {
     687           0 :             av_log(NULL, AV_LOG_ERROR, "quant_index %d out of range\n", quant_idx);
     688           0 :             return AVERROR_INVALIDDATA;
     689             :         }
     690             :     }
     691             : 
     692       45508 :     *coef_count_ = coef_count;
     693             : 
     694       45508 :     return quant_idx;
     695             : }
     696             : 
     697       45508 : static void unquantize_dct_coeffs(int32_t block[64], const int32_t quant[64],
     698             :                                   int coef_count, int coef_idx[64],
     699             :                                   const uint8_t *scan)
     700             : {
     701             :     int i;
     702       45508 :     block[0] = (block[0] * quant[0]) >> 11;
     703      404008 :     for (i = 0; i < coef_count; i++) {
     704      358500 :         int idx = coef_idx[i];
     705      358500 :         block[scan[idx]] = (block[scan[idx]] * quant[idx]) >> 11;
     706             :     }
     707       45508 : }
     708             : 
     709             : /**
     710             :  * Read 8x8 block with residue after motion compensation.
     711             :  *
     712             :  * @param gb          context for reading bits
     713             :  * @param block       place to store read data
     714             :  * @param masks_count number of masks to decode
     715             :  * @return 0 on success, negative value in other cases
     716             :  */
     717       17330 : static int read_residue(GetBitContext *gb, int16_t block[64], int masks_count)
     718             : {
     719             :     int coef_list[128];
     720             :     int mode_list[128];
     721             :     int i, sign, mask, ccoef, mode;
     722       17330 :     int list_start = 64, list_end = 64, list_pos;
     723             :     int nz_coeff[64];
     724       17330 :     int nz_coeff_count = 0;
     725             : 
     726       17330 :     coef_list[list_end] =  4; mode_list[list_end++] = 0;
     727       17330 :     coef_list[list_end] = 24; mode_list[list_end++] = 0;
     728       17330 :     coef_list[list_end] = 44; mode_list[list_end++] = 0;
     729       17330 :     coef_list[list_end] =  0; mode_list[list_end++] = 2;
     730             : 
     731       26427 :     for (mask = 1 << get_bits(gb, 3); mask; mask >>= 1) {
     732       92594 :         for (i = 0; i < nz_coeff_count; i++) {
     733       67080 :             if (!get_bits1(gb))
     734       42197 :                 continue;
     735       24883 :             if (block[nz_coeff[i]] < 0)
     736       11567 :                 block[nz_coeff[i]] -= mask;
     737             :             else
     738       13316 :                 block[nz_coeff[i]] += mask;
     739       24883 :             masks_count--;
     740       24883 :             if (masks_count < 0)
     741         913 :                 return 0;
     742             :         }
     743       25514 :         list_pos = list_start;
     744      382436 :         while (list_pos < list_end) {
     745      347825 :             if (!(coef_list[list_pos] | mode_list[list_pos]) || !get_bits1(gb)) {
     746      194572 :                 list_pos++;
     747      194572 :                 continue;
     748             :             }
     749      153253 :             ccoef = coef_list[list_pos];
     750      153253 :             mode  = mode_list[list_pos];
     751      153253 :             switch (mode) {
     752       33694 :             case 0:
     753       33694 :                 coef_list[list_pos] = ccoef + 4;
     754       33694 :                 mode_list[list_pos] = 1;
     755       91973 :             case 2:
     756       91973 :                 if (mode == 2) {
     757       58279 :                     coef_list[list_pos]   = 0;
     758       58279 :                     mode_list[list_pos++] = 0;
     759             :                 }
     760      423685 :                 for (i = 0; i < 4; i++, ccoef++) {
     761      346698 :                     if (get_bits1(gb)) {
     762      249374 :                         coef_list[--list_start] = ccoef;
     763      249374 :                         mode_list[  list_start] = 3;
     764             :                     } else {
     765       97324 :                         nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
     766       97324 :                         sign = -get_bits1(gb);
     767       97324 :                         block[bink_scan[ccoef]] = (mask ^ sign) - sign;
     768       97324 :                         masks_count--;
     769       97324 :                         if (masks_count < 0)
     770       14986 :                             return 0;
     771             :                     }
     772             :                 }
     773       76987 :                 break;
     774       29117 :             case 1:
     775       29117 :                 mode_list[list_pos] = 2;
     776      116468 :                 for (i = 0; i < 3; i++) {
     777       87351 :                     ccoef += 4;
     778       87351 :                     coef_list[list_end]   = ccoef;
     779       87351 :                     mode_list[list_end++] = 2;
     780             :                 }
     781       29117 :                 break;
     782       32163 :             case 3:
     783       32163 :                 nz_coeff[nz_coeff_count++] = bink_scan[ccoef];
     784       32163 :                 sign = -get_bits1(gb);
     785       32163 :                 block[bink_scan[ccoef]] = (mask ^ sign) - sign;
     786       32163 :                 coef_list[list_pos]   = 0;
     787       32163 :                 mode_list[list_pos++] = 0;
     788       32163 :                 masks_count--;
     789       32163 :                 if (masks_count < 0)
     790        1431 :                     return 0;
     791       30732 :                 break;
     792             :             }
     793             :         }
     794             :     }
     795             : 
     796           0 :     return 0;
     797             : }
     798             : 
     799             : /**
     800             :  * Copy 8x8 block from source to destination, where src and dst may be overlapped
     801             :  */
     802       13417 : static inline void put_pixels8x8_overlapped(uint8_t *dst, uint8_t *src, int stride)
     803             : {
     804             :     uint8_t tmp[64];
     805             :     int i;
     806      120753 :     for (i = 0; i < 8; i++)
     807      107336 :         memcpy(tmp + i*8, src + i*stride, 8);
     808      120753 :     for (i = 0; i < 8; i++)
     809      107336 :         memcpy(dst + i*stride, tmp + i*8, 8);
     810       13417 : }
     811             : 
     812          90 : static int binkb_decode_plane(BinkContext *c, AVFrame *frame, GetBitContext *gb,
     813             :                               int plane_idx, int is_key, int is_chroma)
     814             : {
     815             :     int blk, ret;
     816             :     int i, j, bx, by;
     817             :     uint8_t *dst, *ref, *ref_start, *ref_end;
     818             :     int v, col[2];
     819             :     const uint8_t *scan;
     820             :     int xoff, yoff;
     821          90 :     LOCAL_ALIGNED_32(int16_t, block, [64]);
     822          90 :     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
     823             :     int coordmap[64];
     824          90 :     int ybias = is_key ? -15 : 0;
     825             :     int qp, quant_idx, coef_count, coef_idx[64];
     826             : 
     827          90 :     const int stride = frame->linesize[plane_idx];
     828          90 :     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
     829          90 :     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
     830             : 
     831          90 :     binkb_init_bundles(c);
     832          90 :     ref_start = frame->data[plane_idx];
     833          90 :     ref_end   = frame->data[plane_idx] + (bh * frame->linesize[plane_idx] + bw) * 8;
     834             : 
     835        5850 :     for (i = 0; i < 64; i++)
     836        5760 :         coordmap[i] = (i & 7) + (i >> 3) * stride;
     837             : 
     838        1020 :     for (by = 0; by < bh; by++) {
     839       10230 :         for (i = 0; i < BINKB_NB_SRC; i++) {
     840        9300 :             if ((ret = binkb_read_bundle(c, gb, i)) < 0)
     841           0 :                 return ret;
     842             :         }
     843             : 
     844         930 :         dst  = frame->data[plane_idx]  + 8*by*stride;
     845       18420 :         for (bx = 0; bx < bw; bx++, dst += 8) {
     846       17490 :             blk = binkb_get_value(c, BINKB_SRC_BLOCK_TYPES);
     847       17490 :             switch (blk) {
     848        3593 :             case 0:
     849        3593 :                 break;
     850         184 :             case 1:
     851         184 :                 scan = bink_patterns[get_bits(gb, 4)];
     852         184 :                 i = 0;
     853             :                 do {
     854             :                     int mode, run;
     855             : 
     856        1732 :                     mode = get_bits1(gb);
     857        1732 :                     run = get_bits(gb, binkb_runbits[i]) + 1;
     858             : 
     859        1732 :                     i += run;
     860        1732 :                     if (i > 64) {
     861           0 :                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
     862           0 :                         return AVERROR_INVALIDDATA;
     863             :                     }
     864        1732 :                     if (mode) {
     865        1172 :                         v = binkb_get_value(c, BINKB_SRC_COLORS);
     866       11075 :                         for (j = 0; j < run; j++)
     867        9903 :                             dst[coordmap[*scan++]] = v;
     868             :                     } else {
     869        2388 :                         for (j = 0; j < run; j++)
     870        1828 :                             dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
     871             :                     }
     872        1732 :                 } while (i < 63);
     873         184 :                 if (i == 63)
     874          45 :                     dst[coordmap[*scan++]] = binkb_get_value(c, BINKB_SRC_COLORS);
     875         184 :                 break;
     876           0 :             case 2:
     877           0 :                 memset(dctblock, 0, sizeof(*dctblock) * 64);
     878           0 :                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTRA_DC);
     879           0 :                 qp = binkb_get_value(c, BINKB_SRC_INTRA_Q);
     880           0 :                 if ((quant_idx = read_dct_coeffs(gb, dctblock, bink_scan, &coef_count, coef_idx, qp)) < 0)
     881           0 :                     return quant_idx;
     882           0 :                 unquantize_dct_coeffs(dctblock, binkb_intra_quant[quant_idx], coef_count, coef_idx, bink_scan);
     883           0 :                 c->binkdsp.idct_put(dst, stride, dctblock);
     884           0 :                 break;
     885       13580 :             case 3:
     886       13580 :                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
     887       13580 :                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
     888       13580 :                 ref = dst + xoff + yoff * stride;
     889       13580 :                 if (ref < ref_start || ref + 8*stride > ref_end) {
     890           0 :                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
     891       13580 :                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
     892         168 :                     c->hdsp.put_pixels_tab[1][0](dst, ref, stride, 8);
     893             :                 } else {
     894       13412 :                     put_pixels8x8_overlapped(dst, ref, stride);
     895             :                 }
     896       13580 :                 c->bdsp.clear_block(block);
     897       13580 :                 v = binkb_get_value(c, BINKB_SRC_INTER_COEFS);
     898       13580 :                 read_residue(gb, block, v);
     899       13580 :                 c->binkdsp.add_pixels8(dst, block, stride);
     900       13580 :                 break;
     901           5 :             case 4:
     902           5 :                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
     903           5 :                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
     904           5 :                 ref = dst + xoff + yoff * stride;
     905           5 :                 if (ref < ref_start || ref + 8 * stride > ref_end) {
     906           0 :                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
     907           5 :                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
     908           0 :                     c->hdsp.put_pixels_tab[1][0](dst, ref, stride, 8);
     909             :                 } else {
     910           5 :                     put_pixels8x8_overlapped(dst, ref, stride);
     911             :                 }
     912           5 :                 memset(dctblock, 0, sizeof(*dctblock) * 64);
     913           5 :                 dctblock[0] = binkb_get_value(c, BINKB_SRC_INTER_DC);
     914           5 :                 qp = binkb_get_value(c, BINKB_SRC_INTER_Q);
     915           5 :                 if ((quant_idx = read_dct_coeffs(gb, dctblock, bink_scan, &coef_count, coef_idx, qp)) < 0)
     916           0 :                     return quant_idx;
     917           5 :                 unquantize_dct_coeffs(dctblock, binkb_inter_quant[quant_idx], coef_count, coef_idx, bink_scan);
     918           5 :                 c->binkdsp.idct_add(dst, stride, dctblock);
     919           5 :                 break;
     920          27 :             case 5:
     921          27 :                 v = binkb_get_value(c, BINKB_SRC_COLORS);
     922          27 :                 c->bdsp.fill_block_tab[1](dst, v, stride, 8);
     923          27 :                 break;
     924          15 :             case 6:
     925          45 :                 for (i = 0; i < 2; i++)
     926          30 :                     col[i] = binkb_get_value(c, BINKB_SRC_COLORS);
     927         135 :                 for (i = 0; i < 8; i++) {
     928         120 :                     v = binkb_get_value(c, BINKB_SRC_PATTERN);
     929        1080 :                     for (j = 0; j < 8; j++, v >>= 1)
     930         960 :                         dst[i*stride + j] = col[v & 1];
     931             :                 }
     932          15 :                 break;
     933           0 :             case 7:
     934           0 :                 xoff = binkb_get_value(c, BINKB_SRC_X_OFF);
     935           0 :                 yoff = binkb_get_value(c, BINKB_SRC_Y_OFF) + ybias;
     936           0 :                 ref = dst + xoff + yoff * stride;
     937           0 :                 if (ref < ref_start || ref + 8 * stride > ref_end) {
     938           0 :                     av_log(c->avctx, AV_LOG_WARNING, "Reference block is out of bounds\n");
     939           0 :                 } else if (ref + 8*stride < dst || ref >= dst + 8*stride) {
     940           0 :                     c->hdsp.put_pixels_tab[1][0](dst, ref, stride, 8);
     941             :                 } else {
     942           0 :                     put_pixels8x8_overlapped(dst, ref, stride);
     943             :                 }
     944           0 :                 break;
     945          86 :             case 8:
     946         774 :                 for (i = 0; i < 8; i++)
     947         688 :                     memcpy(dst + i*stride, c->bundle[BINKB_SRC_COLORS].cur_ptr + i*8, 8);
     948          86 :                 c->bundle[BINKB_SRC_COLORS].cur_ptr += 64;
     949          86 :                 break;
     950           0 :             default:
     951           0 :                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
     952           0 :                 return AVERROR_INVALIDDATA;
     953             :             }
     954             :         }
     955             :     }
     956          90 :     if (get_bits_count(gb) & 0x1F) //next plane data starts at 32-bit boundary
     957          87 :         skip_bits_long(gb, 32 - (get_bits_count(gb) & 0x1F));
     958             : 
     959          90 :     return 0;
     960             : }
     961             : 
     962      110296 : static int bink_put_pixels(BinkContext *c,
     963             :                            uint8_t *dst, uint8_t *prev, int stride,
     964             :                            uint8_t *ref_start,
     965             :                            uint8_t *ref_end)
     966             : {
     967      110296 :     int xoff     = get_value(c, BINK_SRC_X_OFF);
     968      110296 :     int yoff     = get_value(c, BINK_SRC_Y_OFF);
     969      110296 :     uint8_t *ref = prev + xoff + yoff * stride;
     970      110296 :     if (ref < ref_start || ref > ref_end) {
     971           0 :         av_log(c->avctx, AV_LOG_ERROR, "Copy out of bounds @%d, %d\n",
     972             :                xoff, yoff);
     973           0 :         return AVERROR_INVALIDDATA;
     974             :     }
     975      110296 :     c->hdsp.put_pixels_tab[1][0](dst, ref, stride, 8);
     976             : 
     977      110296 :     return 0;
     978             : }
     979             : 
     980         153 : static int bink_decode_plane(BinkContext *c, AVFrame *frame, GetBitContext *gb,
     981             :                              int plane_idx, int is_chroma)
     982             : {
     983             :     int blk, ret;
     984             :     int i, j, bx, by;
     985             :     uint8_t *dst, *prev, *ref_start, *ref_end;
     986             :     int v, col[2];
     987             :     const uint8_t *scan;
     988         153 :     LOCAL_ALIGNED_32(int16_t, block, [64]);
     989         153 :     LOCAL_ALIGNED_16(uint8_t, ublock, [64]);
     990         153 :     LOCAL_ALIGNED_16(int32_t, dctblock, [64]);
     991             :     int coordmap[64], quant_idx, coef_count, coef_idx[64];
     992             : 
     993         153 :     const int stride = frame->linesize[plane_idx];
     994         153 :     int bw = is_chroma ? (c->avctx->width  + 15) >> 4 : (c->avctx->width  + 7) >> 3;
     995         153 :     int bh = is_chroma ? (c->avctx->height + 15) >> 4 : (c->avctx->height + 7) >> 3;
     996         153 :     int width = c->avctx->width >> is_chroma;
     997             : 
     998         153 :     init_lengths(c, FFMAX(width, 8), bw);
     999        1530 :     for (i = 0; i < BINK_NB_SRC; i++)
    1000        1377 :         read_bundle(gb, c, i);
    1001             : 
    1002         453 :     ref_start = c->last->data[plane_idx] ? c->last->data[plane_idx]
    1003         300 :                                          : frame->data[plane_idx];
    1004         153 :     ref_end   = ref_start
    1005         153 :                 + (bw - 1 + c->last->linesize[plane_idx] * (bh - 1)) * 8;
    1006             : 
    1007        9945 :     for (i = 0; i < 64; i++)
    1008        9792 :         coordmap[i] = (i & 7) + (i >> 3) * stride;
    1009             : 
    1010        6273 :     for (by = 0; by < bh; by++) {
    1011        6120 :         if ((ret = read_block_types(c->avctx, gb, &c->bundle[BINK_SRC_BLOCK_TYPES])) < 0)
    1012           0 :             return ret;
    1013        6120 :         if ((ret = read_block_types(c->avctx, gb, &c->bundle[BINK_SRC_SUB_BLOCK_TYPES])) < 0)
    1014           0 :             return ret;
    1015        6120 :         if ((ret = read_colors(gb, &c->bundle[BINK_SRC_COLORS], c)) < 0)
    1016           0 :             return ret;
    1017        6120 :         if ((ret = read_patterns(c->avctx, gb, &c->bundle[BINK_SRC_PATTERN])) < 0)
    1018           0 :             return ret;
    1019        6120 :         if ((ret = read_motion_values(c->avctx, gb, &c->bundle[BINK_SRC_X_OFF])) < 0)
    1020           0 :             return ret;
    1021        6120 :         if ((ret = read_motion_values(c->avctx, gb, &c->bundle[BINK_SRC_Y_OFF])) < 0)
    1022           0 :             return ret;
    1023        6120 :         if ((ret = read_dcs(c->avctx, gb, &c->bundle[BINK_SRC_INTRA_DC], DC_START_BITS, 0)) < 0)
    1024           0 :             return ret;
    1025        6120 :         if ((ret = read_dcs(c->avctx, gb, &c->bundle[BINK_SRC_INTER_DC], DC_START_BITS, 1)) < 0)
    1026           0 :             return ret;
    1027        6120 :         if ((ret = read_runs(c->avctx, gb, &c->bundle[BINK_SRC_RUN])) < 0)
    1028           0 :             return ret;
    1029             : 
    1030        6120 :         if (by == bh)
    1031           0 :             break;
    1032        6120 :         dst  = frame->data[plane_idx]  + 8*by*stride;
    1033       18120 :         prev = (c->last->data[plane_idx] ? c->last->data[plane_idx]
    1034       12000 :                                          : frame->data[plane_idx]) + 8*by*stride;
    1035      320890 :         for (bx = 0; bx < bw; bx++, dst += 8, prev += 8) {
    1036      314770 :             blk = get_value(c, BINK_SRC_BLOCK_TYPES);
    1037             :             // 16x16 block type on odd line means part of the already decoded block, so skip it
    1038      314770 :             if ((by & 1) && blk == SCALED_BLOCK) {
    1039       26215 :                 bx++;
    1040       26215 :                 dst  += 8;
    1041       26215 :                 prev += 8;
    1042       26215 :                 continue;
    1043             :             }
    1044      288555 :             switch (blk) {
    1045       85550 :             case SKIP_BLOCK:
    1046       85550 :                 c->hdsp.put_pixels_tab[1][0](dst, prev, stride, 8);
    1047       85550 :                 break;
    1048       26215 :             case SCALED_BLOCK:
    1049       26215 :                 blk = get_value(c, BINK_SRC_SUB_BLOCK_TYPES);
    1050       26215 :                 switch (blk) {
    1051         902 :                 case RUN_BLOCK:
    1052         902 :                     scan = bink_patterns[get_bits(gb, 4)];
    1053         902 :                     i = 0;
    1054             :                     do {
    1055        6551 :                         int run = get_value(c, BINK_SRC_RUN) + 1;
    1056             : 
    1057        6551 :                         i += run;
    1058        6551 :                         if (i > 64) {
    1059           0 :                             av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
    1060           0 :                             return AVERROR_INVALIDDATA;
    1061             :                         }
    1062        6551 :                         if (get_bits1(gb)) {
    1063        5908 :                             v = get_value(c, BINK_SRC_COLORS);
    1064       62492 :                             for (j = 0; j < run; j++)
    1065       56584 :                                 ublock[*scan++] = v;
    1066             :                         } else {
    1067        1690 :                             for (j = 0; j < run; j++)
    1068        1047 :                                 ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
    1069             :                         }
    1070        6551 :                     } while (i < 63);
    1071         902 :                     if (i == 63)
    1072          97 :                         ublock[*scan++] = get_value(c, BINK_SRC_COLORS);
    1073         902 :                     break;
    1074       19454 :                 case INTRA_BLOCK:
    1075       19454 :                     memset(dctblock, 0, sizeof(*dctblock) * 64);
    1076       19454 :                     dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
    1077       19454 :                     if ((quant_idx = read_dct_coeffs(gb, dctblock, bink_scan, &coef_count, coef_idx, -1)) < 0)
    1078           0 :                         return quant_idx;
    1079       19454 :                     unquantize_dct_coeffs(dctblock, bink_intra_quant[quant_idx], coef_count, coef_idx, bink_scan);
    1080       19454 :                     c->binkdsp.idct_put(ublock, 8, dctblock);
    1081       19454 :                     break;
    1082        5108 :                 case FILL_BLOCK:
    1083        5108 :                     v = get_value(c, BINK_SRC_COLORS);
    1084        5108 :                     c->bdsp.fill_block_tab[0](dst, v, stride, 16);
    1085        5108 :                     break;
    1086         751 :                 case PATTERN_BLOCK:
    1087        2253 :                     for (i = 0; i < 2; i++)
    1088        1502 :                         col[i] = get_value(c, BINK_SRC_COLORS);
    1089        6759 :                     for (j = 0; j < 8; j++) {
    1090        6008 :                         v = get_value(c, BINK_SRC_PATTERN);
    1091       54072 :                         for (i = 0; i < 8; i++, v >>= 1)
    1092       48064 :                             ublock[i + j*8] = col[v & 1];
    1093             :                     }
    1094         751 :                     break;
    1095           0 :                 case RAW_BLOCK:
    1096           0 :                     for (j = 0; j < 8; j++)
    1097           0 :                         for (i = 0; i < 8; i++)
    1098           0 :                             ublock[i + j*8] = get_value(c, BINK_SRC_COLORS);
    1099           0 :                     break;
    1100           0 :                 default:
    1101           0 :                     av_log(c->avctx, AV_LOG_ERROR, "Incorrect 16x16 block type %d\n", blk);
    1102           0 :                     return AVERROR_INVALIDDATA;
    1103             :                 }
    1104       26215 :                 if (blk != FILL_BLOCK)
    1105       21107 :                 c->binkdsp.scale_block(ublock, dst, stride);
    1106       26215 :                 bx++;
    1107       26215 :                 dst  += 8;
    1108       26215 :                 prev += 8;
    1109       26215 :                 break;
    1110       97378 :             case MOTION_BLOCK:
    1111       97378 :                 ret = bink_put_pixels(c, dst, prev, stride,
    1112             :                                       ref_start, ref_end);
    1113       97378 :                 if (ret < 0)
    1114           0 :                     return ret;
    1115       97378 :                 break;
    1116       11625 :             case RUN_BLOCK:
    1117       11625 :                 scan = bink_patterns[get_bits(gb, 4)];
    1118       11625 :                 i = 0;
    1119             :                 do {
    1120       90262 :                     int run = get_value(c, BINK_SRC_RUN) + 1;
    1121             : 
    1122       90262 :                     i += run;
    1123       90262 :                     if (i > 64) {
    1124           0 :                         av_log(c->avctx, AV_LOG_ERROR, "Run went out of bounds\n");
    1125           0 :                         return AVERROR_INVALIDDATA;
    1126             :                     }
    1127       90262 :                     if (get_bits1(gb)) {
    1128       76178 :                         v = get_value(c, BINK_SRC_COLORS);
    1129      771235 :                         for (j = 0; j < run; j++)
    1130      695057 :                             dst[coordmap[*scan++]] = v;
    1131             :                     } else {
    1132       62125 :                         for (j = 0; j < run; j++)
    1133       48041 :                             dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
    1134             :                     }
    1135       90262 :                 } while (i < 63);
    1136       11625 :                 if (i == 63)
    1137         902 :                     dst[coordmap[*scan++]] = get_value(c, BINK_SRC_COLORS);
    1138       11625 :                 break;
    1139        3750 :             case RESIDUE_BLOCK:
    1140        3750 :                 ret = bink_put_pixels(c, dst, prev, stride,
    1141             :                                       ref_start, ref_end);
    1142        3750 :                 if (ret < 0)
    1143           0 :                     return ret;
    1144        3750 :                 c->bdsp.clear_block(block);
    1145        3750 :                 v = get_bits(gb, 7);
    1146        3750 :                 read_residue(gb, block, v);
    1147        3750 :                 c->binkdsp.add_pixels8(dst, block, stride);
    1148        3750 :                 break;
    1149       16881 :             case INTRA_BLOCK:
    1150       16881 :                 memset(dctblock, 0, sizeof(*dctblock) * 64);
    1151       16881 :                 dctblock[0] = get_value(c, BINK_SRC_INTRA_DC);
    1152       16881 :                 if ((quant_idx = read_dct_coeffs(gb, dctblock, bink_scan, &coef_count, coef_idx, -1)) < 0)
    1153           0 :                     return quant_idx;
    1154       16881 :                 unquantize_dct_coeffs(dctblock, bink_intra_quant[quant_idx], coef_count, coef_idx, bink_scan);
    1155       16881 :                 c->binkdsp.idct_put(dst, stride, dctblock);
    1156       16881 :                 break;
    1157       31947 :             case FILL_BLOCK:
    1158       31947 :                 v = get_value(c, BINK_SRC_COLORS);
    1159       31947 :                 c->bdsp.fill_block_tab[1](dst, v, stride, 8);
    1160       31947 :                 break;
    1161        9168 :             case INTER_BLOCK:
    1162        9168 :                 ret = bink_put_pixels(c, dst, prev, stride,
    1163             :                                       ref_start, ref_end);
    1164        9168 :                 if (ret < 0)
    1165           0 :                     return ret;
    1166        9168 :                 memset(dctblock, 0, sizeof(*dctblock) * 64);
    1167        9168 :                 dctblock[0] = get_value(c, BINK_SRC_INTER_DC);
    1168        9168 :                 if ((quant_idx = read_dct_coeffs(gb, dctblock, bink_scan, &coef_count, coef_idx, -1)) < 0)
    1169           0 :                     return quant_idx;
    1170        9168 :                 unquantize_dct_coeffs(dctblock, bink_inter_quant[quant_idx], coef_count, coef_idx, bink_scan);
    1171        9168 :                 c->binkdsp.idct_add(dst, stride, dctblock);
    1172        9168 :                 break;
    1173        5911 :             case PATTERN_BLOCK:
    1174       17733 :                 for (i = 0; i < 2; i++)
    1175       11822 :                     col[i] = get_value(c, BINK_SRC_COLORS);
    1176       53199 :                 for (i = 0; i < 8; i++) {
    1177       47288 :                     v = get_value(c, BINK_SRC_PATTERN);
    1178      425592 :                     for (j = 0; j < 8; j++, v >>= 1)
    1179      378304 :                         dst[i*stride + j] = col[v & 1];
    1180             :                 }
    1181        5911 :                 break;
    1182         130 :             case RAW_BLOCK:
    1183        1170 :                 for (i = 0; i < 8; i++)
    1184        1040 :                     memcpy(dst + i*stride, c->bundle[BINK_SRC_COLORS].cur_ptr + i*8, 8);
    1185         130 :                 c->bundle[BINK_SRC_COLORS].cur_ptr += 64;
    1186         130 :                 break;
    1187           0 :             default:
    1188           0 :                 av_log(c->avctx, AV_LOG_ERROR, "Unknown block type %d\n", blk);
    1189           0 :                 return AVERROR_INVALIDDATA;
    1190             :             }
    1191             :         }
    1192             :     }
    1193         153 :     if (get_bits_count(gb) & 0x1F) //next plane data starts at 32-bit boundary
    1194         151 :         skip_bits_long(gb, 32 - (get_bits_count(gb) & 0x1F));
    1195             : 
    1196         153 :     return 0;
    1197             : }
    1198             : 
    1199          81 : static int decode_frame(AVCodecContext *avctx, void *data, int *got_frame, AVPacket *pkt)
    1200             : {
    1201          81 :     BinkContext * const c = avctx->priv_data;
    1202          81 :     AVFrame *frame = data;
    1203             :     GetBitContext gb;
    1204             :     int plane, plane_idx, ret;
    1205          81 :     int bits_count = pkt->size << 3;
    1206             : 
    1207          81 :     if (c->version > 'b') {
    1208          51 :         if ((ret = ff_get_buffer(avctx, frame, AV_GET_BUFFER_FLAG_REF)) < 0)
    1209           0 :             return ret;
    1210             :     } else {
    1211          30 :         if ((ret = ff_reget_buffer(avctx, c->last)) < 0)
    1212           0 :             return ret;
    1213          30 :         if ((ret = av_frame_ref(frame, c->last)) < 0)
    1214           0 :             return ret;
    1215             :     }
    1216             : 
    1217          81 :     init_get_bits(&gb, pkt->data, bits_count);
    1218          81 :     if (c->has_alpha) {
    1219           0 :         if (c->version >= 'i')
    1220           0 :             skip_bits_long(&gb, 32);
    1221           0 :         if ((ret = bink_decode_plane(c, frame, &gb, 3, 0)) < 0)
    1222           0 :             return ret;
    1223             :     }
    1224          81 :     if (c->version >= 'i')
    1225          31 :         skip_bits_long(&gb, 32);
    1226             : 
    1227          81 :     c->frame_num++;
    1228             : 
    1229         243 :     for (plane = 0; plane < 3; plane++) {
    1230         243 :         plane_idx = (!plane || !c->swap_planes) ? plane : (plane ^ 3);
    1231             : 
    1232         243 :         if (c->version > 'b') {
    1233         153 :             if ((ret = bink_decode_plane(c, frame, &gb, plane_idx, !!plane)) < 0)
    1234           0 :                 return ret;
    1235             :         } else {
    1236         180 :             if ((ret = binkb_decode_plane(c, frame, &gb, plane_idx,
    1237          90 :                                           c->frame_num == 1, !!plane)) < 0)
    1238           0 :                 return ret;
    1239             :         }
    1240         243 :         if (get_bits_count(&gb) >= bits_count)
    1241          81 :             break;
    1242             :     }
    1243          81 :     emms_c();
    1244             : 
    1245          81 :     if (c->version > 'b') {
    1246          51 :         av_frame_unref(c->last);
    1247          51 :         if ((ret = av_frame_ref(c->last, frame)) < 0)
    1248           0 :             return ret;
    1249             :     }
    1250             : 
    1251          81 :     *got_frame = 1;
    1252             : 
    1253             :     /* always report that the buffer was completely consumed */
    1254          81 :     return pkt->size;
    1255             : }
    1256             : 
    1257             : /**
    1258             :  * Calculate quantization tables for version b
    1259             :  */
    1260           1 : static av_cold void binkb_calc_quant(void)
    1261             : {
    1262             :     uint8_t inv_bink_scan[64];
    1263             :     static const int s[64]={
    1264             :         1073741824,1489322693,1402911301,1262586814,1073741824, 843633538, 581104888, 296244703,
    1265             :         1489322693,2065749918,1945893874,1751258219,1489322693,1170153332, 806015634, 410903207,
    1266             :         1402911301,1945893874,1832991949,1649649171,1402911301,1102260336, 759250125, 387062357,
    1267             :         1262586814,1751258219,1649649171,1484645031,1262586814, 992008094, 683307060, 348346918,
    1268             :         1073741824,1489322693,1402911301,1262586814,1073741824, 843633538, 581104888, 296244703,
    1269             :          843633538,1170153332,1102260336, 992008094, 843633538, 662838617, 456571181, 232757969,
    1270             :          581104888, 806015634, 759250125, 683307060, 581104888, 456571181, 314491699, 160326478,
    1271             :          296244703, 410903207, 387062357, 348346918, 296244703, 232757969, 160326478,  81733730,
    1272             :     };
    1273             :     int i, j;
    1274             : #define C (1LL<<30)
    1275          65 :     for (i = 0; i < 64; i++)
    1276          64 :         inv_bink_scan[bink_scan[i]] = i;
    1277             : 
    1278          17 :     for (j = 0; j < 16; j++) {
    1279        1040 :         for (i = 0; i < 64; i++) {
    1280        1024 :             int k = inv_bink_scan[i];
    1281        3072 :             binkb_intra_quant[j][k] = binkb_intra_seed[i] * (int64_t)s[i] *
    1282        2048 :                                         binkb_num[j]/(binkb_den[j] * (C>>12));
    1283        3072 :             binkb_inter_quant[j][k] = binkb_inter_seed[i] * (int64_t)s[i] *
    1284        2048 :                                         binkb_num[j]/(binkb_den[j] * (C>>12));
    1285             :         }
    1286             :     }
    1287           1 : }
    1288             : 
    1289           9 : static av_cold int decode_init(AVCodecContext *avctx)
    1290             : {
    1291           9 :     BinkContext * const c = avctx->priv_data;
    1292             :     static VLC_TYPE table[16 * 128][2];
    1293             :     static int binkb_initialised = 0;
    1294             :     int i, ret;
    1295             :     int flags;
    1296             : 
    1297           9 :     c->version = avctx->codec_tag >> 24;
    1298           9 :     if (avctx->extradata_size < 4) {
    1299           0 :         av_log(avctx, AV_LOG_ERROR, "Extradata missing or too short\n");
    1300           0 :         return AVERROR_INVALIDDATA;
    1301             :     }
    1302           9 :     flags = AV_RL32(avctx->extradata);
    1303           9 :     c->has_alpha = flags & BINK_FLAG_ALPHA;
    1304           9 :     c->swap_planes = c->version >= 'h';
    1305           9 :     if (!bink_trees[15].table) {
    1306         102 :         for (i = 0; i < 16; i++) {
    1307          96 :             const int maxbits = bink_tree_lens[i][15];
    1308          96 :             bink_trees[i].table = table + i*128;
    1309          96 :             bink_trees[i].table_allocated = 1 << maxbits;
    1310          96 :             init_vlc(&bink_trees[i], maxbits, 16,
    1311             :                      bink_tree_lens[i], 1, 1,
    1312             :                      bink_tree_bits[i], 1, 1, INIT_VLC_USE_NEW_STATIC | INIT_VLC_LE);
    1313             :         }
    1314             :     }
    1315           9 :     c->avctx = avctx;
    1316             : 
    1317           9 :     c->last = av_frame_alloc();
    1318           9 :     if (!c->last)
    1319           0 :         return AVERROR(ENOMEM);
    1320             : 
    1321           9 :     if ((ret = av_image_check_size(avctx->width, avctx->height, 0, avctx)) < 0)
    1322           0 :         return ret;
    1323             : 
    1324           9 :     avctx->pix_fmt = c->has_alpha ? AV_PIX_FMT_YUVA420P : AV_PIX_FMT_YUV420P;
    1325             : 
    1326           9 :     ff_blockdsp_init(&c->bdsp, avctx);
    1327           9 :     ff_hpeldsp_init(&c->hdsp, avctx->flags);
    1328           9 :     ff_binkdsp_init(&c->binkdsp);
    1329             : 
    1330           9 :     if ((ret = init_bundles(c)) < 0) {
    1331           0 :         free_bundles(c);
    1332           0 :         return ret;
    1333             :     }
    1334             : 
    1335           9 :     if (c->version == 'b') {
    1336           2 :         if (!binkb_initialised) {
    1337           1 :             binkb_calc_quant();
    1338           1 :             binkb_initialised = 1;
    1339             :         }
    1340             :     }
    1341             : 
    1342           9 :     return 0;
    1343             : }
    1344             : 
    1345           9 : static av_cold int decode_end(AVCodecContext *avctx)
    1346             : {
    1347           9 :     BinkContext * const c = avctx->priv_data;
    1348             : 
    1349           9 :     av_frame_free(&c->last);
    1350             : 
    1351           9 :     free_bundles(c);
    1352           9 :     return 0;
    1353             : }
    1354             : 
    1355           0 : static void flush(AVCodecContext *avctx)
    1356             : {
    1357           0 :     BinkContext * const c = avctx->priv_data;
    1358             : 
    1359           0 :     c->frame_num = 0;
    1360           0 : }
    1361             : 
    1362             : AVCodec ff_bink_decoder = {
    1363             :     .name           = "binkvideo",
    1364             :     .long_name      = NULL_IF_CONFIG_SMALL("Bink video"),
    1365             :     .type           = AVMEDIA_TYPE_VIDEO,
    1366             :     .id             = AV_CODEC_ID_BINKVIDEO,
    1367             :     .priv_data_size = sizeof(BinkContext),
    1368             :     .init           = decode_init,
    1369             :     .close          = decode_end,
    1370             :     .decode         = decode_frame,
    1371             :     .flush          = flush,
    1372             :     .capabilities   = AV_CODEC_CAP_DR1,
    1373             : };

Generated by: LCOV version 1.13