LCOV - code coverage report
Current view: top level - libavutil - integer.c (source / functions) Hit Total Coverage
Test: coverage.info Lines: 68 73 93.2 %
Date: 2018-05-20 11:54:08 Functions: 10 10 100.0 %

          Line data    Source code
       1             : /*
       2             :  * arbitrary precision integers
       3             :  * Copyright (c) 2004 Michael Niedermayer <michaelni@gmx.at>
       4             :  *
       5             :  * This file is part of FFmpeg.
       6             :  *
       7             :  * FFmpeg is free software; you can redistribute it and/or
       8             :  * modify it under the terms of the GNU Lesser General Public
       9             :  * License as published by the Free Software Foundation; either
      10             :  * version 2.1 of the License, or (at your option) any later version.
      11             :  *
      12             :  * FFmpeg is distributed in the hope that it will be useful,
      13             :  * but WITHOUT ANY WARRANTY; without even the implied warranty of
      14             :  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
      15             :  * Lesser General Public License for more details.
      16             :  *
      17             :  * You should have received a copy of the GNU Lesser General Public
      18             :  * License along with FFmpeg; if not, write to the Free Software
      19             :  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
      20             :  */
      21             : 
      22             : /**
      23             :  * @file
      24             :  * arbitrary precision integers
      25             :  * @author Michael Niedermayer <michaelni@gmx.at>
      26             :  */
      27             : 
      28             : #include "common.h"
      29             : #include "integer.h"
      30             : #include "avassert.h"
      31             : 
      32             : static const AVInteger zero_i;
      33             : 
      34      786130 : AVInteger av_add_i(AVInteger a, AVInteger b){
      35      786130 :     int i, carry=0;
      36             : 
      37     7075170 :     for(i=0; i<AV_INTEGER_SIZE; i++){
      38     6289040 :         carry= (carry>>16) + a.v[i] + b.v[i];
      39     6289040 :         a.v[i]= carry;
      40             :     }
      41      786130 :     return a;
      42             : }
      43             : 
      44     1340681 : AVInteger av_sub_i(AVInteger a, AVInteger b){
      45     1340681 :     int i, carry=0;
      46             : 
      47    12066129 :     for(i=0; i<AV_INTEGER_SIZE; i++){
      48    10725448 :         carry= (carry>>16) + a.v[i] - b.v[i];
      49    10725448 :         a.v[i]= carry;
      50             :     }
      51     1340681 :     return a;
      52             : }
      53             : 
      54     3930650 : int av_log2_i(AVInteger a){
      55             :     int i;
      56             : 
      57    27531455 :     for(i=AV_INTEGER_SIZE-1; i>=0; i--){
      58    27531455 :         if(a.v[i])
      59     3930650 :             return av_log2_16bit(a.v[i]) + 16*i;
      60             :     }
      61           0 :     return -1;
      62             : }
      63             : 
      64      786130 : AVInteger av_mul_i(AVInteger a, AVInteger b){
      65             :     AVInteger out;
      66             :     int i, j;
      67      786130 :     int na= (av_log2_i(a)+16) >> 4;
      68      786130 :     int nb= (av_log2_i(b)+16) >> 4;
      69             : 
      70      786130 :     memset(&out, 0, sizeof(out));
      71             : 
      72     2355295 :     for(i=0; i<na; i++){
      73     1569165 :         unsigned int carry=0;
      74             : 
      75     1569165 :         if(a.v[i])
      76     6269055 :             for(j=i; j<AV_INTEGER_SIZE && j-i<=nb; j++){
      77     4699890 :                 carry= (carry>>16) + out.v[j] + a.v[i]*b.v[j-i];
      78     4699890 :                 out.v[j]= carry;
      79             :             }
      80             :     }
      81             : 
      82      786130 :     return out;
      83             : }
      84             : 
      85     1067941 : int av_cmp_i(AVInteger a, AVInteger b){
      86             :     int i;
      87     1067941 :     int v= (int16_t)a.v[AV_INTEGER_SIZE-1] - (int16_t)b.v[AV_INTEGER_SIZE-1];
      88     1067941 :     if(v) return (v>>16)|1;
      89             : 
      90     6447042 :     for(i=AV_INTEGER_SIZE-2; i>=0; i--){
      91     6447042 :         int v= a.v[i] - b.v[i];
      92     6447042 :         if(v) return (v>>16)|1;
      93             :     }
      94           0 :     return 0;
      95             : }
      96             : 
      97     5542942 : AVInteger av_shr_i(AVInteger a, int s){
      98             :     AVInteger out;
      99             :     int i;
     100             : 
     101    49886478 :     for(i=0; i<AV_INTEGER_SIZE; i++){
     102    44343536 :         unsigned int index= i + (s>>4);
     103    44343536 :         unsigned int v=0;
     104    44343536 :         if(index+1<AV_INTEGER_SIZE) v = a.v[index+1]<<16;
     105    44343536 :         if(index  <AV_INTEGER_SIZE) v+= a.v[index  ];
     106    44343536 :         out.v[i]= v >> (s&15);
     107             :     }
     108     5542942 :     return out;
     109             : }
     110             : 
     111      786130 : AVInteger av_mod_i(AVInteger *quot, AVInteger a, AVInteger b){
     112      786130 :     int i= av_log2_i(a) - av_log2_i(b);
     113             :     AVInteger quot_temp;
     114      786130 :     if(!quot) quot = &quot_temp;
     115             : 
     116      786130 :     if ((int16_t)a.v[AV_INTEGER_SIZE-1] < 0) {
     117           0 :         a = av_mod_i(quot, av_sub_i(zero_i, a), b);
     118           0 :         *quot = av_sub_i(zero_i, *quot);
     119           0 :         return av_sub_i(zero_i, a);
     120             :     }
     121             : 
     122             :     av_assert2((int16_t)a.v[AV_INTEGER_SIZE-1] >= 0 && (int16_t)b.v[AV_INTEGER_SIZE-1] >= 0);
     123             :     av_assert2(av_log2_i(b)>=0);
     124             : 
     125      786130 :     if(i > 0)
     126      262540 :         b= av_shr_i(b, -i);
     127             : 
     128      786130 :     memset(quot, 0, sizeof(AVInteger));
     129             : 
     130     2640201 :     while(i-- >= 0){
     131     1067941 :         *quot= av_shr_i(*quot, -1);
     132     1067941 :         if(av_cmp_i(a, b) >= 0){
     133      554551 :             a= av_sub_i(a, b);
     134      554551 :             quot->v[0] += 1;
     135             :         }
     136     1067941 :         b= av_shr_i(b, 1);
     137             :     }
     138      786130 :     return a;
     139             : }
     140             : 
     141      786130 : AVInteger av_div_i(AVInteger a, AVInteger b){
     142             :     AVInteger quot;
     143      786130 :     av_mod_i(&quot, a, b);
     144      786130 :     return quot;
     145             : }
     146             : 
     147     1572260 : AVInteger av_int2i(int64_t a){
     148             :     AVInteger out;
     149             :     int i;
     150             : 
     151    14150340 :     for(i=0; i<AV_INTEGER_SIZE; i++){
     152    12578080 :         out.v[i]= a;
     153    12578080 :         a>>=16;
     154             :     }
     155     1572260 :     return out;
     156             : }
     157             : 
     158     7861300 : int64_t av_i2int(AVInteger a){
     159             :     int i;
     160     7861300 :     int64_t out=(int8_t)a.v[AV_INTEGER_SIZE-1];
     161             : 
     162    62890400 :     for(i= AV_INTEGER_SIZE-2; i>=0; i--){
     163    55029100 :         out = (out<<16) + a.v[i];
     164             :     }
     165     7861300 :     return out;
     166             : }

Generated by: LCOV version 1.13