WO2004012340A2 - Dispositif et procede de decodage robuste de codes arithmetiques - Google Patents

Dispositif et procede de decodage robuste de codes arithmetiques Download PDF

Info

Publication number
WO2004012340A2
WO2004012340A2 PCT/FR2003/002246 FR0302246W WO2004012340A2 WO 2004012340 A2 WO2004012340 A2 WO 2004012340A2 FR 0302246 W FR0302246 W FR 0302246W WO 2004012340 A2 WO2004012340 A2 WO 2004012340A2
Authority
WO
WIPO (PCT)
Prior art keywords
probabilities
state
model
binary elements
bits
Prior art date
Application number
PCT/FR2003/002246
Other languages
English (en)
Other versions
WO2004012340A3 (fr
Inventor
Thomas Guionnet
Christine Guillemot
Original Assignee
Inria Institut National De Recherche En Informatique Et En Automatique
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from FR0209287A external-priority patent/FR2842670B1/fr
Application filed by Inria Institut National De Recherche En Informatique Et En Automatique filed Critical Inria Institut National De Recherche En Informatique Et En Automatique
Priority to JP2004523851A priority Critical patent/JP4169738B2/ja
Priority to US10/521,962 priority patent/US7215265B2/en
Priority to EP03755610.7A priority patent/EP1527521B1/fr
Publication of WO2004012340A2 publication Critical patent/WO2004012340A2/fr
Publication of WO2004012340A3 publication Critical patent/WO2004012340A3/fr

Links

Classifications

    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M13/00—Coding, decoding or code conversion, for error detection or error correction; Coding theory basic assumptions; Coding bounds; Error probability evaluation methods; Channel models; Simulation or testing of codes
    • H03M13/63—Joint error correction and other techniques
    • H03M13/6312—Error control coding in combination with data compression
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M13/00—Coding, decoding or code conversion, for error detection or error correction; Coding theory basic assumptions; Coding bounds; Error probability evaluation methods; Channel models; Simulation or testing of codes
    • H03M13/37—Decoding methods or techniques, not specific to the particular type of coding provided for in groups H03M13/03 - H03M13/35
    • H03M13/39—Sequence estimation, i.e. using statistical methods for the reconstruction of the original codes
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/40—Conversion to or from variable length codes, e.g. Shannon-Fano code, Huffman code, Morse code
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Definitions

  • the invention relates to the compression / decompression of digital data, in particular for multimedia signals (audio, image, video, speech), and the robust transmission of this data over noisy networks, such as wireless networks, mobile communications.
  • the present invention proposes advances in this direction.
  • the invention relates to a decoding method comprising the following steps: a. provide a source model suitable for defining probabilities for x-ary symbols, associated with transitions between source states in a source state diagram, a so-called “product” model, suitable for defining a correspondence between the x-ary symbols and first binary elements, as a function of states produced in a "product" state diagram, a product state being a function of a source state b. receive "channel" properties, capable of defining probabilities of receiving second binary elements, on transmission of first binary elements, c.
  • the model produced is established from the source model and from a transfer model, suitable for establishing a correspondence between x-ary symbols and first binary elements, as a function of probabilities associated with x-ary symbols.
  • the product and transfer models are of the arithmetic type and the transfer model is an encoding or decoding model.
  • step c. includes the calculation, in stages, of the probabilities of decoding an x-ary symbol knowing bits of the stream of second binary elements.
  • step c. includes, for each step from a given number of steps and according to a given selection criterion, the selection of certain probabilities from among the probabilities of decoding an x-ary symbol, knowing bits of the stream of second binary elements, calculated during a stage.
  • the selection criterion of step c. includes a fixed number of probabilities to be kept among the largest of the probabilities.
  • the selection criterion of step c. includes a minimum threshold compared to the probabilities of receiving second binary elements, on transmission of first binary elements, so as to memorize, at each step, only the probabilities of decoding an x-ary symbol, knowing bits of the stream of second binary elements, calculated from probabilities of receiving second binary elements, on transmission of first binary elements, greater than this minimum threshold.
  • step c. includes the elaboration of a tree made up of states linked by transitions, each state corresponding to a step of calculating probabilities and each transition, starting from a state, corresponding to one of these calculated probabilities.
  • the selection of certain probabilities among the probabilities of decoding an x-ary symbol, knowing bits of the stream of second binary elements, corresponds to the construction of states corresponding to a subset of transitions of the tree function of said certain probabilities.
  • step d. includes the calculation of the product of probabilities corresponding to successive transitions in the tree and the selection of the largest product corresponding to the most probable successive transitions and the most probable x-ary symbol flow.
  • step c. includes calculating, for a given number of successive x-ary symbols to be decoded, the probabilities of decoding a sequence of x-ary symbols knowing bits of the stream of second binary elements.
  • step c. includes calculating, for a given number of successive bits of the stream of second binary elements, the probabilities of decoding a sequence of x-ary symbols, knowing bits of the stream of second binary elements.
  • step c. includes cl. the successive construction of states linked by transitions of a state diagram produced from an original state to a final state, each state defining an expected number of decoded x-area symbols for a given number of bits of the flow of second bits from the original state.
  • the construction of step c. includes c2. successive deletion of states from the produced state diagram, from the final state to the original state, for which the expected number of x-ary symbols for a given number of bits in the stream of second binary elements is different of a maximum known number of x-ary symbols.
  • step c. includes cl. the calculation, after each constructed state, of the first successive probabilities of arriving in a given state knowing bits passed from the stream of second binary elements, c2. the calculation, for each state from the final state to the original state, of the second successive probabilities of arriving in this given state knowing the next bits of the stream of second binary elements.
  • step c. includes c3. the calculation, for each state of the diagram from the original state to the final state, of the first successive probabilities of arriving in this given state knowing bits passed from the stream of second binary elements, and, for each state from l 'final state to the original state, second successive probabilities of arriving in a given state knowing the next bits of the stream of second binary elements.
  • step c. includes calculating the probability of each state by performing the product of the first and second probabilities for each state and step d. includes the calculation of the products of probabilities of the different possible successive states then the selection of the maximum product.
  • step d. includes establishing the flow of x-ary symbols corresponding to these successive states using the correspondence of the product model.
  • the invention also relates to a decoder comprising a first input for receiving a coded stream of second binary elements.
  • This decoder comprising a second input for receiving channel properties capable of defining probabilities of receiving second binary elements, on transmission of first binary elements, a first module defining - a source model suitable for defining probabilities for x-ary symbols associated with transitions between source states in a source state diagram,
  • a processing module suitable for calculating probabilities of decoding x-ary symbols, knowing bits of the coded stream of second binary elements, respectively probabilities of arriving in produced states knowing bits of the stream of second binary elements, from the properties of the channel, the source model and the product model, and adapted to reconstruct the flow of x-ary symbols most likely from these calculated probabilities.
  • FIG. 1 illustrates an assembly comprising an encoder and a decoder according to the invention
  • FIG. 2 is a general view of the coding method which can be implemented in a coder according to the invention
  • FIG. 3 is a diagram forming a general view of the decoding method which can be implemented in a decoder according to the invention
  • FIGS. 4A and 4B illustrate three different representations of the same model called "source” establishing a correspondence between the symbols of the source and bit sequences
  • - Figures 5A and 5B illustrate two different representations of the same correspondence between symbol sequences and bit sequences, based on the so-called "source” model of FIGS. 4A and 4B,
  • table 1 illustrates a table representation of a so-called "coder" model
  • table 2 illustrates a representation in the form of a table of a so-called “decoder” model
  • FIG. 6A illustrates a representation in table form of a model called “source-coder product” according to the invention
  • FIG. 6B illustrates a representation in the form of a trellis of the so-called “source-encoder product” model of FIG. 6A according to the invention
  • FIGS. 7A and 7B illustrate two partial representations in the form of a trellis of the so-called “coder” model of table 1
  • FIG. 8 illustrates a generalized representation of a model called “source-encoder product” according to the invention
  • - Figure 9A illustrates a representation in table form of a model called “source-decoder product” according to the invention
  • FIG. 9B illustrates a representation in the form of a trellis of the so-called "source-decoder product" model of FIG. 9A according to the invention
  • FIG. 10 illustrates a generalized representation of a model called "source-decoder product" according to the invention
  • FIG. 11 illustrates the decoding method in a first embodiment according to the invention
  • FIG. 12 illustrates the decoding method in a second embodiment according to the invention
  • FIG. 13 illustrates a representation in the form of a trellis produced from the decoding method of FIG. 11 or 12
  • FIG. 14 illustrates the decoding method in a third embodiment according to the invention
  • FIG. 15 illustrates the decoding method in a fourth embodiment according to the invention.
  • a multimedia signal compression system uses statistical codes also called variable length codes. These make it possible to obtain bit rates approaching what specialists call “signal entropy”.
  • the codes most used in existing systems are the Huffman codes which have been described in the following work: DA Huffman: "Amethod for the construction of minimum redundancy codes", Proc. IRE, 40 (1951), p.1098-1101. More recently, we have seen a renewed interest in arithmetic codes because of their increased performance in terms of compression. They make it possible to decouple the encoding process from the supposed model from the source. This makes it easy to use higher order statistical models. These arithmetic codes have been described in works such as
  • Variable length codes could therefore be widely used despite their high sensitivity to transmission noise. This almost zero residual error rate assumption is no longer true in wireless and mobile networks, whose channel characteristics vary over time (non-stationary channels). This residual error rate seen by the decoder of the source signals is often far from negligible. Any error in the bit stream can cause a decoding of the decoder and therefore a propagation of the errors on the continuation of the decoded information.
  • first generation standards H.261, H.263, MPEG-1, MPEG-2 have incorporated synchronization markers in the syntax of the binary train transmitted. These are long code words (16 or 22 bits consisting of a series of 15 or 21 bits with 'l' followed by a '0') which cannot be emulated by errors occurring on the other code words and which can therefore be recognized by the decoder with a probability close to '1'.
  • RNLC reversible variable length codes
  • this symmetry of the code makes it possible to confine the propagation of the errors on a segment in the middle of the packet instead of propagating it until the end of the packet delimited by a synchronization marker.
  • the symmetry of the code generates a loss in compression efficiency compared to a Huffman code of the order of 10%.
  • reversible variable length codes do not completely avoid the problem of propagation of errors: if an error occurs at the start and end of the packet, the whole packet may be in error.
  • the invention described relates in particular to an encoder / decoder device for a family of codes widely used in compression systems such as arithmetic type codes comprising arithmetic codes and quasi-arithmetic codes.
  • arithmetic type codes comprising arithmetic codes and quasi-arithmetic codes.
  • the principles of arithmetic and quasi-arithmetic coding are developed below. They are developed in more detail in the work [2] and the following works [3] - 1. H. itten and RM Neal and JG Cleary. Arithmetic coding for data compression. Communications of the ACM, 30 (6): 520-540, June 1987, [4] PG Howard and JS Vitter, Image and Text Compression, pages 85-112. Kluwer Academy Publisher, 1992.
  • sequence designates a flow or a series of elements.
  • a sequence of bits, respectively of symbols will designate a stream or a series of bits, respectively of symbols.
  • This alphabet has a stationary distribution which indicates for each symbol an associated statorial probability.
  • This sequence of -aire symbols (also called source A) is converted into a sequence of x-ary symbols (with x ⁇ M).
  • this sequence of M-ary symbols is converted into a sequence of binary symbols S ⁇ Si — Si, (also called source S)
  • This conversion uses a source model described below comprising a correspondence between the M-ary source A and the binary source S.
  • the length N of this binary train is a random variable, a function of S, the sequence of binary symbols, itself a function of A, the sequence of M-ary symbols.
  • the train of first binary elements U is transmitted, by way of example only, on a channel without memory. This train of first binary elements U is received as a train of second binary elements Y due to errors introduced during transmission by the communication channel.
  • the lower layers of the communication system make it possible to determine at least the current properties of the communication channel, for example the rate of errors introduced by the channel in the communicated bits, confidence measurements on received bits. These last measurements make it possible to estimate the probabilities of receiving a second binary element knowing a first binary element communicated on the channel. These probabilities are estimated as indicated in the appendix (equation 21 with the index i being an integer) from one of the current properties le of the channel: p, the probability of error on the channel.
  • FIG. 1 illustrates an example of an encoder 1 and decoder 2 assembly.
  • the encoder and the decoder respectively have an input Ec, Ed and an output Wc, Wd.
  • a stream of x-ary symbols to be coded is received at the input of the coder in Ec.
  • the encoder transmits at output Wc a stream of first binary elements, called the first bit stream Uc, generated by coding the stream of x-ary symbols, for example in compressed form.
  • This first bit stream Uc. is sent, via a jcanal 11, to the input Ed of the decoder 2.
  • the channel having been able to erroneous the first bit stream (for example reversing certain bits of the first stream) , transmits a stream of second bits, called the second bit stream Yd, to the input of the decoder 2.
  • a processing module 6 receives. and processes this second bit stream as well as the properties le of the channel, communicated by the channel, to obtain at output Wd from the decoder, a stream of symbols Sd.
  • a processing module 6 is suitable for working with the model module 12.
  • This model module comprising -a source model 8 making it possible to define probabilities for x-ary symbols associated with transitions between source states in a source state diagram described below, - a so-called "product” model 7 making it possible to define a correspondence between the xary symbols and first binary elements, as a function of states in a "product" state diagram, a product state being a function of a source state and of a state of a transfer model.
  • the product model 7 is established from the source model 8 and a transfer model 9 or 10.
  • the produced model can be dynamically constructed from the source model and transfer models 9 or 10.
  • the product model can be implemented in the model module without being built dynamically.
  • the transfer model comprises a coding model 9 or a decoding model 10. This transfer model makes it possible to establish a correspondence between binary symbols and first binary elements, as a function of probabilities associated with binary symbols.
  • these models can be pre-calculated and stored in a module external to the model module of the decoder. They can also be used remotely, for example by using a local network of Ethernet type or a more extensive network of Internet type.
  • the processing module 6 is suitable for calculating probabilities of x-ary symbols, knowing the bits of the stream of second binary elements, from the properties le of the channel, the source model and the product model.
  • the processing module 6 is suitable for reconstructing the most probable x-ary symbol flow from these calculated probabilities and for reconstructing the M-ary symbol flow from the source model if an M-ary symbol flow has been coded.
  • FIG. 2 illustrates an example of a coding method which can use the insertion of synchronization markers. This method is implemented in an encoder receiving as input a source (M-ary), for example a data sequence.
  • M-ary for example a data sequence.
  • step 100 when the data sequence does not require M-ary markers, the method continues to step 104. If, on the contrary, M-ary markers must be inserted in the data sequence, the frequency , the size and value of these markers are provided by the coder to perform the insertion of these markers in step 102.
  • step 104 it is checked whether the data sequence (including or not synchronization markers) requires an M-ary / binary conversion. If this is not the case, the data sequence is therefore binary and is subject to arithmetic coding (quasi-arithmetic in the example in the figure) in step 112. Otherwise, the M-ary / binary conversion of the sequence is carried out in step 106. In step 108, if binary markers are to be inserted, the frequency, the size and the value of these markers are supplied by the coder to effect the insertion of these markers step 110.
  • step 112 the M-ary or binary data sequence is subjected to quasi-arithmetic coding, the complexity of which is controlled by the parameter T. If T is large, the quasi-arithmetic coding becomes identical to an arithmetic coding. This results in a maximum compression of the binary data sequence into a bit stream.
  • FIG. 3 illustrates an example of a decoding method taking into account the synchronization markers inserted. This method is implemented in a decoder receiving as input the binary train and information concerning the M-ary or x-ary source (in particular binary), the frequency, the size and the value of the possible synchronization markers.
  • step 120 different decoding modes can be selected: an instant decoding in step 124,
  • step 122 a sequential decoding according to the invention, which is detailed in the rest of the description, in step 122,
  • step 126 an optimal decoding, which is detailed in the rest of the description, according to the invention in step 126.
  • step 1208 it is checked whether the data sequence obtained after decoding requires a binary / M-ary conversion.
  • step 130 it is checked whether the data sequence includes binary markers. If so, these markers are removed in step 132 using information about their frequency and size. After step 130 or step 132, the data sequence is subjected to binary / Mayor conversion in step 134.
  • step 128 or 134 it is checked whether the data sequence comprises M-ary markers in step 136. If this is not the case, the decoding of the data (or source) sequence is finished , otherwise, the markers are deleted in step 138 to obtain the data (or source) sequence.
  • Figures 4 to 5 illustrate source models for M-ary / binary and binary / M-ary conversion of a data sequence (or source).
  • FIG. 4A illustrates the binary representation of the 4 symbols of a 4-ary source, that is to say a source taking value in a 4-ary alphabet.
  • this tree can be represented by a correspondence table.
  • the black node is called the root of the tree
  • the white nodes are the intermediate nodes
  • the gray nodes are called leaves of the tree.
  • the probabilities P of each symbol M-ary correspond to the stationary probabilities of the source.
  • the transition probabilities (not shown) on the branches of this binary tree are calculated from the stationary probabilities.
  • FIG. 4B represents the automaton making it possible to convert the sequence of independent M-ary symbols into a sequence of binary symbols.
  • the probabilities of each x-ary symbol here, binary symbol
  • a complete model of the source is obtained by connecting successive local models as indicated in FIG. 5A.
  • a local model corresponds to a source model for a flow comprising a symbol as illustrated in FIG. 4A.
  • the complete model of the source consists in identifying the leaves of the first binary tree with the root of the following tree, root represented by a black node in the figures 5 A and 5B.
  • Figure 5A thus combines binary trees between them.
  • FIG. 5B combines a first binary tree with corresponding automata taking the leaves of the binary tree as initial and final states. This automaton converts a sequence of dependent M-ary symbols into a sequence of binary symbols.
  • the states C- define the possible nodes in which the automaton can be after the production of k binary symbols.
  • This set of possible nodes is symbolized in the figure by a mixed line connecting the nodes of the same state k.
  • the sequence C 0 , ..., C K is a Markov chain and the corresponding stream of binary symbols is a function of the transitions of this chain.
  • the transitions called S k since they generate the emission of binary symbols S k represent the set of possible transitions between the set of states C k and the set of states C. of the source model.
  • the flow of binary symbols can be modeled by a hidden Markov model. Knowing each statiormary probability associated with each binary symbol, each of these probabilities corresponding to one of the segments of the unit interval [0,1 [, the arithmetic coding allows, for a sequence of binary symbols, to determine the interval of this sequence .
  • the latter represents a segment of the unit interval and its lower limit comes from the sum of the probabilities of the sequences of symbols corresponding to the lower subintervals.
  • the width of this interval is given by the probability of the sequence of symbols corresponding to this interval.
  • Called "current interval” the interval corresponding to a part of the sequence and therefore to the current state C k of this part of sequence, during the calculation of the interval or sub-segment associated with the sub sequence corresponding to the state.
  • the principle of arithmetic coding can be modeled by a stochastic automaton whose states E are defined by three variables: low, up and n scl the number of rescales.
  • the drawback of this coding is that there can be a very large number of states if the stationary distribution of the source is not known a priori or if the stream includes a large number of x-ary symbols.
  • Quasi-arithmetic coding also called reduced precision arithmetic coding, makes it possible to reduce the number of possible states without significant loss in compression efficiency, as described in the work [4].
  • the real interval [0,1 [ is replaced by the whole interval [0, T [.
  • T makes it possible to control the compromise between the complexity and the compression efficiency: if T is large, then the subdivisions of the interval will precisely represent the distribution of the source. On the other hand, if T is small (close to 1), all the possible subdivisions of the interval can be pre-calculated, these subdivisions will only represent an approximation of the distribution of the source.
  • a sequence S x ⁇ of binary symbols is converted into a bit stream U X N by a binary tree.
  • This tree can be seen as an automaton or an encoder model which models the distribution of the binary train.
  • the coding of a symbol determines the choice of an arc of the tree, with which the transmission of bits can be associated.
  • Each node corresponds to a state E of the arithmetic coder. The successive transitions between these states follow the distribution of the source P (S k
  • E be the state of the automaton at each "symbol instant" k .
  • the state E As with arithmetic coding, the state E.
  • the terms lowS k and upS k designate the limits of the interval resulting from the successive subdivisions of [0, T [corresponding to the coding of the sequence S x ⁇ .
  • the quantity nscl k is reset to zero each time a bit is transmitted and incremented each time a rescaling without sending bit is performed. It therefore represents the number of rescales carried out since the last bit transmission. When a bit is sent, it is followed by nscl k bits of opposite value.
  • T 4 for a binary source.
  • the value of the variable nscl k is not included in the state model. Only the increments of this variable are indicated by the letter f in the table as in the work [4].
  • the encoder has three possible states, corresponding to whole subdivisions of the interval [0.4 [taken by the current interval [lowS k , upS k [. We will refer to the book
  • the binary input symbol is 0 or 1
  • the number of states can be further reduced by identifying the binary symbols as "less likely” (LPS) and “more likely” (MPS) in column C3, rather than 0 and 1 in column C2. This amounts to considering the probability of each binary symbol rather than the value of the binary symbol, the MPS and LPS being able to correspond either to a bit 0 or to a bit 1. The number of possible combinations of binary source probabilities is reduced. This allows you to combine certain transitions and eliminate states from the controller.
  • the sequence E 0 ... E K of successive states of the quasi-arithmetic coder forms a Markov chain and the outputs of the coder are functions of the transitions on this chain.
  • decoding can be modeled by a stochastic automaton with number of states E n finite as presented on table 2.
  • the state of an arithmetic decoder is defined by two intervals: [lowU n , upU n [and [lowS ⁇ upS j ⁇ [.
  • This interval is updated by accumulating the probabilities of each decoded binary symbol, in the same way as for the coding for each coded symbol. It reproduces the operation of the encoder.
  • An arithmetic encoder and decoder are not synchronized. Indeed, during coding, the reception of a symbol does not necessarily entail the transmission of a bit. Similarly, at decoding, the reading of a bit does not necessarily lead to the production of a symbol. Thus, if the reading of the first symbol of the sequence to be coded does not cause any transmission of bit, it may be that at decoding, the reading of the first bit is sufficient to decode the first symbol.
  • the two intervals are scaled as in coding in order to avoid problems of numerical precision.
  • E n be the state of this automaton at "bit time" n, that is to say at the time of processing of the received bit U n .
  • This state is defined by the values of the intervals [lowU n , upU n [and [.
  • a so-called “product” model is envisaged, which can be a model resulting from the product of the source and coder models or a model resulting from the product of the source and decoder models.
  • the states of the model produced must gather the information contained in the states of each of the two models (source and coder or source and decoder).
  • the size of the state space of the "product model” cannot be known a priori. It can be calculated from the binary source model and the T parameter.
  • FIGS. 6 and 7 An example of a product model from the source and encoder models is presented according to FIGS. 6 and 7.
  • the example of product model defined in the table of FIG. 6 A is derived from the product of the source model of FIG. 4C and from coder model from table 1.
  • the size of the state space resulting from this product is given by the product of the sizes of the state spaces of the two models (source and coder).
  • simplifications take place, which makes it possible to achieve a smaller number of states.
  • the probabilities of the binary source, resulting from a conversion from an M-ary source, depend on the state C k of the model of this binary source.
  • the transitions of the source product / coder model are thus a function of the distribution of the source.
  • the column M1 in FIG. 6A contains only 4 states of the product model defined in column M2 by the state variables of the source model and of the corresponding coder.
  • the source model having 3 states and that of the encoder having 2 states, the produced model will have a maximum of 6 states. In practice, simplifications take place as explained below with the aid of FIGS. 7A and 7B.
  • Columns M3 and M4 indicate, for the input symbol (MPS or LPS), the bits transmitted and the next state of the model produced.
  • the states of this produced model must gather the information of the states of the source and decoder models.
  • a state K being the number of symbols decoded when n bits have been received.
  • the number of symbols produced by each transition of the model produced is random. Therefore, the structure of dependencies between the sequence of second bits and the decoded symbols is random.
  • a sequence of bits U X N is converted into a sequence of symbols S ⁇ , with K N the number of symbols decoded when N bits have been received.
  • the automaton Given a state X graspand an input bit U n + 1 , the automaton produces the sequence of binary symbols S K- + 1 I ⁇ 1 + 1 , and specifies the following state X tract +1 .
  • the probabilities of the transitions between (X ⁇ K ,,) and (X n + 1 , K n + 1 ) in the lattice depend on the binary source model. They are given by the formula in the appendix (17).
  • the source / encoder model simplifications of states of this model are possible depending on the model of the decoder and the source model used. In the example of FIG. 9 A or 9B, the source model used is that of FIG. 4C and the decoder model, that of table 2.
  • FIG. 11 A first embodiment of the robust decoding method is illustrated in FIG. 11.
  • the decoder receives as input the bit stream to be decoded.
  • the source model, the variable N representing the number of bits received to be decoded and the probability P (U ⁇ / Y of having sent a first bit (or first binary element) U n knowing the second bit (or second binary element) Y n observed are data which the decoder has for input, that is to say that, by way of example only, these data can be received as input with the bit stream to be decoded or can be read in a memory accessible by the decoder.
  • the probability P (U n [Y can be obtained from the properties of the channel.
  • the criterion of MAP corresponds to the optimal Bayesian estimation of a process X from the available observations Y as indicated by equation (3) appendix 1. Optimization is carried out for all "sequences" possible.
  • this criterion is applied to the estimation of the hidden states of the processes (X, N), which can be considered as symbol clock processes, and of the processes (X, K), which can be considered as bit clock process, given the bit sequences observed.
  • the estimate can be made either at bit clock or at symbol clock. For reasons of simplicity of implementation, the bit clock estimation is preferred.
  • the best sequence (X, K) can be obtained from the local probabilities on the pairs (X ⁇ K thanks to equation (4).
  • step 300 the trellis is firstly constructed using the source / decoder model of FIG. 9A for example and the corresponding probabilities are calculated for each transition of the trellis.
  • a forward pass allows the successive construction of the states linked by transitions of the state diagram produced from an original state to a final state.
  • Each state defines an expected number of decoded symbols for a given number of bits passed from the stream of second bits from the original state.
  • equation (6) the recursive probability, the probability of transition between the states (x n . x , k ⁇ ) and (x n , k given by the product model (as indicated in equation 17 and representing the product of the transition probabilities P (S k
  • step 302 the back pass makes it possible to obtain the term P (Y N ⁇ + 1
  • This term is calculated as the sum of the product of three conditional probabilities (equation (7)): the recursive probability initialized for all possible "" last states "(X N , K N ), the probability of transition between states (X n + X , K ⁇ ) and (X till, KJ given by the product model and the probability of having issued the bit U n + X triggering the transition between states X n + X , K ⁇ ) and (X ⁇ , K knowing the second binary element Y n + X. As before, this last probability is obtained from the channel model.
  • this backward pass makes it possible to calculate the probabilities P ⁇ X ⁇ ⁇ K ⁇ kJ, successive and for each instant n from N to 1, to observe bits of the stream of second binary elements Y x n knowing a given state (jyKJ.
  • a termination constraint can be added during the back pass in step 302.
  • the back pass comprises the successive deletion of the states of the state diagram produced, from the final state to the original state, for which the expected number of symbols for a given number of bits of the stream of second binary elements is different from a maximum known number of symbols.
  • step 304 the probabilities obtained from the front and back passes are combined in the form of a product for each value of n varying from 1 to N to obtain the probabilities P (X n , K ⁇
  • step 306 the product of equation (4) is carried out on the probabilities P (X n , KjY x n ) with n varying from 1 to N. This product is carried out for the different possible combinations of these probabilities.
  • Y) is retained and the probabilities P ⁇ KjY) constituting this product make it possible to determine the most likely path in the trellis. From the trellis and the corresponding table of the source product / decoder model, it is possible to determine the symbols corresponding to this path and to reconstruct a sequence of symbols S x ⁇ .
  • the trellis on which the estimation is performed can be pre-calculated and stored from the source product / decoder model and from the length N of the observed bit sequence.
  • the trellis is constructed in step 400 in a forward pass and simplified by a backward pass in step 402. This trellis is stored in memory for be used at each bit stream arrival for which the source / decoder model and the K and N values are the same.
  • This trellis comprises, at each state (X ⁇ K.), several paired values (X ⁇ J K.
  • the pair (X X , K X ) can take the values (1, 1) or (2, 1) depending on whether the bit transmitted U x has the value 0 or 1.
  • a forward pass and a reverse pass are performed on the bit stream in steps 404 and 406, for example in parallel .
  • X a , K are calculated as shown in equations (6) and (7).
  • the product of these probabilities is performed at l step 408 for each value of n and corresponds to each transition of the trellis, then the product of the probabilities for n varying from 1 to N is calculated in step 410 as indicated in (4) to obtain probabilities P ( X, K
  • the most likely path (obtaining the greatest probability P (X, K
  • the sequence of states (X ⁇ K Q ), ..., (X N , K N ) makes it possible, on reading table 8A, to determine the sequence of symbols corresponding to this path.
  • This process requires the creation and manipulation of an estimation trellis, such as that of FIG. 13.
  • the size of this trellis depends on the number of states of the source product / decoder model (4 states are possible for the model source product / decoder of FIG. 9A for example) and of the amplitude of the values that the variable K , can take at each instant bit n.
  • the number of states of the source product / decoder model is itself dependent on the binary source model and on the precision parameter of the quasi-arithmetic coding T. To settle the compromise between the compression efficiency of the quasi-arithmetic coder and the complexity of the estimation process, it suffices to adjust the value of the parameter T.
  • T value as small as 4 results in a reasonable excess flow. If however maximum compression is required, T must have a much larger value and the minimum value of T required depends on the distribution of the source. In most of these cases, the value of T is too large to be able to use the optimal estimation method described above. The number of states of the source product / decoder model may also be too large to be able to pre-calculate these states.
  • This process is based on the same source, coder and decoder models as those seen previously.
  • the number of states of the coder and decoder models being too large for them to be able to be pre-calculated, the corresponding estimation trellis cannot be built either.
  • the estimation method proposed below is therefore based on the exploration of a subset of the estimation trellis, which is considered to be a tree.
  • This process is called the sequential estimation process. It can be applied from source / encoder models and perform sequential calculations using "the symbol clock", that is to say a counter incremented according to the number of symbols to find.
  • FIG. 14 illustrates the sequential estimation method known as a symbol clock, that is to say based on the source / coder model.
  • the estimation of the sequence of states (X, N) for a bit stream is equivalent to the estimation of the sequence of transitions between these states, that is to say the estimation of the sequence S knowing the observations Y at the exit of the channel.
  • step 500 the probability of decoding a sequence of symbols (from 1 to k) knowing bits of the stream of second binary elements P (S x k Y x Nk ) for each instant symbol k can be calculated in a forward pass unique thanks to the decomposition of equation (9) where N k is the total number of bits transmitted when one is in the state X k .
  • N k is the total number of bits transmitted when one is in the state X k .
  • Equation (12) the second term of this equation modeling the noise introduced by this channel is given to equation (12) as the product, for a given state X k of the source / coder model, of the probabilities of observing a second binary element Y n for a first transmitted binary element U n .
  • equation (10) is used to calculate P (S x k / Y x Nk ) for each consecutive symbol instant k.
  • step 502 authorizes the calculation of the probabilities P (S x ⁇ x N ) for a number of symbols k varying from 1 to ⁇ ..
  • xl is an integer less than or equal to the number of symbols K.
  • N k is the number of bits transmitted for k symbols coded during coding.
  • W and w is given in (19) with N ⁇ and N ⁇ ,, depending respectively on the probability of the most and least likely sequence S x k .
  • the pruning criterion is based on a threshold applied to the likelihood of the paths.
  • the likelihood of a path is given by equation (8) (symbol clock).
  • U) are linked to the channel model as shown in equation (12).
  • P n ⁇ y j JU n ⁇ u-) represents the probability that a bit y n is observed knowing that a bit u. ⁇ has been transmitted or the probability of receiving a bit y n knowing that a bit u n has been transmitted, which is equivalent to the probability that the observed bit is erroneous.
  • Let p be the mean bit error probability which is arbitrarily fixed as tolerable on the channel during the estimation.
  • Pruning consists of removing all the paths for which the probability of average bit error at the output of the channel is greater than p.
  • the pruning criterion comprises a threshold p compared to the probabilities P ⁇ IU ⁇ so that all the paths of the estimation trellis for which is verified be deleted. Only the probabilities of decoding a sequence of symbols (from 1 to k) knowing bits of the stream of second binary elements P (S x k / Y x N ) are calculated, calculated from the probabilities PO ⁇ l ⁇ ) greater than the minimum threshold p.
  • the probability P (S x k / Y 1 Nk ) for the number of symbols Nk (with k> x) is calculated in step 506.
  • the pruning performed at step 504 is repeated for this new symbol instant Nk.
  • Steps 504 and 506 are performed for a value k incremented up to value K.
  • the posterior marginal probabilities P (S X / Y X NK ) are known for all possible sequences s x .
  • the most likely sequence s x ⁇ is chosen, that is to say the sequence for which the probability P (S X K / ⁇ 1 NK ) is the greatest among the possible sequences of the estimation lattice obtained.
  • FIG. 15 illustrates the sequential estimation method known as a bit clock, that is to say based on the source / decoder model.
  • F estimation of the sequence of states (X, K) to obtain a train of symbols is equivalent to estimation of the sequence of transitions between these states, that is to say the estimation of the sequence S knowing the observations Y at the exit of the channel.
  • ⁇ denotes a normalization factor.
  • step 600 the probability of decoding a sequence of K ,. symbols knowing the bits of the stream of second binary elements P (S x Kn / Y x n ) for each bit n (defined later) can be calculated in a single forward pass thanks to the decomposition of equation (13) where K- j is the total number of symbols decoded on reception of bit n in state X. , .
  • the probability P (S x Kn ) of obtaining a sequence of symbol S 1 n is expressed recurrently according to equation (14) using equation (15).
  • the probability P (Y x YU x n ) can be rewritten and makes it possible to obtain the probability P (S x Kn / Y x n ) as indicated in (16).
  • C x is the starting state of the source model. Starting from this initialization, equation (16) is used to calculate P (S x Kn / Y x n ) for each consecutive bit n instant.
  • step 602 authorizes the calculation of the probabilities P (S x Kn / ⁇ x ⁇ ) in step 600 for a number of bits n varying from 1 to x2, x2 being an integer designating a threshold number of bits. For bits starting from this value x2, pruning takes place in step 604 to maintain the complexity of the estimation trellis at a desired level.
  • the pruning of step 604 may include different embodiments corresponding to the embodiments of step 504 of Figure 14.
  • the embodiments can be combined or used separately.
  • likelihoods significance computed probabilities
  • the pruning criterion is based on a threshold applied to the likelihood of the paths.
  • the likelihood of a path is given by equation (13) (bit clock).
  • U) are linked to the channel model as shown in equation (16).
  • the pruning consists in suppressing all the paths for which the probability of average binary error at the exit of the channel is higher than p.
  • the pruning criterion comprises a threshold p compared to the probabilities PtYjU so that all the paths of the estimation trellis for which P ⁇ U ⁇ (lp) n is verified, are deleted.
  • the probability P (S x Kn / Y x ⁇ ) for the number of bits n (with n> x2) is calculated in step 606.
  • the pruning performed at step 604 is reiterated for this new instant bit K ,,.
  • Steps 604 and 606 are performed for a value n incremented up to the value N.
  • the most likely sequence S X N is chosen, that is to say the sequence for which the probability P (S X K / Y X N ) is the greatest among the possible sequences of the estimation trellis obtained.
  • the posterior marginal probabilities P (S 1 K 7Y X N ) are known for all the sequences s x ⁇ remaining after pruning.
  • the mentioned termination constraints can be seen as a way to force synchronization at the end of the symbol sequence. In fact, they force the decoder to obtain the correct correspondence between the number of decoded symbols and the number of bits observed. However, these constraints have no synchronization effect on the middle of the sequence.
  • M-ary / binary conversion is not essential, but allows small values of T to be used.
  • the decoding methods presented above for binary sources can also work for M-ary sources.
  • the invention proposes a robust decoding method of arithmetic codes based on the use of codes of the arithmetic code type comprising the arithmetic codes with reduced precision, called qua-arithmetic codes.
  • the precision of these quasi-arithmetic codes is an adjustable parameter depending on the desired effect. Very high precision makes it possible to achieve compression performance identical to arithmetic codes. Lower accuracy increases robustness, at the cost of a reasonable loss in compression.
  • the invention makes it possible to greatly reduce the phenomenon of desynchronization of the decoder.
  • the invention offers greater flexibility to adjust a compromise between compression efficiency / robustness / decoding complexity.
  • the invention comprises a set of methods which can be chosen according to the complexity allowed by the terminal, according to the error rate observed on the channel.
  • a sequential decoding method includes a synchronization mechanism coupled with a pruning technique which allows the complexity of the decoding process to be controlled.
  • a trellis decoding process with parameterization of the complexity / robustness / compression compromise makes it possible to use the process in a coupled manner with a channel decoder (decoder of convolutional codes), difficult use with traditional sequential processes.

Abstract

L'invention concerne un décodeur (2) comprenant une première entrée pour recevoir un flux codé de seconds éléments binaires (Yd). Il comprend une deuxième entrée pour recevoir des propriétés de canal (Ic) propres à définir des probabilités de recevoir de seconds éléments binaires, sur émission de premiers éléments binaires, un premier module (12) définissant un modèle source (8) propre à définir des probabilités pour des symboles x-aires associés à des transitions entre états sources dans un diagramme d'états source, un modèle dit 'produit' (7), propre à définir une correspondance entre les symboles x­-aires et de premiers éléments binaires, en fonction d'états produits dans un diagramme d'états 'produit', un état produit étant fonction d'un état source, un module de traitement (6) adapté pour calculer des probabilités de décoder des symboles x-aires, connaissant des bits du flux codé de seconds éléments binaires, à partir des propriétés du canal (Ic) , du modèle source (8) et du modèle produit (7), et adapté pour reconstituer le flux de symboles x-aires le plus probable à partir de ces probabilités calculées.

Description

Dispositif et procédé de décodage robuste de codes arithmétiques
L'invention concerne la compression/décompression de données numériques, notamment pour des signaux multimédia (audio, image, vidéo, parole), et la transmission robuste de ces données sur des réseaux bruités, tels que des réseaux sans fils, des communications mobiles.
Pour réduire le débit de transmission des données numériques, on les comprime, en cherchant à s'approcher du maximum théorique que les spécialistes appellent "l'entropie du signal". Pour cela, on utilise souvent des codes statistiques aussi appelés codes à longueurs variables, par exemple les codes de Huffman. Ces codes ont néanmoins l'inconvénient d'être très sensibles aux erreurs de transmission. L'inversion de un bit peut conduire à une désynchronisation du décodeur, qui a pour conséquence un décodage erroné de toutes les données qui suivent la position du bit erroné.
Les solutions actuelles de compression, transmission et décompression de signaux multimédia sur réseau, sur lesquelles on reviendra, se fondent sur l'hypothèse qu'une certaine qualité de service du transport des données est garantie. En d'autres termes, elles supposent que les couches de transport et de liaison, en s'appuyant sur l'utilisation de codes correcteurs, vont permettre d'atteindre un taux d'erreur résiduel quasi nul (c'est-à-dire vu par l'application de compression et de décompression). Mais cette hypothèse de taux d'erreur résiduel quasi nul n'est plus vraie lorsque les caractéristiques des canaux varient dans le temps (canaux non stationnaires), notamment dans les réseaux sans fil et mobiles, et pour une complexité du code de canal réaliste. En outre, l'ajout de redondance par codes correcteurs d'erreurs conduit à réduire le débit utile.
Le besoin se fait donc sentir de nouvelles solutions de codage/décodage.
La présente invention vient proposer des avancées en ce sens.
L'invention concerne un procédé de décodage comprenant les étapes suivantes: a. prévoir un modèle source propre à définir des probabilités pour des symboles x-aires, associés à des transitions entre états sources dans un diagramme d'états source, un modèle dit "produit", propre à définir une correspondance entre les symboles x-aires et de premiers éléments binaires, en fonction d'états produits dans un diagramme d'états "produit", un état produit étant fonction d'un état source b. recevoir des propriétés de "canal", propres à définir des probabilités de recevoir de seconds éléments binaires, sur émission de premiers éléments binaires, c. pour un flux codé reçu de seconds éléments binaires, calculer des probabilités de décoder des symboles x-aires, connaissant des bits du flux de seconds éléments binaires, respectivement des probabilités d'aboutir dans des états produits connaissant des bits du flux de seconds éléments binaires, à partir des propriétés de canal, du modèle source et du modèle produit, d. reconstituer le flux de symboles x-aires le plus probable à partir des probabilités calculées à l'étape c.
Avantageusement, le modèle produit est établi à partir du modèle source et d'un modèle de transfert, propre à établir une correspondance entre des symboles x-aires et de premiers éléments binaires, en fonction de probabilités associées à des symboles x-aires. Le modèle source comprend des transitions associées à une correspondance entre des symboles m-aires sources et des symboles x-aires cibles, en particulier m≥x et x=2.
De préférence, les modèles de produit et de transfert sont de type arithmétique et le modèle de transfert est un modèle de codage ou de décodage.
Plus précisément, l'étape c. comprend le calcul, par étapes, des probabilités de décoder un symbole x-aire connaissant des bits du flux de seconds éléments binaires.
Dans une première réalisation selon l'invention, l'étape c. comprend, pour chaque étape à partir d'un nombre donné d'étapes et selon un critère de sélection donné, la sélection de certaines probabilités parmi les probabilités de décoder un symbole x-aire, connaissant des bits du flux de seconds éléments binaires, calculées lors d'une étape.
Avantageusement, le critère de sélection de l'étape c. comprend un nombre fixé de probabilités à garder parmi les plus grandes des probabilités. Alternativement ou additionnellement, le critère de sélection de l'étape c. comprend un seuil minimal comparé aux probabilités de recevoir de seconds éléments binaires, sur émission de premiers éléments binaires, de manière à ne mémoriser, à chaque étape, que les probabilités de décoder un symbole x-aire, connaissant des bits du flux de seconds éléments binaires, calculées à partir des probabilités de recevoir de seconds éléments binaires, sur émission de premiers éléments binaires, plus grandes que ce seuil minimal.
De préférence, l'étape c. comprend l'élaboration d'un arbre constitué d'états reliées par des transitions, chaque état correspondant à une étape de calcul de probabilités et chaque transition, au départ d'un état, correspondant à l'une de ces probabilités calculées. Ainsi, la sélection de certaines probabilités parmi les probabilités de décoder un symbole x-aire, connaissant des bits du flux de seconds éléments binaires, correspond à la construction d'états correspondant à un sous-ensemble de transitions de l' arbre fonction desdites certaines probabilités.
De plus, l'étape d. comprend le calcul du produit des probabilités correspondant à des transitions successives dans l' arbre et la sélection du produit le plus grand correspondant aux transitions successives les plus probables et au flux de symboles x-aires le plus probable.
Selon une première option, l'étape c. comprend le calcul, pour un nombre donné de symboles x-aires successifs à décoder, des probabilités de décoder une séquence de symboles x-aire connaissant des bits du flux de seconds éléments binaires.
Selon une deuxième option, l'étape c. comprend le calcul, pour un nombre donné de bits successifs du flux de seconds éléments binaires, des probabilités de décoder une séquence de symboles x-aire, connaissant des bits du flux de seconds éléments binaires.
Dans une deuxième réalisation selon l'invention, à partir du modèle produit établissant ladite correspondance, l'étape c. comprend cl. la construction successive d'états reliés par des transitions d'un diagramme d'états produit depuis un état d'origine à un état final, chaque état définissant un nombre attendu de symboles x-aires décodés pour un nombre donné de bits du flux de seconds éléments binaires depuis l'état d'origine. Avantageusement, la construction de l'étape c. comprend c2. la suppression successive d' états du diagramme d' états produit, depuis l' état final à l' état d'origine, pour lesquels le nombre attendu de symboles x-aires pour un nombre donné de bit du flux de seconds éléments binaires est différent d'un nombre connu maximal de symboles x-aires.
Selon une première option, l'étape c. comprend cl. le calcul, après chaque état construit, des premières probabilités successives d'aboutir dans un état donné connaissant des bits passés du flux de seconds éléments binaires, c2. le calcul, pour chaque état depuis l'état final à l'état d'origine, des secondes probabilités successives d'aboutir dans cet état donné connaissant des prochains bits du flux de seconds éléments binaires.
Selon une deuxième option, l'étape c. comprend c3. le calcul, pour chaque état du diagramme depuis l'état d'origine à l'état final, des premières probabilités successives d'aboutir dans cet état donné connaissant des bits passés du flux de seconds éléments binaires, et , pour chaque état depuis l'état final à l'état d'origine, des secondes probabilités successives d'aboutir dans un état donné connaissant des prochains bits du flux de seconds éléments binaires.
De préférence, l'étape c. comprend le calcul de la probabilité de chaque état en effectuant le produit des premières et deuxièmes probabilités pour chaque état et l'étape d. comprend le calcul des produits de probabilités des différents états successifs possibles puis la sélection du produit maximal.
Avantageusement, l'étape d. comprend l'établissement du flux de symboles x-aires correspondant à ces états successifs en utilisant la correspondance du modèle produit.
L'invention concerne également un décodeur comprenant une première entrée pour recevoir un flux codé de seconds éléments binaires. Ce décodeur comprenant une deuxième entrée pour recevoir des propriétés de canal propres à définir des probabilités de recevoir de seconds éléments binaires, sur émission de premiers éléments binaires, un premier module définissant - un modèle source propre à définir des probabilités pour des symboles x-aires associés à des transitions entre états sources dans un diagramme d'états source,
- un modèle dit "produit", propre à définir une correspondance entre les symboles x-aires et de premiers éléments binaires, en fonction d'états produits dans un diagramme d'états "produit", un état produit étant fonction d'un état source,
- un module de traitement adapté pour calculer des probabilités de décoder des symboles x-aires, connaissant des bits du flux codé de seconds éléments binaires, respectivement des probabilités d'aboutir dans des états produits connaissant des bits du flux de seconds éléments binaires, à partir des propriétés du canal, du modèle source et du modèle produit, et adapté pour reconstituer le flux de symboles x-aires le plus probable à partir de ces probabilités calculées.
D'autres caractéristiques et avantages de l'invention apparaîtront à l'examen de la description détaillée ci-après, et des dessins annexés, sur lesquels :
- la figure 1 illustre un ensemble comprenant un codeur et un décodeur selon l'invention,
- la figure 2 est une vue générale du procédé de codage implémentable dans un codeur selon l'invention, - la figure 3 est un diagramme formant vue générale du procédé de décodage implémentable dans un décodeur selon l'invention,
- les figures 4A, 4B et 4C illustrent trois représentations différentes d'un même modèle dit "source" établissant une correspondance entre les symboles de la source et des séquences de bits, - les figures 5A et 5B illustrent deux représentations différentes d'une même correspondance entre des séquences de symboles et des séquences de bits, basées sur le modèle dit "source" des figures 4A et 4B,
- la table 1 illustre une représentation sous forme de table d'un modèle dit "codeur",
- la table 2 illustre une représentation sous forme de table d'un modèle dit "décodeur", - la figure 6A illustre une représentation sous forme de table d'un modèle dit "produit source-codeur"selon l'invention,
- la figure 6B illustre une représentation sous forme de treillis du modèle dit "produit source- codeur" de la figure 6A selon l'invention, - les figures 7A et 7B illustrent deux représentations partielles sous forme de treillis du modèle dit "codeur" de la table 1,
- la figure 8 illustre une représentation généralisée d'un modèle dit "produit source- codeur"selon l'invention, - la figure 9A illustre une représentation sous forme de table d'un modèle dit "produit source-décodeur"selon l'invention,
- la figure 9B illustre une représentation sous forme de treillis du modèle dit "produit source- décodeur" de la figure 9 A selon l'invention,
- la figure 10 illustre une représentation généralisée d'un modèle dit "produit source- décodeur"selon l' invention,
- la figure 11 illustre le procédé de décodage dans une première réalisation selon l'invention, -la figure 12 illustre le procédé de décodage dans une deuxième réalisation selon l' invention,
- la figure 13 illustre une représentation sous forme de treillis réalisée à partir du procédé de décodage de la figure 11 ou 12 , - la figure 14 illustre le procédé de décodage dans une troisième réalisation selon F invention,
- la figure 15 illustre le procédé de décodage dans une quatrième réalisation selon l'invention.
En outre: - l'annexe 1 contient des expressions mathématiques utilisées dans la présente description.
Les dessins et les annexes à la description comprennent, pour l'essentiel, des éléments de caractère certain. Ils pourront donc non seulement servir à mieux faire comprendre la description, mais aussi contribuer à la définition de l'invention, le cas échéant.
De manière générale, un système de compression de signaux multimédia (image, vidéo, audio, parole) fait appel à des codes statistiques aussi appelés codes à longueurs variables. Ceux-ci permettent d'obtenir des débits approchant ce que les spécialistes appellent "l'entropie du signal". Les codes les plus utilisés dans les systèmes existants (en particulier dans les standards) sont les codes de Huffman qui ont été décrits dans l'ouvrage suivant : D.A. Huffman : "Amethod for the construction of minimum redundancy codes", Proc. IRE, 40 (1951), p.1098-1101. Plus récemment, on a vu un regain d'intérêt pour les codes arithmétiques en raison de leurs performances accrues en terme de compression. Ils permettent en effet de découpler le processus d'encodage du modèle supposé de la source. Ceci permet aisément d'utiliser des modèles statistiques d'ordre supérieur. Ces codes arithmétiques ont été décrits dans des ouvrages tels que
[1]- J . Rissanen "Generalized kraft inequality and arithmetic", IBM J.Res. Develop., 20:198-203, Mai 1976
[2]- J.J. Rissanen, "Arithmetic Coding as number représentations", Acta Polytech. Scand. Math., 31:44-51, Décembre 1979 ainsi que dans des brevets américains US 4 286 256, US 4467 317, US 4 652 856.
Jusque récemment, la conception des systèmes de compression se faisait en supposant une qualité de service transport garantie. On supposait en effet que les couches inférieures du modèle OSI incorporent des codes correcteurs d'erreurs garantissant un taux d'erreur résiduel vu de l'application quasi-nul.
Les codes à longueurs variables pouvaient donc être largement utilisés malgré leur forte sensibilité au bruit de transmission. Cette hypothèse de taux d'erreur résiduel quasi nul n'est plus vraie dans les réseaux sans fil et mobiles, dont les caractéristiques des canaux varient dans le temps (canaux non stationnaires). Ce taux d'erreur résiduel vu par le décodeur des signaux de source est souvent loin d'être négligeable. Toute erreur dans le train binaire peut engendrer une dé-synchronisation du décodeur et donc une propagation des erreurs sur la- suite des informations décodées.
Pour pallier ce problème de propagation, les standards de premières générations (H.261, H.263, MPEG-1, MPEG-2) ont incorporé dans la syntaxe du train binaire transmis des marqueurs de synchronisation. Ce sont des mots de code longs (16 ou 22 bits constitués d'une suite de 15 ou 21 bits à 'l' suivis d'un '0') non émulables par des erreurs se produisant sur les autres mots de code et qui peuvent donc être reconnus par le décodeur avec une probabilité proche de '1'.
Cela conduit à structurer le train binaire en paquets délimités par ces marqueurs de synchronisation. Cela permet de confiner la propagation des erreurs au sein du paquet. Cependant si une erreur intervient en début de paquet la suite du paquet peut être perdue. En outre, la périodicité de ces marqueurs de synchronisation doit être restreinte pour éviter une perte trop grande en efficacité de compression.
Les nouveaux standards ( H.263+ et MPEG-4) ont alors fait appel à des codes à longueurs variables réversibles (RNLC). La particularité de ces codes est qu'ils peuvent être décodés du premier vers le dernier bit d'un paquet, et, à l'inverse, du dernier vers le premier bit du paquet.
Si une erreur s'est produite en milieu de paquet, cette symétrie du code permet de confiner la propagation des erreurs sur un segment en milieu de paquet au lieu de la propager jusqu'à la fin du paquet délimité par un marqueur de synchronisation. Cependant, la symétrie du code engendre une perte en efficacité de compression par rapport à un code de Huffman de l'ordre de 10 %. En outre les codes à longueurs variables réversibles n'évitent pas complètement le problème de propagation des erreurs : si une erreur se produit en début et en fin de paquet, tout le paquet risque d'être erroné.
La conception de procédés de codage/décodage robustes au bruit de transmission et basés sur une famille de codes performants en compression (Le., qui permettent d'approcher l'entropie de la source), constitue un enjeu important, notamment pour les futurs systèmes de communication multimédia (image, vidéo, audio, parole) mobiles. Pour ces systèmes, de nouveaux standards sont à l'étude à la fois au sein de l'ITU (International Télécommunication Union) et de 1TSO (International Standard Organization).
Bien que les standards occupent une place prépondérante dans le secteur des télécommunications, une telle famille de codes peut aussi trouver des applications sur des marchés de niche faisant appel à des solutions propriétaires.
L'invention décrite concerne notamment un dispositif codeur/décodeur pour une famille de codes largement utilisés dans les systèmes de compression comme des codes de type arithmétique comprenant les codes arithmétiques et les codes quasi-arithmétiques. Les principes du codage arithmétique et quasi-arithmétique sont développés ci-après. Ils sont développés plus en détail dans l'ouvrage [2] et les ouvrages suivants [3] - 1. H. itten and R. M. Neal and J. G. Cleary . Arithmetic coding for data compression. Communications of the ACM, 30(6):520-540, Juinl987, [4] P. G. Howard and J. S. Vitter, Image and Text Compression, pages 85-112. Kluwer Académie Publisher, 1992.
Dans le reste de la description, l'utilisation du mot "séquence" désigne un flux ou une suite d'éléments. Par exemple, une séquence de bits, respectivement de symboles désignera un flux ou une suite de bits, respectivement de symboles.
Le principe du codage consiste de façon générale à procéder aux étapes suivantes : soit A = Ax ... AL, une séquence de symboles de source quantifiés qui prennent leur valeur dans un alphabet fini A composé de M = 2q symboles, A={a1 ... aM}. Cet alphabet a une distribution stationnaire qui indique pour chaque symbole une probabilité statiormaire associée. Cette séquence de symboles -aires (appelée également source A) est convertie en une séquence de symboles x-aires (avec x≤M). Dans le cas où cette séquence de symboles M-aires est convertie en une séquence de symboles binaires S≈Si—Si , (appelée également source S), K est définit par K=qxL. Les variables M et x définissent des entiers à partir de 2. Ainsi, dans l'exemple, x = 2 et M=4.
A titre d'exemple uniquement dans le reste de la description, et pour des raisons de simplification, on considérera que x=2. Cette conversion utilise un modèle de source décrit ci-après comprenant une correspondance entre la source M-aire A et la source binaire S. Cette séquence de symboles binaires S est convertie à son tour en une séquence de premiers éléments binaires d'information U= J1 ...UN, par l'intermédiaire d'un codeur quasi-arithmétique de précision T. La longueur N de ce train binaire est une variable aléatoire, fonction de S, la séquence de symboles binaires, elle-même fonction de A, la séquence de symboles M-aires. Le train de premiers éléments binaires U est transmis, à titre d'exemple uniquement, sur un canal sans mémoire. Ce train de premiers éléments binaires U est reçu comme un train de seconds éléments binaires Y en raison d'erreurs introduites lors de la transmission par le canal de communication. Les couches inférieures du système de communication permettent en effet de déterminer au moins les propriétés courantes le du canal de communication, par exemple le taux d'erreurs introduites par le canal dans les bits communiqués, des mesures de confiance sur des bits reçus. Ces dernières mesures permettent d'estimer des probabilités de recevoir un second élément binaire connaissant un premier élément binaire communiqué sur le canal. Ces probabilités sont estimées comme indiqué en annexe (équation 21 avec l'indice i étant un entier) à partir d'une des propriétés courantes le du canal : p, la probabilité d'erreur sur le canal.
Le principe du décodage consiste à estimer la suite de symboles A, connaissant les seconds éléments binaires appelés également par la suite "observations y". Dans le reste de la description, les lettres majuscules seront utilisées pour dénoter les variables aléatoires, et les minuscules pour les réalisations, ou observations de ces variables. Pour noter une suite de variables successives, la notation X ={XU, X^—X^,}.
Le principe de codage/décodage peut également être directement appliqué à une source correspondant non pas à des symboles M-aires (A) avec M>2 mais à des symboles binaires (S) avec M=2. Dans la suite de la description, un symbole x-aire, respectivement un symbole M-aire, comprend notamment le cas du symbole binaire (x=2, respectivement M=2) et le cas du symbole pour lequel x>2, respectivement M>2.
La figure 1 illustre un exemple d'ensemble de codeur 1 et de décodeur 2. Le codeur et le décodeur ont respectivement une entrée Ec, Ed et une sortie Wc, Wd. Lors du codage, un flux de symboles x-aires à coder est reçu en entrée du codeur en Ec. Le codeur transmet en sortie Wc un flux de premiers éléments binaires, appelé premier flux de bits Uc, généré par codage du flux de symboles x-aires, par exemple sous forme comprimée. Ce premier flux de bits Uc.est envoyé, par l'intermédiaire d'un jcanal 11, à l'entrée Ed du décodeur 2. Le canal, ayant pu erroner le premier flux de bit (par exemple inverser certains bits du premier flux), transmet un flux de seconds éléments binaires, appelé second flux de bits Yd, à l'entrée du décodeur 2. Selon l'invention, un module de traitement 6 reçoit. et traite ce second flux de bits ainsi que les propriétés le du canal, communiquées par le canal, pour obtenir en sortie Wd du décodeur, un flux de symboles Sd. Un module de traitement 6 est propre à travailler avec le module de modèles 12. Ce module de modèles comprenant -un modèle de source 8 permettant de définir des probabilités pour des symboles x-aires associés à des transitions entre états sources dans un diagramme d' états source décrit ci-après, - un modèle dit "produit" 7 permettant de définir une correspondance entre les symboles x- aires et de premiers éléments binaires, en fonction d'états dans un diagramme d'états "produit", un état produit étant fonction d'un état source et d'un état d'un modèle de transfert.
Le modèle produit 7 est établi à partir du modèle source 8 et d'un modèle de transfert 9 ou 10. Le modèle produit peut être construit dynamiquement à partir du modèle de source et des modèles de transfert 9 ou 10. Dans une autre réalisation possible, le modèle produit peut être implémenté dans le module de modèles sans être construit dynamiquement. Le modèle de transfert comprend un modèle de codage 9 ou un modèle de décodage 10. Ce modèle de transfert permet d'établir une correspondance entre des symboles binaires et de premiers éléments binaires, en fonction de probabilités associées à des symboles binaires.
Il est également possible de partir d'une séquence de symboles M-aire pouvant être au préalable transformer en une séquence de symboles x-aires avant d'être compressée en utilisant le modèle source.
Dans une réalisation possible, ces modèles peuvent être pré-calculés et mis en mémoire dans un module externe au module de modèle du décodeur. Ils peuvent également être utilisés à distance, par exemple en se servant d'un réseau local de type Ethernet ou un réseau plus étendu de type internet.
Le module de traitement 6 est adapté pour calculer des probabilités de symboles x-aires, connaissant les bits du flux de seconds éléments binaires, à partir des propriétés le du canal, du modèle source et du modèle produit. Le module de traitement 6 est adapté pour reconstituer le flux de symboles x-aires le plus probable à partir de ces probabilités calculées et pour reconstituer le flux de symboles M-aires à partir du modèle source si un flux de symboles M-aires a été codé. Le procédé découlant de ce dispositif selon l'invention est décrit dans le reste de la description et permettra, notamment, de mieux comprendre le fonctionnement d'un tel dispositif.
La figure 2 illustre un exemple de procédé de codage pouvant utiliser l'insertion de marqueurs de synchronisation. Ce procédé est implémenté dans un codeur recevant en entrée une source (M-aire), par exemple une séquence de données.
A l'étape 100, lorsque la séquence de données ne nécessite pas de marqueurs M-aires, le procédé continue à l'étape 104. Si, au contraire, des marqueurs M-aires doivent être insérés dans la séquence de données, la fréquence, la taille et la valeur de ces marqueurs sont fournies par le codeur pour effectuer l'insertion de ces marqueurs à l'étape 102.
A l'étape 104, il est vérifié si la séquence de données (comprenant ou non des marqueurs de synchronisation) nécessite une conversion M-aire/binaire. Si tel n'est pas le cas, la séquence de données est donc binaire et est soumise au codage arithmétique (quasi-arithmétique dans l'exemple de la figure) à l'étape 112. Sinon, la conversion M-aire/binaire de la séquence s'effectue à l'étape 106. A l'étape 108, si des marqueurs binaires doivent être insérés, la fréquence, la taille et la valeur de ces marqueurs sont fournies par le codeur pour effectuer l'insertion de ces marqueurs à l'étape 110.
A l'étape 112, la séquence de données M-aire ou binaire est soumise au codage quasi- arithmétique dont la complexité est contrôlée par le paramètre T. Si T est grand, le codage quasi-arithmétique devient identique à un codage arithmétique. Il en résulte une compression -maximale de la séquence de données binaire en un train de bits.
La figure 3 illustre un exemple de procédé de décodage prenant en compte les marqueurs de synchronisation insérés. Ce procédé est implémenté dans un décodeur recevant en entrée le train binaire et des informations concernant la source M-aire ou x-aire (notamment binaire), la fréquence, la taille et la valeur des marqueurs de synchronisation éventuels.
A l'étape 120, différents modes de décodage peuvent être sélectionnés : - un décodage instantané à l'étape 124,
- un décodage séquentiel selon l'invention, qui est détaillé dans le reste de la description, à l'étape 122,
- un décodage optimal, qui est détaillé dans le reste de la description, selon l'invention à l'étape 126.
A l'étape 128, il est vérifié si la séquence de données obtenue après décodage nécessite une conversion binaire/M-aire.
Si tel est le cas, la séquence de données est donc binaire et à l'étape 130, il est vérifié si la séquence de données comprend des marqueurs binaires. Si tel est le cas, ces marqueurs sont supprimés à l'étape 132 en utilisant les informations sur leur fréquence et leur taille. Après l'étape 130 ou l'étape 132, la séquence de données est soumise à la conversion binaire/Maire à l'étape 134.
Après l'étape 128 ou 134, il est vérifié si la séquence de données comprend des marqueurs M-aires à l'étape 136. Si tel n'est pas le cas, le décodage de la séquence de données (ou source) est terminé, sinon, les marqueurs sont supprimés à l'étape 138 pour obtenir la séquence de données (ou source).
Les figures 4 à 5 illustrent des modèles de source pour la conversion M-aire/binaire et binaire/M-aire d'une séquence de données (ou source).
La figure 4A illustre la représentation binaire des 4 symboles d'une source 4-aire, c'est-à- dire une source prenant valeur dans un alphabet 4-aire. Ce modèle source peut être un arbre binaire de profondeur q, comme cela est montré sur la figure 4A pour q=2 et M=4. Dans une variante, cet arbre peut être représenté par une table de correspondance. Le noeud noir est appelé racine de l'arbre, les noeuds blancs sont les noeuds intermédiaires, les noeuds grisés sont appelés feuilles de l'arbre. Les probabilités P de chaque symbole M-aire correspondent aux probabilités stationnaires de la source. Les probabilités de transition (non représentées) sur les branches de cet arbre binaire sont calculées à partir des probabilités stationnaires. La figure 4B représente l' automate permettant de convertir la séquence de symboles M-aires indépendants en une séquence de symboles binaires. Ce modèle de source peut également être représenté en figure 4B sous forme d'un automate à trois états : C = 0 pouvant être l'état initial, C=l et C=2 les états intermédiaires. En variante, ce modèle de source peut être représenté en figure 4C sous forme d'un treillis avec les mêmes états : C=0 à gauche, l'état initial relié aux états intermédiaires C=l et C=2 à droite, ces états intermédiaires, à gauche, étant reliés à l'état C=0 à droite. De plus, dans cet exemple, les probabilités de chaque symbole x-aire (ici, symbole binaire) sont indiquées sur les transitions correspondantes.
Pour un flux de données comprenant plusieurs symboles M-aires non indépendants, un modèle complet de la source est obtenu en connectant des modèles locaux successifs comme indiqué sur la figure 5A. Un modèle local correspond à un modèle de source pour un flux comprenant un symbole comme illustré sur la figure 4A. En référence aux figures 5, pour un flux de deux symboles M-aires dépendants, le modèle complet de la source consiste à identifier les feuilles du premier arbre binaire avec la racine de l'arbre suivant, racine représentée par un noeud noir sur les figures 5 A et 5B. La figure 5 A combine ainsi des arbres binaires entre-eux. En variante, la figure 5B combine un premier arbre binaire avec des automates correspondants prenant pour état initial et final les feuilles de l'arbre binaire. Cet automate permet de convertir une séquence de symboles M-aires dépendants en une séquence de symboles binaires.
D'après la figure 5 A, les états C- définissent les noeuds possibles dans lesquels peut être l'automate après la production de k symboles binaires. Cet ensemble de noeud possible est symbolisé sur la figure par un trait mixte reliant les noeuds d'un même état k. La séquence C0,...,CK est une chaîne de Markov et le flux de symboles binaires correspondant est fonction des transitions de cette chaîne. Les transitions appelées Sk puisqu'elles engendrent l'émission des symboles binaires Sk, représentent l'ensemble des transitions possibles entre l'ensemble des états Ck et l'ensemble des états C. du modèle source.
A partir de cet automate stochastique, le flux de symboles binaires peut être modélisé par un modèle de Markov caché. Connaissant chaque probabilité statiormaire associée à chaque symbole binaire, chacune de ces probabilités correspondant à un des segments de l'intervalle unitaire [0,1[, le codage arithmétique permet, pour une séquence de symboles binaires, de déterminer l'intervalle de cette séquence. Ce dernier représente un segment de l'intervalle unitaire et sa borne inférieure est issue de la somme des probabilités des séquences de symboles correspondant aux sous-intervalles inférieurs. La largeur de cet intervalle est donnée par la probabilité de la séquence de symboles correspondant à cet intervalle. On appelle "intervalle courant", l'intervalle correspondant à une partie de la séquence et donc à l'état Ck courant de cette partie de séquence, lors du calcul de l'intervalle ou sous-segment associé à la sous séquence correspondant à l'état .
Des mises en oeuvre pratiques du codage arithmétique ont d'abord été introduites dans l'ouvrage [1], l'ouvrage suivant :
[5]- R. Pasco. Source coding algorithms for fast data compression. PhD thesis, Dept. of Electrical Engineering, Stanford Univ., Stanford Calif .,1976 et revisitées dans [2]. Un problème qui se pose lors de cette mise en oeuvre est la nécessité de disposer d'une grande précision numérique pour représenter des intervalles avec des nombres réels très petits. Cette difficulté peut être résolue en se basant sur la représentation binaire des nombres réels dans l'intervalle [0,1[, ce qui est décrit dans [3].Tout nombre appartenant à l'intervalle [0,0.5 [ a son premier bit égal à 0,alors que tout nombre appartenant à l'intervalle [0.5, 1[ a son premier bit égal à 1. Par conséquent, pendant le processus de codage, dés que l'intervalle courant est entièrement contenu dans [0,0.5[ ou [0.5, 1[, le bit correspondant est émis et la taille de l'intervalle est doublée. Un traitement spécifique est nécessaire pour les intervalles qui chevauchent Vz . Si l'intervalle courant chevauche Vz et est entièrement contenu dans [0.25,0.75[, il ne peut pas être identifié par un bit unique. Sa taille est tout de même doublée, sans émettre de bit, et le nombre de fois (n) où cette opération est effectuée avant d'émettre un bit est mémorisée, n est le nombre de remises à l'échelle effectuées depuis la dernière émission d'un bit. Lorsqu'un intervalle pour lequel un bit U~ Uj est émis est atteint, alors ce bit est suivi par la séquence de n fois le bit de valeur opposée. L'utilisation de cette technique garantit que l'intervalle courant satisfait en permanence low < 0.25 < 0.5 ≤ high ou low < 0.5 < 0.75 ≤ high, avec low et high les bornes inférieures et supérieures de l'intervalle courant respectivement.
Le principe du codage arithmétique peut se modéliser par un automate stochastique dont les états E sont définis par trois variables : low, up et nscl le nombre de remises à l'échelle. L'inconvénient de ce codage est qu'il peut exister un très grand nombre d'états si la distribution stationnaire de la source n'est pas connue a priori ou si le flux comprend un nombre de symboles x-aires important. Le codage quasi-arithmétique, également appelé codage arithmétique à précision réduite, permet de réduire le nombre d'états possibles sans perte importante en efficacité de compression, comme décrit dans l'ouvrage [4]. Pour effectuer le codage quasi-arithmétique, l'intervalle réel [0,1[ est remplacé par l'intervalle entier [0,T[. L'entier T permet de contrôler le compromis entre la complexité et l'efficacité de compression : si T est grand, alors les subdivisions de l'intervalle représenteront précisément la distribution de la source. Par contre, si T est petit (proche de 1), toutes les subdivisions possibles de l'intervalle pourront être pré-calculées, ces subdivisions représenteront seulement une approximation de la distribution de la source.
Comme présenté dans la table 1, toutes les transitions entre états et les émissions de bits correspondantes peuvent être pré-calculées. Les opérations arithmétiques sont alors remplacées par des lectures de table.
Une séquence Sx κ de symboles binaires est convertie un flux de bits UX N par un arbre binaire. Cet arbre peut être vu comme un automate ou un modèle codeur qui modélisé la distribution du train binaire. Le codage d'un symbole détermine le choix d'un arc de l'arbre, auquel peut être associée l'émission de bits. Chaque noeud correspond à un état E du codeur arithmétique. Les transitions successives entre ces états suivent la distribution de la source P(Sk | Sk. j) pour une source de Markov d'ordre 1. Soit E,, l'état de l'automate à chaque "instant symbole" k. Comme pour le codage arithmétique, l'état E. du codeur quasi-arithmétique est défini par trois variables: lowSk, upSk et nscl k. Les termes lowSk et upSk désignent les bornes de l'intervalle résultant des subdivisions successives de [0,T[ correspondant au codage de la séquence Sx κ. La quantité nscl k est remise à zéro chaque fois qu'un bit est émis et incrémentée chaque fois qu'une remise à l'échelle sans émission de bit est effectuée. Elle représente donc le nombre de remises à l'échelle effectuées depuis la dernière émission de bit. Quand un bit est émis, il est suivi par nscl k bits de valeur opposée.
Dans la mesure où il y a un nombre fini de subdivisions possibles de l'intervalle [0,T[, il doit être possible de pré-calculer tous les états du codeur quasi-arithmétique sans connaître la source à priori.
A titre d'exemple, la table 1 présente les états, les sorties et toutes les transitions possibles d'un codeur quasi-arithmétique de précision T=4 pour une source binaire. On s'intéressera dans un premier temps aux ensembles Cl et C2 de colonnes. La valeur de la variable nscl k n'est pas inclue dans le modèle d'état.. Seuls les incréments de cette variable sont signalés par la lettre f dans le tableau comme dans l'ouvrage [4].
Le codeur a trois états possibles, correspondant à des subdivisions entières de l'intervalle [0,4[ prises par l'intervalle courant [lowSk, upSk[ . On se reportera à l'ouvrage
[6] P. G. Howard and J. S. Vitter, Design and Analysis of fast text compression based on quasi-arithmetic coding. In Data Compression Conférence, pages 98-107, Snowbird, Utah,Mars-Avril 1993.
pour le choix de ces subdivisions. En fonction de la probabilité du symbole binaire d'entrée 0, l'intervalle courant [lowSk, upSk[ sera subdivisé en intervalles entiers. Suivant que, dans la colonne C2, le symbole binaire d'entrée est 0 ou 1, les subdivisions en intervalles entiers de l' intervalle courant [lowSk, upSk[ possibles conduisent à l' émission de bits indiquées ou à la remise à l'échelle appropriée avant de déterminer le prochain état de l'automate.
Dans le cas où les symboles en entrée sont des symboles binaires, le nombre d'états peut être encore réduit en identifiant les symboles binaires comme " moins probable" (LPS) et "plus probable" (MPS) dans la colonne C3, plutôt que 0 et 1 dans la colonne C2. Cela revient à considérer la probabilité de chaque symbole binaire plutôt que la valeur du symbole binaire, les MPS et LPS pouvant correspondre soit à un bit 0 soit à un bit 1. Le nombre de combinaisons possibles des probabilités de la source binaire est réduit. Cela permet de combiner certaines transitions et d'éliminer des états de l'automate.
La séquence E0...EK d'états successifs du codeur quasi-arithmétique forme une chaîne de Markov et les sorties du codeur sont fonctions des transitions sur cette chaîne.
De la même manière que le codage quasi-arithmétique, le décodage peut se modéliser par un automate stochastique à nombre d'états En fini comme présenté sur la table 2.
L'état d'un décodeur arithmétique est défini par deux intervalles : [lowUn,upUn[ et [lowS^upSj^ [. L'intervalle [lowUn,upUn[ correspond au segment de l'intervalle [0,1[ défini par la réception de la séquence de bits
Figure imgf000020_0001
est le segment de l'intervalle [0,1[ obtenu quand la séquence de symboles S^ a été décodée. Cet intervalle est mis à jour par cumul des probabilités de chaque symbole binaire décodé, de la même manière qu'au codage pour chaque symbole codé. Il reproduit le fonctionnement du codeur.
Un codeur et un décodeur arithmétique ne sont pas synchronisés. En effet, au codage, la réception d'un symbole n'entraîne pas nécessairement l'émission d'un bit. De même, au décodage, la lecture d'un bit n'entraîne pas nécessairement la production d'un symbole. Ainsi, si la lecture du premier symbole de la séquence à coder n'entraîne aucune émission de bit, il se peut qu'au décodage, la lecture du premier bit suffise à décoder le premier symbole. Les deux intervalles sont mis à l'échelle comme au codage afin d'éviter les problèmes de précision numérique.
Dans l'exemple de la table 2, un automate stochastique est défini pour une valeur de T = 4.
La table présente les états, transitions et sorties d'un décodeur quasi-arithmétique pour une source binaire, avec T=4 et la simplification MPS/LPS.
Soit En l'état de cet automate à "l'instant bit" n, c'est-à-dire à l'instant de traitement du bit reçu Un. Cet état est défini par les valeurs des intervalles [lowUn,upUn[ et
Figure imgf000020_0002
[.
En fonction de la distribution stationnaire de la source (représentée, colonne Kl, par la probabilité du symbole MPS le plus probable), l'intervalle courant [lowS^upS^ [ sera subdivisé en intervalles entiers. Suivant que le bit d'entrée est Un = 0 dans la colonne K2 ou Un =1 dans la colonne K3, les subdivisions en intervalles entiers de l'intervalle courant [lowSj^upSKn [ possibles conduisent à l'émission de symboles MPS ou LPS indiquées ou à la remise à l'échelle appropriée avant de déterminer le prochain état de l'automate.
Un codeur, respectivement décodeur utilisant l'automate stochastique de la table 1,. respectivement table 2, démarre à l'état E- =1, respectivement En =1.
Différents modèles sont envisagés selon l'invention pour être utilisés dans des procédés de codage/décodage et pour être implémentés dans les codeurs/décodeurs correspondants. Ainsi, il est envisagé un modèle dit "produit" pouvant être un modèle résultant du produit des modèles source et codeur ou un modèle résultant du produit des modèles source et décodeur.
De manière générale, les états du modèle produit doivent rassembler les informations contenues dans les états de chacun des deux modèles (source et codeur ou source et décodeur). Dans le cas général, la taille de l'espace d'états du "modèle produit" ne peut pas être connue a priori. Elle peut être calculée à partir du modèle de source binaire et du paramètre T.
Pour un modèle produit source/codeur, comme le nombre de bits, dans chaque élément binaire, produit par chaque transition du modèle produit est aléatoire, la structure des dépendances entre la séquence de seconds éléments binaires et les états du modèle produit est aléatoire. Afin de "capturer"' cette structure de dépendances, le processus de Markov, représenté par les états Xk du codeur selon le modèle produit, est augmenté d'un compteur Nk pour obtenir la structure de dépendance suivante (X,N)=(X1,N1)... (Xκ,Nκ). Chaque état Xk du modèle produit est défini par l'état du modèle codeur, l'état du modèle source et le nombre de bits émis quand le k-ième symbole a été codé : (X^N^ = (lowS^upS^Ck,!^. Cela conduit à la structure de dépendances décrite graphiquement par la figure 8. Suivant cette structure, une séquence de symboles binaires Sx κ est convertie en une séquence de bits
Uj^avec Nκ le nombre de bits émis quand K symboles ont été codés. Etant donnés un état Xk_x et un symbole d'entrée Sk, le modèle produit spécifie les bits U^^ à U^ qui doivent être émis et l'état suivant Xk. Certaines transitions peuvent n'émettre aucun bit. Les probabilités des transitions entre (X^l y = (lowSk,upSk,Ck,Nk) et l'état suivant dans le treillis (Xk+1 ,Nk+1) = (lowS^upSk+^ ^N^) sont données par le modèle de source binaire, P(Ck+ι|Ck)= P(Sk+1|Ck). Les seconds éléments binaires Ym.1+1 à Y sont obtenues à la sortie du canal de transmission lorsque les premiers éléments binaires U^.,.! à Uw ont été émis. Ces seconds éléments binaires sont des observations sur les premiers éléments binaires.
Un exemple de modèle produit issu des modèles source et codeur est présenté d'après les figures 6 et 7. L'exemple de modèle produit définit dans la table de la figure 6 A est issu du produit du modèle source de la figure 4C et du modèle codeur de la table 1. En théorie, la taille de l'espace d'états résultant de ce produit est donnée par le produit des tailles des espaces d'états des deux modèles (source et codeur). Toutefois, des simplifications ont lieu, ce qui permet d'aboutir à un nombre d'états moins important.
Le modèle codeur arithmétique de la table 1 (T=4) utilisant le modèle d'état simplifié de la colonne C3 a été représenté sous forme de treillis aux figures 7A et 7B, la figure 7A correspondant à une probabilité 0.63 <P(MPS), la figure 7B correspondant à une probabilité 0.37 ≤P(MPS) < 0.63. L'une ou l' autre de ces figures peut être utilisée suivant les probabilités de la source binaire. Les probabilités de la source binaire, résultant d'une conversion à partir d'une source M-aire, dépendent de l'état Ck du modèle de cette source binaire. Les transitions du modèle produit source/codeur sont ainsi fonction de la distribution de la source. La table de la figure 6A est construite en fonction des états Ck du modèle de source de la figure 4C, de la probabilité des transitions Sk, les transitions Sk=0 et Sk=l de la figure 4C étant modifiées en Sk=LPS et Sk=MPS, et des transitions du modèle de codeur représenté aux figures 7A et.7B en fonction.de la probabilité de la source. La colonne Ml de la figure 6A ne contient que 4 états du modèle produit définis dans la colonne M2 par les variables d'états du modèle de source et du codeur correspondant. Le modèle de la source ayant 3 états et celui du codeur ayant 2 états, le modèle produit aura au maximum 6 états. En pratique, des simplifications ont lieu comme expliqué ci-après à l' aide des figures 7A et 7B. La figure 7A montre que pour un état E^≈O du codeur, il est possible de continuer dans un état E,=l du codeur pour une probabilité du modèle de source 0,63<P(MPS). Par contre, la figure 7B indique qu'il n'est pas possible d'atteindre l'état Ej=l du codeur à partir de l'état E,=0. Ainsi, dans le modèle produit de la figure 6A, aucun état du modèle produit Xk=4 et Xk=5 correspondant à des paires d'états du modèle source et codeur (E,=l, Ck=l) et (βf ≈l, Ck=2) n'existe pour la loi de probabilité telle 0,37<P(MPS) <0,63 du modèle de source. Les colonnes M3 et M4 indiquent, pour le symbole en entrée (MPS ou LPS), les bits émis et l'état suivant du modèle produit.
Pour un modèle source/décodeur selon la figure 9A ou 9B, les états de ce modèle produit doivent rassembler les informations des états des modèles de source et de décodeur. Un état
Figure imgf000023_0001
K,, étant le nombre de symboles décodés quand n bits ont été reçus. Le nombre de symboles produits par chaque transition du modèle produit est aléatoire. Par conséquent, la structure des dépendances entre la séquence de second éléments binaires et les symboles décodés est aléatoire. La chaîne de Markov XX...XN du modèle produit source/décodeur est augmentée par une variable compteur K,, pour donner la chaîne de Markov (X,K)=(X1,K1) ... (XN,KN) ce qui aboutit à la structure de dépendances illustrée à la figure 10. Suivant cette structure, une séquence de bits UX N est convertie en une séquence de symboles S^, avec KN le nombre de symboles décodé quand N bits ont été reçus. Etant donnés un état X„ et un bit d'entrée Un+1, l'automate produit la séquence de symboles binaires SK-+1 I^1+1, et spécifie l'état suivant X„+1. Les probabilités des transitions entre (X^K,,) et (Xn+1,Kn+1) dans le treillis dépendent du modèle de source binaire. Elles sont données par la formule en annexe (17). Comme pour le modèle source/codeur, des simplifications d'états de ce modèle sont possibles en fonction du modèle du décodeur et du modèle de source utilisé. Dans l'exemple de la figure 9 A ou 9B, le modèle source utilisé est celui de la figure 4C et le modèle décodeur, celui de la table 2.
Les procédés de décodage robuste pour codes arithmétiques sont basés sur les modèles de dépendances décrits précédemment.
Une première réalisation du procédé de décodage robuste est illustrée par la figure 11.
Il est fait référence à l'annexe 1 pour ce qui concerne le développement mathématique associé. Le décodeur reçoit en entrée le train de bits à décoder. Le modèle de source, la variable N représentant le nombre de bits reçus à décoder et la probabilité P(Uπ /Y d'avoir émis un premier bit (ou premier élément binaire) Un sachant le second bit (ou second élément binaire) Yn observé sont des données que le décodeur a pour entrée, c'est à dire que, à titre d'exemple seulement, ces données peuvent être reçues en entrée avec le train de bits à décoder ou peuvent être lues dans une mémoire accessible par le décodeur. La probabilité P(Un [Y peut être obtenue à partir des propriétés du canal.
Le critère du MAP (Maximum A Posteriori) correspond à l'estimation bayésienne optimale d'un processus X à partir des observations disponibles Y comme indiqué par l'équation (3) annexe 1. L'optimisation est effectuée pour toutes les "séquences" possibles. Dans cette première réalisation, ce critère est appliqué à l'estimation des états cachés des processus (X,N), qui peuvent être considérés comme des processus à horloge symbole, et des processus (X,K), qui peuvent être considérés comme des processus à horloge bit, étant données les séquences de bits observées. L'estimation peut être faite soit à horloge bit, soit à horloge symbole. Pour des raisons de simplicité de mise en oeuvre, l'estimation à horloge bit est privilégiée.
Dans ce cas, l'estimation de l'ensemble des états cachés (X,K)=(XX,KX) ... (XN,KN) est équivalente à l'estimation de la séquence de symboles décodés correspondante S = Sx ... S^ ...SKJ,, sachant les observations YX N à la sortie du canal. La meilleure séquence (X,K) peut être obtenue à partir des probabilités locales sur les paires (X^K grâce à l'équation (4).
Le calcul de P(Xn,Kn|Y) peut être effectué à partir de l'équation de décomposition (5) où désigne un facteur de normalisation. Les dépendances de la chaîne de Markov permettent un calcul récursif des deux termes de la partie droite de cette équation, basé sur l'algorithme
BCJR décrit dans l'ouvrage [7] L.R. Ba l, J. Cocke, F. Jelinek, and, J.Raviv. Optimal decoding of linear codes for minimizing symbol error rate. IEEE trans. on transformation theory, 02:284-287, March 1974. Ainsi, à l'étape 300, le treillis est tout d'abord construit en utilisant le modèle source/décodeur de la figure 9A par exemple et les probabilités correspondantes sont calculées pour chaque transition du treillis. Ainsi, à partir du modèle produit, une passe avant permet la construction successive des états reliés par des transitions du diagramme d'états produit depuis un état d'origine à un état final. Chaque état définit un nombre attendu de symboles décodés pour un nombre donné de bits passés du flux de seconds éléments binaires depuis l'état d'origine. Durant cette même étape, la passe avant de l'algorithme BCJR permet de calculer le terme P(Xn=xn,Kn=kn|Y1 π) de la décomposition comme la somme sur l'ensemble des valeurs possibles de
Figure imgf000025_0001
du produit de trois probabilités conditionnelles (équation (6): la probabilité récursive, la probabilité de transition entre les états (xn.x, k^) et (xn, k donnée par le modèle produit (comme indiqué en équation 17 et représentant le produit des probabilités de transition P(Sk|Cj.. ) précédemment dans le modèle source) et la probabilité d'avoir émis le bit Un (pouvant être 0 ou 1) déclenchant la transition entre les états (xn.x, k^) et (xn, l ,,) sachant le second élément binaire Yn. Cette dernière probabilité est obtenue à partir des propriétés du canal. Le calcul récursif est initialisé à l 'état de départ (0,0) et permet de calculer PC ^KjYj 11) pour tout état possible xa A avec n=l...N de l'horloge bit. Ainsi, cette passe avant permet la construction du treillis du modèle produit et le calcul des probabilités P(Xn,î n|Yx n), successives et pour chaque instant n, d'aboutir dans un état donné (X^K connaissant des bits du flux de seconds éléments binaires Yx n.
A l'étape 302, la passe arrière permet d'obtenir le terme P(YN π+1|Xn=xn,Kn=kn) de la décomposition pour tout état possible ( ^k à chaque instant bit n consécutivement de N à 1. Ce terme est calculé comme la somme du produit de trois probabilités conditionnelles (équation (7) ): la probabilité récursive initialisée pour tous les ""derniers états" possibles (XN,KN), la probabilité de transition entre les états (Xn+X, K^) et (X„, KJ donnée par le modèle produit et la probabilité d'avoir émis le bit Un+X déclenchant la transition entre les états Xn+X, K^) et (X^, K sachant le second élément binaire Yn+X. Comme précédemment, cette dernière probabilité est obtenue à partir du modèle de canal. Ainsi, cette passe arrière permet de calculer les probabilités P^^ X^ ^K^kJ, successives et pour chaque instant n de N à 1, d'observer des bits du flux de seconds éléments binaires Yx n connaissant un état donné (jyKJ. Lorsque le nombre de symboles K est connu, une contrainte de terminaison peut être rajoutée lors de la passe arrière à l'étape 302. Ainsi, tous les chemins dans le treillis qui ne conduisent pas au bon nombre de symboles KN=K sont supprimés. Ainsi, la passe arrière comprend la suppression successive des états du diagramme d'états produit, depuis l'état final à l'état d'origine, pour lesquels le nombre attendu de symboles pour un nombre donné de bits du flux de seconds éléments binaires est différent d'un nombre connu maximal de symboles. Ainsi, la première passe de l'étape 300 démarre à l'état initial du treillis et construit successivement les différentes sections du treillis. Au cours de cette passe avant, il n'est pas possible de savoir quels sont les chemins qui ne respectent pas la contrainte de terminaison. Une fois la passe avant terminée, les états de la dernière section (n=N) du treillis qui ne respectent pas la contrainte sont supprimés. La passe arrière permet alors de supprimer toutes les branches qui n'aboutissent pas.
A l'étape 304, les probabilités obtenues des passes avant et arrière sont combinées sous la forme d'un produit pour chaque valeur de n variant de 1 à N pour obtenir les probabilités P(Xn,Kπ|Y) pour chaque état n. De cette manière sont estimées les probabilités liées aux transitions du treillis construit.
A l'étape 306, le produit de l'équation (4) est effectué sur les probabilités P(Xn,KjYx n) avec n variant de 1 à N. Ce produit est effectué pour les différentes combinaisons possibles de ces probabilités. Ainsi, la probabilité P(X,K|Y) la plus grande est retenue et les probabilités P ^KjY) constituant ce produit permettent de déterminer le chemin le plus vraisemblable dans le treillis. A partir du treillis et de la table correspondante du modèle produit source/décodeur, il est possible de déterminer les symboles correspondant à ce chemin et de reconstituer une séquence de symboles Sx κ.
Dans une autre réalisation possible, le treillis sur lequel l'estimation est effectuée peut être pré-calculé et mémorisé à partir du modèle produit source/décodeur et de la longueur N de la séquence de bits observée. Ainsi, en référence à la figure 12, à partir du modèle source/décodeur et des valeurs de K et N, le treillis est construit à l'étape 400 en une passe avant et simplifié par une passe arrière à l'étape 402. Ce treillis est stocké en mémoire pour être utilisé à chaque arrivée de train de bits pour lequel le modèle source/décodeur et les valeurs K et N sont les mêmes.
Pour un train de bits reçus comprenant N=6 bits, pour un nombre connu de symboles à trouver K=7 et pour un modèle de source/décodeur illustré en figure 9A, la construction du treillis est illustré en figure 13. Ce treillis comporte, à chaque état (X^K.), plusieurs valeurs couples (XΠJK . Par exemple, le couple (XX,KX) peut prendre les valeurs (1, 1) ou (2, 1) selon que le bit émis Ux a pour valeur 0 ou 1.
A chaque arrivée de train de bits (ayant le même modèle, les mêmes valeurs de K et N que le treillis), une passe avant et une passe arrière sont effectuées sur le train de bits aux étapes 404 et 406, par exemple de façon parallèle. Les probabilités P(Xn,Kn| Yx n) et P(Yn+1 N | Xa,K sont calculées comme indiqué aux équations (6) et (7). Le produit de ces probabilités est effectué à l'étape 408 pour chaque valeur de n et correspond à chaque transition du treillis. II est ensuite procédé au calcul du produit des probabilités pour n variant de 1 à N à l'étape 410 comme indiqué en (4) pour obtenir des probabilités P(X,K|Y). Il est gardé le maximum parmi ces probabilités P(X,K|Y) pour déterminer le chemin le plus vraisemblable sur le treillis et la séquence de symboles correspondante.
Selon l'exemple de la figure 13, le chemin le plus vraisemblable (obtenant la plus grande probabilité P(X,K|Y) ) est marqué en gras. La suite des états (X^KQ), ...,(XN,KN) permet, à la lecture de la table 8A de déterminer la séquence de symboles correspondant à ce chemin.
Il a été présenté un procédé de décodage optimal de codes quasi-arithmétiques. Ce procédé nécessite la création et la manipulation d'un treillis d'estimation, comme par exemple celui de la figure 13. La taille de ce treillis dépend du nombre d'états du modèle produit source/décodeur (4 états sont possibles pour le modèle produit source/décodeur de la figure 9A par exemple) et de l'amplitude des valeurs que peut prendre la variable K,, à chaque instant bit n. Le nombre d'états du modèle produit source/décodeur est lui-même dépendant du modèle de source binaire et du paramètre de précision du codage quasi-arithmétique T. Pour régler le compromis entre l'efficacité de compression du codeur quasi-arithmétique et la complexité du procédé d'estimation, il suffit donc de régler la valeur du paramètre T. Une valeur de T aussi petite que 4, par exemple, entraîne un débit excédent raisonnable. Si cependant une compression maximale est requise, T doit avoir une valeur beaucoup plus grande et la valeur minimale de T requise dépend de la distribution de la source. Dans la majeure partie de ces cas, la valeur de T est trop importante pour pouvoir utiliser le procédé d'estimation optimal décrit ci-dessus. Le nombre d'états du modèle produit source/décodeur peut également être trop important pour pouvoir pré-calculer ces états.
Un procédé d'estimation applicable au codage arithmétique et au codage quasi-arithmétique est maintenant décrit quelle que soit la précision T choisie, c'est-à-dire quelque soit 1 ' efficacité en compression choisie .
Ce procédé s'appuie sur les même modèles de source, de codeur et de décodeur que ceux vus précédemment. Le nombre d'états des modèles de codeur et de décodeur étant trop important pour que ceux-ci puissent être être pré-calculés, le treillis d'estimation correspondant ne peut pas non plus être construit. Le procédé d'estimation proposé ci-après est donc basé sur l'exploration d'un sous-ensemble du treillis d'estimation, qui est considéré comme un arbre. Ce procédé est appelé procédé d'estimation séquentiel. Il peut s'appliquer à partir des modèles source/codeur et effectuer les calculs séquentiels en utilisant "l'horloge symbole", c'est-à-dire un compteur incrémenté selon le nombre de symboles à trouver. Il peut également s'appliquer à partir des modèles source/décodeur et effectuer les calculs séquentiels en utilisant "l'horloge bit", c' est- à-dire un compteur incrémenté selon le nombre de bits à décoder. Ce deuxième procédé d'estimation est présenté pour une source binaire à titre d'exemple uniquement. Il peut également s'appliquer à une source M-aire (M>2).
La figure 14 illustre le procédé d'estimation séquentiel dit à horloge symbole, c'est à dire basé sur le modèle source/codeur. Ainsi, d'après la figure 8 représentant la structure de dépendance du modèle source/codeur, l'estimation de la séquence des états (X, N) pour un train de bits est équivalent à l'estimation de la séquence de transitions entre ces états, c'est à dire à l'estimation de la séquence S sachant les observations Y à la sortie du canal. Ceci se traduit par une formulation mathématique présentée en (8) où a désigne un facteur de normalisation. Dans le cas du codage arithmétique optimal (pour une valeur de T élevée), comme les bits émis sont distribués uniformément et indépendamment, ce facteur de normalisation est P(UX N)/P(YX N) = 1.
A l'étape 500, la probabilité de décoder une séquence de symboles (de 1 à k) connaissant des bits du flux de seconds éléments binaires P(S x kYx Nk) pour chaque instant symbole k peut être calculée en une passe avant unique grâce à la décomposition de l'équation (9 ) où Nk est le nombre total de bits émis lorsqu'on est dans l'état Xk. En tenant compte du modèle de source binaire défini à l'équation(l) et en considérant un canal sans mémoire, la probabilité d'observer les seconds éléments binaires correspondant à un état du modèle ne dépend que des premiers éléments binaires pour cet état, cette probabilité peut être réécrite comme indiqué à l'équation (10).
Le calcul est initialisé comme indiqué en (11) avec Sx = sx pouvant prendre deux valeurs possibles 0 ou 1 dans le cas d'une source binaire, et M valeurs possibles dans le cas d'une source M-aire. Cx est l'état de départ du modèle de source. Pour un canal considéré sans mémoire, le second terme de cette équation modélisant le bruit introduit par ce canal est donné à l'équation (12) comme le produit, pour un état Xk donné du modèle source/codeur, des probabilités d'observer un second élément binaire Yn pour un premier élément binaire transmis Un. Partant de cette initialisation, l'équation (10) est utilisée pour calculer P(Sx k/Yx Nk) pour chaque instant symbole k consécutif.
Toutes les séquences de symboles possibles étant considérées, la taille du treillis d'estimation croît exponentiellement avec le nombre de symboles K. Ainsi, l'étape 502 autorise le calcul des probabilités P(Sx Υx N ) pour un nombre de symboles k variant de 1 à ύ.. Pour les symboles à partir de cette valeur xl, un ilagage intervient à l'étape 504 pour maintenir une complexité du treillis d'estimation à un niveau désiré, xl est un entier inférieur ou égal au nombre de symboles K.
L'élagage de l'étape 504 peut comporter différentes réalisations. A titre d'exemple, deux réalisations sont présentées ci-après. Les réalisations peuvent être combinées ou employées séparément. Ainsi, dans une première réalisation de l'élagage de l'étape 504, seuls les W noeuds les plus vraisemblables d'un état (Xk, N-) sont sélectionnés et ceci à partir d'un nombre k = xl pour garantir la significativité des probabilités calculées (appelées vraisemblances). La valeur de W dépend des ressources de mémoire disponibles. Ainsi, pour chaque état (Xk, N , seules les W probabilités les plus grandes parmi les probabilités calculées de décoder une séquence de symboles (de 1 à k) connaissant des bits du flux de seconds éléments binaires P(S1 k/Y1 Nk) sont sélectionnées et mémorisées. Dans une variante, il est possible de garantir une terminaison correcte de l'estimation en raffinant cette contrainte. Ainsi, seuls les w noeuds les plus vraisemblables seront sélectionnés et conservés pour chaque valeur possible de Nk (correspondant à l'horloge symbole). Nk est le nombre de bits émis pour k symboles codés lors du codage. La relation entre W et w est donnée en (19) avec N^^ et N^,, dépendant respectivement de la probabilité de la séquence Sx k la plus et la moins vraisemblable.
Dans une deuxième réalisation de l'élagage de l'étape 504, le critère d'élagage est basé sur un seuil appliqué sur la vraisemblance des chemins. La vraisemblance d'un chemin est donnée par l'équation (8) (horloge symbole). Dans cette équation, les termes P(Y|U) sont liés au modèle de canal comme indiqué dans l'équation (12). P n≈yjJUn≈u-) représente la probabilité qu'un bit yn soit observé sachant qu'un bit u.^ a été transmis ou la probabilité de recevoir un bit yn sachant q'un bit un a été émis, ce qui équivaut à la probabilité que le bit observé soit erroné. Soit p la probabilité d'erreur binaire moyenne qui est fixée arbitrairement comme tolérable sur le canal durant l'estimation. L'élagage consiste à supprimer tous les chemins pour lesquels la probabilité d'erreur binaire moyenne à la sortie du canal est supérieure à p. Ainsi, à chaque instant symbole Nk, le critère d'élagage comprend un seuil p comparé aux probabilités P ^IU^ de manière à ce que tous les chemins du treillis d'estimation pour lesquels est vérifié
Figure imgf000030_0001
soient supprimés. Seules sont mémorisées les probabilités de décoder une séquence de symboles (de 1 à k) connaissant des bits du flux de seconds éléments binaires P(Sx k/Yx N ), calculées à partir des probabilités PO^l ^) plus grandes que le seuil minimal p.
Après incrémentation de la valeur k d'une unité, la probabilité P(Sx k/Y1 Nk) pour le nombre de symboles Nk (avec k>x) est calculée à l'étape 506. L'élagage réalisé à l'étape 504 est réitéré pour ce nouvel instant symbole Nk. Les étapes 504 et 506 sont effectuées pour une valeur k incrémentée jusqu'à la valeur K. A l'étape 510, une fois la valeur K atteinte, les probabilités P(SX /YX NK) marginales a posteriori sont connues pour toutes les séquences sx possibles. La séquence sx κ la plus vraisemblable est choisie, c'est-à-dire la séquence pour laquelle la probabilité P(SX K/Υ1 NK) est la plus grande parmi les séquences possibles du treillis d'estimation obtenu.
Lorsque le nombre de bits N est connu, il peut constituer une contrainte sur la terminaison du treillis d'estimation et les chemins qui ne respectent pas la contrainte N ne sont pas considérés.
La figure 15 illustre le procédé d'estimation séquentiel dit à horloge bit, c'est à dire basé sur le modèle source/décodeur. Ainsi, d'après la figure 10 représentant la structure de dépendance du modèle source/décodeur, F estimation de la séquence des états (X, K) pour obtenir un train de symboles est équivalent à l'estimation de la séquence de transitions entre ces états, c'est à dire à l'estimation de la séquence S sachant les observations Y à la sortie du canal. Ceci se traduit par une formulation mathématique présentée en (13) où α désigne un facteur de normalisation. Dans le cas du codage arithmétique optimal (pour une valeur de T élevée), les bits émis étant distribués uniformément et indépendamment, ce facteur de normalisation est P(Ux n)/P(Yx n)=l.
A l'étape 600, la probabilité de décoder une séquence de K,. symboles connaissant les bits du flux de seconds éléments binaires P(Sx Kn/Yx n) pour chaque bit n (défini ultérieurement) peut être calculée en une passe avant unique grâce à la décomposition de l'équation (13 ) où K-j est le nombre total de symboles décodés à la réception du bit n dans l'état X.,. En tenant compte du modèle de source binaire qui définit en (2) les probabilités de transition entre états Xn,KA et (X^EL^), la probabilité P(Sx Kn) d'obtenir une séquence de symbole S1 n s'exprime de manière récurrente selon l'équation (14) en utilisant l'équation (15). En considérant un canal sans mémoire, c'est-à-dire que la probabilité d'observer les seconds éléments binaires correspondant à un état du modèle ne dépend que des premiers éléments binaires transmis pour cet état, la probabilité P(YxYUx n) peut être réécrite et permet d'obtenir la probabilité P(Sx Kn/Yx n) comme indiqué en (16). Comme dans le cas de la figure 14, le calcul de la probabilité P(Sx Kn/Yx n) par l'équation (16) est initialisée pour n=l, Sx = sx pouvant prendre deux valeurs possibles 0 ou 1 dans le cas d'une source binaire, et M valeurs possibles dans le cas d'une source M-aire. Cx est l'état de départ du modèle de source. Partant de cette initialisation, l'équation (16) est utilisée pour calculer P(Sx Kn/Yx n) pour chaque instant bit n consécutif.
Toutes les séquences de symboles possibles étant considérées, la taille du treillis d'estimation croît exponentiellement avec le nombre de symboles K pouvant être estimé. Ainsi, l'étape 602 autorise le calcul des probabilités P(Sx Kn/Υx π) à l'étape 600 pour un nombre de bits n variant de 1 à x2, x2 étant un entier désignant un nombre seuil de bits. Pour les bits à partir de cette valeur x2, un élagage intervient à l'étape 604 pour maintenir une complexité du treillis d'estimation à un niveau désiré.
L'élagage de l'étape 604 peut comporter différentes réalisations correspondant aux réalisations de l'étape 504 de la figure 14. Les réalisations peuvent être combinées ou employées séparément.
Ainsi, dans une première réalisation de l' élagage de l' étape 604, seuls les W noeuds les plus vraisemblables d'un état (X,,, KJ sont gardés et ceci à partir d'un nombre n = x2 pour garantir la significativité des probabilités calculées (appelées vraisemblances). Ainsi, pour chaque état (X^ KJ, seules les W probabilités les plus grandes parmi les probabilités calculées de décoder une séquence de K,, symboles connaissant des bits du flux de seconds éléments binaires P(Sx k/Yx N ) sont mémorisées.
Dans une variante, il est possible de conserver seuls les w noeuds les plus vraisemblables pour chaque valeur possible de Ε^ (correspondant à l'horloge bit). 1^ est le nombre de symboles émis pour n bits reçus lors du décodage. La relation entre W et w est donnée en (20) avec K^,^ et K^,, dépendant respectivement de la probabilité de la séquence Sx k la plus et la moins vraisemblable.
Dans une deuxième réalisation de l'élagage de l'étape 604, le critère d'élagage est basé sur un seuil appliqué sur la vraisemblance des chemins. La vraisemblance d'un chemin est donnée par l'équation (13) (horloge bit). Dans cette équation, les termes P(Y|U) sont liés au modèle de canal comme indiqué dans l'équation (16). Comme proposé pour la figure 13, l'élagage consiste à supprimer tous les chemins pour lesquels la probabilité d'erreur binaire moyenne à la sortie du canal est supérieure à p. Ainsi, à chaque instant bit n, le critère d'élagage comprend un seuil p comparé aux probabilités PtYjU de manière à ce que tous les chemins du treillis d'estimation pour lesquels est vérifié P^ U < (l-p)n, soient supprimés. Seules sont mémorisées les probabilités de décoder un prochain symbole connaissant des bits du flux de seconds éléments binaires P(Sx Kn/Υx π), calculées à partir des probabilités PtΥJU plus grandes que le seuil minimal p. Ainsi, à chaque instant bit n, tous les chemins du treillis d'estimation pour lesquels le critère d'élagage P(Yn|Un) < (l-p)n est rempli, sont supprimés.
Après incrémentation de la valeur n d'une unité, la probabilité P(Sx Kn/Yx π) pour le nombre de bits n (avec n>x2) est calculée à l'étape 606. L'élagage réalisé à l'étape 604 estréitéré pour ce nouvel instant bit K,,. Les étape 604 et 606 sont effectuées pour une valeur n incrémentée jusqu' à la valeur N. A l' étape 610, une fois la valeur N atteinte, la séquence SX N la plus vraisemblable est choisie, c'est-à-dire la séquence pour laquelle la probabilité P(SX K/YX N) est la plus grande parmi les séquences possibles du treillis d'estimation obtenu.
A la fin de l'estimation, les probabilité P(S1 K7YX N) marginales a posteriori sont connues pour toutes les séquences sx κ restant après élagage.
Les contraintes de terminaison mentionnées peuvent être vues comme un moyen de forcer la synchronisation à la fin de la séquence de symboles. En effet, elles contraignent le décodeur à obtenir la bonne correspondance entre le nombre de symboles décodés et le nombre de bits observés. Cependant, ces contraintes n'ont pas d'effet de synchronisation sur le milieu de la séquence.
L'addition à la séquence de symboles d'information complémentaire permet de favoriser la re-synchronisation sur l'ensemble de la séquence. Ainsi, des symboles supplémentaires, ou marqueurs, sont introduits à des positions connues dans la séquence de symboles. Le choix de ces symboles est arbitraire, et se base sur le principe des techniques décrites dans (2, 4, 11, 5, 14). A titre d'exemple uniquement, un des symboles dans l'alphabet peut être choisi ou le dernier symbole codé peut être répété. Ces marqueurs sont insérés à position connue suivant l'horloge symbole. Par conséquent, la position des bits supplémentaires correspondants dans le train binaire dépend de la séquence de symboles codée, et est aléatoire.
Bien évidemment, les procédés développés précédemment doivent tenir compte de cette information supplémentaire. Cette connaissance à priori peut être exploitée par les procédés d'estimation. La variable K,, (k à horloge symbole) indique quand un marqueur est attendu. Les probabilités de transition correspondantes dans le treillis d'estimation sont mises à jour en conséquence. Une probabilité nulle est affectée à toutes les transitions qui n'émettent pas les marqueurs attendus, alors qu'une probabilité de 1 est affectée aux autres. Par conséquent, certains chemins dans le treillis peuvent être supprimés, ce qui amène une réduction du nombre d'états et une meilleure capacité de re-synchronisation.
Des exemples de procédés de décodage robuste sont décrits ci-dessus à titre d'exemple. D'autres variantes peuvent être envisagées. De plus, d'autres critères d'élagage peuvent être prévues et combinés avec les procédés de l'invention. La conversion M-aire/binaire n'est pas indispensable, mais permet d'utiliser de petites valeurs de T. Les procédés de décodage présentés ci-dessus pour des sources binaires peuvent également fonctionner pour des sources M-aires.
Comme développé dans la description ci-dessus, l'invention propose un procédé de décodage robuste de codes arithmétiques basé sur l'utilisation de codes de type codes arithmétiques comprenant les codes arithmétiques à précision réduite, appelés codes qua- si-arithmétiques. La précision de ces codes quasi-arithmétiques est un paramètre ajustable en fonction de l'effet recherché. Une précision très élevée permet d'atteindre des performances en compression identiques aux codes arithmétiques. Une précision plus faible permet d'accroître la robustesse, au prix d'une perte raisonnable en compression.
Comparée à un décodage dit "instantané" classique, l'invention permet de réduire fortement le phénomène de désynchronisation du décodeur. Comparée à d'autres méthodes classiques de décodage dite "séquentielles" ou sur structures d'arbres, l'invention offre une plus grande souplesse pour ajuster un compromis entre l'efficacité de compression/la robustesse/la complexité du décodage. En effet, l'invention comprend un ensemble de procédés pouvant être choisis selon la complexité permise par le terminal, selon le taux d'erreur observé sur le canal. Un procédé de décodage séquentiel comprend un mécanisme de synchronisation couplé à une technique d'élagage qui permet de contrôler la complexité du processus de décodage. Un procédé de décodage sur treillis avec paramétrisation du compromis complexité/robustesse/compression permet d'utiliser le procédé de manière couplée avec un décodeur de canal (décodeur de codes convolutifs), utilisation difficile avec les procédés séquentiels traditionnels.
Dans l'invention proposée, il doit être clair que les éléments d'ordre mathématique décrits n'ont pas d'intérêt en eux-mêmes, mais seulement dans la mesuré où ils concernent des flux d'informations ( par exemple signal sonore, vidéo), soumis à des contraintes matérielles.
Annexe 1
P(Ck+1\Ck) = P(Sk+1\Ck) (1)
Kn+1 π i i) (2) k=κn+ι
X≈axgmaxΨ{X = x\Y). (3)
Figure imgf000036_0001
TU»/ Y" f IV\ ^(^nj-Kn|V™)OP(l^+1|-X'ιι,.Kn) r(Λn,Αn\X ) — p^yW \ ?
(5) oc P(Xn,ΛTn|17) • Ψ(Y» \Xn,Kn),
Figure imgf000036_0002
F(Un = «(:Cn_1,fcn-1)( nJfcm)lFn)-
P(Fn^x| n = a:n, ϋfn = rn) = P(rn^2| n+ι = „+1, Kn+l = kn+l)-
(xn+ι,kn+ι)
(7)
^Xn+1 = n+l,Kn+l = kn+ι\Xn = Xn,Kn = kn)-
Figure imgf000036_0003
Figure imgf000036_0004
wisfiY?») oc p(s*-1|ι *-l).p(S'fc|σfc_1). (10)
Figure imgf000037_0001
H P(Yn = yn\Un = un) if Nk > Nfc_χ (12) n=-Vfc_ι+l
1 sinon.
P(S "|Yχn) oc Ψ(Sγn) -Ψ(Y?\U?) (13)
Figure imgf000037_0002
sg -i++ilisr"1) =
H P(Sfc|C7fe_χ)siK-n>ϋ:n_χ (15)
Figure imgf000037_0003
1 sinon.
P(5 n|YÏ») oc
Figure imgf000037_0004
oc P(S -,1KΛ,"-1|
Figure imgf000037_0005
P(X (17)
Figure imgf000037_0006
P(Y„|ϋπ)<(l-p)n (18)
W" = Nkmax ~ Nkmvn + 1)*» (19)
W7 = ( fnmαa; ~ K-nmin + l)w (20)
Figure imgf000038_0001

Claims

Revendications
1. Procédé de décodage comprenant les étapes suivantes: a. prévoir un modèle source propre à définir des probabilités pour des symboles x-aires (SJ, associés à des transitions entre états sources (C dans un diagramme d'états source, un modèle dit "produit", propre à définir une correspondance entre les symboles x-aires et de premiers éléments binaires, en fonction d'états produits dans un diagramme d'états "produit", un état produit étant fonction d'un état source, b. recevoir des propriétés de "canal", propres à définir des probabilités de recevoir de seconds éléments binaires, sur émission de premiers éléments binaires, c. pour un flux codé reçu de seconds éléments binaires, calculer des probabilités de décoder des symboles x-aires, connaissant des bits du flux de seconds éléments binaires, ou des probabilités d'aboutir dans des états produits connaissant des bits du flux de seconds éléments binaires, à partir des propriétés de canal, du modèle source et du modèle produit, d. reconstituer le flux de symboles x-aires le plus probable à partir des probabilités calculées à l'étape c.
2. Procédé selon la revendication 1, caractérisée en ce que le modèle produit est établi à partir du modèle source et d'un modèle de transfert, propre à établir une correspondance entre des symboles x-aires et de premiers éléments binaires, en fonction de probabilités associées à des symboles x-aires.
3. Procédé selon la revendication 2, caractérisé en ce que le modèle source comprend des transitions associées à une correspondance entre des symboles m-aires (AJ sources et des symboles x-aires cibles (SJ, en particulier m≥x et x=2.
4. Procédé selon l'une des revendications précédentes, caractérisée en ce que les modèles de produit et de transfert sont de type arithmétique et en ce que le modèle de transfert est un modèle de codage ou de décodage.
5. Procédé selon l'une des revendications précédentes, caractérisé en ce que l'étape c. comprend le calcul, par étapes, des probabilités de décoder un symbole x-aire connaissant des bits du flux de seconds éléments binaires.
6. Procédé selon l'une des revendications précédentes, caractérisé en ce que l'étape c. comprend, pour chaque étape à partir d'un nombre donné d'étapes et selon un critère de sélection donné, la sélection de certaines probabilités parmi les probabilités de décoder un symbole x-aire, connaissant des bits du flux de seconds éléments binaires, calculées lors d'une étape.
7. Procédé selon la revendication 6, caractérisé en ce que le critère de sélection de l'étape c. comprend un nombre fixé de probabilités à garder parmi les plus grandes des probabilités.
8. Procédé selon l'une des revendications 6 et 7, caractérisé en ce que le critère de sélection de l'étape c. comprend un seuil minimal comparé aux probabilités de recevoir de seconds éléments binaires, sur émission de premiers éléments binaires, de manière à ne mémoriser, à chaque étape, que les probabilités de décoder un symbole x-aire, connaissant des bits du flux de seconds éléments binaires, calculées à partir des probabilités de recevoir de seconds éléments binaires, sur émission de premiers éléments binaires, plus grandes que ce seuil minimal.
9. Procédé selon l'une des revendications 5 à 8, caractérisé en ce que l'étape c. comprend l'élaboration d'un arbre constitué d'états reliées par des transitions, chaque état correspondant à une étape de calcul de probabilités et chaque transition, au départ d'un état, correspondant à l'une de ces probabilités calculées.
10. Procédé selon les revendications 1 et 9, caractérisé en ce que l'étape d. comprend le calcul du produit des probabilités correspondant à des transitions successives dans l'arbre et la sélection du produit le plus grand correspondant aux transitions successives les plus probables et au flux de symboles x-aires le plus probable.
11. Procédé selon les revendications 5 et 10, caractérisé en ce que l'étape c. comprend le calcul, pour un nombre donné de symboles x-aires successifs à décoder, des probabilités de décoder une séquence de symboles x-aire connaissant des bits du flux de seconds éléments binaires.
12.Procédé selon les revendications 5 et 10, caractérisé en ce que l'étape c. comprend le calcul, pour un nombre donné de bits successifs du flux de seconds éléments binaires, des probabilités de décoder une séquence de symboles x-aire, connaissant des bits du flux de seconds éléments binaires.
13. Procédé selon l'une des revendications 1 à 4, caractérisé en ce qu'à partir du modèle produit établissant ladite correspondance, l'étape c. comprend cl. la construction successive d'états reliés par des transitions d'un diagramme d'états produit depuis un état d'origine à un état final, chaque état définissant un nombre attendu de symboles x-aires décodés pour un nombre donné de bits du flux de seconds éléments binaires depuis l'état d'origine.
14. Procédé selon la revendication 13, caractérisé en ce que la construction de l'étape c. comprend c2. la suppression successive d'états du diagramme d'états produit, depuis l'état final à l'état d'origine, pour lesquels le nombre attendu de symboles x-aires pour un nombre donné de bits du flux de seconds éléments binaires est différent d'un nombre connu maximal de symboles x-aires.
15. Procédé selon l'une des revendications 13 à 14, caractérisé en ce que l'étape c. comprend cl. le calcul, après chaque état construit, des premières probabilités successives d'aboutir dans un état donné connaissant des bits passés du flux de seconds éléments binaires, c2. le calcul, pour chaque état depuis l'état final à l'état d'origine, des secondes probabilités successives d'observer des prochains bits du flux de seconds éléments binaires connaissant cet état donné.
16. Procédé selon l'une des revendications 13 à 14, caractérisé en ce que l'étape c. comprend c3. le calcul, pour chaque état du diagramme depuis l'état d'origine à l'état final, des premières probabilités successives d'aboutir dans cet état donné connaissant les bits passés du flux de seconds éléments binaires, et , pour chaque état depuis l'état final à l'état d'origine, des secondes probabilités successives d'observer des prochains bits du flux de seconds éléments binaires connaissant un état donné.
17. Procédé selon l'une des revendications 13 à 16, caractérisé en ce que l'étape c. comprend le calcul de la probabilité d'aboutir dans cet état donné connaissant les bits du flux de seconds éléments binaires en effectuant le produit des premières et deuxièmes probabilités pour chaque état.
18. Procédé selon les revendications 1 et 17, caractérisé en ce que l'étape d. comprend le calcul des produits de probabilités des différents états successifs possibles puis la sélection du produit maximal.
19. Procédé selon les revendications 13 et 18, caractérisé en ce que l'étape d. comprend l'établissement du flux de symboles x-aires correspondant à ces états successifs en utilisant la correspondance du modèle produit.
20. Décodeur comprenant une première entrée pour recevoir un flux codé de seconds éléments binaires, caractérisé en ce qu'il comprend une deuxième entrée pour recevoir des propriétés de canal propres à définir des probabilités de recevoir de seconds éléments binaires, sur émission de premiers éléments binaires, un premier module définissant - un modèle source propre à définir des probabilités pour des symboles x-aires associés à des transitions entre états sources dans un diagramme d'états source, - un modèle dit "produit", propre à définir une correspondance entre les symboles x-aires et de premiers éléments binaires, en fonction d'états produits dans un diagramme d'états "produit", un état produit étant fonction d'un état source, un module de traitement adapté pour calculer des probabilités de décoder des symboles x-aires, connaissant des bits du flux codé de seconds éléments binaires, à partir des propriétés du canal, du modèle source et du modèle produit, ou des probabilités d'aboutir dans des états produits connaissant des bits du flux de seconds éléments binaires, et adapté pour reconstituer le flux de symboles x-aires le plus probable à partir de ces probabilités calculées.
PCT/FR2003/002246 2002-07-22 2003-07-16 Dispositif et procede de decodage robuste de codes arithmetiques WO2004012340A2 (fr)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2004523851A JP4169738B2 (ja) 2002-07-22 2003-07-16 算術符号をロバスト復号化する装置および方法
US10/521,962 US7215265B2 (en) 2002-07-22 2003-07-16 Device and method for robust decoding of arithmetic codes
EP03755610.7A EP1527521B1 (fr) 2002-07-22 2003-07-16 Dispositif et procede de decodage robuste de codes arithmetiques

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
FR0209287A FR2842670B1 (fr) 2002-07-22 2002-07-22 Perfectionnement a la compression de donnees numeriques
FR02/09287 2002-07-22
FR03/03288 2003-03-18
FR0303288A FR2842672B1 (fr) 2002-07-22 2003-03-18 Dispositif et procede de decodage robuste de codes arithmetiques

Publications (2)

Publication Number Publication Date
WO2004012340A2 true WO2004012340A2 (fr) 2004-02-05
WO2004012340A3 WO2004012340A3 (fr) 2004-04-08

Family

ID=30001936

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/FR2003/002246 WO2004012340A2 (fr) 2002-07-22 2003-07-16 Dispositif et procede de decodage robuste de codes arithmetiques

Country Status (5)

Country Link
US (1) US7215265B2 (fr)
EP (1) EP1527521B1 (fr)
JP (1) JP4169738B2 (fr)
FR (1) FR2842672B1 (fr)
WO (1) WO2004012340A2 (fr)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1775957A1 (fr) 2005-10-14 2007-04-18 Inria Institut National de Recherche en Informatique et en Automatique Traitement amélioré d'images de résolutions multiples

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2398191B (en) * 2004-03-10 2004-12-22 David Asher Jaffa Adaptive quantiser
US8108833B2 (en) * 2007-04-20 2012-01-31 National Instruments Corporation Automatically generating a graphical data flow program from a statechart
EP2169535A1 (fr) * 2008-09-22 2010-03-31 Thomson Licensing Procédé, appareil et support de programme informatique pour le recodage régulier d'un entier positif
CN102045558B (zh) * 2009-10-22 2012-09-19 鸿富锦精密工业（深圳）有限公司 熵解码方法
GB2495106B (en) 2011-09-28 2020-09-09 Metaswitch Networks Ltd Searching and storing data in a database
US8976474B1 (en) * 2013-10-03 2015-03-10 Seagate Technology Llc Universal modulation coding for a data channel
US11362681B2 (en) 2020-08-21 2022-06-14 Seagate Technology Llc One-shot state transition probability encoder and decoder
CN115996104A (zh) * 2021-10-18 2023-04-21 华为技术有限公司 算术码的自学习联合信源信道迭代译码方法及相关设备
FR3139212A1 (fr) * 2022-08-29 2024-03-01 Commissariat à l'Energie Atomique et aux Energies Alternatives Système et procédé de construction de structures adaptatives de partitionnement de données en flux

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3302210B2 (ja) * 1995-02-10 2002-07-15 富士通株式会社 データ符号化／復号化方法及び装置
JP3276860B2 (ja) * 1996-09-02 2002-04-22 富士通株式会社 データ圧縮／復元方法

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
DEMIR N ET AL: "Joint source/channel coding for variable length codes" DATA COMPRESSION CONFERENCE, PROCEEDINGS. DCC, IEEE COMPUTER SOCIETY PRESS, LOS ALAMITOS, CA, US, 30 mars 1998 (1998-03-30), pages 139-148, XP002143231 *
FABRE E ET AL: "Joint source-channel turbo decoding of VLC-coded Markov sources" 2001 IEEE INTERNATIONAL CONFERENCE ON ACOUSTICS, SPEECH, AND SIGNAL PROCESSING. PROCEEDINGS (CAT. NO.01CH37221), 2001 IEEE INTERNATIONAL CONFERENCE ON ACOUSTICS, SPEECH, AND SIGNAL PROCESSING. PROCEEDINGS, SALT LAKE CITY, UT, USA, 7-11 MAY 2001, pages 2657-2660 vol.4, XP002267571 2001, Piscataway, NJ, USA, IEEE, USA ISBN: 0-7803-7041-4 *
GUYADER A ET AL: "Joint source-channel turbo decoding of entropy-coded sources" IEEE JOURNAL ON SELECTED AREAS IN COMMUNICATIONS, SEPT. 2001, IEEE, USA, vol. 19, no. 9, pages 1680-1696, XP002267570 ISSN: 0733-8716 *
MURAD A H ET AL: "Joint source-channel decoding of variable-length encoded sources" INFORMATION THEORY WORKSHOP, XX, XX, 22 juin 1998 (1998-06-22), pages 94-95, XP002143123 *
MURAD A H ET AL: "Robust transmission of variable-length encoded sources" WIRELESS COMMUNICATIONS AND NETWORKING CONFERENCE, 1999. WCNC. 1999 IEEE NEW ORLEANS, LA, USA 21-24 SEPT. 1999, PISCATAWAY, NJ, USA,IEEE, US, 21 septembre 1999 (1999-09-21), pages 968-972, XP010353592 ISBN: 0-7803-5668-3 *
PARK M S ET AL: "DECODING ENTROPY-CODED SYMBOLS OVER NOISY CHANNELS BY MAP SEQUENCE ESTIMATION FOR ASYNCHRONOUS HMMS" PROCEEDINGS OF THE ANNUAL PRINCETON CONFERENCE ON INFORMATION SCIENCES AND SYSTEMS, XX, XX, 18 mars 1998 (1998-03-18), pages 477-482, XP000933543 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1775957A1 (fr) 2005-10-14 2007-04-18 Inria Institut National de Recherche en Informatique et en Automatique Traitement amélioré d'images de résolutions multiples

Also Published As

Publication number Publication date
FR2842672A1 (fr) 2004-01-23
WO2004012340A3 (fr) 2004-04-08
US7215265B2 (en) 2007-05-08
JP2005534241A (ja) 2005-11-10
US20060106901A1 (en) 2006-05-18
EP1527521B1 (fr) 2018-03-21
EP1527521A2 (fr) 2005-05-04
JP4169738B2 (ja) 2008-10-22
FR2842672B1 (fr) 2005-01-28

Similar Documents

Publication Publication Date Title
EP0511139B1 (fr) Procédé de décodage d&#39;un code convolutif à maximum de vraisemblance et pondération des décisions, et décodeur correspondant
EP0827285B1 (fr) Procédé de transmission de bits d&#39;information avec codage correcteur d&#39;erreurs, codeur et décodeur pour la mise en oeuvre de ce procédé
Guionnet et al. Soft decoding and synchronization of arithmetic codes: Application to image transmission over noisy channels
FR2815199A1 (fr) Procedes de turbocodage circulaire de grande distance minimale, et systemes pour leur mise en oeuvre
FR2785743A1 (fr) Dispositif et procede d&#39;adaptation des turbocodeurs et des decodeurs associes a des sequences de longueur variable
EP0827284A1 (fr) Procédé de transmission de bits d&#39;information avec codage correcteur d&#39;erreurs, codeur et décodeur pour la mise en oeuvre de ce procédé
JP2010050634A (ja) 符号化装置、復号装置及び符号化システム
EP1527521B1 (fr) Dispositif et procede de decodage robuste de codes arithmetiques
EP1230736B1 (fr) Procede de decodage de donnees codees a l&#39;aide d&#39;un code entropique, dispositif de decodage et systeme de transmission correspondants
JP2009218724A (ja) 符号化装置、復号装置及び符号化システム
FR2790621A1 (fr) Dispositif et procede d&#39;entrelacement pour turbocodage et turbodecodage
WO2005101668A1 (fr) Procede de decodage conjoint source-canal et decodeur conjoint source-canal associe
WO2007083066A1 (fr) Procedes d&#39;encodage et de decodage rapides et dispositifs associes
EP1905157A2 (fr) Procede et systeme d&#39;encodage d&#39;une sequence de donnees
CA2823570C (fr) Procede de correction de messages contenant des bits de bourrage
FR2807895A1 (fr) Procedes et dispositifs de codage et de decodage et systemes les mettant en oeuvre
US8320687B2 (en) Universal lossy compression methods
EP1525663B1 (fr) Compression de donnees numeriques robuste au bruit de transmission
FR2834146A1 (fr) Turbo-decodeur compact a haute efficacite
EP0982866B1 (fr) Procédé de codage convolutif et de transmission par paquets d&#39;un flux série de données numériques, procédé et dispositif de décodage correspondants
WO2006108768A1 (fr) Procédé et dispositif de décodage d&#39;un code à longueur variable prenant en compte une information de probabilité a priori
FR2972878A1 (fr) Procede d&#39;encodage correcteur d&#39;erreur, procede de decodage et dispositifs associes.
EP1471647A2 (fr) Codage et décodage utilisant un code construit sur un treillis dont les sections sont basées sur des codes en bloc à bonne distance
FR2888062A1 (fr) Codeur et turbo decodeur de code produit
FR2981526A1 (fr) Procede et dispositif de decodage de donnees codees a l&#39;aide d&#39;un code correcteur d&#39;erreurs, procede et dispositif de codage, et programme d&#39;ordinateur correspondants

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A2

Designated state(s): JP US

AL Designated countries for regional patents

Kind code of ref document: A2

Designated state(s): AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LU MC NL PT RO SE SI SK TR

121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 2003755610

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2004523851

Country of ref document: JP

WWP Wipo information: published in national office

Ref document number: 2003755610

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2006106901

Country of ref document: US

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 10521962

Country of ref document: US

WWP Wipo information: published in national office

Ref document number: 10521962

Country of ref document: US