Uso de Correntropia na Generalização de Funções ... Modulação por Chaveamento Mínimo OFDM...

UNIVERSIDADE DO RIO GRANDE DO NORTEFEDERAL

UNIVERSIDADE FEDERAL DO RIO GRANDE DO NORTE

CENTRO DE TECNOLOGIA

PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA E

DE COMPUTAÇÃO

Uso de Correntropia na Generalização deFunções Cicloestacionárias e Aplicações para a

Extração de Características de SinaisModulados

Aluisio Igor Rêgo Fontes

Orientador: Prof. Dr. Luiz Felipe de Queiroz SilveiraCo-orientador: Prof. Dr. Allan de Medeiros Martins

Tese de doutorado apresentada ao Pro-grama de Pós-Graduação em EngenhariaElétrica e de Computação da UFRN comoparte dos requisitos para a obtenção do graude Doutor em Ciências.

Número de ordem PPgEEC: D153Natal, RN, Setembro de 2015

Divisão de Serviços Técnicos

Catalogação da publicação na fonte. UFRN / Biblioteca Central Zila Mamede

Fontes, Aluisio Igor RêgoUso de correntropia na generalização de funções cicloestacionárias e aplica-

ções para a extração de características de sinais modulados. / Aluisio Igor RêgoFontes - Natal, RN, 2014

98 f: il.

Orientador: Dr. Luiz Felipe de Queiroz SilveiraCo-orientador: Dr. Allan de Medeiros Martins

Tese (Doutorado) - Universidade Federal do Rio Grande do Norte. Centro deTecnologia. Programa de Pós-Graduação em Engenharia Elétrica e Computação.

1. Correntropia 2. Cicloestacionariedade3. Função de Correntropia Cíclica 4. Função de Densidade Espectral de Corren-tropia Cíclica5. Extração de Características de Sinais. I. Silveira, Luiz Felipe de Queiroz. II.Martins, Allan de Medeiros III. Universidade Federal do Rio Grande do Norte.IV. Título.RN/UF/BCZM CDU 621.391

“Paciência, persistência e suor são umacombinação imbatível para o sucesso.”

NAPOLEON HILL

Aos meus pais, Aluisio Fontes eFátima Rêgo, que renunciaram aos

seus sonhos, para que, muitas vezes,pudesse realizar os meus e que me

propiciaram uma vida digna onde eupudesse acreditar que tudo épossível, desde que sejamos

honestos, íntegros de caráter e muitoesforçados.

Agradecimentos

À Deus, por sempre iluminar meu caminho.

À minha família pelo apoio, incentivo, paciência, força, amor e carinho. Em especialmeus pais: Maria de Fátima Rêgo Fontes e Aluisio Fontes de Queiroz e minha irmãFabíola Rêgo Fontes.

À minha namorada, Bruna Angelina Barreto Costa Lobo , pelo amor, paciência e por suadedicação em minha vida acadêmica, me dando todo o apoio nos momentos difíceis.

Ao professor Luiz Felipe de Queiroz Silveira, que sempre acreditou no meu potencial ese não fosse por sua enorme dedicação e orientação não teríamos concluído.

Ao professor Allan de Medeiros Martins, pela orientação, confiança, atenção, tempo de-dicado e todo o apoio para a realização deste trabalho.

Aos professores do Departamento de Engenharia de Computação e Automação.

Aos meus amigos Arthur, Avelino, Danilo, Eduardo, Fabrício, Lucas e Paolo por todoapoio, amizade e momentos de descontração indispensáveis.

À CAPES pelo suporte financeiro concedido.

Resumo

A extração de informações de sinais aleatórios é um problema frequente e relevante

em muitas aplicações de processamento digital de sinais. Nos últimos anos, diferentes

métodos têm sido utilizados para a parametrização de sinais ou obtenção de descritores

eficientes de suas características. Quando os sinais aleatórios possuem propriedades es-

tatísticas cicloestacionárias, as funções de autocorrelação cíclica (CAF) e de densidade

espectral cíclica (SCD) podem ser utilizadas na obtenção de informações cicloestacioná-

rias de segunda ordem. Entretanto, em sinais contaminados com ruído não-gaussiano,

apenas informações cicloestacionárias de segunda ordem podem não gerar bons descrito-

res para aplicações em aprendizagem de máquinas e, neste caso, a análise cicloestacioná-

ria deve ocorrer sobre informações estatísticas de ordem superior. Este trabalho propõe

uma nova ferramenta matemática para a análise cicloestacionária de ordem superior ba-

seada na função de correntropia. Especificamente, a teoria de análise cicloestacionária é

revisitada sob um enfoque de teoria da informação, e as funções de correntropia cíclica

(CCF) e densidade espectral de correntropia cíclica (CCSD) são definidas. É compro-

vado analiticamente que a CCF contém informações de momentos cicloestacionários de

segunda ordem e de ordem superior, sendo uma generalização da CAF. O desempenho

dessas novas funções, na extração de características cicloestacionárias de ordem superior,

é analisado em um cenário de comunicação sem fio com ruído não-gaussiano.

Palavras-chave: Correntropia, Cicloestacionariedade, Função de Correntropia Cí-

clica, Função de Densidade Espectral de Correntropia Cíclica, Extração de Características

de Sinais.

Abstract

Information extraction is a frequent and relevant problem in digital signal processing.

In the past few years, different methods have been utilized for the parameterization of

signals and the achievement of efficient descriptors. When the signals possess statistical

cyclostationary properties, the Cyclic Autocorrelation Function (CAF) and the Spectral

Cyclic Density (SCD) can be used to extract second-order cyclostationary information.

However, second-order cyclostationary information is poor in nongaussian signals, as the

cyclostationary analysis in this case should comprise higher-order statistical information.

This paper proposes a new mathematical tool for the higher-order cyclostationary analysis

based on the correntropy function. Specifically, the cyclostationary analysis is revisited

focusing on the information theory, while the Cyclic Correntropy Function (CCF) and

Cyclic Correntropy Spectral Density (CCSD) are also defined. Besides, it is analytically

proven that the CCF contains information regarding second- and higher-order cyclostatio-

nary moments, being a generalization of the CAF. The performance of the aforementioned

new functions in the extraction of higher-order cyclostationary characteristics is analyzed

in a wireless communication system where nongaussian noise exists.

Keywords: Correntropy, Cyclostationary, Cyclic Correntropy Function, Cyclic Cor-

rentropy Spectral Density, Information Extraction.

Sumário

Sumário i

Lista de Figuras iv

Lista de Tabelas vi

Lista de Símbolos vii

1 Introdução 1

1.1 Motivação e Relevância . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

1.2 Objetivo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

1.3 Organização do Trabalho . . . . . . . . . . . . . . . . . . . . . . . . . . 4

2 Correntropia para Processos Aleatórios 6

2.1 Introdução à Correntropia . . . . . . . . . . . . . . . . . . . . . . . . . . 6

2.2 Definições e propriedades . . . . . . . . . . . . . . . . . . . . . . . . . . 7

2.2.1 Propriedades . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

2.3 Influência do tamanho do kernel . . . . . . . . . . . . . . . . . . . . . . 12

2.3.1 Domínio do tempo e da frequência . . . . . . . . . . . . . . . . . 12

2.3.2 Ruído impulsivo . . . . . . . . . . . . . . . . . . . . . . . . . . 16

2.4 Síntese . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

3 Processos Cicloestacionários 19

3.1 Introdução à Análise de Sinais Cicloestacionários . . . . . . . . . . . . . 19

3.2 Função de Autocorrelação Cíclica (CAF) . . . . . . . . . . . . . . . . . 20

i

3.3 Função Densidade Espectral Cíclica (SCD) . . . . . . . . . . . . . . . . 21

3.3.1 Perfil Alfa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

3.4 Cicloestacionariedade de Ordem Superior (HOCS) . . . . . . . . . . . . 24

3.5 Síntese . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

4 Correntropia Cíclica 27

4.1 Introdução . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

4.2 Função de Correntropia Cíclica (CCF) . . . . . . . . . . . . . . . . . . . 28

4.3 Função Densidade Espectral de correntropia Cíclica (CCSD) . . . . . . . 32

4.4 Síntese . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35

5 CCSD Aplicada a Análise de Sinais Cicloestacionários 36

5.1 Algoritmo Cyclic Periodogram Detection (CPD) . . . . . . . . . . . . . . 37

5.2 Sensoriamento Espectral . . . . . . . . . . . . . . . . . . . . . . . . . . 39

5.3 Assinaturas Cicloestacionárias para Modulações Digitais . . . . . . . . . 46

5.3.1 Modulações 16-QAM, QPSK, ASK e BPSK . . . . . . . . . . . 47

5.3.2 Modulações BFSK, MSK e AM . . . . . . . . . . . . . . . . . . 52

5.4 Análise da Escalabilidade Paralela da CCSD . . . . . . . . . . . . . . . . 56

5.5 Síntese . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61

6 Conclusões 63

6.1 Principais Contribuições . . . . . . . . . . . . . . . . . . . . . . . . . . 64

6.2 Perspectivas para Trabalhos Futuros . . . . . . . . . . . . . . . . . . . . 65

Referências bibliográficas 66

A Dedução Matemática da Generalização da CCF 72

B Expansão em série de Taylor da CCF 76

C Correntropia para Diversos Sinais 77

D Publicações 81

D.1 Artigos aceitos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81

D.2 Artigo em Processo de Submissão . . . . . . . . . . . . . . . . . . . . . 82

Lista de Figuras

2.1 correntropia como a integral no espaço gaussiano ao longo da reta xt1 = xt2

[Liu et al. 2006] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10

2.2 Sinal cosseno e autocorrelação do cosseno. . . . . . . . . . . . . . . . . 13

2.3 correntropia centralizada para diferentes tamanho de kernel. . . . . . . . 13

2.4 Densidade espectral de potência de um cosseno com frequência de 10Hz. 14

2.5 Transformada de Fourier da autocorrentropia centralizada para diferentes

tamanho de kernel. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

2.6 PDF do ruído impulsivo e o cosseno com outliers . . . . . . . . . . . . . 16

2.7 Cálculo da correntropia e correlação, no domínio do tempo e frequência,

para um cosseno com outlier. . . . . . . . . . . . . . . . . . . . . . . . . 17

3.1 Visão tridimensional da SCD para a modulação AM . . . . . . . . . . . . 22

3.2 Perfil alfa para modulação AM . . . . . . . . . . . . . . . . . . . . . . . 23

4.1 Cálculo da CCSD para um cosseno com uma frequência fundamental . . 34

5.1 Função densidade de probabilidade do ruído da impulsivo . . . . . . . . . 37

5.2 Passo 1. x[n],n= 0,1,2,3, ...,N−1, l = 0,1,2,3, ...,L−1 [Farias et al. 2011] 38

5.3 |SCD| e perfil-alfa para as modulações AM, MSK e BPSK com ruído não-

gaussiano. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41

5.4 |SCD| e perfil-alfa para as modulações BFSK, QPKS e 16-QAM com

ruído não-gaussiano. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

5.5 |CCSD| e perfil-alfa para as modulações AM, MSK e BPSK com ruído

não-gaussiano. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43

iv

5.6 |CCSD| e perfil-alfa para as modulações BFSK, QPKS e 16-QAM com

ruído não-gaussiano. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44

5.7 |CCSD| e SCD para a hipótese H1. . . . . . . . . . . . . . . . . . . . . . 45

5.8 |CCSD| e perfil-alfa para as modulações 16-QAM para σ igual a 1, 0.1 e

0.01. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48

5.9 |CCSD| e perfil-alfa para as modulações QPSK para σ igual a 1, 0,1 e 0,01. 49

5.10 |CCSD| e perfil-alfa para as modulações ASK para σ igual a 1, 0,1 e 0,01. 50

5.11 |CCSD| e perfil-alfa para as modulações BPSK para σ igual a 1, 0,1 e 0,01. 51

5.12 |CCSD| e perfil-alfa para as modulações BFSK para σ igual à 1, 0,1 e 0,01. 53

5.13 |CCSD| e perfil-alfa para as modulações MSK para σ igual à 1, 0,1 e 0,01. 54

5.14 |CCSD| e perfil-alfa para as modulações AM para σ igual à 1, 0,1 e 0,01. . 55

5.15 Diagrama de blocos com o pseudocódigo do algoritmo paralelo proposto

para cálculo da CCSD. . . . . . . . . . . . . . . . . . . . . . . . . . . . 57

5.16 Speedup para diversos valores de tamanho de blocos (N) e quantidade de

blocos (L), variando-se a quantidade de processadores p = 1,2, ...,64. . . 59

5.17 Eficiência paralela para diversas configurações de tamanhos de blocos N

e quantidade de blocos L, fixando-se o número de processadores em 64. . 60

5.18 Perfil alfa da CCSD utilizando σ igual a 0,1. . . . . . . . . . . . . . . . . 62

C.1 Onda quadrada. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77

C.2 Onda triangular. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78

C.3 Forma de onda senoidal com duas frequências 10 Hz e 20 Hz . . . . . . . 79

C.4 Forma de onda senoidal com três frequências 10, 20 e 60 Hz . . . . . . . 80

Lista de Tabelas

5.1 Parâmetros de simulação computacional dos sinais analisados . . . . . . 37

5.2 Tempo de simulação para diferentes tamanhos de L e N com quantidade

de processadores variando de 1 a 64. . . . . . . . . . . . . . . . . . . . . 59

vi

Lista de Símbolos

AMC Classificação Automática de Modulação

AM DSB-SC Modulação em Amplitude com Faixa Lateral Dupla e Portadora Suprimida

AM SSB-SC Modulação em Amplitude com Faixa Lateral Única e Portadora Suprimida

API Interface de Programação de Aplicativos

AWGN Ruído Aditivo Gaussiano Branco

BFSK Modulação por Chaveamento de Frequência Binária

BPSK Modulação por Chaveamento de Fase Binária

CAF Função de Autocorrelação Cíclica

CPD Cyclic Periodogram Detection

FSK Modulação por Chaveamento em Frequência

HMM Modelo Oculto de Markov

MSK Modulação por Chaveamento Mínimo

OFDM Multiplexação por Divisão de Frequência Ortogonal

OpenMP Multiprocessamento Aberto

PCA Análise de Componentes Principais

QAM Modulação de Amplitude em Quadratura

QPSK Modulação por Chaveamento de Fase Quaternária

SCD Função Densidade Espectral Cíclica

SNR Relação Sinal-Ruído

SVM Máquina de Vetor de Suporte

WiMAX Interoperabilidade Mundial para Acesso por Microondas

ROC Característica de Operação do Receptor

ASK Modulação por Chaveamento de Amplitude

CTCMF Cyclic Temporal Cross-Moment Functions

TCMF Temporal Cross-Moment Function

CSCMF Cyclic Spectral Cross-Moment

ATSC Advanced Television System Committee

NTSC National Television System Committee

FPGA Field Programmable Gate Array

FAM FFT Accumulation Method

SSCA Strip Spectral Correlation Algorithm

WLAN Rede sem Fio Local

GSM Sistema Global para Comunicações Móveis

LTE Evolução de Longo Prazo

GCC GNU Compiler Collection

MIMO Múltiplas Entradas e Múltiplas Saídas

GPU Unidade de Processamento Gráfico

SDR Rádio Definido por Software

FFT Transformada Rápida de Fourier

Capítulo 1

Introdução

Neste capítulo são apresentadas as linhas gerais deste trabalho, ressaltando-se a re-

levância do problema estudado, os objetivos desejados e a organização proposta para o

documento.

1.1 Motivação e Relevância

Nos últimos anos, foram desenvolvidos diferentes métodos para a parametrização de

sinais aleatórios ou obtenção de descritores desses sinais. Os métodos para extração de

características de sinais podem ser utilizados em tarefas de classificação, estimação ou

predição, comuns em vários problemas de aprendizagem de máquina. Em geral, esses

métodos possuem um padrão de funcionamento composto por duas etapas: aquisição de

dados e extração de características.

A sintonia da etapa de extração de características ideais é fundamental em um sis-

tema robusto. Essa etapa vem recebendo notáveis contribuições de técnicas avançadas de

processamento digital de sinais, tais como: entropia, densidade espectral de potência, wa-

velets, cumulantes, correntropia e cicloestacionariedade. Particularmente, as ferramentas

matemáticas como correntropia e cicloestacionariedade destacam-se como extratores de

características de sinais aleatórios.

Vários fenômenos aleatórios encontrados na natureza, ou produzidos artificialmente

Introdução 2

por dispositivos físicos, possuem características estatísticos que variam periodicamente

com o tempo. Tais sinais podem ser modelados como processos cicloestacionários ou po-

licicloestacionários, se os seus parâmetros estatísticos variam no tempo, respectivamente,

com um ou múltiplos períodos [Gardner et al. 1994].

Métodos estatísticos clássicos de processamento de sinais tratam os sinais cicloestaci-

onários como se eles fossem estacionários. Entretanto, frequentemente pode-se conseguir

ganhos de desempenho em sistemas de processamento que reconhecem e exploram peri-

odicidades não evidentes [Gardner et al. 1994]. Nos últimos anos, métodos que exploram

as cicloestacionariedades de sinais têm sido utilizados em várias aplicações, tais como Te-

lecomunicações [Cho & Narieda 2015, Jang 2014], Sistemas Biológicos [Newton 1982,

Donohue et al. 1994], Meteorologia [Zeng et al. 1996, Hasselmann & Barnett 1981],

Climatologia [Bloomfield et al. 1994], Oceanografia [Gini & Greco 2002, Dragan &

Yavorskii 1982], Eletromagnetismo [Mykhajlyshyn & others 1996] e Máquinas Rotativas

[Randall et al. 2002, Konig & Bohme 1994]. Neste contexto, as técnicas de processa-

mento de sinais policicloestacionários podem explorar cicloestacionariedade de segunda

ordem (SOCS), obtidas a partir de transformações quadráticas, ou cicloestacionariedade

de alta ordem (HOCS) [Gardner et al. 1994], obtidas com transformações não lineares

de ordem N. Em geral, a cicloestacionariedade presente no sinal de interesse pode ser

explorada para melhorar a confiabilidade da informação extraída a partir de um conjunto

de medições do sinal [Gardner et al. 1994].

A técnica SOCS vêm sendo amplamente empregada em comunicações na concepção

de sistemas de rádio cognitivo, especificamente em aplicações de sensoriamento espectral

e classificação automática de modulações [Lei et al. 2011, Jang 2014, Satija et al. 2014a].

Porém, quando o modelo do sistema analisado considera canais de comunicação não-

gaussianos, a cicloestacionariedade de segunda ordem do sinal de interesse pode ser de

difícil extração. Além disso, alguns tipos de modulações digitais apresentam as mesmas

características cicloestacionárias de segunda ordem, não sendo possível utilizar essa in-

Introdução 3

formação para diferenciá-las, por exemplo, das modulações M-PSK (para M>4) e QAM,

e das modulações ASK e BPSK [Gardner et al. 1994]. Neste caso, a análise de ciclo-

estacionariedades de ordem superior tende a melhorar o desempenho dos métodos de

processamento de sinais empregados.

Por outro lado, os métodos HOCS empregam transformações não lineares de alta

ordem cuja complexidade aumenta quando a ordem do momento estatístico analisado,

podendo ser inviável em algumas aplicações. Isto posto, este trabalho propõe um novo

método de análise cicloestacionária de ordem superior baseado em uma ferramenta de

transformação não-linear, denominada correntropia.

A correntropia é baseada em uma transformação de kernel capaz de extrair informa-

ções de infinitos momentos estatísticos do sinal analisado, sendo ainda especialmente

robusta a ruídos não-gaussianos. Como consequência, nos últimos anos a correntropia

tem sido aplicada com sucesso em diversos problemas, tais como estimação de atraso

temporal [Ling et al. 2015], estimativa de ruído impulsivo [Zhang et al. 2014], extração

de características temporais de ordem superior [Santana et al. 2012], classificação auto-

mática de modulações [Fontes et al. 2015], sistema de classificação de vozes patológicas

[Fontes et al. 2014] e identificação de sistemas [Leandro L.S. Linhares et al. 2015].

Introdução 4

1.2 Objetivo

Neste trabalho, a análise de sinais cicloestacionários é revisitada sob um enfoque de

teoria da informação, sendo definidas novas ferramentas analíticas, denominadas fun-

ção de correntropia cíclica (CCF) e função densidade espectral de correntropia Cíclica

(CCSD). É comprovado analiticamente que a CCF contém informações de momentos

cicloestacionários de segunda ordem e de ordem superior, sendo uma generalização da

clássica função de autocorrelação cíclica (CAF). O desempenho dessas novas funções,

na extração de características cicloestacionárias de ordem superior, é analisado em um

cenário de comunicação sem fio com ruído não-gaussiano. Além disso, são apresentadas

novas assinaturas cicloestacionárias de ordem superior extraídas por meio da CCSD para

as modulações BPSK, BFSK, MSK, OOK, 16-QAM, 4-PSK e AM.

1.3 Organização do Trabalho

Este texto é organizado em seis capítulos e dois apêndices.

No Capítulo 2 a correntropia para processos aleatórios é definida em conjunto com

suas propriedades. Apresenta-se também a influência do tamanho do kernel, no seu de-

sempenho.

No Capítulo 3 são apresentadas as principais propriedades da teoria de cicloestaciona-

riedade para processos aleatórios no domínio do tempo e da frequência e são definidas as

principais funções da análise cicloestacionária: a função de autocorrelação cíclica (CAF)

e a função densidade espectral cíclica (SCD).

No Capítulo 4 a teoria de cicloestacionariedade é revisitada sob um enfoque de Teoria

da Informação, culminando com as definições das principais funções da análise cicloes-

tacionária com correntropia.

O Capítulo 5 trata dos experimentos com dois extratores de característica de um pro-

cesso aleatório: a cicloestacionariedade de segunda ordem e a cicloestacionariedade com

Introdução 5

correntropia. Os experimentos têm a finalidade de avaliar e analisar o desempenho dos

dois extratores de características.

No Capítulo 6 são apresentadas as conclusões e sugestões para trabalhos futuros.

O anexo A contém a dedução matemática da CCF, o anexo B apresenta a expansão de

Taylor da CCF e o anexo C contém uma lista das publicações relacionadas a este trabalho.

Capítulo 2

Correntropia para Processos Aleatórios

2.1 Introdução à Correntropia

A extração de informações de uma fonte de dados é um problema frequente e relevante

em muitas aplicações de processamento de sinais. Nesse contexto, medidas estatísticas

de similaridade, como a correlação, podem ser utilizadas com sucesso para a obtenção

de informações e caracterização de dados. No entanto, para processos aleatórios não-

gaussianos, a estatística de segunda ordem na forma de correlação pode ser ineficaz, pois

não há garantia que a média dos sinal seja igual a zero.

Houve várias tentativas para solucionar o processamento de sinais não lineares e

não gaussianos para treinamento de máquina, identificação de sistemas e extração de

características de sinais aleatórios. Por exemplo, os trabalhos de Wiener e Hammers-

tein foram os primeiros métodos propostos para a identificação de sistemas não lineares

[Ljung 1998]. Nestes trabalhos, a não linearidade é solucionada através de uma Equação

de Wiener-Hopf [Ljung 1998]. Outros trabalhos incluem séries de Volterra [Corduneanu

& Sandberg 2000].

A fim de solucionar esse problema, o grupo de pesquisa do Laboratório de Compu-

tação em NeuroEngenharia (CNEL) localizado no Estados Unidos, utilizou a entropia

de Rényi e informação mútua para processar sinais não gaussianos, o qual foi denomi-

nado Information-Theoretic Learning (ITL) [Principe 2010]. Entretanto, os métodos de

Correntropia para Processos Aleatórios 7

ITL não conseguiam trabalhar com informações temporais do processo aleatório, ou seja,

quando o tempo é importante na variável aleatória. Para incorporar a estrutura temporal

e a análise estatísticas de ordem superior, uma nova medida foi proposta por Santamaria

em [Santamaria et al. 2006], denominada correntropia.

A correntropia é uma generalização da medida de correlação entre sinais aleatórios.

Essa medida consegue extrair tanto informações estatísticas de segunda ordem, quanto

de ordens superiores do sinal analisado. Embora, por definição, a correntropia seja se-

melhante à Correlação, estudos recentes têm mostrado que ela funciona melhor do que a

correlação ao lidar com sistemas não-lineares ou não-gaussianos, sem qualquer aumento

significativo no custo computacional [Liu et al. 2007].

Nos últimos anos, a correntropia tem sido aplicada com sucesso na solução de diversos

problemas de engenharia, tais como classificação automática de modulações [Fontes et al.

2015], sistema de classificação de vozes patológicas [Fontes et al. 2014], análises de

componentes principais [He et al. 2011], identificação de sistemas não lineares [Leandro

L.S. Linhares et al. 2015], reconhecimento de face e filtros adaptativos [Jeong & Principe

2006].

Neste capítulo serão apresentadas as principais propriedades da correntropia para pro-

cessos aleatórios no domínio do tempo e da frequência. Também será abordado a influên-

cia (kernel) da correntropia em seu desempenho.

2.2 Definições e propriedades

A correntropia para um processo estocástico ergódico e estacionário, {xt , t ∈ T} com

T sendo um conjunto de índices e xt ∈ Rd é definida como [Santamaria et al. 2006]

Vx(xt1,xt2) = Ext1xt2[Gσ(xt1,xt2)] =

∫ ∫Gσ(xt1,xt2)p(xt1 ,xt2)dxt1xt2, (2.1)


em que E[.] representa o operador matemático do valor esperado sobre o processo estocás-

tico xt , Gσ é uma função simétrica definida positiva e p(xt1,xt2) é a função de densidade de

probabilidade (PDF) conjunta. As funções simétricas definidas positivas mais utilizadas

nas áreas de aprendizagem de máquinas, máquinaa de vetor de suporte e aproximação de

funções são sigmoide, gaussiana e polinomial [Xu & Principe 2008]. Neste trabalho, Gσ

é um kernel gaussiano, definido por

Gσ(xt1,xt2) =1√2πσ

exp{−(xt1− xt2)

2

2σ2

}, (2.2)

em que σ é denominada de tamanho ou largura do kernel. Quando o tamanho do kernel

tende a 0, o kernel gaussiano torna-se uma função delta δ(xt1 ,xt2) e a Equação (2.1) passa

a ser

limσ→0

Vx(xt1 ,xt2) =∫

xt1

∫xt2

δ(xt1,xt2)pxt1 ,xt2(xt1,xt2)dxt1xt2

=∫

∞

xt1=−∞

pxt1 ,xt2(xt1,xt1)dxt1 (2.3)

Na prática, a PDF conjunta da Equação (2.1) é desconhecida e apenas um número fi-

nito de dados (xi,yi)Ni=1 estão disponíveis. Neste caso, uma estimativa dessa PDF conjunta

pode ser obtida aplicando-se o método de Parzen, por [Liu et al. 2007]:

pz(z) =1N

N

∑i=1

Gσ(z,zi) (2.4)

em que z e zi são vetores formados pelos eventos aleatórios xt1 e xt2 , isto é z = [xt1,xt2]t .

Se xt1 e xt2 são variáveis aleatórias independentes com distribuições marginais de proba-

bilidade estimada por Parzen, logo pxt1(xt1) e pxt2

(xt2) são definidas como

pxt1 ,xt2(xt1,xt2) =

1N

N

∑i=1

Gσ(xt1,xt1i)Gσ(xt2,xt2i

). (2.5)


Dessa forma, quando a largura do kernel tende a zero e utilizando a propriedade de

Parzen da Equação (2.4) e integrando ao longo da reta xt1 = xt2 , a correntropia definida

pela Equação (2.1) pode ser calculada por

limσ→0

Vx,x(xt1,xt2) ≈∫

∞

−∞

pxt1 ,xt2(xt1 ,xt2)|xt1=xt2=udu

≈∫

∞

−∞

1N

N

∑i=1

G(xt1,xt1i)G(y,xt2i

)|xt1=xt2=udu (2.6)

=∫

∞

−∞

1N

N

∑i=1

G(u,xt1i)G(u,xt2i

)du

=1N

N

∑i=1

∫∞

−∞

G(u,xt1i)G(u,xt2i

)du (2.7)

=1N

N

∑i=1

G√2σ(xt1i

,xt2i)

É importante ressaltar que na Equação (2.8) foi aplicada a propriedade da convolução

de gaussianas. Tal propriedade diz que, a convolução de duas gaussianas resulta em outra

gaussiana.

Observa-se que a integral da estimativa de Parzen com kernel Gaussiano é exatamente

a estimativa da correntropia com largura de kernel de√

2σ. A Figura 2.1 ilustra como a

correntropia fornece a PDF na reta xt1 = xt2

Assim, utilizando a dedução da Equação (2.6), a correntropia definida pela Equação

(2.1) pode ser reescrita como

V (τ) =1N

N−1

∑n=0

G√2σ(xn,xn+τ) (2.8)

para todo τ, em que o processo aleatório de entrada deve ser estritamente estacionário para

todos os momentos estatísticos de ordem par. Ou seja, todos os momentos estatísticos de

ordem par devem ser invariante ao deslocamento do tempo quando um kernel gaussiano

for utilizado na função de correntropia.


Figura 2.1: correntropia como a integral no espaço gaussiano ao longo da reta xt1 = xt2[Liu et al. 2006]

É importante ressaltar que para processos aleatórios que não sejam estritamente es-

tacionários para todos os momentos estatísticos, a correntropia não terá sua eficiência

máxima. Entretanto, através do ajuste do tamanho do kernel é possível obter bons resul-

tados, e no pior caso ficará igual à correlação convencional.

Além disso, a correntropia não possui garantia de média zero, mesmo quando os dados

de entrada estão centralizados, por causa das transformações não lineares produzidas pelo

kernel. Dessa forma, para garantir média zero, foi proposto um estimador de correntropia

centralizado definido por: [Liu et al. 2007]

U(τ) =1N

N−1

∑n=0

G√2σ(xn,xn+τ)−

1N2

N−1

∑n=0

N−1

∑τ=0

G√2σ(xn,xn+τ). (2.9)

em quem 1N2 ∑

N−1n=0 ∑

N−1τ=0 G√2σ

(xn,xn+τ) é a média da correntropia.

Aplicando-se uma expansão por série de Taylor na medida de correntropia definida na

Equação (2.1) pode ser reescrita como


Vx(xt1,xt2) =1√2πσ

∞

∑k=0

(−1)k

2kσ2kk!E[(xt1− xt2)

2k]. (2.10)

Nesse caso, a correntropia contém informação de infinitos momentos estatísticos de

ordem par da variável aleatória (xt1 − xt2). Verifica-se que outra funções resultarão em

expansões diferentes, entretanto todas as funções kernel mencionadas anteriormente são

não-lineares e, portanto, incluem informações estatísticas de ordem superior sobre o pro-

cesso aleatório de entrada [Xu & Principe 2008].

Dessa forma, observa-se na Equação (2.10) que os momentos estatísticos de ordem

elevada são controlados pelo tamanho do kernel (σ), que é um parâmetro livre e deve

ser selecionado adequadamente para o dado de entrada. Na literatura há várias aborda-

gens para determinar o tamanho adequado do kernel, tais como a regra de Silverman

[Silverman 1986], validação cruzada baseada no erro médio quadrático [Bowman 1984] e

método adaptativo utilizando Curtose [Zhao et al. 2012]. Entretanto, todos esses métodos

são estimativas de valores sub-ótimos do tamanho do kernel.

Similar à função de densidade espectral de potência convencional para processos alea-

tórios estacionário no sentido amplo, a transformada de Fourier da função de correntropia

centralizada para processo estritamente estacionários é denominada de densidade espec-

tral de correntropia (CSCD) e definida como

Pσ(ω) =∫

∞

−∞

U(τ)e− jωτdτ, (2.11)

em que ω é a frequência em radianos por segundos. Do mesmo modo, a transformada

inversa de Fourier aplicada a Pσ(ω) resulta a correntropia centralizada U(τ).

2.2.1 Propriedades

Esta seção aborda as propriedades mais relevantes da correntropia. As seguintes pro-

priedades são derivadas da Equação (2.8), assumindo um processo estocástico estacioná-


rio em tempo discreto [Principe 2010]:

1. Para qualquer kernel simétrico, V (τ) é uma função simétrica: V (τ) = V (−τ).

2. V (τ) assume o valor máximo na origem. Por exemplo: V (τ) ≤ V (0) ∀τ.

3. Devido ao uso do kernel gaussiano, V (τ) ≥ 0 e V (0) = 1/√

2πσ.

4. Dado V (τ) para τ = 0, ...,P−1, é possível definir uma matriz de dimensão PxP:

V =

V (0) . . . V (P−1)

. . .

. . .

. . .

V (P−1) . . . V (0)

(2.12)

2.3 Influência do tamanho do kernel

A correntropia possui um parâmetro livre denominado de tamanho do kernel (σ) que

influencia diretamente no seu desempenho. A influência desse parâmetro sobre a corren-

tropia será analisada a seguir por meio de experimentos computacionais. Todos os testes

foram realizados com um sinal cosseno de frequência 10 Hz e frequência de amostragem

de 500 Hz.

2.3.1 Domínio do tempo e da frequência

A função de autocorrentropia centralizada foi avaliada no domínio do tempo e da

frequência com quatro diferentes tamanhos de kernel 0.04, 0.4, 1 e 10. Inicialmente, o

sinal no domínio do tempo com sua função de autocorrelação foi ilustrado na Figura C.4.

O valor da correntropia para diferentes tamanhos de kernel é ilustrado na Figura 2.3.

Observa-se que o aumento do kernel faz com que a correntropia tenda à Correlação, ou

seja, para valores de σ suficientemente grande, os momentos de segunda ordem dominam

e a medida aproxima a correlação. Por outro lado, quando o tamanho do kernel diminui, a


0 50 100 150 200 250 300−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Am

plitu

de

Amostras

(a) Forma de onda do cosseno com Frequência de 10Hz

0 50 100 150 200 250 300−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Aut

ocor

rela

ção

Atraso temporal

(b) Autocorrelação do cosseno

Figura 2.2: Sinal cosseno e autocorrelação do cosseno.

correntropia tende a valores positivos e sua forma de onda se torna diferente da correlação.

É importante ressaltar que independente do tamanho do kernel a correntropia é periódica.

0 50 100 150 200 250−1

−0.5

0

0.5

1

Cor

rent

ropi

a

Atraso temporal

(a) σ = 0.04

0 50 100 150 200 250−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Cor

rent

ropi

a

Atraso temporal

(b) σ = 0.4

0 50 100 150 200 250−1

−0.5

0

0.5

1

Cor

rent

ropi

a

Atraso temporal

(c) σ = 1

0 50 100 150 200 250−1

−0.5

0

0.5

1

Cor

rent

ropi

a

Atraso temporal

(d) σ = 10

Figura 2.3: correntropia centralizada para diferentes tamanho de kernel.


O segundo experimento realizou a mesma análise anterior no domínio da frequência.

Inicialmente, foi computada a transformada de Fourier da autocorrelação, cujo resultado

está ilustrado na Figura 2.4. Em seguida, a transformada de Fourier é aplicada na corren-

tropia para diferentes tamanhos de kernel e ilustrada na Figura 2.5.

0 50 100 150 200 250 3000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rela

ção|

Frequência (Hz)

Figura 2.4: Densidade espectral de potência de um cosseno com frequência de 10Hz.

Dessa forma, é possível concluir que tanto no domínio da frequência quanto no domí-

nio do tempo a influência do tamanho do kernel obedece às mesmas propriedades. Além

disso, observa-se a partir da Figura 2.5 (d), com σ = 10, que a densidade espectral de cor-

rentropia possui as mesmas características da densidade espectral de potência ilustrada na

Figura 2.4, ou seja o tamanho do kernel pondera os momentos estatísticos da correntropia.

É importante ressaltar que, as frequências que surgem no cálculo da correntropia é

devido a transformação não linear do kernel. No apêndice C é detalhado o cálculo da

correntropia para outras formas de onda utilizadas em processamento digital de sinais.


0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rent

ropi

a|

Frequência (Hz)

(a) σ = 0,04

0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rent

ropi

a|

Frequência (Hz)

(b) σ = 0,4

0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rent

ropi

a|

Frequência (Hz)

(c) σ = 1

0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rent

ropi

a|

Frequência (Hz)

(d) σ = 10

Figura 2.5: Transformada de Fourier da autocorrentropia centralizada para diferentes ta-manho de kernel.


2.3.2 Ruído impulsivo

O tamanho do kernel funciona como um zoom que controla a janela de observação na

qual a similaridade é avaliada. A possibilidade de ajustar o tamanho do kernel fornece um

mecanismo eficiente que permite eliminar os valores que são muito diferentes do conjunto

de dados.

Com o objetivo de facilitar a compreensão desses conceitos, foi realizado um experi-

mento computacional que compara o cálculo da correntropia e da correlação de um sinal

em um ambiente com ruído impulsivo (outliers). Os outliers foram representados por um

sinal não-gaussiano com distribuição de probabilidade bimodal ilustrada na Figura 2.6,

cuja sua função de densidade de probabilidade é dada por:

P(i) = 0.9N(0,0.01)+0.1N(4,0.01) (2.13)

−1 0 1 2 3 4 5 6 70

10

20

30

40

50

60

70

80

PD

F

Valor

(a) Função de densidade de probabilidade do ruído daEquação (2.13)

0 50 100 150 200 250 300−2

0

2

4

6

8

Tempo

Val

or

(b) Cosseno com outliers

Figura 2.6: PDF do ruído impulsivo e o cosseno com outliers

Observa-se na Figura 2.7 que a autocorrelação é muito sensível ao ruído impulsivo,

modificando completamente a forma de onda no tempo e o seu espectro de frequências.

Em particular, comparando a densidade espectral de potência do cosseno sem ruído,

ilustrada na Figura 2.4, com a do cosseno com ruído da Figura 2.7, fica bem evidenciado


o quanto a correlação é prejudicada com o ruído impulsivo.

Por outro lado, através do ajuste do tamanho do kernel, praticamente não houve altera-

ções na resposta da correntropia para o cosseno com ruído impulsivo. Quando realiza-se

uma comparação entre as Figuras 2.5 (b) e 2.7 (d) para o mesmo tamanho de kernel,

observa-se que o outlier não influência o cálculo da correntropia.

0 50 100 150 200 250 300−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Aut

ocor

rela

ção

Atraso temporal

(a) Autocorrelação do cosseno com outlier

0 50 100 150 200 250 3000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rela

ção|

Frequência (Hz)

(b) Densidade espectral de potência para o cosseno comoutlier

0 50 100 150 200 250−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Cor

rent

ropi

a

Atraso temporal

(c) Autocorrentropia do cosseno com outlier e σ = 0,4

0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rent

ropi

a|

Frequência (Hz)

(d) Densidade espectral de correntropia para o cossenocom outlier e σ = 0,4

Figura 2.7: Cálculo da correntropia e correlação, no domínio do tempo e frequência, paraum cosseno com outlier.


2.4 Síntese

Ao longo desse capítulo foi possível definir e demonstrar as propriedades da correntro-

pia. Foi exemplificado, por simulação computacional, a importância do ajuste do tamanho

do kernel para a correntropia. Além disso, ficou evidenciado que a correntropia consegue

extrair informações de infinitos momentos estatísticos de um processo aleatório.

O efeito do ruído impulsivo é amenizado pelo uso do kernel gaussiano no cálculo da

correntropia. A diferença ao quadrado entre o sinal original e o outlier é realizado no

expoente de uma exponencial negativa, em que seu valor máximo é 1/√

2πσ.

No próximo capítulo define-se processos cicloestacionários e apresenta-se as princi-

pais funções da análise cicloestacionária: a função de autocorrelação cíclica (CAF) e a

função desensidade espectral cíclica (SCD).

Capítulo 3

Processos Cicloestacionários

3.1 Introdução à Análise de Sinais Cicloestacionários

Por meio da análise de cicloestacionariedades procura-se identificar e caracterizar, nos

sinais aleatórios, momentos estatísticos que variam periodicamente com o tempo. Neste

sentido, um sinal com função de autocorrelação periódica apresentará comportamento pe-

riódico de segunda ordem. Logo, pode-se extrair informações sobre esse comportamento

analiando suas cicloestacionariedades.

As características cicloestacionárias podem ser encontradas em sinais reais ou ar-

tificiais presentes em várias áreas, tais como telecomunicações [Jang 2014], sistemas

biológicos [Newton 1982], meteorologia [Hasselmann & Barnett 1981], climatologia

[Bloomfield et al. 1994], oceanografia [Dragan & Yavorskii 1982] e máquinas rotativas

[Konig & Bohme 1994]. Em telecomunicações, especialmente no contexto de rádio cog-

nitivo, a cicloestacionariedade é frequentemente aplicada em dois tipos de problemas:

sensoriamento espectral e classificação de sinais modulados.

Destaca-se como objetivo principal desse capítulo, uma visão geral da análise do sinal

cicloestacionário, com ênfase em suas características estatísticas de segunda ordem e suas

aplicações.

Processos Cicloestacionários 20

3.2 Função de Autocorrelação Cíclica (CAF)

Um processo aleatório, x(t), é denominado de cicloestacionário de segunda ordem

em sentido amplo se a sua média, E[x(t)], e sua função de autocorrelação, Rx(t,τ) =

E[x(t)x(t + τ)], forem periódicas com um certo período T0 [Gardner et al. 2006]. Mesmo

se estas duas condições não forem verdadeiras para o sinal completo, pequenos segmentos

do sinal podem ter a média e a correlação periódicos com o tempo [Gardner et al. 2006].

Matematicamente, a cicloestacionariedade de segunda ordem é descrita por

E[x(t +T0)] = E[x(t)] (3.1)

E[x(t +To)x(t +T0 + τ)] = E[x(t)x(x+ τ)],

em que E[.] é o operador valor esperado.

Uma vez que a função de autocorrelação de processos cicloestacionários de segunda

ordem é periódica, ela pode ser descrita pela série de Fourier [Gardner et al. 2006] como

Rx(t,τ) = ∑α

Rαx (τ)e

j2παt , (3.2)

em que α, chamado genericamente de frequência cíclica, denota todos os múltiplos da

frequência fundamental da autocorrelação, ou seja α = n/T0, com n ∈ Z. Nessa série, os

coeficientes RαX(τ) definem a Função de Autocorrelação Cíclica (CAF), expressa por:

Rαx (τ) =

∫ T0/2

−T0/2Rx(t,τ)e− j2παtdt. (3.3)

Assumindo que x(t) é um processo policicloergódico, ou seja, apresenta mais do que

uma frequência cíclica fundamental, a Equação (3.3) pode ser reescrita da seguinte forma


[Gardner & Spooner 1992]:

Rαx (τ) = lim

T→∞

1T

∫ T/2

−T/2x(t)x(t + τ)e− j2παtdt. (3.4)

Percebe-se através da Equação (3.3) que a CAF permite verificar se um processo apre-

senta cicloestacionariedade, o que ocorre quando a função Rαx (τ) é não-nula para algum

valor de α 6= 0. Além disso, é importante destacar que para α = 0 a CAF reduz-se à

função de autocorrelação convencional do sinal.

3.3 Função Densidade Espectral Cíclica (SCD)

A transformada de Fourier da função de autocorrelação é denominada de densidade

espectral de potência [Gubner 2006]. Essa relação, descrita no teorema de Wiener-

Khinchin, também pode ser utilizada na CAF para obter a função densidade espectral

cíclica (SCD), Sαx ( f ), definida pela seguinte equação

Sαx ( f ) =

∫∞

−∞

Rαx (τ)e

− j2π f τdτ. (3.5)

Percebe-se que a função SCD representada pela Equação (3.5) possui as propriedades

de simetria e é conhecida por espectro cíclico [Gubner 2006].

S−αx ( f ) = Sα

x ( f ) (3.6)

Sαx (− f ) = Sα

x ( f )

Em particular, quando α = 0, a SCD é reduzida para a densidade espectral de potência

convencional, definida como:


S0x( f ) =

∫∞

−∞

R0x(τ)e

− j2π f τdτ. (3.7)

A SCD para um sinal de frequência f0 e frequência cíclica α é apenas a correlação

dos dois valores do sinal no domínio da frequência separadas em frequência por α e

centralizada na frequência f0.

Para ilustrar algumas propriedades da cicloestacionariedade de segunda ordem, a SCD

foi computada para modulação AM com uma frequência fc = 1024 Hz e ilustrada na Fi-

gura 3.1. Para α = 0 a SCD apresenta a densidade espectral de potência da onda senoidal,

com dois impulsos em± fc. Os outros dois picos correspondem à correlação do sinal após

o deslocamento em frequência de 2 fc.

Figura 3.1: Visão tridimensional da SCD para a modulação AM


3.3.1 Perfil Alfa

A função SCD pode ser de difícil análise computacional, sendo interessante em algu-

mas aplicações a redução de sua dimensionalidade [Fehske et al. 2005]. Neste trabalho,

foi utilizado o método da projeção dos valores máximos da SCD sobre um plano ortogonal

a f , para valores de α > 0, matematicamente representado por

I(α) = maxf|Sα

x ( f )|. (3.8)

em que o símbolo |.| é o valor absoluto do sinal. Ao longo do texto, I(α) será denominado

perfil alfa do sinal aleatório.

Por meio da Equação (3.8) é possível reduzir a complexidade da representação da

SCD, preservando os impulsos característicos. A Figura 3.2 ilustra o perfil alfa da SCD

de um sinal com modulação AM.

1000 2000 3000 4000 5000 60000

0.2

0.4

0.6

0.8

1

Frequência cíclica

Per

fil a

lpha

Figura 3.2: Perfil alfa para modulação AM

É importante destacar que algumas técnicas de sensoriamento espectral e classifi-

cação automática de modulações utilizam descritores baseados no perfil alfa [Fehske

et al. 2005].


3.4 Cicloestacionariedade de Ordem Superior (HOCS)

A cicloestacionariedade de ordem superior utiliza momentos estatísticos de alta ordem

para extrair informações do sinal analisado. Devido a essa característica, a HOCS é uma

generalização da cicloestacionariedade de segunda ordem. Uma generalização natural e

intuitiva é chamado de lag product e pode ser expressa como:

L(t,τ)n =n

∏i=1

x(t + τi), (3.9)

em que o vetor τ é composto de atrasos individuais τ j ( j = 1, ...,n).

A extração da HOCS de um sinal x(t) pode ser obtida a partir da análise da periodici-

dade do lag product definida na Equação (3.9), denominada de Cyclic Temporal Moment

Function (CTMF) e definida por meio da expressão [Renard et al. 2010]:

Rαx (τ)n =

⟨Lx(t,τ)ne− j2παt⟩ , (3.10)

em que 〈.〉= limT→∞1

2T∫ T−T (.)dt. Caso Lx(t,τ)n não seja identicamente nula para algum

valor de α 6= 0, assume-se que as N séries temporais apresentam cicloestacionariedade

conjunta de N-ésima ordem. Além disso, pode-se definir a função cyclic spectral cross-

moment (CSCMF) de ordem n como sendo a transformada de Fourier n-dimensional da

função CTMF de ordem N, sendo definida como:

Sαx ( f )n =

∫RN

Rαx (τ)ne− j2π f τdτ, (3.11)

em que f = [ f1, ..., fn]T .

Em particular, o trabalho de [Gubner 2006] demonstra que a CTMF de um sinal pode

ser visualizada como cumulantes de ordem n do sinal. Dessa forma, utilizando as rela-

ções convencionais dos momentos estatísticos com cumulantes de alta ordem, a função


temporal de cumulantes (TCF) é definido como:

Kx(t,τ)n = ∑{P}

[(−1)p−1(p−1)!∏

pj=1 Rx(t,τ j)n j

], (3.12)

em que {P} é o conjunto de índices (1,2, ...,n) e Rx(t,τ j)n j é a CTMF. A função temporal

de cumulantes cíclicos CTCF são os coeficientes da série de Fourier da TCF e pode ser

expressa como:

Kαx (τ)n = ∑

{P}

[(−1)p−1(p−1)!∑β ∏

β jj=1 Rβ j

x (τ j)n j

], (3.13)

em que {β} é o vetor de frequência cíclicas definido pelo somatório de α (∑pj=1 = α) e

Rβ jx (τ j)n j é a CTMF do j-ésimo elemento de ordem n j da partição P na frequência cíclica

β j.

Na prática existem sinais cicloestacionários que possuem propriedades cicloestacio-

nárias de segunda ordem fracas. Dessa forma, vários métodos utilizam transformações

não lineares no sinal com a finalidade de revelar periodicidades ocultas em momentos

estatísticos de ordem superior. Essa análise é realiza através de cumulantes aumentando

significativamente o desempenho dos extratores de características, porém com um elevado

custo computacional [Renard et al. 2010].


3.5 Síntese

Foram apresentadas funções para a análise das características periódicas de um deter-

minado processo aleatório. Observa-se que, em alguns processos aleatórios, a cicloesta-

cionariedade de segunda ordem não consegue extrair informações relevantes, principal-

mente quando o ruído é não gaussiano. Dessa forma, uma solução para esse problema é a

análise de cicloestacionariedade de ordem superior.

No próximo capítulo a análise de processos cicloestacionários é discutida sob um

enfoque de teoria da informação. Neste contexto, novas medidas para a extração de ciclo-

estacionariedades de ordem superior serão definidas.

Capítulo 4

Correntropia Cíclica

4.1 Introdução

A análise cicloestacionária de segunda ordem [Gardner & Spooner 1992] apresenta

limitações quando aplicada à caracterização de sinais contaminados com ruído impulsivo

ou de natureza não-gaussiana. Além disso, descritores obtidos a partir de cicloestaci-

onariedades de segunda ordem são ineficazes na caracterização de alguns sinais, como

modulações digitais de ordem elevada, sinais biológicos e sinais originados por vibrações

mecânicas [Gardner & Spooner 1992]. Neste caso, a análise de cicloestacionariedades de

ordem superior tende a melhorar o desempenho dos métodos de classificação empregados.

A correntropia é capaz de extrair infinitos momentos estatísticos, sendo ainda robusta

a ruídos não-gaussianos. Dessa forma, neste capítulo, a teoria de processos cicloestaci-

onários é revisitada sob um enfoque de teoria da informação. O objetivo é investigar os

benefícios que podem ser conseguidos com a substituição da medida de correlação, utili-

zada nas funções clássicas de análise de cicloestacionariedades, pela correntropia. Espe-

cificamente, duas novas funções são definidas, a função de correntropia cíclica (CCF) e a

densidade espectral de correntropia cíclica (CCSD).

Essas novas funções têm o objetivo de investigar os processos encontrados na natureza

originados por fenômenos periódicos, não porque são funções periódicas no tempo, mas

porque são fenômenos aleatórios cujas estatísticas variam periodicamente com o tempo.

Correntropia Cíclica 28

4.2 Função de Correntropia Cíclica (CCF)

Conforme visto no Capítulo 3, os processos são definidos como cicloestacionários de

segunda ordem se estes possuem média e autocorrelação periódicas no tempo. Sabendo

que a função de autocorrentropia de um processo pode possuir infinitos momentos es-

tatísticos (ver o Capítulo 2), é possível concluir que um processo com pelo menos um

momento estatístico de ordem par periódico possui a função de correntropia periódica.

Considera-se neste trabalho que os processos que têm função de correntropia periódica

são cicloestacionários de segunda ordem ou de ordem superior.

Supondo que a função de correntropia Vx(t,τ) de um processo x(t) é periódica, pode-

se representar Vx(t,τ) (Equação 2.8) por uma série de Fourier, tal que

Vx(t,τ) = ∑α

V αx (τ)e j2παt , (4.1)

com os coeficientes de Fourier,

V αx (τ) =

1T0

∫ T0/2

−T0/2Vx(t,τ)e− j2παtdt, (4.2)

definindo a função de correntropia cíclica (CCF), em que α = n/T0 abrange todos os

múltiplos da frequência fundamental 1/T0.

Assumindo que V αx (τ) é policicloergódico na correntropia [Gardner 1986], ou seja,

apresenta mais do que uma frequência cíclica fundamental, é possível reescrever a Equa-

ção (4.2) como segue

V αx (τ) =

⟨(Gσ(x(t),x(t + τ))e− j2παt⟩ , (4.3)

em que Gσ(x(t), x(t+τ)) é um kernel Gaussiano expresso pela Equação (2.2), e o símbolo

〈.〉 define a operação


〈.〉= limT→∞

12T

∫ T

−T(.)dt. (4.4)

A CCF permite identificar a presença de características cicloestacionárias da corren-

tropia nos processos, o que ocorre quando a função V αx (τ) é não-nula para qualquer valor

de α 6= 0. Em particular, quando α = 0, a CCF é equivalente à função de correntropia

convencional.

Pode-se observar algumas propriedades interessantes ao se aplicar uma expansão em

série de Taylor à função V αx (τ) da Equação (4.2). O resultado dessa expansão encontra-se

a seguir e a dedução matemática detalhada está no Apêndice B.

V αx (τ) =

1T0

∫ T0/2

−T0/2

1√2πσ

∞

∑n=0

(−1)n

2nn!σ2n E[(x(t)− x(t + τ))2 +2σ2−2 jσ22παt)

]n

dt.

(4.5)

Esta é uma expressão interessante porque fornece muitas informações sobre a CCF.

Observa-se que para um kernel gaussiano, a soma de todos os momentos estatísticos apa-

recem na CCF, mantendo as informações estatísticas de segunda ordem fornecida pela

CAF e os momentos estatísticos de ordem superior da variável aleatória, os quais são

ponderados por 1/σ2n. Em muitas aplicações, os momentos estatísticos de ordem su-

perior podem facilitar a extração de características do sinal analisado. A Equação 4.5 é

meramente interpretativa, não sendo recomendado a computação da CCF através dela.

Assumindo a propriedade supracidade em que V αx (τ) é policicloergódico na corren-

tropia [Gardner 1986], a Equação 4.5 pode ser simplificada para

V αx (τ) =

1√2πσ

⟨∞

∑n=0

(−1)n

2nn!σ2n

[(x(t)− x(t + τ))2 +2σ2−2 jσ22παt)

]n⟩. (4.6)

Expandindo o somatório da Equação (4.6) obtém-se


V αx (τ)=

1√2πσ

⟨−βt,α +

β2t,α2 −

β3t,α6 +

−β2x2(t))4σ2 −

β2t,αx2(t+τ)

4σ2 +β2

t,αx(t)x(t+τ)

2σ2 + x(t)x(t+τ)σ2 +

−βt,αx(t)x(t + τ)

σ2 +βt,αx2(t + τ)

2σ2 − x2(t)2σ2 −

x2(t + τ)

2σ2 +βt,αx2(t)

2σ2 +

+βt,αx3(t)x(t+τ))

2σ4 +βt,αx(t)x3(t+τ)

2σ4 − 3βt,αx2(t)x2(t+τ)

4σ4 − βt,αx4(t+τ)

8σ4 −

+βt,αx4(t)

8σ4 + 3x2(t)x(t+τ)2

4σ4 − x3(t)x(t+τ)2σ4 − x(t)x3(t+τ)

2σ4 + x4(t)8σ4 + x4(t+τ)

8σ4 +

−5x4(t)x2(t+τ)16σ6 + 5x3(t)x3(t+τ)

12σ6 − 5x2(t)x4(t+τ)16σ6 + x5(t)x(t+τ)

8σ6 +

− x6(t)48σ6 −

x6(t+τ)48σ6 + x(t)x5(t+τ)

8σ6 + ...

⟩em que βt,α =− j2παt.

Agrupando os termos que possuem σ2 no denominador e nomeando os termos com σ

com potência maior do que 2 no denominador de ξασ(t,τ), obtêm-se a seguinte Equação

V αx (τ) =

1√2πσ

⟨∞

∑n=0

[(−1)n βn

t,αn! +

nβn−1t,α

2σ2n! (x(t)− x(t + τ))2

]+ξ

ασ(t,τ)

⟩, (4.7)

em que∞

∑n=0

nβn−1t,α

2σ2n!(x(t)− x(t + τ))2 representa os termos ponderados por 1/σ2.

Dado que∞

∑n=0

(−1)n βnt,α

n!é a expansão de Taylor para função exponencial com coefici-

ente negativo, a Equação (4.7) pode ser reescrita como

V αx (τ) =

⟨eβt,α

⟩√

2πσ+

12√

2πσ3

⟨(x(t)− x(t + τ))2eβt,α

⟩+

1√2πσ〈ξα

σ(t,τ)〉 . (4.8)

Expandindo o termo quadrático, obtêm-se


V αx (τ)=

⟨eβt,α

⟩√

2πσ+

12√

2πσ3

⟨x2(t)eβt,α + x2(t + τ)eβt,α−2x(t)x(t + τ)eβt,α

⟩+

1√2πσ〈ξα

σ(t,τ)〉 ,

(4.9)

em que⟨

x(t)x(t + τ)eβt,α⟩

é a Função de Autocorrelação Cíclica (CAF) de um processo

policicloergódico x(t), denotada por Rαx (τ) [Gardner et al. 1994]. Substituindo o valor de

βt,α, reagrupando os termos e assumindo que no infinito x(t + τ) = x(t), obtêm-se:

V αx (τ) =

1√2πσ

(⟨e− j2παt⟩− Rα

x (τ)

σ2 +

⟨x2(t)e− j2παt⟩

σ2 + 〈ξασ(t,τ)〉

). (4.10)

A Equação (4.10) demonstra que independente do processo estocástico utilizado sem-

pre haverá uma senoide deslocando a resposta, essa propriedade é devido ao termo⟨e− j2παt⟩

e, o termo Rαx (τ) evidencia a presença dos momentos estatísticos de segunda ordem. Além

disso, todos os termos são ponderados pelo tamanho do kernel, assumindo um papel muito

importante para ponderar os efeitos dos momentos estatísticos de segunda e alta ordem.

De fato, para um tamanho de kernel suficientemente grande, a tradicional estatística de

segunda ordem é preservado e o termo 〈ξασ(t,τ)〉 tende a zero. No Apêndice A encontra-se

de forma detalhada a dedução da CCF demonstrando a influência do tamanho do kernel.

Dessa forma, a função V αx (τ) contempla as informações cicloestacionárias obtidas por

meio da CAF, podendo ser considerada neste sentido, uma generalização da mesma. Ao

contrário de Rαx (τ), que evidencia apenas as cicloestacionariedades de segunda ordem

presentes em um sinal aleatório, a função V αx (τ) permite analisar cicloestacionariedades

de segunda ordem e de ordem superior de um processo x(t) por meio de um ajuste do

parâmetro livre σ.


4.3 Função Densidade Espectral de correntropia Cíclica

(CCSD)

A transformada de Fourier da autocorrentropia é denominada Densidade Espectral de

correntropia [Xu & Principe 2008]. Essa relação pode ser utilizada na CCAF para obter

a Função de Densidade Espectral de correntropia Cíclica (CCSD), Cαx ( f ), definida pela

Equação

Cαx ( f ) =

∫∞

−∞

V αx (τ)e− j2π f τdτ (4.11)

Análogo à SCD, a CCSD também possui as seguintes propriedades de simetria:

C−αx ( f ) =Cα

x ( f ) (4.12)

Cαx (− f ) =Cα

x ( f )

Além disso, quando α = 0 a CCSD representa a densidade espectral de correntropia.

A CCSD permite extrair características cicloestacionárias de segunda ordem ou de or-

dem superior de processos aleatórios, generalizando a função SCD calculada a partir da

autocorrelação. O uso dessa função pode ser interessante em aplicações de rádio cogni-

tivo, tanto em problemas de sensoriamento espectral quanto na classificação automática

de sinais modulados quando utiliza-se modulações de alta ordem, ou em outras aplicações

que envolvem sinais com cicloestacionariedades de ordem superior.

É importante destacar que a análise cicloestacionária por meio da correntropia de-

pende do parâmetro livre (σ), denominado de tamanho do kernel, empregado na função

gaussiana da correntropia. Como na correntropia convencional, o tamanho do kernel está

relacionado diretamente com o desempenho da CCF e CCSD. A influência desse parâme-

tro sobre o cálculo da CCSD é analisado a seguir por meio de experimentos computacio-


nais com um sinal cosseno ilustrado na Figura 4.1.

Observa-se na Figura 4.1 resultados distintos para os dois diferentes tamanhos de

Kernel. Quando o kernel é grande, os momentos estatísticos de alta ordem são ponderados

e a CCSD tende a clássica SCD de segunda ordem com o pico principal na posição duas

vezes a frequência da senoide. Por outro lado, quando o tamanho do kernel diminui os

momentos estatísticos de alta ordem predominam e outras informações adicionais sobre

o sinal é extraído devido a transformação não linear do kernel gaussiano.


0 0.002 0.004 0.006 0.008 0.01−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Tempo (s)

(a) Cosseno com frequência 1024 Hz e taxa de amostra-gem de 16.384 Hz

(b) |CCSD| com tamanho do kernel igual a 10.

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil a

lpha

(c) Perfil alfa da CCSD com tamanho do ker-nel igual a 10.

(d) |CCSD| com tamanho do kernel igual a 0.1.

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil a

lpha

(e) Perfil alfa da CCSD com tamanho do kernel iguala 0.1.

Figura 4.1: Cálculo da CCSD para um cosseno com uma frequência fundamental


4.4 Síntese

Métodos tradicionais de análise de cicloestacionariedade de ordem superior são ge-

ralmente complexos e inviáveis para a maioria das aplicações de tempo real. Como al-

ternativa aos métodos clássicos de análise de cicloestacionariedades de ordem superior, o

presente capítulo define uma nova ferramenta matemática para a análise de cicloestaciona-

riedade de ordem superior baseada na função de correntropia, denominada de Função de

correntropia Cíclica. Foi demonstrado matematicamente que a CCF contém informações

de infinitos momentos estatísticos, sendo uma generalização da Função de Autocorrela-

ção Cíclica. Além disso, foi demonstrado que o parâmetro livre σ tem um papel muito

importante para ponderar os efeitos dos momentos estatísticos de segunda e alta ordem.

No próximo capítulo, o desempenho da ferramenta CCF será avaliado com as mo-

dulações digitais BFSK, BPSK, ASK, AM, QPSK e 16-QAM, na presença de ruído não

gaussiano. Foram realizados um conjunto de experimentos para extração de característi-

cas de sinais aleatórios e um estudo de caso para sensoriamento espectral.

Capítulo 5

CCSD Aplicada a Análise de Sinais

Cicloestacionários

Neste capítulo serão apresentadas as assinaturas cicloestacionárias das modulações

AM, BFSK, MSK, BPSK, QPSK e 16-QAM, utilizando-se os métodos SCD e CCSD. O

objetivo é analisar a função densidade espectral de correntropia cíclica, relacionando-a

ao desempenho da clássica função de densidade espectral cíclica na obtenção de des-

critores de sinais cicloestacionários. Serão apresentadas as etapas do algoritmo Cyclic

Periodogram Detection responsável pela implementação dos métodos SCD e CCSD re-

alizados neste trabalho. Além disso, serão analisados os detalhes da versão paralelizada

da CCSD desenvolvida no contexto desta Tese. Resumidamente serão quatro experimen-

tos, divididos da seguinte forma: sensoriamento espectral com ruído impulsivo, extração

de característica com ruído gaussiano e não-gaussiano, assinaturas cicloestacionárias de

sinais modulados e análise da escalabilidade paralela da CCSD.

Os sinais utilizados na análise de desempenho da CCSD foram criados com os parâ-

metros de simulação apresentados na Tabela 5.1 com filtro de formatação de pulso do tipo

raiz quadrada do cosseno elevado, com fator de rolamento (roll−o f f ) r = 0.5. Todos os

experimentos desse capítulo utilizaram dois tipos de canal de comunicação: o primeiro

com um ruído aditivo gaussiano branco (AWGN) com média nula e densidade espectral

de potência igual a N0/2 por dimensão; o segundo canal foi modelado por uma distri-

CCSD Aplicada a Análise de Sinais Cicloestacionários 37

buição de probabilidade bimodal para representar um ruído impulsivo caracterizado pela

Equação 5.1 e PDF ilustrada na Figura 5.1.

P(i) = 0.8N(0,0.01)+0.2N(6,0.01) (5.1)

−1 0 1 2 3 4 5 6 70

10

20

30

40

50

60

70

80

PD

F

Valor

Figura 5.1: Função densidade de probabilidade do ruído da impulsivo

Parâmetros ValoresFrequência de amostragem 16384 HzFrequência Intermediária 1024 Hz

Taxa de símbolo 1024 Baud

Tabela 5.1: Parâmetros de simulação computacional dos sinais analisados

5.1 Algoritmo Cyclic Periodogram Detection (CPD)

O algoritmo Cyclic Periodogram Detection (CPD) proposto por [Zhang & Xu 2007]

implementa um algoritmo que estima a função SCD. Neste trabalho, o algoritmo CPD

foi modificado para calcular uma aproximação da CCSD. A obtenção das assinaturas


cicloestacionárias dos experimentos realizados pode ser descrito por meio dos seguintes

passos:

Passo 1. O sinal de entrada, x[n], é segmentado em L blocos de N amostras, como ilus-

trado na Figura 5.2.

Passo 2. Calcula-se a média da correntropia para cada bloco, l = 0,1,2, ...,L−1.

Ml =N−1

∑τn=0

N−1

∑n=0

G(xl[n],xl[n+ τn]) (5.2)

Passo 3. Calcula-se a correntropia centralizada para cada bloco de tamanho N com α[n] =

nN ,n = 0,1,2, ...,N−1, l = 0,1,2, ...,L−1.

V αnl [τn] =

N−1

∑n=0

{[G(xl[n],xl[n+ τn])−Ml]e− j2παnn} (5.3)

Passo 4. Calcula-se o valor médio de Cαnl [τ] sobre os L blocos:

V αn[τn] =1L

L−1

∑l=0

V αnl [τn] (5.4)

Passo 5. Calcula-se o módulo da transformada discreta de Fourier sobre τn.

|Cαn[k]|= | 1N

N−1

∑τn=0

V αn [τn]e− j 2π

N kτn | (5.5)

Figura 5.2: Passo 1. x[n],n = 0,1,2,3, ...,N−1, l = 0,1,2,3, ...,L−1 [Farias et al. 2011]


O cálculo da SCD também foi baseada no algoritmo CPD por meio dos seguintes

passos:

Passo 1. Dado o sinal xl[n], onde l = 0,1, . . . ,L−1 identifica os blocos e n= 0,1, . . . ,N−

1 identifica as amostras nos blocos, calcula-se o a transformada discreta de Fourier

de cada um dos L blocos, ou seja,

Xl[k] =N−1

∑n=0

xl[n]e−j 2π

N kn, k = 0,1, . . . ,N−1; (5.6)

Passo 2. Calcula-se a seguinte expressão para k = 0,1, . . . ,N−1 e l = 0,1, . . . ,L−1:

T α

l [k] =1N

Xl

[k+

α

2

]X∗l[k− α

2

]; (5.7)

Passo 3. Calcula-se o valor médio de T α

l [k] sobre todos os L blocos:

Sαn[k] =1L

L−1

∑l=0

T α

l [k], k = 0,1, . . . ,N−1; (5.8)

5.2 Sensoriamento Espectral

Em geral os sinais de sistemas de comunicação exibem alguma periodicidade em seus

parâmetros estatísticos, decorrentes, dentre outras ações, da presença de sinais que pos-

suem periodicidade, tais como aqueles encontrados em processos de modulação, amos-

tragem ou codificação por sequência de espalhamento espectral. Visando realizar uma

comparação entre os métodos SCD e CCSD no sensoriamento espectral, foram criados

duas hipóteses H0 e H1 expressas como

H0 : y[n] = s[n]+η[n] (5.9)

H1 : y[n] = η[n] (5.10)


em que y(n) indica o sinal sensoriado, η(n) representa um ruído impulsivo caracterizado

pela Equação (5.1) e s(n) é o sinal transmitido pelo usuário utilizando uma das seguintes

modulações: AM, MSK, BPSK, BFSK, QPSK e 16-QAM.

Os métodos SCD e CCSD são aplicados aos sinais, e o resultado classificado como

H0 ou H1. O objetivo é identificar periodicidade no sinal y[n], demonstrando a presença

de usuário primário. Inicialmente, o método SCD é avaliado para as modulações AM,

MSK e BPSK e os resultados estão ilustrados na Figura 5.3. Através do perfil alfa de cada

modulação é possível concluir que o método SCD não conseguiu identificar nenhuma

característica que demonstrasse a presença de um sinal modulado no canal, evidenciando

a ineficácia do método baseado na SCD para este cenário de sensoriamento, uma vez que

a hipótese H0 contém um sinal transmitido por um usuário.

A Figura 5.4 ilustra o método SCD para as modulações BFSK, QPSK e 16QAM com

relação sinal/ruído (SNR) fixa em 0,18 dB. Da mesma forma das modulações anteriores,

o método SCD falhou na identificação do usuário primário no canal, exceto para a modu-

lação BFSK, em que a SCD conseguiu extrair um pico na frequência 2000 Hz detectando

a presença de um usuário primário durante o sensoriamento do canal.

Portanto, o método de sensoriamento baseado na função SCD foi ineficiente neste ce-

nário de comunicação, caracterizado pelo ruído não-gaussiano, falhando em quase todos

os testes de sensoriamento sob a hipótese H0, com exceção do sensoriamento do sinal

com modulação BFSK.

Para efeitos comparativos, os mesmos testes foram realizados para o método proposto

neste trabalho (CCSD), e os resultados estão ilustrados nas Figuras 5.5 e 5.6. O método

de sensoriamento baseado na função CCSD, através do ajuste do tamanho do kernel,

se mostrou tolerante à presença do ruído impulsivo, conseguindo extrair características

(picos) de todas as modulações, evidenciando a presença do usuário primário no canal

sensoriado, quando na hipótese H0.


(a) |SCD| da modulação AM

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação AM

(c) |SCD| da modulação MSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação MSK

(e) |SCD| da modulação BPSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação BPSK

Figura 5.3: |SCD| e perfil-alfa para as modulações AM, MSK e BPSK com ruído não-gaussiano.


(a) |SCD| da modulação BFSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação BFSK

(c) |SCD| da modulação QPSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação QPSK

(e) |SCD| da modulação 16QAM

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação 16QAM

Figura 5.4: |SCD| e perfil-alfa para as modulações BFSK, QPKS e 16-QAM com ruídonão-gaussiano.


(a) |CCSD| da modulação AM

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação AM

(c) |CCSD| da modulação MSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação MSK

(e) |CCSD| da modulação BPSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação BPSK

Figura 5.5: |CCSD| e perfil-alfa para as modulações AM, MSK e BPSK com ruído não-gaussiano.


(a) |CCSD| da modulação BFSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação BFSK

(c) |CCSD| da modulação QPSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação QPSK

(e) |CCSD| da modulação 16QAM

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação 16QAM

Figura 5.6: |CCSD| e perfil-alfa para as modulações BFSK, QPKS e 16-QAM com ruídonão-gaussiano.


A hipótese H1 representa a presença de somente ruído no canal sensoriado e, conse-

quentemente, ocorre quando o canal encontra-se desocupado. Sendo assim, o falso alarme

acontece quando um canal está desocupado, mas é detectado alguma característica na as-

sinatura cicloestacionária, como o pico do sinal por exemplo. Dessa forma, os métodos

SCD e CCSD foram analisados para hipótese H1 e ilustrados na Figura 5.7. Observa-se

que ambos os métodos conseguiram um bom resultado ao não registrar um falso alarme.

(a) |SCD| para um canal com apenas ruído impulsivo

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da |SCD| para um canal com apenas ruídoimpulsivo

(c) |CCSD| para um canal com apenas ruído impulsivo

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da |CCSD| para um canal com apenasruído impulsivo

Figura 5.7: |CCSD| e SCD para a hipótese H1.


5.3 Assinaturas Cicloestacionárias para Modulações Di-

gitais

Os modernos sistemas de comunicação sem fio empregam, frequentemente, técni-

cas adaptativas de modulação para proporcionar uma alta taxa de transmissão enquanto

asseguram Qualidade de Serviço (QoS). Para que as técnicas de modulação adaptativas

funcionem no cenário de rádio cognitivo é necessário que o receptor identifique o tipo de

modulação empregada pelo transmissor, procedimento denominado classificação automá-

tica de modulação (AMC).

As arquiteturas de AMC são divididas em duas etapas: pré-processamento e clas-

sificação. A primeira etapa consiste na extração de características do sinal analisado.

Nos últimos anos, a extração de características cicloestacionárias para realizar o AMC

tem sido proposta em vários trabalhos [Satija et al. 2014b, Ramkumar 2009, Zhou &

Man 2013, Phukan & Kumar Bora 2014]. O objetivo dessa seção é disponibilizar e

analisar as assinaturas cicloestacionárias das modulações 16-QAM, QPSK, ASK, BPSK,

BFSK, MSK e AM a partir do cálculo da função CCSD.

É importante destacar que alguns tipos de modulações apresentam as mesmas caracte-

rísticas cicloestacionárias de segunda ordem, não sendo possível diferenciá-las por meio

do cálculo da função SCD. Podem ser citados como exemplos, as modulações M-PSK

(para M>4) e 16-QAM, e as modulações ASK e BPSK [Gardner et al. 1994]. Nesse caso,

a análise de cicloestacionariedades de ordem superior tende a melhorar o desempenho

dos métodos de processamento de sinais empregados. Em virtude disso, como a função

CCSD considera informações contidas em infinitos momentos estatísticos, ela pode ser

mais indicada para a análise dessas modulações, por conseguir gerar assinaturas cicloes-

tacionárias distintas. Cada assinatura foi analisada para três diferentes tamanho de kernels

1, 0,1 e 0,01.


5.3.1 Modulações 16-QAM, QPSK, ASK e BPSK

É conhecido que alguns tipos de modulações digitais apresentam as mesmas caracte-

rísticas cicloestacionárias de segunda ordem. A fim de solucionar esse problema, a fun-

ção CCSD foi avaliada sobre essas modulações com três diferentes tamanhos de kernel.

Observa-se nas Figuras 5.8, 5.9, 5.10 e 5.11 que a CCSD para os tamanhos de kernel 0,1

e 0,01 possuem assinaturas cicloestacionárias diferentes. Essa característica é devido aos

infinitos momentos estatísticos que a CCSD consegue extrair do sinal analisado, fazendo

com que o momento de segunda ordem seja complementada pelas informações contidas

nos momentos de alta ordem.

Por outro lado, para um tamanho de kernel a partir de 1, as assinaturas cicloesta-

cionárias começam a ficar idênticas, não sendo possível diferenciá-las por uma simples

inspeção. Isso acontece devido ao tamanho do kernel, que tem um papel importante na

ponderação dos efeitos dos momentos estatísticos. Para um tamanho de kernel a partir de

1, o momento de segunda ordem prevalece sobre os de alta ordem.


(a) |CCSD| da modulação 16-QAM com σ = 1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação 16-QAM com σ = 1

(c) |CCSD| da modulação 16-QAM com σ = 0,1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação 16-QAM com σ = 0,1

(e) |CCSD| da modulação 16-QAM com σ = 0,01

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação 16-QAM com σ = 0,01

Figura 5.8: |CCSD| e perfil-alfa para as modulações 16-QAM para σ igual a 1, 0.1 e 0.01.


(a) |CCSD| da modulação QPSK com σ = 1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação QPSK com σ = 1

(c) |CCSD| da modulação QPSK com σ = 0,1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação QPSK com σ = 0,1

(e) |CCSD| da modulação QPSK com σ = 0,01

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação QPSK com σ = 0,01

Figura 5.9: |CCSD| e perfil-alfa para as modulações QPSK para σ igual a 1, 0,1 e 0,01.


(a) |CCSD| da modulação ASK com σ = 1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação ASK com σ = 1

(c) |CCSD| da modulação ASK com σ = 0,1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação ASK com σ = 0,1

(e) |CCSD| da modulação ASK com σ = 0,01

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação ASK com σ = 0,01

Figura 5.10: |CCSD| e perfil-alfa para as modulações ASK para σ igual a 1, 0,1 e 0,01.


(a) |CCSD| da modulação BPSK com σ = 1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação BPSK com σ = 1

(c) |CCSD| da modulação BPSK com σ = 0,1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação BPSK com σ = 0,1

(e) |CCSD| da modulação BPSK com σ = 0,01

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação BPSK com σ = 0,01

Figura 5.11: |CCSD| e perfil-alfa para as modulações BPSK para σ igual a 1, 0,1 e 0,01.


5.3.2 Modulações BFSK, MSK e AM

Com o objetivo de aprofundar o estudo da CCSD na extração de características de

modulações digitais, as modulações BSPK, MSK e AM também foram analisadas. Espe-

cificamente, foram obtidas por meio da função CCSD, assinaturas cicloestacionárias para

essas modulações, considerando diferentes tamanhos de kernel.

Nas Figuras 5.12 e 5.13 é possível observar que, independentemente do tamanho do

kernel, todas as assinaturas cicloestacionárias são diferentes entre se. Ou seja, mesmo

em duas modulações binárias da mesma família (BFSK e MSK), a CCSD conseguiu ex-

trair informações distintas, viabilizando o uso da medida em diferentes contextos. De

forma análoga, a CCSD aplicada sobre a modulação AM também se mostrou eficiente,

conseguindo extrair informações sobre o sinal modulado, como ilustrado na Figura 5.14.


(a) |CCSD| da modulação BFSK com σ = 1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação BFSK com σ = 1

(c) |CCSD| da modulação BFSK com σ = 0,1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação BFSK com σ = 0,1

(e) |CCSD| da modulação BFSK com σ = 0,01

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação BFSK com σ = 0,01

Figura 5.12: |CCSD| e perfil-alfa para as modulações BFSK para σ igual à 1, 0,1 e 0,01.


(a) |CCSD| da modulação MSK com σ = 1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação MSK com σ = 1

(c) |CCSD| da modulação MSK com σ = 0,1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação MSK com σ = 0,1

(e) |CCSD| da modulação MSK com σ = 0,01

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação MSK com σ = 0,01

Figura 5.13: |CCSD| e perfil-alfa para as modulações MSK para σ igual à 1, 0,1 e 0,01.


(a) |CCSD| da modulação AM com σ = 1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa da modulação AM com σ = 1

(c) |CCSD| da modulação AM com σ = 0,1

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa da modulação AM com σ = 0,1

(e) |CCSD| da modulação AM com σ = 0,01

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa da modulação AM com σ = 0,01

Figura 5.14: |CCSD| e perfil-alfa para as modulações AM para σ igual à 1, 0,1 e 0,01.


5.4 Análise da Escalabilidade Paralela da CCSD

A ferramenta proposta neste trabalho, apesar de se mostrar bastante robusta a ruído

e conseguir extrair informação de infinitos momentos estatísticos, possui como principal

desvantagem a sua elevada complexidade computacional. Visando reduzir essa complexi-

dade e o tempo computacional para calcular as assinaturas cicloestacionárias, foi desen-

volvido uma versão paralelizada do algoritmo CPD proposto na seção 5.1, aproveitando-

se do poder computacional disponível nos processadores multi-core.

Nos últimos anos, os processadores multi-core vêm sendo utilizados extensivamente

em diversos tipos de equipamentos em substituição aos processadores singlecore. Dentre

as principais razões para esse fenômeno podem ser citadas a sua maior capacidade de

processamento de dados e a possibilidade de redução do seu consumo de energia em

função da variação de alguns dos seus parâmetros de funcionamento, tais como frequência

de operação e tensão de alimentação [Arthur et al. 2014].

A estratégia de paralelização adotada no algoritmo proposto, ilustrado na Figura 5.15,

ocorre em cinco etapas. No diagrama, os blocos sobrepostos representam a carga compu-

tacional e as setas indicam as threads em execução.

A etapa 1 consiste na declaração de ponteiros locais a partir dos dados de L e N, em

que σ representa o tamanho do kernel. Devido a baixa complexidade computacional, essa

etapa é executada de forma serial. Além disso, uma região paralela é criada através da

diretiva parallel, em que um bloco de código é executado por múltiplas threads.

A etapa 2 consiste no cálculo da correntropia a cada um dos L blocos. Por padrão, a

diretiva pragma omp f or possui uma barreira implícita, em que a execução do código só

continua quando todas as threads terminarem as tarefas daquele laço.

A etapa 3 é a que possui o maior custo computacional, onde será computado de forma

paralela o valor da CCF para cada bloco L. Em seguida, a etapa 4 calcula a média para

cada bloco e por fim, na última etapa, a transformada discreta de Fourier é aplicada pa-


ralelamente para cada τ usando a Fastest Fourier Trans f orm in the West, resultando na

CCSD.

Figura 5.15: Diagrama de blocos com o pseudocódigo do algoritmo paralelo propostopara cálculo da CCSD.


Para avaliar o desempenho do algoritmo paralelo proposto, sua codificação foi feita

na linguagem C utilizando o OpenMP, com sistema operacional Ubuntu. Todos os testes

foram realizados em um servidor equipado com 4 processadores AMD Opteron 6376,

cada um contendo 16 núcleos, totalizando 64 núcleos de processamento, com cache L1

de 768KB, L2 16MB e L3 com 16MB. A memória principal do servidor é de 256 GB.

A escalabilidade do algoritmo paralelo proposto foi analisada utilizando duas métri-

cas: o speedup e a eficiência. Tais medidas relacionam o tempo de execução do algoritmo

paralelo e seu equivalente sequencial. Neste trabalho, as métricas de desempenho foram

avaliadas em função do tamanho de blocos (N) e da quantidade desses blocos (L).

O speedup é uma métrica que mede quantas vezes o algoritmo paralelo é mais rápido

que o sequencial [Amdahl 1967]. O cálculo do speedup é dado por:

Sp =Ts

Tp, (5.11)

em que Ts é o tempo de execução do algoritmo sequencial e Tp, o do programa paralelo

utilizando p núcleos. Em tese, e a priori, é esperado que um programa paralelo execu-

tado em uma máquina com p processadores tenha um tempo de execução p vezes mais

rápido que seu equivalente sequencial, ou seja, Sp = p. Nesse caso, diz-se ter obtido um

speedup linear ou ideal. Na Figura 5.16, observa-se um speedup praticamente linear para

a configuração N = 128 e L = 32. Por outro lado, para N = 512 e L = 32, 64 e 128 a taxa

de crescimento do speedup diminui com o aumento de processadores. Isso ocorre porque

ao aumentar a quantidade de processadores, mantendo o tamanho do problema constante,

a quantidade de trabalho do processador será cada vez menor, distanciando as curvas do

speedup linear.

Também na Figura 5.16, observa-se, nas curvas para (N = 256;L = 16), (N = 512;L =

64) e (N = 512;L = 8), um fenômeno denominado de speedup superliner. Isso acontece

quando obtem-se um speedup maior que o ideal, ou seja, Sp > p. A justificativa para esse


efeito é devido a hierarquia de memórias do microcomputador utilizado, onde o aumento

do uso da memória cache supera as limitações da memória principal. A Tabela 5.2 de-

monstra o poder da arquitetura paralela na economia de tempo de resposta do algoritmo.

2 4 6 8 10 12 14 16 18 20 22 24 26 28 30 32 34 36 38 40 42 44 46 48 50 52 54 56 58 60 62 64

20

40

60

80

100

120

Processadores

Spe

edup

IdealN:128 L:32N:128 L:64N:256 L:16N:256 L:32N:512 L:8N:512 L:32N:512 L:64N:512 L:128

Figura 5.16: Speedup para diversos valores de tamanho de blocos (N) e quantidade deblocos (L), variando-se a quantidade de processadores p = 1,2, ...,64.

No de Processadores Tempo(s) L=8;N=512 Tempo(s) L=64;N=5121 179,7 2153,66 23,8 299,112 12,4 128,418 8,7 96,624 6,6 72,730 5,5 41,736 4,5 36,742 3,9 31,548 3,5 27,654 3,1 24,760 2,9 22,364 2,7 21,7

Tabela 5.2: Tempo de simulação para diferentes tamanhos de L e N com quantidade deprocessadores variando de 1 a 64.

A segunda métrica utilizada, a eficiência, é dada pela divisão entre o speedup e a


quantidade de processadores utilizada, tal que:

Ep =Sp

p(5.12)

indicando a fração de tempo utilizada pelos processadores na realização de trabalho útil.

A eficiência é um valor, entre zero e um, que expressa o quão bem os processadores estão

sendo utilizados para resolver o problema.

A Figura 5.17 ilustra o resultado da eficiência paralela para diversas configurações de

tamanho de blocos N e quantidade de blocos L, fixando-se o número de processadores em

64. Observa-se em três configurações valores maiores do que 1, indicando uma eficiência

super linear. Além disso, para tamanhos e quantidade de blocos pequenos, a eficiência é

baixa. Entretanto, quando o N e L aumenta a eficiência melhora.

1632

64128

256512

24

816

3264

1280

0.5

1

1.5

Tamanho do Bloco (N)Número de Blocos (L)

Efic

iênc

ia

Figura 5.17: Eficiência paralela para diversas configurações de tamanhos de blocos N equantidade de blocos L, fixando-se o número de processadores em 64.

Portanto, com base na Figura 5.17 a melhor forma de se utilizar o algoritmo CCSD

paralelo proposto é com N maior do que 32 e L maior que 8, dessa forma é possível obter

uma boa eficiência do algoritmo.


5.5 Síntese

A CCSD consegue extrair diferentes assinaturas cicloestacionárias para as modula-

ções analisadas, demonstrando um grande potencial de uso em problemas de classifica-

ção. A redução de dimensionalidade utilizando o perfil alfa viabiliza a aplicação direta

das assinaturas nos classificadores. A Figura 5.18 evidencia os diferentes perfis para as

modulações AM, MSK, BFSK, BPSK, QPSK e 16QAM. Além disso, a limitação da ci-

cloestacionariedade de segunda ordem para as modulações ASK,BPSK e QPSK, 16QAM

foram superadas com o uso da CCSD.

O tamanho do kernel funciona como uma janela pela qual pode-se enxergar particu-

laridades nas assinaturas de cada modulação e eliminar outliers. Quando ele assume um

tamanho pequeno, todas as assinaturas das modulações são bem diferentes entre si. En-

tretanto, quando o tamanho do kernel é maior do que 1, a estatística de segunda ordem

prevalece e, consequentemente,tem-se assinaturas iguais para as modulações ASK,BPSK

e QPSK, 16QAM.

Por meio da estratégia de paralelização proposta para o algoritmo CCSD, foi possível

reduzir significativamente o tempo necessário para se obter as características cicloesta-

cionárias. Além disso, os resultados demonstraram três configurações que o speedup e

eficiência superlinear, assim como uma boa escalabilidade para todas as configurações

testadas, demonstrando a relevância da estratégia proposta.


1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(a) Perfil alfa - AM

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(b) Perfil alfa - MSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(c) Perfil alfa - BFSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(d) Perfil alfa - BPSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(e) Perfil alfa - ASK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(f) Perfil alfa - QPSK

1000 2000 3000 4000 5000 60000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1


Per

fil α

(g) Perfil alfa - 16QAM

Figura 5.18: Perfil alfa da CCSD utilizando σ igual a 0,1.

Capítulo 6

Conclusões

Este trabalho propôs duas novas funções baseadas em correntropia para a análise de si-

nais cicloestacionários, denominadas Função de Correntropia Cíclica (CCF) e Função de

Densidade Espectral de Correntropia Cíclica (CCSD). Foi demonstrado analiticamente

que essas funções generalizam as funções clássicas de análise cicloestacionária de se-

gunda ordem, no sentido em que exploram cicloestacionariedades de segunda ordem e

de ordem superior para processos aleatórios. Dessa forma, é possível utilizar as funções

CCF e CCSD para a análise de sistemas não-lineares e fontes não-gaussianas, expandindo

a classe de problemas abordados pela análise cicloestacionária clássica.

A CCSD utiliza um kernel gaussiano que insere um parâmetro livre (σ) a ser ajustado

em função da aplicação. O ajuste desse parâmetro possibilita melhorar o desempenho

da função na extração de características cicloestacionárias do sinal de interesse, além

de minimizar os efeitos do ruído não-Gaussiano presentes no processo. Neste trabalho,

investigamos essa flexibilidade aplicando a função CCSD na extração de características

cicloestacionárias para diversas modulações contaminadas por um ruído não-gaussiano.

A função CCSD é capaz de extrair características mesmo em ambiente com muito ruído.

Resultados experimentais demonstraram que a CCSD é superior à SCD clássica, so-

bretudo na extração de características das modulações ASK, BPSK, QPSK e 16QAM, já

que classifica sinais onde a cicloestacionariedade de segunda ordem não conseguia extrair

informações distintas.

Conclusões 64

A ferramenta proposta possui a desvantagem na complexidade computacional. Vi-

sando reduzir o tempo computacional para calcular as assinaturas cicloestacionárias por

meio da CCSD, foi proposto uma versão paralelizada do algoritmo, no qual obteve um

bom speedup e eficiência, demonstrando-se escalável.

A partir da CCSD, pode-se extrair aplicações de extração de características de sinais

de telecomunicações, sistemas biológicos, meteorologia, climatologia, oceanografia, má-

quinas rotativas, entre outros, presentes em informações estatísticas de alta ordem, o que

pode melhorar significativamente o desempenho dos sistemas de processamento projeta-

dos.

6.1 Principais Contribuições

As principais contribuições apresentadas por esta Tese foram as seguintes:

1. Proposição de duas novas ferramenta (CCF e CCSD) para a extração de caracte-

rísticas cicloestacionárias presentes em momentos de alta ordem, por meio de uma

transformação baseada em correntropia.

2. A demonstração analítica de que a CCSD corresponde a uma generalização da SCD.

3. O estudo da análise da influência do tamanho do kernel na medida de correntropia

para processos aleatórios.

4. A análise e comparação da CSCD e SCD para ambientes com ruído não-gaussiano.

5. A obtenção de assinaturas cicloestacionárias por meio da função CCSD para as

modulações AM, ASK, BPSK, MSK, BFSK, QPSK e 16-QAM.

6. A análise da influência do tamanho do kernel para a CCSD.

7. A análise da escalabilidade de um algoritmo paralelo para o cálculo da CCSD.

Conclusões 65

6.2 Perspectivas para Trabalhos Futuros

Diante do trabalho apresentado, podem ser apontadas as seguintes propostas para tra-

balhos futuros:

1. Novas assinaturas baseadas na CCSD para modulações digitais que não são reco-

nhecidas pela SCD clássica.

2. Arquitetura para reconhecimento automático de modulações utilizando a CCSD.

3. Arquitetura para o sensoriamento espectral no contexto de rádio cognitivo.

4. Investigar detalhadamente a influência da quantidade de blocos (L) e amostras (N)

no cálculo da CCSD.

5. Propor estratégias eficientes para escolha do tamanho do kernel.

6. Implementar a CCSD em um hardware para rádio definido por software.

7. Investigar os requisitos de hardware da CCSD em uma FPGA.

8. Uso de outros kernels (não gaussianos) na CCSD.

9. Análise dinâmica de um tamanho de kernel adaptativo.

10. Analisar o desempenho da CCSD em diferentes canais de comunicação.

11. Analisar a redução do consumo de energia do algoritmo paralelo da CCSD em

função da variação de alguns dos seus parâmetros de funcionamento, tais como

frequência de operação e tensão de alimentação.

Referências Bibliográficas

Amdahl, Gene M (1967), ‘Validity of the single processor approach to achieving large

scale computing capabilities’, Proceedings of the April 18-20, 1967, spring joint

computer conference pp. 483–485.

Arthur, DD, Carlos A Barros, Luiz Felipe Q Silveira, Samuel Xavier-De-Souza

& Carlos A Valderrama (2014), ‘Parallel cyclostationarity-exploiting algorithm

for energy-efficient spectrum sensing’, IEICE Transactions on Communications

97, 326–333.

Bloomfield, Peter, Harry L Hurd & Robert B Lund (1994), ‘Periodic correlation in stra-

tospheric ozone data’, Journal of Time Series Analysis 15(2), 127–150.

Bowman, Adrian W (1984), ‘An alternative method of cross-validation for the smoothing

of density estimates’, Biometrika 71(2), 353–360.

Cho, D. & S. Narieda (2015), ‘A weighted diversity combining technique for cyclostati-

onarity detection based spectrum sensing in cognitive radio networks’, IEEE 16th

International Symposium on a World of Wireless, Mobile and Multimedia Networks

(WoWMoM) p. 6.

Corduneanu, Constantin & I Sandberg (2000), Volterra equations and applications, CRC

Press.

Donohue, Kevin D, John M Bressler, Tomy Varghese & Nihat M Bilgutay (1994), ‘Spec-

tral correlation in ultrasonic pulse echo signal processing’, Ultrasonics, Ferroelec-

trics, and Frequency Control, IEEE Transactions on 40(4), 330–337.

66

Conclusões 67

Dragan, YP & IN Yavorskii (1982), ‘The periodic correlation-random field as a model for

bidimensional ocean waves’, Otbor Peredacha Inform 51, 15–21.

Farias, Aldo, Carlos Eduardo Neiva Melo & Ricardo Vergne Dias (2011), Uma Aborda-

gem a Metodos de Sensoriamento de Espectro Aplicados a Radio Cognitivo.

Fehske, A, J Gaeddert & Jeffrey H Reed (2005), ‘A new approach to signal classification

using spectral correlation and neural networks’, New Frontiers in Dynamic Spectrum

Access Networks, 2005. DySPAN 2005. 2005 First IEEE International Symposium

on pp. 144–150.

Fontes, Aluisio IR, Allan de M Martins, Luiz FQ Silveira & JC Principe (2015), ‘Perfor-

mance evaluation of the correntropy coefficient in automatic modulation classifica-

tion’, Expert Systems with Applications 42(1), 1–8.

Fontes, Aluisio IR, Pedro TV Souza, Adrião DD Neto, Allan de M Martins & Luiz FQ

Silveira (2014), ‘Classification system of pathological voices using correntropy’,

Mathematical Problems in Engineering 2014, 1–7.

Gardner, William A (1986), Statistical spectral analysis: a nonprobabilistic theory,

Prentice-Hall, Inc.

Gardner, William A, Antonio Napolitano & Luigi Paura (2006), ‘Cyclostationarity: Half

a century of research’, Signal processing 86(4), 639–697.

Gardner, William A & Chad M Spooner (1992), ‘Signal interception: performance

advantages of cyclic-feature detectors’, Communications, IEEE Transactions on

40(1), 149–159.

Gardner, William, Chad M Spooner et al. (1994), ‘The cumulant theory of cyclostationary

time-series. i. foundation’, Signal Processing, IEEE Transactions on 42(12), 3387–

3408.

Conclusões 68

Gini, F & M Greco (2002), ‘Texture modelling, estimation and validation using measured

sea clutter data’, IEEE Proceedings-Radar, Sonar and Navigation 149(3), 115–124.

Gubner, John A (2006), Probability and random processes for electrical and computer

engineers, Cambridge University Press.

Hasselmann, K & TP Barnett (1981), ‘Techniques of linear prediction for systems with

periodic statistics’, Journal of the Atmospheric Sciences 38(10), 2275–2283.

He, Ran, Bao-Gang Hu, Wei-Shi Zheng & Xiang-Wei Kong (2011), ‘Robust principal

component analysis based on maximum correntropy criterion’, Image Processing,

IEEE Transactions on 20(6), 1485–1494.

Jang, Won Mee (2014), ‘Blind Cyclostationary Spectrum Sensing in Cognitive Radios’,

IEEE Communications Letters 18(3), 393–396.

Jeong, Kyu-Hwa & Jose C Principe (2006), ‘The correntropy mace filter for image re-

cognition’, Machine Learning for Signal Processing, 2006. Proceedings of the 2006

16th IEEE Signal Processing Society Workshop on pp. 9–14.

Konig, D. & J.F. Bohme (1994), ‘Application of cyclostationary and time-frequency sig-

nal analysis to car engine diagnosis’, Proceedings of ICASSP ’94. IEEE Internatio-

nal Conference on Acoustics, Speech and Signal Processing 4, 149–152.

Leandro L.S. Linhares, Fontes, Aluisio IR, Fabio M.U. Araujo Martins, Allan de M &

Luiz FQ Silveira (2015), ‘Fuzzy wavelet neural network using a correntropy cri-

terion for nonlinear system identification’, Mathematical Problems in Engineering

42(1), 1–8.

Lei, Wang, Xue Jing, Zhang Tong & Yang Xiao (2011), ‘Digital implementation analysis

of cyclostationary algorithms in cognitive radio’, IEEE International Conference on

Signal Processing, Communications and Computing (ICSPCC) pp. 1–4.

Conclusões 69

Ling, Yu, Qiu Tian-shuang & Luan Shengyang (2015), ‘Fractional time delay estimation

algorithm based on the maximum correntropy criterion and the lagrange fdf’, Signal

Processing 111, 222–229.

Liu, Weifeng, Puskal P Pokharel & JosÃ c© C Principe (2007), ‘Correntropy: properties

and applications in non-gaussian signal processing’, Signal Processing, IEEE Tran-

sactions on 55(11), 5286–5298.

Liu, Weifeng, Puskal P Pokharel & Jose C Principe (2006), ‘Correntropy: A localized

similarity measure’, pp. 4919–4924.

Ljung, Lennart (1998), System identification, Springer.

Mykhajlyshyn, Viktor et al. (1996), ‘Detecting hidden periodicity of time-series generated

by nonlinear processes in magneto-plasma’, pp. 397–400.

Newton, H Joseph (1982), ‘Using periodic autoregressions for multiple spectral estima-

tion’, Technometrics 24(2), 109–116.

Phukan, Gaurav Jyoti & Prabin Kumar Bora (2014), ‘An algorithm for blind symbol rate

estimation using second order cyclostationarity’, Signal Processing and Communi-

cations (SPCOM), 2014 International Conference on pp. 1–6.

Principe, Jose C (2010), Information theoretic learning: Renyis entropy and kernel pers-

pectives, Springer Science & Business Media.

Ramkumar, Barathram (2009), ‘Automatic modulation classification for cognitive radios

using cyclic feature detection’, Circuits and Systems Magazine, IEEE 9(2), 27–45.

Randall, Robert B, Jérôme Antoni & S Chobsaard (2002), ‘The relationship between

spectral correlation and envelope analysis in the diagnostics of bearing faults and

other cyclostationary machine signals’, Mechanical systems and signal processing

15(5), 945–962.

Conclusões 70

Renard, Julien, Jonathan Verlant-Chenet, Jean-Michel Dricot, Philippe De Doncker &

Francois Horlin (2010), ‘Higher-order cyclostationarity detection for spectrum sen-

sing’, EURASIP Journal on wireless communications and networking 2010, 3.

Santamaria, Ignacio, Puskal P Pokharel & JosÃ c© Carlos Principe (2006), ‘Generalized

correlation function: definition, properties, and application to blind equalization’,

Signal Processing, IEEE Transactions on 54(6), 2187–2197.

Santana, Eder, Jose C. Principe, Ewaldo Santana & Allan Kardec Barros (2012), ‘Ex-

traction of signals with higher order temporal structure using Correntropy’, Signal

Processing 92, 1844–1852.

Satija, Udit, M. S. Manikandan & Barathram Ramkumar (2014a), ‘Performance study of

cyclostationary based digital modulation classification schemes’, pp. 1–5.

Satija, Udit, MS Manikandan & Barathram Ramkumar (2014b), ‘Performance study of

cyclostationary based digital modulation classification schemes’, Industrial and In-

formation Systems (ICIIS), 2014 9th International Conference on pp. 1–5.

Silverman, Bernard W (1986), Density estimation for statistics and data analysis, Vol. 26,

CRC press.

Xu, Jian-Wu & José Carlos Principe (2008), ‘A pitch detector based on a generalized

correlation function’, Audio, Speech, and Language Processing, IEEE Transactions

on 16(8), 1420–1432.

Zeng, Shiyu, H.H. Zeng & Lang Tong (1996), ‘Blind channel equalization via multiob-

jective optimization’, Statistical Signal and Array Processing, 1996. Proceedings.,

8th IEEE Signal Processing Workshop on pp. 160–163.

Conclusões 71

Zhang, Jinfeng, Tianshuang Qiu, Aimin Song & Hong Tang (2014), ‘A novel correntropy

based DOA estimation algorithm in impulsive noise environments’, Signal Proces-

sing 104, 346–357.

Zhang, Zaichen & Xiaodan Xu (2007), ‘Implementation of cyclic periodogram detection

on vee for cognitive radio’, Global Mobile Congress pp. 1–5.

Zhao, Songlin, Badong Chen & Jose C Principe (2012), ‘An adaptive kernel width update

for correntropy’, pp. 1–5.

Zhou, Lei & Hong Man (2013), ‘Distributed automatic modulation classification based

on cyclic feature via compressive sensing’, Military Communications Conference,

MILCOM 2013-2013 IEEE pp. 40–45.

Apêndice A

Dedução Matemática da Generalização

da CCF

A CCF é definada como:

V αx (τ) =

⟨Gσ(x(t),x(t + τ))eβt,α

⟩, (A.1)

em que βt,α =− j2παt e o operador 〈.〉 definido por

〈.〉= limT→∞

12T

∫ T

−T(.)dt. (A.2)

Substituindo Gσ definida na Equação (2.2) na Equação A.1, obtêm-se:

V αx (τ) =

⟨1√2πσ

e−(x(t)−x(t+τ))2

2σ2 +βt,α

⟩. (A.3)

Reescrevendo a Equação (A.3) via série de Taylor, obtêm-se a seguinte Equação:

V αx (τ) =

1√2πσ

⟨∞

∑n=0

(−1)n

2nn!σ2n

[(x(t)− x(t + τ))2 +2σ2βt,α

]n⟩. (A.4)

Desenvolvendo a Equação (A.4) com objetivo de entender a influência de cada termo

no valor de V αx (τ), tem-se:

Conclusões 73

V αx (τ)=

1√2πσ

⟨−βt,α +

β2t,α2 −

β3t,α6 +

−β2x2(t))4σ2 −

β2t,αx2(t+τ)

4σ2 +β2

t,αx(t)x(t+τ)

2σ2 + x(t)x(t+τ)σ2 +

−βt,αx(t)x(t + τ)

σ2 +βt,αx2(t + τ)

2σ2 − x2(t)2σ2 −

x2(t + τ)

2σ2 +βt,αx2(t)

2σ2 +

+βt,αx3(t)x(t+τ))

2σ4 +βt,αx(t)x3(t+τ)

2σ4 − 3βt,αx2(t)x2(t+τ)

4σ4 − βt,αx4(t+τ)

8σ4 −

+βt,αx4(t)

8σ4 + 3x2(t)x(t+τ)2

4σ4 − x3(t)x(t+τ)2σ4 − x(t)x3(t+τ)

2σ4 + x4(t)8σ4 + x4(t+τ)

8σ4 +

−5x4(t)x2(t+τ)16σ6 + 5x3(t)x3(t+τ)

12σ6 − 5x2(t)x4(t+τ)16σ6 + x5(t)x(t+τ)

8σ6 +

− x6(t)48σ6 −

x6(t+τ)48σ6 + x(t)x5(t+τ)

8σ6 + ...

⟩Reescrevendo a Equação (A.4) agrupando os termos que possuem σ2 no denominador

e nomeando os termos com σ de potência maior do que 2 em ξασ(t,τ), obtêm-se:

V αx (τ) =

1√2πσ

⟨∞

∑n=0

[(−1)n βn

t,αn! +

nβn−1t,α

2σ2n! (x(t)− x(t + τ))2

]+ξ

ασ(t,τ)

⟩, (A.5)

em que∞

∑n=0

nβn−1t,α

2σ2n!(x(t)− x(t + τ))2 representa informações de segunda ordem. Dessa

forma, reorganizando a expressão obtêm-se:

V αx (τ)=

1√2πσ

⟨∞

∑n=0

(−1)n βnt,α

n!

⟩+

1√2πσ

⟨(x(t)− x(t + τ))2

2σ2

∞

∑n=0

(−1)n nβn−1t,α

n!

⟩+〈ξα

σ(t,τ),〉 ,

(A.6)

como nn! =

1(n−1)! , é possível demonstrar que:

∞

∑n=0

(−1)n nβnt,α

n!=

∞

∑n=1

(−1)n βn−1t,α

(n−1)!, (A.7)

fazendo uma mudança de variável n′ = n−1, obtêm-se:

Conclusões 74

∞

∑n=1

(−1)n βn−1t,α

(n−1)!=

∞

∑n′=0

(−1)n βn′t,α

n′!. (A.8)

Utlizando a propriedade A.8 na expressão A.6, resulta-se:

V αx (τ) =

1√2πσ

⟨∞

∑n=0

(−1)n βnt,α

n!

⟩+

12√

2πσ3

⟨(x(t)− x(t + τ))2

∞

∑n′=0

(−1)n βn′t,α

n′!

⟩+

1√2πσ〈ξα

σ(t,τ)〉 , (A.9)

dado que∞

∑n=0

(−1)n βnt,α

n!é a expansão de Taylor para função exponencial com coeficiente

negativo, e ajustando o σ para um valor suficientemente grande que minimize o efeito do

termo ξασ(t,τ), a Equação (A.9) pode ser reescrita como:

V αx (τ)≈

⟨eβt,α

⟩√

2πσ+

12√

2πσ3

⟨(x(t)− x(t + τ))2eβt,α

⟩. (A.10)

Expandindo o termo quadrático, obtêm-se

V αx (τ)≈

⟨eβt,α

⟩√

2πσ+

12√

2πσ3

⟨x(t)2eβt,α + x(t + τ)2eβt,α−2x(t)x(t + τ)eβt,α

⟩. (A.11)

Substituindo o valor de βt,α, obtêm-se:

V αx (τ)≈

⟨e− j2παt⟩√

2πσ+

12√

2πσ3

⟨x2(t)e− j2παt + x2(t + τ)e− j2παt−2x(t)x(t + τ)e− j2παt⟩ .

(A.12)

Observando que⟨x(t)x(t + τ)e− j2παt⟩ é a definição da CAF do processo aleatório,

denominada por Rαx (τ). Dessa forma, para um tamanho de kernel suficientemente grande,

obtêm-se:

Conclusões 75

V αx (τ)≈ 1√

2πσ

(⟨e− j2παt

2

⟩− Rα

x (τ)σ2 +

⟨x2(t)e− j2παt

2σ2

⟩+⟨

x2(t+τ)e− j2παt

2σ2

⟩)(A.13)

Demonstrando que a CCF é a generalização da CAF.

Apêndice B

Expansão em série de Taylor da CCF

A Função de Correntropia Cíclica é definida como:

V αx (τ) =

⟨Gσ(x(t),x(t + τ))e− j2παt⟩ . (B.1)

Substituindo o kernel gaussiano, obtêm-se a seguinte Equação:

V αx (τ) =

⟨1√2πσ

e−12σ2 (x(t)−x(t+τ))2−2σ2 j2παt

⟩. (B.2)

A expansão da série de Fourier para uma exponencial com expoente negativo é defi-

nida como:

e−x =∞

∑n=0

(−1)n xn

n!. (B.3)

Dessa forma, aplicando-se a expressão B.3 em B.2, obtêm-se:

V αx (τ) =

1√2πσ

∞

∑n=0

(−1)n

2nn!σ2n

⟨[(x(t)− x(t + τ))2−2 jσ22παt]2

⟩. (B.4)

Apêndice C

Correntropia para Diversos Sinais

Todos os sinais desse apêndice foram gerados com uma frequência de 10 Hz e frequên-

cia de amostragem de 500 Hz. O tamanho de kernel utilizado foi de 0.1.

0 50 100 150 200 250 300 350 400−3

−2

−1

0

1

2

3

Am

plitu

de

Amostras

(a) Forma de onda quadrada

0 50 100 150 200 250 300 350 400−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Aut

ocor

rent

ropi

a

Atraso temporal

(b) Correntropia centralizada

0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rent

ropi

a|

Frequência (Hz)

(c) CSD

Figura C.1: Onda quadrada.

Conclusões 78

0 50 100 150 200 250 300 350 400−3

−2

−1

0

1

2

3

Am

plitu

de

Amostras

(a) Forma de onda triangular

0 50 100 150 200 250 300 350 400−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Aut

ocor

rent

ropi

a

Atraso temporal


0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1|A

utoc

orre

ntro

pia|

Frequência (Hz)

(c) CSD

Figura C.2: Onda triangular.

Conclusões 79

0 50 100 150 200 250 300 350 400−3

−2

−1

0

1

2

3

Am

plitu

de

Amostras

(a) Forma de onda senoidal com duas frequências

0 50 100 150 200 250 300 350 400−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Aut

ocor

rent

ropi

a

Atraso temporal


0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rent

ropi

a|

Frequência (Hz)

(c) CSD

Figura C.3: Forma de onda senoidal com duas frequências 10 Hz e 20 Hz .

Conclusões 80

0 100 200 300 400 500 600 700 800 900−3

−2

−1

0

1

2

3

Am

plitu

de

Amostras

(a) Forma de onda senoidal com três frequências

0 100 200 300 400 500 600 700 800−1

−0.8

−0.6

−0.4

−0.2

0

0.2

0.4

0.6

0.8

1

Aut

ocor

rent

ropi

a

Atraso temporal


0 20 40 60 80 1000

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

|Aut

ocor

rent

ropi

a|

Frequência (Hz)

(c) CSD

Figura C.4: Forma de onda senoidal com três frequências 10, 20 e 60 Hz .

Apêndice D

Publicações

D.1 Artigos aceitos

1. Aluisio I.R Fontes, Allan de M. Martins, Luiz F. Q. Silveira, J.C Principe. Per-

formance evaluation of the correntropy coefficient in automatic modulation

classification. Publicado em: Expert Systems with Applications - ELSEVIER,

2015.

2. Aluisio I.R Fontes, Samuel Xavier-de-Souza, Adrião D. Dória Neto e Luiz F.Q

Silveira. On the parallel efficiency and scalability of the correntropy coefficient

for image analysis. Publicado em: Journal of the Brazilian Computer Socity -

Springer, 2014.

3. Aluisio I.R. Fontes, Pedro T.V. Souza, Adrião D. Dória Neto, Allan de M. Martins

e Luiz F.Q. Silveira. Classification System of Pathological Voices Using Corren-

tropy. Publicado em: Mathematical Problems in Engineering - Hindawi, 2014.

4. Leandro L. S Linhares, Aluisio I.R FOntes, Allan de M. Martins, Fábio M.U.

Araújo, Luiz F.Q. Silveira. Fuzzy Wavelet Neural Network Using a Correntropy

Criterion for Nonlinear System Identification. Publicado em: Mathematical Pro-

blems in Engineering - Hindawi, 2015.

5. Joilson B.A Rêgo, Aluisio I.R Fontes, Adrião D.D Neto, Luiz F. Q. Silveira, Allan

de M. Martins. Linear Regression Based on Correntropy For Sensor Calibra-

Conclusões 82

tion. Submetido em: Simpósio Brasileiro de Automação Inteligente - XII SBAI,

2015.

D.2 Artigo em Processo de Submissão

1. Aluisio I.R Fontes, Joilson B.A Rêgo, Adrião D.D Neto, Allan de M. Martins,

Luiz F. Q. Silveira, J.C Principe. Cyclostationary Correntropy: definition and

applications. Submetido em: Signal Processing - ELSEVIER, 2015.

Uso de Correntropia na Generalização de Funções ... Modulação por Chaveamento Mínimo OFDM...

Documents

Transcript of Uso de Correntropia na Generalização de Funções ... Modulação por Chaveamento Mínimo OFDM...