José Airton Azevedo dos Santos

https://orcid.org/0000-0002-2568-5734

Doutor em Engenharia Elétrica. Universidade Tecnológica Federal do Paraná (UTFPR) – Brasil. airton@utfpr.edu.br

ABSTRACT

Keywords: hybrid networks; time series; Keras; Python.

 

A rede CNN, proposta por Lecun et al. (1998), é muito utilizada em tarefas de classificação e visão computacional. Sua versão 1D é caracterizada por sua capacidade de extrair conhecimento útil e apreender a representação interna de dados de séries temporais. Basicamente a rede CNN é composta por uma camada convolucional (Convolution Layer) e uma camada de pooling (Pooling Layer). Na camada de convolução, são extraídas informações importantes dos dados. A camada de pooling tem como objetivo principal reduzir o número de informações extraídas (Li et al., 2020).

A rede LSTM, proposta por Hochreiter e Schmidhuber (1997), é uma rede recorrente muito eficaz para identificar sequências de curto e longo prazo. Células de memória compõem a topologia de uma rede LSTM (Figura 1). A informação, neste tipo de rede neural, é transmitida entre as células da camada oculta, por meio de portas. Cada célula contém três portas: uma porta de entrada (input gate - it), uma porta de esquecimento (forget gate – ft) e uma porta de saída (output gate – Ot). Estas portas determinam os dados que devem entrar (it), os que devem sair (Ot) e os que devem ser esquecidos (ft) (Santos, 2022; Livieris et al., 2020, Lu et al., 2020).

 

 

 

As equações da rede neural LSTM são apresentadas a seguir (Shewalkar et al., 2019):

1

2

3

4

5

6

 

Onde  e  são os vetores de entrada e saída, wf, wi, wc e wo são os pesos, bf, bi, bc e bo os bias, σ a função de ativação sigmoid e tanh a função de ativação tangente hiperbólica.

A combinação dos modelos CNN e LSTM (CNN-LSTM) potencializa as vantagens dos dois modelos, contribuindo para maior precisão na previsão dos custos de alimentação de suínos. A arquitetura da rede CNN-LSTM, apresentada na Figura 2, é baseada na combinação destas redes.

 

A rede CNN-LSTM usa a camada CNN para extrair características entre as variáveis que afetam a previsão dos custos de alimentação de suínos. A saída da camada CNN é usada como entrada da camada LSTM. Na camada LSTM são realizadas as previsões dos custos de alimentação dos suínos (Kim; Cho, 2019).

A base de dados para previsão dos custos de alimentação de suínos, é formada por três séries temporais: Feed (Custos de alimentação de suínos - Paraná (R$/kg) - (EMBRAPA, 2024)), Soy (preço médio do farelo de soja – Paraná (R$/kg) – (IPEA, 2024a)) e Corn (Preço médio do milho – Paraná (R$/kg) - (IPEA, 2024b)). As três séries apresentam, no período de janeiro de 2007 a maio de 2024, 222 observações cada. Os Boxplots dos dados, das três séries temporais, são apresentados na Figura 3.

 

 

A série histórica, dos custos de alimentação de suínos (Feed), é apresentada na Figura 4.

 

Na Tabela 1 apresentam-se os cinco primeiros registros das séries temporais (Feed (Custos de alimentação de suínos), Soy (preço médio do farelo de soja) e Corn (Preço médio do milho)).

 

Date

Feed

Soy

Corn

01/01/2007

1,11

0,517363

0,321760

01/02/2007

1,14

0,541924

0,309282

01/03/2007

1,14

0,508328

0,305125

01/04/2007

1,11

0,468929

0,285740

01/05/2007

1,08

0,431543

0,277835

 

Inicialmente, com os dados fornecidos pela EMBRAPA para o estado do Paraná, formou-se o conjunto de teste com 12 observações (12 meses). Na sequência, construíram-se os conjuntos de treinamento e validação. O Conjunto de treino ficou com 147 observações (70%) e o Conjunto de validação com 63 observações (30%).

Neste trabalho, para otimizar e treinar os modelos, foi necessário normalizar os dados por meio da função MinMax (Arunkumar et al., 2022)  (Equação 1).

 

1

 

Onde: x é o dado da série temporal; xn é o dado normalizado; xmin e xmax são os valores mínimo e máximo da série temporal.

A correlação entre as variáveis Feed, Soy e Corn é apresentada na Figura 5. Observa-se, dos coeficientes de correlação, que as variáveis preços do farelo de soja (Soy) e do milho (Corn) têm praticamente o mesmo impacto no custo de alimentação dos suínos (Feed) (0,98 e 0,97).

 

 

.

As métricas MAE, RMSE e MAPE, apresentadas na Tabela 2, foram utilizadas para avaliar, de acordo com os custos previstos e observados, o desempenho dos modelos CNN-LSTM e LSTM univariados e multivariados (Oliveira; Santos, 2024; Oliveira et al., 2023):

 

Métrica

Equação

Mean Absolute Error (MAE)

Root Mean Squared Error (RMSE)

Mean Absolute Percentage Error (MAPE)

 

Onde:  é o valor real do período i,  a previsão para o período i e n é o número de observações.

 

Inicialmente, neste estudo, realizou-se uma análise descritiva dos dados dos custos de alimentação (Tabela 3). Observou-se, nesta análise descritiva dos dados, um custo mensal médio de alimentação de 2,6799 R$/kg e um desvio padrão de 1,4456 R$/kg. Obteve-se um alto coeficiente de variação (53,94%), o que indicou variabilidade dos dados.  

 

Descrição

FEED

Média (R$/kg)

2,679952

Valor mínimo (R$/kg)

1,04000

Valor máximo (R$/kg)

6,37000

Desvio padrão (R$/kg)

1,445623

Coeficiente de variação (%)

53,94

 

Os custos mensais mínimos e máximos de alimentação de suínos são apresentados na Figura 6. Observou-se, dos resultados apresentados na figura, o maior custo máximo mensal para o mês de março (6,37 R$/kg) e o menor custo mínimo mensal para o mês de julho (1,04 R$/kg).

 

Na etapa de treinamento e validação, com o objetivo de encontrar os melhores modelos de previsão, vários hiperparâmetros foram otimizados. Na Tabela 4 apresentam-se os parâmetros da rede CNN-LSTM multivariada utilizados para previsão dos custos de alimentação dos suínos.

 

 

 

 

 

 

 

 

 

Parâmetros

Valores

Time steps

6

Learning rate

0,0011

Epochs

175

Batch

40

Convolution layer filters

16

Convolution layer kernel size

6

Convolution layer activation function

relu

Convolution layer padding

Same

Pooling layer pool size

2

Pooling layer padding

Same

Pooling layer activation function

relu

Numbers of  hidden units in LSTM layer

32

Dropout

0,001

LSTM activation function

tanh

Dense units

1

Optimizer

Adam

 

Na Figura 7 apresenta-se a estrutura básica do modelo CNN-LSTM multivariado.

 

 

 

Na camada InputLayer, tem-se um vetor (None,6,3), onde 6 é o passo de tempo e 3 a dimensão da entrada (Feed, Soy e Corn). Na sequência, os dados são enviados para a camada Conv1D. Nessa camada, os recursos são extraídos, sendo produzido o vetor (None,6,16), onde 16 é o tamanho dos filtros da camada de convolução. Em seguida, o vetor passa pela camada MaxPooling1D e é enviado para treinamento na camada LSTM. O vetor de saída (None,32), onde 32 é o número de unidades ocultas, é enviado para a camada Dense.

Os resultados dos indicadores de desempenho MAE, RMSE e MAPE, para o Conjunto de Validação, são apresentados na Tabela 5.

 

MODELO

MAE (R$/kg)

RMSE (R$/kg)

MAPE (%)

CNN-LSTM – Mult.

0,31

0,42

7,25

LSTM – Mult.

0,37

0,51

8,75

CNN-LSTM – Uni.

0,43

0,57

8,99

LSTM – Uni.

0,60

0,72

12,42

     

Os resultados das previsões do Conjunto de Validação para os quatro modelos (63 observações), são apresentados na Figura 8.

 

 

Pode-se observar, dos resultados dos indicadores apresentados na Tabela 5, que o modelo CNN-LSTM multivariado apresentou as melhores métricas (MAE=0,31 R$/kg, RMSE=0,42 R$/kg e MAPE=7,25%) seguido pelo modelo LSTM multivariado (MAE=0,37 R$/kg, RMSE=0,51 R$/kg e MAPE=8,75%). A curva estimada pelo modelo CNN-LSTM multivariado, como se observa na Figura 8, é a que melhor acompanha a trajetória dos valores observados (Embrapa) no conjunto de validação. Ao contrário dos demais modelos, essa arquitetura consegue capturar com maior fidelidade os picos e as flutuações do custo da ração ao longo dos meses.

 

      Os valores observados e previstos para o Conjunto de Teste (12 meses – jun/2023 a mai/2024) são apresentados na Tabela 6.

DATA

EMBRAPA

LSTM_Uni

LSTM_Mult

CNN-LSTM_Uni

CNN-STM_Mult

2023-06

4,03

4,493312

4,1475806

4,527812

3,9867969

2023-07

4,08

4,26688

4,107914

4,506483

4,0258536

2023-08

4,05

4,146584

4,1092362

4,426118

4,094895

2023-09

4

3,992144

4,128312

4,34881

4,1253443

2023-10

4,04

3,832477

4,1732535

4,325698

4,1422257

2023-11

4,26

3,704997

4,219956

4,275109

4,1459484

2023-12

4,3

3,63898

4,2688103

4,235404

4,1739492

2024-01

4,2

3,525726

4,3140545

4,191974

4,204284

2024-02

4,1

3,429132

4,340961

4,150679

4,1941357

2024-03

3,88

3,333026

4,3440223

4,10834

4,183093

2024-04

3,93

3,243929

4,3243694

4,068211

4,1062937

2024-05

4,03

3,164728

4,3013124

4,028096

4,061487

 

Na Figura 9 são apresentados os resultados das métricas MAE, RMSE e MAPE para o Conjunto de Teste.

 

 

Na Figura 10 apresentam-se, na forma gráfica, os valores observados e preditos, dos custos de alimentação de suínos, para os 12 meses do Conjunto de Teste.

 

 

 

 

Figura 10 – Curvas dos dados observados e previstos – Conjunto de Teste.

 

Nota-se, dos dados apresentados na Figura 9, que o modelo CNN-LSTM multivariado apresentou, para o Conjunto de Teste, o melhor desempenho, isto é, menores valores de MAE, RMSE e MAPE (MAE=0,1 R$/kg, RMSE=0,13 R$/kg e MAPE=2,45%). Observa-se também, do gráfico apresentado na Figura 10, que a curva do modelo CNN-LSTM multivariado se ajustou melhor, que a curva dos outros três modelos, a curva dos dados observados (EMBRAPA).