INTRODUÇÃO ÀS REDES NEURAIS PARA REGRESSÕES NÃO-LINEARES: AJUSTE DE SUPERFÍCIES DE ENERGIA POTENCIAL

INTRODUCTION TO NEURAL NETWORKS FOR NON-LINEAR REGRESSIONS: POTENTIAL ENERGY SURFACE FITTING

Resumo

The present work demonstrates how neural networks are used to do non-linear regressions. The technique is presented in a simple and didactic manner and applied to fit potential energy surfaces for the FeC molecule and for the reaction H + H2. It shows how to do the fitting for single- and multi-variable system providing examples and code that can be easily extended to many problems in chemistry. All the code used to perform the fitting and generate the results is available as a Jupyter Notebook, which can be used without neither installation nor configuration

Keywords:
neural networks; potential energy surface; Python; non-linear regression

Keywords:
neural networks; potential energy surface; Python; non-linear regression

INTRODUÇÃO

Redes neurais são um subgrupo de algoritmos de aprendizagem de máquina, que foi idealizado em 1943¹ e, em 1959 já tinha sua primeira aplicação em um filtro para eliminar ecos em linhas telefônicas, denominado MADALINE.² As aplicações tiveram uma grande pausa até o sucesso moderno, resultado da evolução dos hardwares e, também, do desenvolvimento dos algoritmos. Com isso, as aplicações de redes neurais chegaram, inclusive, a jogar jogos complexos como o go e ser campeão mundial,³ analisar rostos e identificar a pessoa,⁴ analisar e copiar voz,⁵ entre outras aplicações que não seriam possíveis de implementar com programação comum, por causa da complexidade da solução direta do problema.

Em química, não foi diferente e diversas aplicações foram feitas, como a de Schütt et al.,⁶ que desenvolveu um framework baseado em redes neurais profundas que calcula uma função de onda aproximada em uma base local de orbitais atômicos para poder retirar todas as outras informações do estado fundamental eletrônico de um sistema molecular, na tentativa de unificar o aprendizado de máquina com os sistemas quânticos. Segler e Waller desenvolveram um sistema de redes neurais para previsão de retrossíntese e de reação.⁷ As aplicações são extensas e demonstram que é uma técnica importante para o pesquisador da área.^8–15

Além das aplicações para resolver problemas muito complexos, as redes neurais podem ser utilizadas em ajuste de função para dados na forma de um conjunto de variáveis independentes para calcular uma outra dependente. Elas são adequadas porque são compostas de funções contínuas que podem ser usadas para ajustar qualquer forma funcional com precisão arbitrária^16,17 e, por serem amplamente utilizadas, o nível de abstração adquirido permite o uso de modo que possa tratá-las como uma caixa preta, sem a necessidade de conhecimento sobre a implementação dela. Além disso, não é necessário o conhecimento prévio de qual forma funcional os dados que se deseja ajustar obedecem. Essa flexibilidade fez com que ajuste de superfície de energia potencial (SEP) fosse amplamente feito com redes neurais feed-foward.^18-26 O conceito de SEP tem origem aproximação Born–Oppenheimer, que permite descrever a energia para um estado eletrônico como função de 3N –6 variáveis para N > 2, que são as coordenadas internas para os graus de liberdade nucleares, com N sendo o número de átomos no sistema. Para o caso de diatômicas, há apenas um grau de liberdade. A SEP é um caso interessante em que não há uma forma funcional que descreva todos os casos possíveis, apesar de existirem determinações de funções empíricas que, com o ajuste de alguns parâmetros, obtém-se uma função para o sistema.²⁷ Ao utilizar redes neurais para tanto, retirase o problema de funções que não possam representar determinadas características da SEP e diminui a interferência humana no ajuste.

Neste artigo, será utilizado o problema de ajuste de uma função para a SEP para criar um guia de como realizar um ajuste simples utilizando redes neurais feed-foward em uma abordagem de caixa preta, como implementado no pacote scikit-learn para Python 3.²⁸ Será feito um ajuste para a SEP da diatômica FeC e para a SEP da reação H + H₂. Dessa forma, terá um exemplo de um ajuste não linear e multivariável, que é facilmente extensível para outros casos em que se deseja fazer um ajuste. O artigo será acompanhado, também, de um Jupyter Notebook, contendo todo o código necessário para gerar os dados apresentados, auxiliando na compreensão do trabalho e na aplicação em outros problemas de regressão. Esse formato, utilizado com sucesso em trabalhos anteriores,²⁹ é especialmente conveniente para distribuir e executar códigos Python devido a existência de ferramentas como o Google Colaboratory³⁰ que não exigem configuração ou instalação. Com isso, pretende-se criar uma introdução mais compreensiva para comunidade química do uso de redes neurais.

FUNDAMENTOS TEÓRICOS

O algoritmo de redes neurais utilizado nesse artigo é de aprendizado supervisionado. Isso significa que, para realizar o ajuste, é necessário fornecer tanto os valores da variável independente quanto os da variável alvo, que são chamados de conjunto de treino. Então, para, por exemplo, ajustar uma função de uma SEP que relacione a energia em função das coordenadas do sistema, as variáveis independentes são as coordenadas do sistema e a variável alvo é a energia.

Também, é um algoritmo de regressão por perceptron em multicamada. O perceptron é uma unidade de decisão binária. Se combinado em uma rede de perceptron e, após o ajuste dos seus parâmetros, seria possível utilizar em um aparelho que teria a capacidade de reconhecer padrões. Logo, aparentemente, ele poderia compreender, o que dá origem ao seu nome (do inglês, perceive).^31,32

A rede de perceptrons é o que historicamente deu origem às redes neurais, pela semelhança no seu comportamento, tanto no uso de operadores lógicos, quanto no comportamento binário em que, se a variável de entrada assumir um valor maior que um limite predefinido, o perceptron produz como valor de saída um. Ao contrário, o valor produzido é zero. Isso seria semelhante a um neurônio disparar após haver uma mudança no potencial elétrico dentro da célula.³¹

Matematicamente, a unidade perceptron é representada pela equação 1, que recebe um valor de entrada x, e tem como parâmetros os valores de w e de b, que são, respectivamente, o peso dado ao valor de entrada e o negativo do valor limiar da unidade.

(1) $\mathit{y}\left(\mathit{x}\right)=\left\{\begin{array}{c}0,\mathit{se}\mathit{wx}+\mathit{b}\le 0\hfill \\ 1,\mathit{se}\mathit{wx}+\mathit{b}>0\hfill \end{array}\right.$

Esse comportamento binário, descrito para a rede de perceptrons, claramente seria útil apenas para tarefas de classificação. Para ser um algoritmo de regressão, há apenas uma transformação do y de uma variável discreta para uma variável contínua. Assim, o parâmetro b perde o sentido de um valor limiar para ser encarado como um parâmetro linear da equação, que é, agora, chamado de viés. Por fim, a característica não linear do ajuste vem da aplicação de uma função de ativação que recebe, como argumento, a função anterior. A representação de cada unidade é dada por:

(2) $\mathit{y}\left(\mathit{x}\right)=\mathit{f}\left(\mathit{wx}+\mathit{b}\right)$

em que f é a função de ativação.

Ser multicamada significa que terá uma ou mais camadas de unidades entre os dados de entrada e os de saída, chamadas de camadas escondidas. As unidades de todas essas camadas são os neurônios. A representação da estrutura para uma rede que siga essa descrição está na Figura 1.

Figura 1
Representação da estrutura de uma rede neural. Os círculos laranjas representam as unidades e as linhas azuis representam a distribuição dos resultados matemáticos gerados pelos neurônios e enviados à próxima camada

Os parâmetros de cada unidade dessa rede serão variados de forma a minimizar a função de perda, equação 3, que é dependente do erro quadrático médio entre os dados de saída calculados, Ê, e os fornecidos como alvo, E, que são vetores com o número de pontos igual ao utilizado para o treino da rede, N_a, e um fator de regularização, o L2, definido na equação 4. Os termos que compõem a equação 4 são o parâmetro α, o número de neurônios, N_i, e os pesos de cada neurônio i, w_i. O fator L2 permite uma regularização maior ao direcionar os pesos o mais perto possível de zero, podendose controlar a influência da regularização na determinação dos parâmetros e no desempenho do modelo, pelo valor do α. Na prática, esse parâmetro pode reduzir a importância de cada valor individual dos dados de entrada, privilegiando a suavidade do modelo final, podendo levar a underfitting, se muito grande, e overfitting, se muito pequeno. Overfitting acontece se o modelo previsto se ajusta aos dados fornecidos, porém, ao fazer previsões para pontos, fora do conjunto de treinamento, tem erros grandes.³³ Underfitting é o efeito contrário.

(3) $\mathit{Perda}\left(\hat{\mathit{E}},\mathit{E},\mathit{w}\right)=\frac{1}{{\mathit{N}}_{\mathit{a}}}\sum _{\mathit{a}=1}^{{\mathit{N}}_{\mathit{a}}}{\left|{\hat{\mathit{E}}}_{\mathit{a}}-{\mathit{E}}_{\mathit{a}}\right|}^2+\mathit{L}2$

(4) $\mathit{L}2=\frac{\alpha }{{\mathit{N}}_{\mathit{i}}}\sum _{\mathit{i}=1}^{{\mathit{N}}_{\mathit{i}}}{\mathit{w}}_{\mathit{i}}^2$

A função de ativação utilizada nas unidades das camadas escondidas será a tangente hiperbólica. Essa função tem os seus limites de ±∞ iguais a ±1 ( $\left(\underset{\mathit{x}\pm \infty }{\lim }\tanh \left(x\right)=\pm 1\right)$) e é simétrica na origem, produzindo resultados que têm mais chance de estarem com média próxima a zero e, como elas funcionam como dado de entrada para a próxima camada, é melhor que estejam dessa forma, pois foi empiricamente mostrado que isso é uma característica dos dados de entrada que ajuda na precisão do ajuste.³³

As unidades das camadas escondidas são definidas da seguinte forma:

(5) ${\mathit{y}}_{\mathit{k}}^{\lambda }=\tanh \left({\mathit{b}}_{\mathit{k}}^{\lambda }\right)+\sum _{\mathit{j}-1}^{{\mathit{N}}_{\lambda -1}}{\mathit{w}}_{\mathit{jk}}^{\lambda }{\mathit{y}}_{\mathit{j}}^{\lambda -1}$

(6) ${\omega }_{\mathit{e}}=\frac{1}{2\pi \mathit{c}}\sqrt{\frac{\mathit{k}}{\mu }}$

Em que N_λ–1 é o número de neurônios na camada λ – 1 e j é um neurônio da camada λ – 1. O parâmetro w^λ_jk é o peso da conexão do neurônio k da camada λ com o neurônio j da camada λ –1 e b_k^λ é o viés do neurônio k da camada λ, sendo ambos determinados durante o processo de treinamento da rede neural por uma regressão não linear. Vale notar que, para a camada de saída, é utilizada a função identidade no lugar da tangente hiperbólica, para fornecer um valor escalar que não esteja entre –1 e 1 e, para a camada de entrada, são utilizados os dados como fornecido pelo usuário.

Existem vários parâmetros a serem definidos em uma rede neural que podem levar a resultados melhores ou piores, mas apenas alguns serão destacados. Para uma explicação mais ampla, referências específicas são recomendadas ao leitor.^34–37 Um dos parâmetros a ser definido é o tamanho da rede neural. Uma técnica para determinar a quantidade de camadas e o número de neurônios nas camadas é começar com uma camada escondida do tamanho da camada de entrada e, a partir disso, construir redes neurais maiores,³¹ considerando que, ao aumentar, o custo computacional também cresce, assim como a possibilidade de overfitting.

O processo de minimização da função de perda parte de um valor inicial para, a partir desse valor, seguir na direção do gradiente da função de perda, equação 3. A construção da rede precisa ser feita com valores iniciais para os pesos e vieses. A escolha desses parâmetros iniciais, a priori, não tem um valor preferido. Então, a escolha deles é gerada de forma randômica. O grande problema é que a otimização desses parâmetros acontece de forma não linear, não tendo apenas um mínimo. Portanto, ela pode parar em mínimos locais, o que faz a escolha desses parâmetros iniciais influenciar no resultado final. Então, para escolher os parâmetros iniciais, é feita uma amostragem pela variação do estado randômico e, após a otimização das redes neurais, seleciona-se o que produzir o menor erro, por exemplo.

Na Tabela 1, estão reunidos alguns passos que foram aqui citados, para auxiliar o leitor em aplicações mais simples e fornecer uma ideia geral do procedimento.

Tabela 1
Parâmetros utilizados no ajuste da diatômica FeC

Função de Ativação (activation)	Número de Neurônios (hidden_layer_size)	Parâmetro de Regularização (alpha)	Método de Solução (solver)	Tolerância (tol)	Número Máximo de Iterações (max_iter)	Estado Randômico (random_state)
Tangente hiperbólica ('tanh')	2 camadas, com 5 e 2 neurônios ([5, 2])	0,01 (10**-2)	lbfgs ('lbfgs')	10-16 (1e-16)	5000	1-100

Resumindo, para um ajuste utilizando as redes neurais, o usuário precisará fornecer um conjunto que contenha os valores para as variáveis independentes da função e o valor da variável dependente produzido por esse conjunto. Também, o usuário precisará definir a função de ativação por ele desejada. Para o caso de ajustes lineares, ele deve se utilizar da identidade. No caso de ajustes não-lineares, recomenda-se o uso da tangente hiperbólica. Após, ele precisará definir o número de neurônios, o que poderá ser feito aumentando-se o número de neurônios na rede, evitando que ocorra overfitting. O usuário precisará escolher o parâmetro de regularização, que deve ser um valor que capture o comportamento do seu conjunto de treino, mas, também, que evite o overfitting. Por fim, é recomendado que se teste uma gama de valores para o estado randômico.

DISCUSSÃO

FeC

Determinaremos a curva de energia potencial eletrônica para o FeC utilizando redes neurais feed-forward com treino supervisionado e, como função de ativação, a tangente hiperbólica, conforme implementado no pacote scikit-learn. O erro quadrático médio será usado para analisar o erro do ajuste. Com essas funções, calcularemos as constantes espectroscópicas, a distância internuclear de equilíbrio, a energia de dissociação e a frequência vibracional harmônica. Isso será feito para validar o ajuste nas regiões entre pontos.

Para obter a distância internuclear de equilíbrio, teremos que encontrar a distância que tem como imagem o mínimo de energia potencial eletrônica para a molécula FeC.

A energia de dissociação é calculada por meio da diferença entre a energia dos átomos dissociados e da energia na distância internuclear de equilíbrio.

A frequência de vibração harmônica pode ser calculada a partir da equação 6. A constante de vibração harmônica, k, é obtida da segunda derivada do potencial na distância de equilíbrio.³⁸ Os outros termos que compõem a equação são μ, que é a massa reduzida, e c, que é a velocidade da luz.

Para ajustar uma função, precisa-se, primeiramente, calcular os pontos que servirão como conjunto de treino. Portanto, por meio de métodos de estrutura eletrônica, mais especificamente o nível teórico B3LYP/def2-TZVP^39–41 utilizando o programa ORCA 4.1,⁴² são calculados os valores de energia potencial eletrônica para 50 distâncias internucleares entre 1,00 e 4,50 Å, igualmente espaçadas.43 Com essas distâncias e as energias calculadas para elas, tem-se todas as informações necessárias para ajustar a rede neural.

As distâncias antes de serem usadas na camada de entrada serão transformadas em coordenadas de Morse, da seguinte forma:

(7) ${\mathit{y}}_1^0={\mathit{e}}^{\frac{-{\mathit{r}}_{\mathit{FeC}}}{\gamma }}$

Em que γ é escolhido como 1 Å. Isso ajuda no ajuste pois é uma forma funcional que a rede terá que seguir, em que o valor dela se aproxima de zero quando a distância vai ao infinito, um comportamento esperado para a energia de interação. Seria possível o ajuste sem utilizar a coordenada de Morse, porém, seria de menor qualidade e, com isso, introduz-se a ideia de criação de características, que é importante em aplicações mais avançadas de redes neurais.^44–46 As energias serão os alvos calculados na camada de saída. Portanto, a função ajustada mapeia os valores de energia em função das distâncias internucleares.

O ajuste segue, depois de carregadas as informações em matrizes NumPy (numpy.array),⁴⁷ com uma expansão de muitos corpos, equação 8, com termos de um corpo e de dois corpos, sendo, respectivamente, as energias dos átomos Fe e O e a energia da diatômica FeC relativa à energia dos átomos que a compõe. Isso diminui o erro do ajuste pois a parte que será ajustada, ou seja, a que é dependente de pelo menos uma variável, terá uma contribuição energética menor, diminuindo a influência do erro do ajuste no potencial total.

(8) $\mathit{V}={\mathit{V}}_{\mathrm{Fe}}+{\mathit{V}}_O+{\mathit{V}}_{\mathrm{FeC}}\left({\mathit{R}}_{\mathrm{FeC}}\right)$

As redes neurais têm o ajuste com menores erros ao serem feitas para valores com média zero e variância um. Então, esses valores são escalados da seguinte forma:

(9) ${\mathit{y}}_{\mathit{k}}^{0,\mathit{m}+1}=\frac{\left(\mathit{X}-\overline{\mathit{X}}\right)}{\delta \left(\mathit{X}\right)}$

em que,

(10) $\delta \left(\mathit{X}\right)=\sqrt{\frac{{\sum }_{\mathit{i}=1}^{\mathit{N}}\left({\mathit{X}}_{\mathit{i}}-\overline{\mathit{X}}\right)}{\mathit{N}-1}}$

No caso, X são os valores passados às camadas de entrada e de saída e – X é a média dos N valores.

Para ajustar a rede neural, existe uma série de parâmetros que precisam ser escolhidos. Definimos que vamos utilizar a tangente hiperbólica nas camadas escondidas, que terão duas camadas com cinco e dois neurônios. Para minimizar a função perda, o método BFGS de baixa memória (lbfgs),^48-50 a tolerância e o número máximo de iterações são também escolhidos previamente para valores que produzem bons resultados. Um parâmetro importante é o estado randômico de inicialização dos parâmetros, já que esse é um ajuste não linear com diversos mínimos locais. É feita uma estrutura de repetição, procurando-se o conjunto de valores iniciais que produz menor erro quadrático médio, dentro de 100 tentativas. Por ser um conjunto de dados pequenos e uma rede simples, essas 100 tentativas levam algo em torno de 20 segundos para terminar. Por fim, também escolhemos o parâmetro a, da regularização L2, como 10^–2.

Ao final desse passo, a função final é obtida, pronta para o uso. Os parâmetros utilizados no ajuste estão reunidos na Tabela 1. Esses valores não são os únicos a produzir um ajuste adequado. Pode-se fazer um teste variando o número de neurônios na rede. Uma sugestão seria experimentar com três neurônios na primeira camada e dois na segunda.

Ao utilizar essa função para construir a curva de energia potencial, por meio do pacote matplotlib,⁵¹ juntamente aos pontos de estrutura eletrônica, a Figura 2 é produzida.

Figura 2
Curva de energia potencial para a diatômica FeC, ajustada utilizando redes neurais. A curva sólida é referente à energia prevista pela rede neural, enquanto os pontos são aqueles calculados pelo método de estrutura eletrônica no nível teórico B3LYP/def2-TZVP

Com a função da energia potencial eletrônica já calculada, podemos utilizá-la para calcular as constantes espectroscópicas. Para encontrar a distância de equilíbrio, utilizamos a função minimize do pacote SciPy,⁵² que vai calcular o mínimo local da função. Com isso, além da distância de equilíbrio, temos a energia para essa distância. Ao calcular a diferença das energias dos átomos com a energia mínima da molécula, temos a energia de dissociação, D_e.

Por fim, para calcular a frequência vibracional harmônica, calculamos, primeiramente, a constante pela segunda derivada na distância de equilíbrio. Com ela, aplicamos na equação 6 e obtemos a frequência ω^e.

Na Tabela 2, estão reunidos os valores para o ajuste e para o nível teórico. Ao se comparar, percebe-se que o ajuste adicionou pouco erro em todos os cálculos de constantes. Se comparada, a energia de dissociação só tem uma diferença de 0,3 kcal/mol, valor muito pequeno, considerando a escala dos valores do problema. A distância de equilíbrio tem um pequeno desvio de 0,022 Å, o que é muito pouco. O desvio da frequência de vibracional harmônica ficou em 4 cm^–1. Combinando essa análise com a raiz do erro quadrático médio, de 0,60 kcal/mol, verifica-se o ajuste como sendo adequado.

Tabela 2
Distância de equilíbrio da ligação, r_e (Å), energia de dissociação, D^e (kcal mol^-1), frequência vibracional harmônica, ω_e (cm^-1), para a diatômicas FeC, no seu estados fundamental. São fornecidos os valores obtidos a partir do ajuste da rede neural aos pontos, do método de estrutura eletrônica e pelo ajuste

Método	re	De	ωe
Ajuste	1,628	81,4	607
B3LYP	1,606	81,5	603

H + H₂

H + H₂ é a mais simples reação envolvendo três átomos e, por isso, é amplamente estudada para servir como modelo teórico para testes de novos métodos.^53–57 Essa reação tem a descrição completa em um sistema de três coordenadas e, assim, é adicionada complexidade em relação ao sistema de diatômicas.

Para o ajuste da SEP reativa do H + H₂, há uma grande sobreposição nas técnicas utilizadas para o FeC. Continuamos utilizando a maioria dos parâmetros para a regressão, havendo apenas duas mudanças. Primeiramente, a quantidade de neurônios muda de duas camadas escondidas com cinco e dois neurônios para vinte e dez neurônios. Assim, a função tem uma maior flexibilidade, exigida para um ajuste de maior dimensão. Também, é mudado o parâmetro de regularização para 10^–4, obtendo-se um ajuste mais preciso.

Os parâmetros utilizados no ajuste estão reunidos na Tabela 3. Vale notar, assim como no primeiro ajuste, esse não é o único conjunto de parâmetros que produz um ajuste adequado e, portanto, convida-se o leitor a experimentar outras configurações da rede.

Tabela 3
Parâmetros utilizados no ajuste da SEP da reação entre H + H₂

Função de Ativação (activation)	Número de Neurônios (hidden_layer_size)	Parâmetro de Regularização (alpha)	Método de Solução (solver)	Tolerância (tol)	Número Máximo de Iterações (max_iter)	Estado Randômico (random_state)
Tangente hiperbólica ('tanh')	2 camadas, com 20 e 10 neurônios ([20, 10])	0,0001 (10**-4)	lbfgs ('lbfgs')	10-16 (1e-16)	50000	1-10

Como no caso do FeC, são necessários os pontos de energia para cada configuração nuclear, para o ajuste da função, ou seja, o conjunto de treino. Portanto, utilizou-se o potencial ajustado no nível teórico CCI/CBS de Peterson et al.⁵⁸ como substituto dos pontos de estrutura eletrônica e foram calculados 1711 pontos distribuídos de forma a se ter pontos por toda a superfície reativa da aproximação linear, levando em conta a simetria dela. Isso quer dizer que ao descrever a aproximação de um dos átomos da reação aos outros dois, estamos descrevendo o que aconteceria a qualquer uma das três possíveis combinações desses três átomos, com essa descrição.

Uma nova técnica de transformação dos dados da camada de entrada foi usada. Foram empregados os polinômios permutacionalmente invariantes (PIP), de forma a se conseguir, com menos dados, representar uma maior parte do potencial e conseguir adicionar a invariância na energia, dado à permutação de átomos idênticos. É uma técnica de combinação de monômios, de forma que se produza uma base invariante sobre permutação. A explicação sobre ela está fora do escopo desse artigo, mas é recomendado ao leitor uma ampla bibliografia desenvolvida por Bowman et al.^21,59,60 As camadas de entrada serão da seguinte forma:

(11) $\begin{array}{c}{\mathit{y}}_1^0={\mathit{x}}_{12}+{\mathit{x}}_{13}+{\mathit{x}}_{23}\hfill \\ {\mathit{y}}_2^0={\mathit{x}}_{12}^2+{\mathit{x}}_{13}^2+{\mathit{x}}_{23}^2\hfill \\ {\mathit{y}}_3^3={\mathit{x}}_{12}^3+{\mathit{x}}_{13}^3+{\mathit{x}}_{23}^3\hfill \end{array}$

Em que x_ij é a coordenada de Morse para a distância entre os átomos i e j. Essa é a forma do polinômio por ser o caso de três átomos iguais, assim como acontece na reação estudada, H + H₂.

Para validar o ajuste iremos utilizar, juntamente ao erro quadrático médio, uma comparação entre os gráficos da SEP para o potencial original com o ajustado pela rede neural. Esse gráfico é um corte da superfície total feito para a aproximação linear do átomo de hidrogênio da molécula de hidrogênio. O gráfico tem, em suas coordenadas, as distâncias entre dois dos três hidrogênios e a energia é representada por projeções de curvas isopotenciais em sua superfície.

O ajuste teve um erro quadrático médio de 0,076 kcal/mol. O erro é bastante pequeno pois o interesse era em ajustar apenas uma parte da SEP, a referente à aproximação linear de um átomo de hidrogênio à diatômica de hidrogênio e, com a simetria adicionada pelos PIP, a região que precisa ser amostrada é bem pequena. Ao se comparar o gráfico produzido pela rede neural, Figura 3, com o do potencial original,⁵⁸ é verificável a semelhança entre os dois, sendo outra evidência de o ajuste ter sido conduzido adequadamente.

Figura 3
SEP da reação H^c + H^aH^b → H^b + H^aH^c colinear, ajustada pela rede neural, em coordenadas internas (R_H^a_H^c, R_H^a_H^b). As curvas isopotenciais são de 0,25 eV. As distâncias, nos dois eixos, estão em a₀

CONSIDERAÇÕES FINAIS

As redes neurais podem ser aplicadas à regressão e à classificação, o que pode ajudar qualquer pesquisador na análise de seus resultados. Comparada aos métodos tradicionais, ela traz a vantagem de ajustar uma função genérica, podendo se ajustar a qualquer função contínua e, por ser amplamente empregada, alcançou um nível alto de abstração e, para aplicações mais simples, pode ser utilizada sendo encarada como uma caixa preta. Apesar disso, não é um conhecimento difundido na comunidade química brasileira. Nesse estudo, foi realizado ajuste de funções para a superfície de energia potencial para o FeC e para a reação H + H₂. Os ajustes foram feitos de forma bastante simples e, com pouca variação, podem ser estendidos a uma variedade de casos. Então, com esse estudo, espera-se criar mais que uma introdução ao assunto para a comunidade e servir, também, como uma amostra do potencial da técnica para incentivar sua exploração.

• MATERIAL SUPLEMENTAR
  O código comentado, descrevendo os processos envolvidos para produzir os resultados descritos aqui está disponível em http://quimicanova.sbq.org.br/ e no website GitHub em https://github.com/eduardo-vicentini/artigoQN_data/blob/master/artigoQN.ipynb, como um Jupyter Notebook, com acesso livre.

AGRADECIMENTOS

Os autores agradecem à FAPESP, processos #2015/11714-0 e #2020/08553-2, e ao CNPq, processo #306830/2018-3. E. D. Vicentini agradece à CAPES pela bolsa concedida.

REFERÊNCIAS

• ¹
  McCulloch, W. S.; Pitts, W.; Bull. Math. Biophys. 1943, 5, 115.
• ²
  https://cs.stanford.edu/people/eroberts/courses/soco/projects/neural-networks/History/history1.html acessada em setembro 2020.
  » https://cs.stanford.edu/people/eroberts/courses/soco/projects/neural-networks/History/history1.html
• ³
  Silver, D.; Huang, A.; Maddison, C. J.; Guez, A.; Sifre, L.; Van Den Driessche, G.; Schrittwieser, J.; Antonoglou, I.; Panneershelvam, V.; Lanctot, M.; Nature 2016, 529, 484.
• ⁴
  Sun, Y.; Liang, D.; Wang, X.; Tang, X.; arXiv preprint arXiv:1502.00873 2015
• ⁵
  Hinton, G.; Deng, L.; Yu, D.; Dahl, G. E.; Mohamed, A.-r.; Jaitly, N.; Senior, A.; Vanhoucke, V.; Nguyen, P.; Sainath, T. N.; IEEE Signal Process. Mag. 2012, 29, 82.
• ⁶
  Schütt, K. T.; Gastegger, M.; Tkatchenko, A.; Müller, K. R.; Maurer, R. J.; Nat. Commun. 2019, 10, 1.
• ⁷
  Segler, M. H. S.; Waller, M. P.; Chem - Eur. J. 2017, 23, 5966.
• ⁸
  Mardt, A.; Pasquali, L.; Wu, H.; Noé, F.; Nat. Commun. 2018, 9, 5.
• ⁹
  Balabin, R. M.; Lomakina, E. I.; J. Chem. Phys. 2009, 131, 074104.
• ¹⁰
  Lemes, M. R.; Dal Pino Júnior, A.; Quim. Nova 2008, 31, 1141.
• ¹¹
  Zen, R.; My, L.; Tan, R.; Hébert, F.; Gattobigio, M.; Miniatura, C.; Poletti, D.; Bressan, S.; Phys. Rev. E 2020, 101, 053301.
• ¹²
  Su, S.; Yang, Y.; Gan, H.; Zheng, S.; Gu, F.; Zhao, C.; Xu, J.; J. Chem. Inf. Model. 2020, 60, 1165.
• ¹³
  Li, X.; Sanderson, A. R.; Allen, S. S.; Lahr, R. H.; Analyst 2020, 145, 1511.
• ¹⁴
  Bort, W.; Baskin, I. I.; Sidorov, P.; Marcou, G.; Horvath, D.; Madzhidov, T.; Varnek, A.; Gimadiev, T.; Nugmanov, R.; Mukanov, A.; ChemRxiv 2020
• ¹⁵
  Manzhos, S.; Machine Learning: Science and Technology 2020, 1, 013002.
• ¹⁶
  Attali, J.-G.; Pagès, G.; Neural Networks 1997, 10, 1069.
• ¹⁷
  Schäfer, A. M.; Zimmermann, H.-G.; Int. J. Neural Syst. 2007, 17, 253.
• ¹⁸
  Manzhos, S.; Dawes, R.; Carrington, T.; Int. J. Quantum Chem. 2015, 115, 1012.
• ¹⁹
  Li, J.; Jiang, B.; Guo, H.; J. Chem. Phys. 2013, 139, 204103.
• ²⁰
  Jiang, B.; Li, J.; Guo, H.; Int. Rev. Phys. Chem. 2016, 35, 479.
• ²¹
  Jiang, B.; Guo, H.; J. Chem. Phys. 2013, 139, 054112.
• ²²
  Lu, X.; Meng, Q.; Wang, X.; Fu, B.; Zhang, D. H.; J. Chem. Phys. 2018, 149, 174303.
• ²³
  Handley, C. M.; Popelier, P. L.; J. Phys. Chem. A 2010, 114, 3371.
• ²⁴
  Behler, J.; Phys. Chem. Chem. Phys. 2011, 13, 17930.
• ²⁵
  Yuan, M.; Li, W.; Yuan, J.; Chen, M.; Int. J. Quantum Chem. 2018, 118, e25493.
• ²⁶
  Wang, S.; He, D.; Li, W.; Chen, M.; RSC Adv. 2017, 7, 35648.
• ²⁷
  Le Roy, R. J.; Pashov, A.; J. Quant. Spectrosc. Radiat. Transfer 2017, 186, 210.
• ²⁸
  Pedregosa, F.; Varoquaux, G.; Gramfort, A.; Michel, V.; Thirion, B.; Grisel, O.; Blondel, M.; Prettenhofer, P.; Weiss, R.; Dubourg, V.; Vanderplas, J.; Passos, A.; Cournapeau, D.; Brucher, M.; Perrot, M.; Duchesnay, É.; Journal of Machine Learning Research 2011, 12, 2825.
• ²⁹
  De Oliveira Filho, A. G.; De Lima Batista, A. P.; Quim. Nova 2016, 39, 118.
• ³⁰
  Google Colaboratory, disponível em https://colab.research.google.com/, acessada em setembro 2020.
  » https://colab.research.google.com/
• ³¹
  Fiesler, E.; Beale, R.; Handbook of neural computation Oxford University Press, Inc.: Oxford, 1997.
• ³²
  Rosenblatt, F.; Principles of Neurodynamics, Spartan: Washington, D. C., 1962.
• ³³
  Andreas, M. C.; Guido, S.; Introduction to Machine Learning with Python: A Guide for Data Scientists, O’Reilly: Beijing, 2016.
• ³⁴
  Géron, A.; Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems O’Reilly Media: Sebastopol, 2019.
• ³⁵
  Ba, J.; Caruana, R.; Neural Information Processing Systems 2014, 2654.
• ³⁶
  Hunter, D.; Yu, H.; Pukish, III, M. S.; Kolbusz, J.; Wilamowski, B. M.; IEEE Trans. Ind. Electron. 2012, 8, 228.
• ³⁷
  Bebis, G.; Georgiopoulos, M.; IEEE Potentials 1994, 13, 27.
• ³⁸
  Sala, O.; Quim. Nova 2008, 31, 914.
• ³⁹
  Becke, A. D.; J. Chem. Phys. 1993, 98, 5648.
• ⁴⁰
  Stephens, P. J.; Devlin, F. J.; Chabalowski, C. F.; Frisch, M. J.; J. Phys. Chem. 1994, 98, 11623.
• ⁴¹
  Weigend, F.; Ahlrichs, R.; Phys. Chem. Chem. Phys. 2005, 7, 3297.
• ⁴²
  Neese, F.; WIREs Comput. Mol. Sci. 2017
• ⁴³
  Vicentini, E. D.; Dissertação de Mestrado, Universidade de São Paulo, Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto, Brasil, 2019.
• ⁴⁴
  Garla, V. N.; Brandt, C.; J. Biomed. Inform. 2012, 45, 992.
• ⁴⁵
  Cormack, G. V.; Hidalgo, J. M. G.; Sánz, E. P.; Proceedings of the 30th annual international ACM SIGIR conference on Research and development in information retrieval, Amsterdam, 2007.
• ⁴⁶
  Yu, H.-F.; Lo, H.-Y.; Hsieh, H.-P.; Lou, J.-K.; McKenzie, T. G.; Chou, J.- W.; Chung, P.-H.; Ho, C.-H.; Chang, C.-F.; Wei, Y.-H.; Weng, J.-Y.; Yan, E.-S.; Chang, C.-W.; Kuo, T.-T.; Lo, Y.-C.; Chang, P. T.; Po, C.; Wang, C.-Y.; Huang, Y.-H.; Hung, C.-W.; Ruan, Y.-X.; Lin, Y.-S.; Lin, S.-D.; Lin, H.-T.; Lin, C.-J.; JMLR Workshop and Conference Proceedings 2010, 1, 1.
• ⁴⁷
  Walt, S. van der; Colbert, S. C.; Varoquaux, G.; Comput. Sci. Eng. 2011, 13, 22.
• ⁴⁸
  Byrd, R. H; Lu, P.; Nocedal, J.; Zhu, C.; SIAM J. Sci. Comput. 1995, 16, 5.
• ⁴⁹
  Zhu, C.; Byrd, R. H; Lu, P.; Nocedal, J.; ACM Trans. Math. Software 1997, 23, 4.
• ⁵⁰
  Morales, J. L.; Nocedal, J.; ACM Trans. Math. Software 2011, 38, 1.
• ⁵¹
  Hunter, J. D.; Comput. Sci. Eng. 2007, 9, 90.
• ⁵²
  Virtanen, P.; Gommers, R.; Oliphant, E., T.; Haberland, M.; Reddy, T.; Cournapeau, D.; Burovski, E.; Peterson, P.; Weckesser, W.; Bright, J.; Walt, d., v., J., S.; Brett, M.; Wilson, J.; Millman, J., K.; Mayorov, N.; Nelson, J., R., A.; Jones, E.; Kern, R.; Larson, E.; Carey, J., C.; Polat, İ.; Feng, Y.; Moore, W., E.; VanderPlas, J.; Laxalde, D.; Perktold, J.; Cimrman, R.; Henriksen, I.; Quintero, A., .., E.; Harris, R., C.; Archibald, M., A.; Ribeiro, H., A.; Pedregosa, F.; Mulbregt, v., P.; Vijaykumar, A.; Bardelli, P., A.; Rothberg, A.; Hilboll, A.; Kloeckner, A.; Scopatz, A.; Lee, A.; Rokem, A.; Woods, N., C.; Fulton, C.; Masson, C.; Häggström, C.; Fitzgerald, C.; Nicholson, A., D.; Hagen, R., D.; Pasechnik, V., D.; Olivetti, E.; Martin, E.; Wieser, E.; Silva, F.; Lenders, F.; Wilhelm, F.; Young, G.; Price, A., G.; Ingold, G.; Allen, E., G.; Lee, R., G.; Audren, H.; Probst, I.; Dietrich, P., J.; Silterra, J.; Webber, T., J.; Slavič, J.; Nothman, J.; Buchner, J.; Kulick, J.; Schönberger, L., J.; Cardoso, M., d., V., J.; Reimer, J.; Harrington, J.; Rodríguez, C., L., J.; -Iglesias, N., J.; Kuczynski, J.; Tritz, K.; Thoma, M.; Newville, M.; Kümmerer, M.; Bolingbroke, M.; Tartre, M.; Pak, M.; Smith, J., N.; Nowaczyk, N.; Shebanov, N.; Pavlyk, O.; Brodtkorb, A., P.; Lee, P.; McGibbon, T., R.; Feldbauer, R.; Lewis, S.; Tygier, S.; Sievert, S.; Vigna, S.; Peterson, S.; More, S.; Pudlik, T.; Oshima, T.; Pingel, J., T.; Robitaille, P., T.; Spura, T.; Jones, R., T.; Cera, T.; Leslie, T.; Zito, T.; Krauss, T.; Upadhyay, U.; Halchenko, O., Y.; Vázquez-Baeza, Y.; Nat. Methods 2020, 17, 261.
• ⁵³
  Peterson, K. A.; Woon, D. E.; Dunning Jr, T. H.; J. Chem. Phys. 1994, 100, 7410.
• ⁵⁴
  Mayne, H. R.; Poirier, R.; Polanyi, J.; J. Chem. Phys. 1984, 80, 4025.
• ⁵⁵
  Partridge, H.; Bauschlicher Jr, C. W.; Stallcop, J. R.; Levin, E.; J. Chem. Phys. 1993, 99, 5951.
• ⁵⁶
  Garashchuk, S.; Tannor, D.; Chem. Phys. Lett. 1996, 262, 477.
• ⁵⁷
  Chapman, S.; Garrett, B. C.; Miller, W. H.; J. Chem. Phys. 1975, 63, 2710.
• ⁵⁸
  Mielke, S. L.; Garrett, B. C.; Peterson, K. A.; J. Chem. Phys. 2002, 116, 4142.
• ⁵⁹
  Xie, Z.; Bowman, J. M.; J. Chem. Theory Comput. 2010, 6, 26.
• ⁶⁰
  Braams, B. J.; Bowman, J. M.; Int. Rev. Phys. Chem. 2009, 28, 577.

Datas de Publicação

• Publicação nesta coleção
  07 Maio 2021
• Data do Fascículo
  Fev 2021

Histórico

• Recebido
  02 Jul 2020
• Aceito
  01 Set 2020
• Publicado
  08 Out 2020