Molecular Dynamics (MD) simulations play a pivotal role across diverse scientific disciplines, with their accuracy being contingent on the precision of Force Field parameters. Traditional optimization techniques, such as Gradient Descent (GD), often grapple with challenges like local minima entrapment and the intricacies of high-dimensional parameter spaces. This thesis introduces a groundbreaking approach to address these challenges, leveraging Reinforcement Learning (RL) and the Linear Q-function approximation (LQFA). This method offers a computational advantage by approximating Q-values using a linear function, eliminating the need for extensive Q-tables. The study emphasizes the helicity of the Alanine Oligopeptide (20-mer) as a primary metric, a measure of the peptide's propensity to adopt a helical conformation. Preliminary results have shown promising helicity values, with the potential to approach the maximal helicity value of 16 under optimal conditions. The research also delves into prospective developments, suggesting strategies to inch closer to this maximal helicity. In essence, this work paves the way for more accurate and efficient parameter optimization in MD simulations, with implications for broader applications in the scientific community.

Le simulazioni di dinamica molecolare svolgono un ruolo fondamentale in diverse discipline scientifiche, con la loro accuratezza che dipende dalla precisione dei parametri del campo di forza. Tecniche di ottimizzazione tradizionali, come la Discesa del Gradiente, spesso affrontano sfide come l'intrappolamento in minimi locali e le complessità degli spazi parametrici ad alta dimensionalità. Questa tesi introduce un approccio rivoluzionario per affrontare queste sfide, sfruttando l'Apprendimento per Rinforzo (RL) e l'approssimazione della Funzione Q-lineare. Questo metodo innovativo offre un vantaggio computazionale approssimando i valori Q con una funzione lineare, eliminando la necessità di estese tabelle Q. Lo studio enfatizza l'elicità dell'Oligopeptide Alanina (20-mer) come metrica primaria, una misura della propensione del peptide a adottare una conformazione elicoidale. I risultati preliminari hanno mostrato valori di elicità promettenti, con il potenziale di avvicinarsi al valore massimo di elicità di 16 in condizioni ottimali. La ricerca approfondisce anche gli sviluppi prospettici, suggerendo strategie per avvicinarsi a questa elicità massima. In sostanza, questo lavoro apre la strada a un'ottimizzazione dei parametri più accurata ed efficiente nelle simulazioni di dinamica molecolare, con implicazioni per applicazioni più ampie nella comunità scientifica.

Reinforcement learning force field

KETABDARI, ALIREZA
2022/2023

Abstract

Molecular Dynamics (MD) simulations play a pivotal role across diverse scientific disciplines, with their accuracy being contingent on the precision of Force Field parameters. Traditional optimization techniques, such as Gradient Descent (GD), often grapple with challenges like local minima entrapment and the intricacies of high-dimensional parameter spaces. This thesis introduces a groundbreaking approach to address these challenges, leveraging Reinforcement Learning (RL) and the Linear Q-function approximation (LQFA). This method offers a computational advantage by approximating Q-values using a linear function, eliminating the need for extensive Q-tables. The study emphasizes the helicity of the Alanine Oligopeptide (20-mer) as a primary metric, a measure of the peptide's propensity to adopt a helical conformation. Preliminary results have shown promising helicity values, with the potential to approach the maximal helicity value of 16 under optimal conditions. The research also delves into prospective developments, suggesting strategies to inch closer to this maximal helicity. In essence, this work paves the way for more accurate and efficient parameter optimization in MD simulations, with implications for broader applications in the scientific community.
OROZCO, MODESTO
Wieczor, Milosz
ING - Scuola di Ingegneria Industriale e dell'Informazione
5-ott-2023
2022/2023
Le simulazioni di dinamica molecolare svolgono un ruolo fondamentale in diverse discipline scientifiche, con la loro accuratezza che dipende dalla precisione dei parametri del campo di forza. Tecniche di ottimizzazione tradizionali, come la Discesa del Gradiente, spesso affrontano sfide come l'intrappolamento in minimi locali e le complessità degli spazi parametrici ad alta dimensionalità. Questa tesi introduce un approccio rivoluzionario per affrontare queste sfide, sfruttando l'Apprendimento per Rinforzo (RL) e l'approssimazione della Funzione Q-lineare. Questo metodo innovativo offre un vantaggio computazionale approssimando i valori Q con una funzione lineare, eliminando la necessità di estese tabelle Q. Lo studio enfatizza l'elicità dell'Oligopeptide Alanina (20-mer) come metrica primaria, una misura della propensione del peptide a adottare una conformazione elicoidale. I risultati preliminari hanno mostrato valori di elicità promettenti, con il potenziale di avvicinarsi al valore massimo di elicità di 16 in condizioni ottimali. La ricerca approfondisce anche gli sviluppi prospettici, suggerendo strategie per avvicinarsi a questa elicità massima. In sostanza, questo lavoro apre la strada a un'ottimizzazione dei parametri più accurata ed efficiente nelle simulazioni di dinamica molecolare, con implicazioni per applicazioni più ampie nella comunità scientifica.
File allegati
File Dimensione Formato  
DEIB_Master_Thesis___Alireza_Ketabdari.pdf

accessibile in internet per tutti

Descrizione: This is my thesis pdf file
Dimensione 3.65 MB
Formato Adobe PDF
3.65 MB Adobe PDF Visualizza/Apri
Executive_Summary_Alireza_Ketabdari.pdf

accessibile in internet per tutti

Descrizione: This is my executive summary pdf file
Dimensione 682.46 kB
Formato Adobe PDF
682.46 kB Adobe PDF Visualizza/Apri
updated_DEIB_Master_Thesis___Alireza_Ketabdari.pdf

accessibile in internet per tutti

Dimensione 3.69 MB
Formato Adobe PDF
3.69 MB Adobe PDF Visualizza/Apri
updated_Executive_Summary_Alireza_Ketabdari.pdf

accessibile in internet per tutti

Dimensione 728.81 kB
Formato Adobe PDF
728.81 kB Adobe PDF Visualizza/Apri

I documenti in POLITesi sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/10589/210679