Louis Hernandez

The LoRA algorithm seems to be the most widespread fine-tuning method for LLMs. LoRA reduces parameter count by employing low-rank matrix factorization on attention mechanisms. In arxiv.org/abs/2402.15415 w/ @m_boussard and @Louis_Hdez, we study the impact of LoRA on tokens 1/10

#APIA2022 @BastienZimmerm5 présente les apports de l’explicabilité à la reconstruction des paleoenvironnements en donnant des clés de compréhension aux archéologues pour remettre en cause leurs hypothèses #PFIA2022 @AFIA_info @craft_ai #IA