논문 썸네일형 리스트형 [논문리뷰] Code Llama: Open Foundation Models for Code Meta가 Llama 2를 기반으로 구축된 코딩 전용 모델인 Code Llama 70B을 공개하였다. Code Llama는 코드 및 자연어 prompt에서 코드를 생성할 수 있는 최신 LLM (Large Lnaguage Model, 대형언어모델). 총 3가지 버전 공개 1. Code Llama 70B - 기본적인 코드 모델 2. Code Llama 70B - Python - Python에 특화된 70B 모델 - Python code의 100B token에 대해 미세 조정 (fine-tuned) 됨. 3. Code Llama 70B - Instruct - 자연어 명령을 이해하기 위해 미세 조정된 70B 모델 작동방식 Code Llama 성능평가 Bechmark set 1. HumanEval: 문서 문자열을.. 더보기 [논문리뷰] Improving deep learning protein monomerand complex structure prediction usingDeepMSA2 with huge metagenomics data (DeepMSA2-based protein folding, DMFold) Publish: 2024.01.02. / Nature methods AlphaFold나 RosseTTAFold는 "genetic database 기반 MSA 데이터" 와 "structure database 기반 pair representation" 간의 정보를 교환하고, iterative하게 받아올 수 있도록 model architecture를 구성하여 좋은 성능을 보였다. 본 논문의 저자들 또한 DeepMSA2라는 모델에서 비슷한 concept을 가지고, genomic and metagenome sequence database를 기반하여 모델을 만들었으며 CASP15 데이터로 비교해본 결과, AlphaFold2-Multimer server (v.2.2.0) 보다 더 좋은 성능을 보였다고 한다. Deep.. 더보기 이전 1 다음
