Galactica

Galactica는 과학적 발전을 조직하고 가속화하는 사명을 가진 Meta의 Fundamental AI Research(FAIR) 팀이 개발한 선구적인 대규모 언어 모델(LLM)입니다. 범용 LLM과 달리, Galactica는 학술 논문, 교과서, 참고 자료, 강의 노트, 화합물, 단백질 및 기타 과학 지식 소스를 포함한 4,800만 개 이상의 방대하고 고품질의 과학 말뭉치로 세심하게 훈련되었습니다. 이 전문화된 훈련을 통해 과학의 복잡한 언어, 표기법 및 구조를 이해하고 처리할 수 있습니다.

Galactica의 핵심 비전은 과학계의 정보 과부하 문제를 해결하는 것입니다. 연구량이 폭발적으로 증가함에 따라 연구원들이 최신 정보를 파악하고 관련 정보를 찾으며 중요한 발견을 구별하기가 점점 더 어려워지고 있습니다. Galactica는 이 지식의 바다에 대한 지능형 인터페이스 역할을 하여 연구원들이 정보를 보다 효과적으로 탐색, 요약 및 종합할 수 있도록 돕는 것을 목표로 합니다.

초기 공개 웹 데모는 모든 현재 LLM의 알려진 한계인 잠재적 부정확성의 확산을 방지하기 위해 중단되었지만, Galactica 모델 자체는 오픈 소스로 남아 연구 커뮤니티에 공개되어 있습니다. 이러한 개방성에 대한 약속은 투명성, 재현성 및 모델의 기능과 안전성에 대한 협력적 개선을 가능하게 합니다.

Galactica 사용 방법

Galactica는 주로 프로그래밍 경험이 있는 연구원과 개발자를 대상으로 합니다. 공개 데모는 더 이상 사용할 수 없지만, 오픈 소스 Python 라이브러리인 `galai`를 통해 모델에 액세스하고 활용할 수 있습니다. 연구원은 라이브러리를 설치하고 계산 자원과 필요에 맞게 다양한 크기의 모델을 로드할 수 있습니다.

시작하는 방법에 대한 기본 예는 다음과 같습니다.

1. 설치: pip를 사용하여 라이브러리 설치: pip install galai
2. 모델 로드: 라이브러리를 가져오고 사전 훈련된 모델을 로드합니다. 'base', 'large' 또는 'huge'와 같은 다양한 크기를 사용할 수 있습니다.
   import galai as gal
model = gal.load_model("huge")
3. 텍스트 생성: 모델을 사용하여 인용이 포함된 과학 텍스트를 생성합니다. 모델은 `[START_REF]` 및 `[END_REF]`와 같은 특수 토큰을 인식하여 참조를 처리합니다.
   output = model.generate("The Transformer architecture [START_REF]")
   예상 출력은 다음과 같습니다: The Transformer architecture [START_REF] Attention is All you Need, Vaswani[END_REF] has been widely used in natural language processing.

환각(그럴듯하지만 부정확한 정보 생성) 가능성과 같은 모델의 한계를 인지하는 것이 중요합니다. 모든 출력, 특히 사실적 주장이나 조언은 독립적으로 검증해야 합니다.

Galactica의 핵심 기능

• 과학 인용 생성: 3억 6천만 개 이상의 문맥 내 인용으로 훈련된 Galactica는 주어진 진술에 대한 관련 참고 문헌을 제안하고 관련 논문을 발견하는 데 도움을 줄 수 있습니다.
• 수학 및 화학 공식 이해: 모델은 복잡한 수학 표기법(LaTeX 등)과 화학식(SMILES 등)을 구문 분석, 설명 및 생성할 수 있습니다. 예를 들어, 리만 제타 함수와 같은 복잡한 공식을 평이한 영어로 번역할 수 있습니다.
• 과학적 질문 답변: 사용자는 복잡한 과학적 질문을 할 수 있으며, Galactica는 훈련 데이터를 기반으로 답변을 제공하려고 시도합니다.
• 과학 코드 생성: Python과 같은 언어로 과학 코드를 작성하고, 디버깅을 지원하며, 다른 프로그래밍 언어 간에 코드 조각을 번역할 수도 있습니다(예: Python에서 C++로).
• 문헌 검토 및 요약: Galactica는 문헌 검토 초안 작성, 초록 작성 및 복잡한 과학 문서 요약에 도움을 줄 수 있습니다.
• 오픈 소스 모델: 모델은 연구원들이 사용, 연구 및 구축할 수 있도록 제공되어 개방적이고 협력적인 연구 환경을 조성합니다.

Galactica의 사용 사례

Galactica는 과학 생태계의 다양한 이해 관계자에게 강력한 도구입니다.

• 연구원: 문헌 검토를 가속화하고, 새로운 연구 아이디어를 브레인스토밍하고, 지지 또는 반박 논문을 찾고, 원고 초안을 작성하는 데 사용할 수 있습니다.
• 학생: 복잡한 과학 개념을 이해하고, 수학적 증명에 대한 단계별 설명을 얻거나, 과학 응용 프로그램을 위한 코딩을 배우는 데 유용한 학습 보조 도구입니다.
• 과학 작가 및 편집자: 기사 초안 작성, 용어의 올바른 사용 보장, 주장을 뒷받침할 적절한 인용을 찾는 데 도움을 줄 수 있습니다.
• 교육자: 교육 자료 생성, 예제 문제 생성, 어려운 주제를 더 접근하기 쉬운 방식으로 설명하는 데 사용할 수 있습니다.

Galactica의 장점

Galactica의 주요 장점은 과학 분야에 대한 깊은 전문성입니다. 이 초점은 몇 가지 주요 이점을 제공합니다.

• 고품질, 전문화된 말뭉치: 선별된 과학 데이터 세트인 NatureBook으로 훈련하여 일반 모델에 비해 과학적 뉘앙스에 대한 우수한 이해를 제공합니다.
• 내장된 인용 기능: 생성된 텍스트를 실제 참고 문헌에 연결하는 기능은 학문적 무결성을 위한 중요한 기능이며 다른 많은 LLM을 뛰어넘는 중요한 단계입니다.
• 다중 모드 과학 지식: 텍스트, 수학, 코드 및 화학 구조 전반에 걸쳐 지식을 원활하게 통합하여 현대 과학의 진정한 본질을 반영합니다.
• 투명성과 개방성: 오픈 소스임으로써 전 세계 연구 커뮤니티의 정밀 조사와 협력을 유도하며, 이는 신뢰할 수 있는 AI를 구축하는 데 필수적입니다.

가격 및 플랜

Galactica는 Meta AI의 오픈 소스 연구 프로젝트입니다. 따라서 모델은 연구 목적으로 무료로 제공됩니다. 상업적 플랜이나 구독료는 없습니다. 연구원은 모델 라이선스 조건에 따라 자체 계산 환경에서 모델을 다운로드하여 사용할 수 있습니다. Galactica 사용과 관련된 비용은 모델을 실행하는 데 필요한 계산 자원(예: GPU)과 관련이 있습니다.