PostgresML

PostgresML은 머신러닝 및 AI 기능을 PostgreSQL 데이터베이스에 직접 도입하는 혁신적인 오픈 소스 확장 프로그램입니다. 모델과 알고리즘을 데이터 계층에 내장함으로써 AI 애플리케이션 구축 방식을 근본적으로 바꿉니다. 핵심 철학은 크고 동적인 데이터 세트를 모델로 계속 이동하는 것보다 모델을 데이터로 이동하는 것이 더 효율적이고 관리하기 쉬우며 신뢰할 수 있다는 것입니다. 이 접근 방식은 복잡한 데이터 파이프라인을 제거하고 지연 시간을 줄이며 보안을 강화합니다.

PostgresML은 기존 데이터베이스를 모든 기능을 갖춘 AI 플랫폼으로 전환합니다. 분류 및 회귀와 같은 전통적인 머신러닝 모델부터 대규모 언어 모델(LLM) 및 벡터 검색과 관련된 최첨단 딥러닝 애플리케이션에 이르기까지 광범위한 기능을 지원합니다. GPU의 성능을 활용하여 계산 및 모델 추론을 가속화하여 처리량이 많은 시스템에서 실시간 AI를 실현할 수 있습니다.

PostgresML 사용 방법

PostgresML 시작은 클라우드 및 자체 호스팅 환경 모두에 대한 옵션을 제공하여 간단하게 설계되었습니다.

1. PostgresML Cloud (권장): 가장 쉬운 시작 방법은 PostgresML Cloud에서 무료 계정에 가입하는 것입니다. 이를 통해 GPU 및 최첨단 LLM에 대한 액세스 권한이 포함된 서버리스, 완전 관리형 PostgreSQL 데이터베이스를 설정 오버헤드 없이 몇 초 만에 얻을 수 있습니다.
2. 자체 호스팅: 자체 인프라 관리를 선호하는 사용자를 위해 Docker를 사용하여 PostgresML을 자체 호스팅할 수 있습니다. 공식 이미지를 가져와 간단한 명령으로 실행하여 환경을 완전히 제어할 수 있습니다. 일반적인 명령어는 다음과 같습니다: docker run -it -v postgresml_data:/var/lib/postgresql -p 5433:5432 -p 8000:8000 ghcr.io/postgresml/postgresml:latest.
3. 쿼리 실행: 설정이 완료되면 표준 SQL을 사용하여 PostgresML과 상호 작용합니다. 모델을 훈련하고(예: pgml.train()), 예측을 수행하고(예: pgml.predict()), 복잡한 AI 파이프라인을 실행할 수 있습니다. 예를 들어, 텍스트 임베딩 생성은 텍스트 열에서 pgml.embed() 함수를 호출하는 것만큼 간단합니다.
4. SDK 사용: 원활한 애플리케이션 통합을 위해 PostgresML은 Korvus(Python, JavaScript, Rust, C용) 및 postgresml-django와 같은 특정 클라이언트 라이브러리를 제공하여 전체 RAG 파이프라인을 단일 데이터베이스 쿼리 또는 ORM 작업에 통합합니다.

PostgresML의 핵심 기능

• 데이터베이스 내 ML/AI: 별도의 시스템 및 데이터 전송 없이 PostgreSQL 내에서 직접 머신러닝 및 AI 작업을 실행합니다.
• GPU 가속: GPU 성능을 활용하여 실시간 애플리케이션에 중요한 계산 및 모델 추론을 크게 가속화합니다.
• 대규모 언어 모델(LLM): Hugging Face와 같은 허브의 최첨단 LLM을 데이터베이스에 직접 통합하고 활용합니다.
• 엔드투엔드 RAG 파이프라인: 전체 검색 증강 생성(RAG) 워크플로를 위한 내장 SQL 함수 제공: 텍스트 분할을 위한 pgml.chunk, 벡터 임베딩 생성을 위한 pgml.embed, 결과 재순위를 위한 pgml.rank, 텍스트 생성을 위한 pgml.transform.
• 벡터 검색: 효율적이고 확장 가능한 고차원 벡터 유사성 검색을 위해 pgvector와 원활하게 통합됩니다.
• 다양한 ML 알고리즘: 전통적인 머신러닝 작업을 위해 47개 이상의 내장 분류 및 회귀 알고리즘(XGBoost 등)을 포함합니다.
• 고성능 및 확장성: HTTP 기반 모델 서빙에 비해 8-40배 빠른 추론을 제공하며 수평적 확장을 통해 초당 수백만 건의 트랜잭션을 지원하도록 설계되었습니다.
• 포괄적인 NLP 작업: 텍스트 분류, 요약, 번역, 질의응답 및 텍스트 생성을 포함한 광범위한 NLP 작업을 지원합니다.

PostgresML의 사용 사례

PostgresML은 차세대 AI 기반 애플리케이션을 구축하는 개발자 및 데이터 과학자에게 이상적입니다.

• 시맨틱 검색 및 추천 엔진: 벡터 임베딩을 사용하여 의미적으로 유사한 항목을 찾아 사용자 의도를 이해하는 강력한 검색 시스템을 구축합니다.
• AI 기반 챗봇 및 Q&A 시스템: 정교한 RAG 파이프라인을 구현하여 데이터베이스 내에 저장된 개인 지식 기반을 바탕으로 질문에 답할 수 있는 챗봇을 구축합니다.
• 실시간 사기 탐지: 데이터베이스에서 직접 분류 모델을 훈련하고 배포하여 실시간으로 거래 데이터를 분석하고 낮은 지연 시간으로 의심스러운 활동을 표시합니다.
• 데이터 분석 및 비즈니스 인텔리전스: 데이터베이스 내 NLP를 사용하여 Postgres에서 데이터를 이동하지 않고도 고객 리뷰를 요약하고, 지원 티켓을 분류하거나, 비정형 텍스트 데이터에서 통찰력을 추출합니다.
• 개인화된 콘텐츠 생성: LLM을 활용하여 데이터베이스에 저장된 사용자 데이터를 기반으로 개인화된 마케팅 카피, 제품 설명 또는 이메일 응답을 생성합니다.

PostgresML의 장점

PostgresML의 주요 장점은 아키텍처의 단순성과 효율성입니다.

• 지연 시간 감소: 모델과 데이터를 함께 배치하여 네트워크 오버헤드를 제거하고 쿼리 성능을 향상시킵니다.
• 향상된 보안 및 개인 정보 보호: 데이터가 데이터베이스의 안전한 경계 내에 유지되므로 규정 준수가 간소화되고 데이터 유출 위험이 줄어듭니다.
• 단순화된 MLOps 스택: 데이터 저장소, 모델 서빙 및 벡터 데이터베이스를 단일 시스템으로 통합하여 인프라 복잡성과 운영 비용을 줄입니다.
• 개발자 경험: 개발자가 익숙한 SQL을 사용하여 복잡한 AI 기능을 구축하고 배포할 수 있도록 하여 진입 장벽을 낮추고 개발 주기를 가속화합니다.
• 확장성: 견고하고 확장 가능한 PostgreSQL 기반 위에 구축되어 엔터프라이즈급 워크로드를 처리할 수 있습니다.

가격 및 플랜

PostgresML은 다양한 요구에 유연성을 제공하는 프리미엄(freemium) 모델로 운영됩니다.

• 오픈 소스 자체 호스팅: PostgresML 확장 프로그램은 오픈 소스(MIT 라이선스)이며 무료로 자체 호스팅할 수 있어 환경을 완전히 제어할 수 있습니다.
• PostgresML Cloud: 관리형 서버리스 클라우드 플랫폼을 사용할 수 있습니다. 여기에는 개발자가 무료 데이터베이스, GPU 액세스 및 사전 구성된 LLM으로 신속하게 시작할 수 있는 넉넉한 무료 등급이 포함됩니다. 더 많은 리소스, 전용 GPU 및 엔터프라이즈 수준 지원이 필요한 애플리케이션을 위한 유료 플랜도 제공됩니다.