Broadcom
Broadcom은 포괄적인 반도체 및 인프라 소프트웨어 솔루션 포트폴리오를 제공하는 글로벌 기술 리더입니다. 이 회사의 제품은 세계에서 가장 진보된 …
Broadcom은 포괄적인 반도체 및 인프라 소프트웨어 솔루션 포트폴리오를 제공하는 글로벌 기술 리더입니다. 이 회사의 제품은 세계에서 가장 진보된 AI 데이터 센터와 기업용 프라이빗 AI 클라우드를 구축, 확장 및 보호하는 데 필수적입니다.
인공지능 및 머신러닝에 대하여
AI 및 ML 도구는 맞춤형 머신러닝 모델을 구축, 훈련, 배포 및 관리하기 위해 설계된 기본 플랫폼 및 프레임워크입니다. AI 인프라의 핵심 구성 요소로서 이러한 도구는 데이터 처리 라이브러리부터 확장 가능한 컴퓨팅 리소스에 이르기까지 AI 프로젝트를 개념에서 프로덕션으로 전환하는 데 필요한 요소를 제공합니다. 이를 통해 개발자와 데이터 과학자는 기성 애플리케이션을 사용하는 대신 정교하고 맞춤화된 AI 솔루션을 만들 수 있습니다. 주요 가치는 전체 머신러닝 수명 주기를 가속화하고 모델 성능을 보장하며 확장성을 가능하게 하는 데 있습니다.
핵심 기능
- 모델 훈련 및 개발: 복잡한 신경망을 구축하고 훈련하기 위한 환경과 라이브러리(예: TensorFlow, PyTorch)를 제공합니다.
- MLOps (머신러닝 운영): 프로덕션 환경에서 모델의 배포, 모니터링, 관리 및 재훈련을 자동화합니다.
- 데이터 처리 및 레이블링: 모델 훈련을 위해 대규모 데이터 세트를 정리, 변환 및 주석 처리하는 도구를 제공합니다.
- 사전 구축된 모델 및 API: 이미지 인식이나 감성 분석과 같은 일반적인 작업을 위한 사전 훈련된 모델에 대한 액세스를 포함하며 미세 조정이 가능합니다.
- 확장 가능한 컴퓨팅 리소스: 대규모 모델 훈련에 필요한 강력한 컴퓨팅 인프라(GPU, TPU)에 대한 액세스를 관리합니다.
적용 시나리오
이러한 도구는 기술 회사, 연구 기관 및 기업 AI 팀에 필수적입니다. 예를 들어, 금융 서비스 회사는 ML 플랫폼을 사용하여 독점적인 사기 탐지 시스템을 구축할 수 있습니다. 마찬가지로, 헬스케어 스타트업은 이러한 도구를 활용하여 의료 영상 진단 모델을 개발할 수 있으며, 전자 상거래 대기업은 이를 사용하여 개인화된 추천 엔진을 만들고 관리할 수 있습니다.
선택 기준
AI 및 ML 도구를 선택할 때는 프로젝트의 범위를 고려하십시오. 팀의 전문 지식과의 호환성을 보장하기 위해 지원되는 프레임워크와 언어를 평가하십시오. 프로덕션 준비를 위해 플랫폼의 MLOps 기능을 평가하십시오. 또한 신속한 프로토타이핑을 위한 로우코드/노코드 인터페이스와 최대의 사용자 정의 및 제어를 위한 코드 우선 환경 간의 균형을 고려하십시오. 마지막으로, 컴퓨팅 사용량 및 기능 액세스를 기반으로 가격 모델을 분석하십시오.
인공지능 및 머신러닝응용 시나리오
맞춤형 사기 탐지 시스템 개발
핀테크 회사의 데이터 과학팀은 특정 거래 패턴에 맞는 실시간 사기 탐지 모델을 구축해야 합니다. AI 및 ML 플랫폼을 사용하여 테라바이트 규모의 과거 거래 데이터를 수집하고, 피처 엔지니어링을 수행하며, 그래디언트 부스팅이나 심층 신경망과 같은 다양한 알고리즘을 실험할 수 있습니다. 플랫폼의 관리형 훈련 환경을 통해 강력한 GPU에서 여러 모델을 병렬로 훈련하여 개발 시간을 크게 단축할 수 있습니다. 최상의 모델이 식별되면 플랫폼의 MLOps 기능을 사용하여 확장 가능한 API 엔드포인트로 배포한 다음, 결제 처리 시스템에 통합하여 밀리초 단위로 의심스러운 거래를 표시합니다.
연구를 위한 의료 영상 분석 자동화
한 의료 연구 기관이 MRI 스캔에서 질병의 초기 징후를 감지하는 프로젝트를 진행하고 있습니다. 연구원과 ML 엔지니어로 구성된 팀은 컴퓨터 비전에 특화된 AI 개발 플랫폼을 사용합니다. 그들은 크고 레이블이 지정된 스캔 데이터 세트를 업로드하고 플랫폼의 도구를 사용하여 사전 훈련된 컨볼루션 신경망(CNN) 모델을 미세 조정합니다. 이 플랫폼은 실험을 위한 Jupyter 노트북 환경과 훈련을 위한 강력한 컴퓨팅 인스턴스를 제공합니다. 높은 정확도를 달성한 후, 모델은 기관의 보안 인프라 내에 배포되어 연구자들이 새로운 스캔을 자동으로 처리하고 추가 검토를 위해 잠재적인 우려 영역을 식별하여 연구 워크플로우를 가속화할 수 있도록 합니다.
개인화된 상품 추천 엔진 배포
한 전자상거래 회사는 개인화된 상품 추천을 제공하여 사용자 참여와 매출을 높이고자 합니다. 그들의 ML 엔지니어링 팀은 추천 모델의 수명 주기를 관리하기 위해 MLOps 플랫폼을 사용합니다. 이 플랫폼은 사용자 상호 작용 데이터를 지속적으로 모델에 공급하여 재훈련하는 데이터 파이프라인을 자동화합니다. 또한 어떤 모델 버전이 더 나은 성능을 보이는지 확인하기 위한 A/B 테스트 도구도 제공합니다. 모델은 초당 수천 개의 요청을 처리할 수 있는 마이크로서비스로 배포됩니다. 플랫폼의 모니터링 기능은 모델 성능을 실시간으로 추적하여 데이터 드리프트나 성능 저하와 같은 문제가 발생하면 팀에 경고하여 추천이 관련성 있고 효과적으로 유지되도록 보장합니다.
맞춤형 자연어 처리(NLP) 모델 훈련
한 SaaS 회사가 고객 리뷰의 감성 분석을 위한 새로운 기능을 구축하고 있습니다. 일반적인 API를 사용하는 대신, 더 높은 정확도를 위해 산업별 데이터 세트에서 맞춤형 모델을 훈련하기로 결정했습니다. AI 플랫폼을 사용하여 개발자들은 Hugging Face Transformers와 같은 NLP 라이브러리에 액세스할 수 있는 훈련 환경을 쉽게 설정할 수 있습니다. 그들은 레이블이 지정된 리뷰 데이터 세트를 업로드하고, BERT와 같은 다양한 모델 아키텍처를 실험하며, 훈련 작업을 시작합니다. 플랫폼의 실험 추적 기능을 통해 각 훈련 실행에 대한 메트릭을 기록할 수 있어 결과를 쉽게 비교하고 제품에 통합할 최상의 성능 모델을 선택할 수 있습니다.
AI 연구 및 실험 가속화
한 대학 연구실이 기후 모델링을 위한 새로운 신경망 아키텍처를 탐색하고 있습니다. 이 과정에는 다양한 아이디어의 빈번한 프로토타이핑과 테스트가 포함됩니다. AI 및 ML 플랫폼은 연구원들이 코드, 데이터 세트 및 실험 결과를 공유할 수 있는 협업 환경을 제공합니다. 공유 온프레미스 리소스를 기다리지 않고 강력한 GPU 인스턴스를 신속하게 가동하여 새로운 아키텍처를 테스트할 수 있습니다. 플랫폼과 Git과 같은 버전 관리 시스템의 통합은 코드베이스 관리에 도움이 되며, 실험 추적은 모든 결과가 재현 가능하도록 보장하여 학술 출판에 매우 중요합니다. 이 설정은 반복 주기 시간을 몇 주에서 며칠로 크게 단축시킵니다.
엔드투엔드 ML 수명 주기 관리(MLOps)
한 기업 AI 팀은 고객 이탈 예측부터 공급망 최적화에 이르기까지 프로덕션 환경에 있는 수십 개의 모델을 책임지고 있습니다. 이 포트폴리오를 관리하는 것은 복잡합니다. 그들은 워크플로우를 표준화하기 위해 포괄적인 MLOps 플랫폼을 채택합니다. 이 플랫폼은 모든 모델을 버전 관리하고 추적하기 위한 중앙 모델 레지스트리를 제공합니다. 머신러닝을 위한 CI/CD 파이프라인을 자동화하여 새로운 모델 버전이 배포되기 전에 엄격하게 테스트되도록 보장합니다. 통합된 모니터링 대시보드는 운영 메트릭(예: 지연 시간)과 모델 성능(예: 정확도 및 드리프트)을 추적합니다. 모델 성능이 저하되면 자동 경고가 새로운 데이터로 재훈련 파이프라인을 트리거하여 지속적인 수동 개입 없이도 모델이 효과적이고 신뢰할 수 있도록 보장합니다.