Gigabyte는 가정 사용자에게 고급 AI 모델 훈련 기능을 제공하도록 설계된 자체 소프트웨어 유틸리티인 AI TOP의 출시를 발표했습니다. 올해 Computex 에서 처음 등장한 AI TOP을 통해 사용자는 권장 하드웨어와 함께 사용할 경우 최대 2,360억 개의 매개변수 용량을 갖춘 AI 모델을 로컬에서 훈련하고 미세 조정할 수 있습니다.
AI TOP은 본질적으로 로컬 AI 모델 미세 조정을 위한 포괄적인 솔루션으로, 민감한 데이터에 대한 개인 정보 보호 및 보안을 강화하는 동시에 최대의 유연성과 실시간 조정을 제공합니다. Gigabyte에 따르면 이 유틸리티는 사용자 친화적인 인터페이스와 함께 제공되며 초보자와 숙련된 사용자가 정보와 설정을 쉽게 탐색하고 이해할 수 있도록 설계되었습니다. 또한 이 유틸리티에는 모든 유형의 AI 모델 운영자를 위한 다양한 AI TOP 솔루션, 설정 지침 및 기술 지원을 제공하는 AI TOP Tutor가 포함되어 있습니다.
현재 이 소프트웨어는 Baichuan 2, Distill-GPT2, GLM4, Llama 2 및 Llama 3과 같은 인기 있는 옵션을 포함하여 Hugging Face의 70개 이상의 오픈 소스 LLM 모델을 지원합니다. Hugging Face가 770,000개 이상의 모델을 호스팅함에도 불구하고 AI TOP의 선택은 제한되어 있습니다. 데스크탑 PC 하드웨어 고유의 메모리 용량 제약으로 인해 발생합니다.
무료로 사용할 수 있는 소프트웨어는 마더보드, SSD, 그래픽 카드, 전원 공급 장치를 포함한 Gigabyte 하드웨어에 최적화되어 있습니다. 지원되는 GPU에는 Gigabyte의 Nvidia GeForce RTX 40 시리즈 , AMD Radeon RX 7900 시리즈, Radeon Pro W7900 및 W7800 시리즈가 대부분 포함됩니다. 최적의 성능을 위해 Gigabyte는 전용 웹사이트 에 전원 공급 장치, 마더보드, SSD 2개, 그래픽 카드 3개를 갖춘 AI TOP 브랜드 하드웨어를 나열했습니다.
AI 모델을 로컬에서 훈련하면 시스템에 데이터를 유지하여 개인 정보 보호 및 보안이 향상되고, 클라우드 서비스 요금을 방지하여 비용 효율성을 높이고, 지연 시간을 줄여 처리 속도를 높일 수 있습니다. 교육 환경에 대한 사용자 정의 및 제어 기능을 제공하고 오프라인 기능을 허용하며 확장 가능한 하드웨어 리소스 관리를 가능하게 합니다.
사용자는 즉각적인 피드백과 반복을 통해 데이터 전송 제한을 없애고 기존 하드웨어를 최대한 활용하는 이점을 누릴 수 있습니다. 이 접근 방식은 실습 학습과 실험을 촉진하므로 안전하고 유연하며 효율적인 AI 교육 솔루션을 찾는 초보자와 숙련된 사용자에게 이상적입니다.
Gigabyte 공식 웹 페이지 에서 AI TOP 유틸리티를 무료로 다운로드할 수 있습니다. 모든 사용자가 사용할 수 있지만 Linux 시스템에서만 지원됩니다.