Startup Hàn Quốc Rebellions thách thức Nvidia trong cuộc đua chip AI

Nằm trong một tòa văn phòng phía nam Seoul, hàng chục con chip được đặt cạnh nhau trên các kệ. Mỗi con chip đi kèm một chiếc quạt máy bên cạnh để làm mát khi chúng hoạt động. Những chip này được gọi là ATOM, là bộ xử lý thần kinh (NPU) mới nhất được phát triển bởi startup Hàn Quốc Rebellions, nhắm đến các mô hình AI với thông số lên tới 7 tỷ. Hiệu suất của chúng đang được kiểm tra và so sánh với một vài GPU A100 của Nvidia.

Được coi là thế hệ tiếp theo của chip AI, NPU là các bộ xử lý được tối ưu hóa cho các phép tính ma trận đồng thời, có nghĩa là chúng tiến thêm một bước trong học sâu so với các bộ xử lý trung tâm đa năng (CPU) và bộ xử lý đồ họa (GPU).

Rebellions, một startup về chip AI không sở hữu nhà máy bán dẫn (fabless), được đồng sáng lập bởi năm kỹ sư Hàn Quốc vào năm 2020 để tập trung vào suy luận AI (AI inference) thay vì đào tạo AI, được xem là niềm hy vọng lớn nhất đối đầu hoặc cạnh tranh với Nvidia trong lĩnh vực này.

Park Sung-hyun - Giám đốc điều hành và đồng sáng lập của Rebellions cho biết ATOM sẽ được sản xuất hàng loạt với công nghệ 5nm của Samsung vào nửa đầu năm 2024.

Đây sẽ là một cột mốc quan trọng đối với ngành công nghiệp chip Hàn Quốc, vì ATOM sẽ là con chip được phát triển trong nước đầu tiên hỗ trợ các mô hình ngôn ngữ ở cấp độ sản xuất hàng loạt.

“Chúng tôi tiết kiệm năng lượng hơn nhiều so với GPU của Nvidia trong suy luận AI”, Park nói, đề cập đến quá trình chạy dữ liệu trực tiếp thông qua một mô hình AI đã được đào tạo để đưa ra dự đoán hoặc giải quyết một tác vụ. Theo Park, ATOM tiết kiệm năng lượng gấp 5 lần so với A100 của Nvidia, chỉ với một nửa độ trễ - tiêu chuẩn đo tốc độ đối với chip - so với Nvidia A2 trong thử nghiệm benchmark suy luận mô hình ngôn ngữ.

Nói một cách dễ hiểu hơn, các chip ATOM chỉ cần quạt để làm mát, trong khi các chip Nvidia cần hoạt động trong môi trường có máy lạnh - có nghĩa là tiêu thụ điện năng nhiều hơn và chi phí vận hành cao hơn.

Sự vươn lên của Rebellions diễn ra khi ngành công nghiệp bán dẫn toàn cầu đang trong cuộc chiến khốc liệt về chip AI, được thúc đẩy bởi sự phổ biến rộng rãi của ChatGPT từ openAI và nhu cầu ngày càng tăng đối với GPU của Nvidia nhằm cung cấp sức mạnh tính toán khổng lồ cần thiết cho các mô hình ngôn ngữ lớn (LLM).

Hàn Quốc vốn nổi tiếng với vị thế trong lĩnh vực sản xuất chip nhớ, đang có tiềm năng trở thành trụ cột quan trọng trong thị trường đang bùng nổ này. Chẳng hạn, Samsung Electronics đang đối đầu với TSMC để thách thức sự thống trị của hãng này trong sản xuất chip AI, trong khi chính phủ Hàn Quốc đặt mục tiêu tăng thị phần chip AI phát triển trong nước tại các trung tâm dữ liệu nội địa lên 80% vào năm 2030.

Rebellions đã nhận được sự hậu thuẫn từ một số tên tuổi lớn nhất trong ngành công nghệ Hàn Quốc - bao gồm Samsung, KT và Kakao. Vào tháng 1, Rebellions đã hoàn thành vòng gọi vốn mới nhất với tổng trị giá 124 triệu USD, dẫn đầu là KT - công ty đã đầu tư hơn 50 triệu USD vào startup này cho đến nay. Điều đó đưa định giá của Rebellions lên 650 triệu USD, trở thành startup chip được tài trợ nhiều nhất tại Hàn Quốc.

Park cho biết việc sản xuất hàng loạt sẽ là một cú hích lớn cho doanh thu của công ty, sau nhiều năm trong giai đoạn nguyên mẫu. KT - nhà mạng viễn thông lớn thứ hai và công ty trung tâm dữ liệu lớn nhất Hàn Quốc - sẽ trở thành khách hàng đầu tiên của Rebellions sau khi họ bắt đầu sản xuất hàng loạt ATOM. Ông tin rằng các công ty viễn thông là khách hàng lý tưởng nhất cho chip AI.

“Tương lai của ngành AI sẽ là một cuộc chơi về cơ sở hạ tầng”, ông nói. “Các công ty viễn thông sẵn sàng đầu tư số tiền lớn để xây dựng các trung tâm dữ liệu". Park cũng hy vọng quan hệ đối tác với công ty trung tâm dữ liệu lớn nhất Hàn Quốc sẽ đóng vai trò như một tài liệu tham khảo cho việc mở rộng toàn cầu của Rebellions, đặc biệt là ở thị trường Hoa Kỳ. Công ty đã và đang đàm phán với một số siêu quy mô lớn của Hoa Kỳ như IBM.

Park tốt nghiệp Viện Công nghệ Massachusetts (MIT) năm 2014 với bằng tiến sĩ về kỹ thuật điện và khoa học máy tính, đã dành sáu năm phát triển chip ở Mỹ, làm việc cho các công ty bao gồm bộ phận nghiên cứu tại Mỹ của Samsung, Intel và SpaceX.

Bất chấp kinh nghiệm trong ngành công nghiệp chip Hoa Kỳ, Park nhận thấy cơ hội khởi nghiệp công ty bán dẫn ở Hàn Quốc cao hơn. “Trong hệ sinh thái phần cứng bán dẫn, châu Á sẽ là khu vực bùng nổ tiếp theo”, ông nói. “Hàn Quốc và Đài Loan đang dần bắt kịp thế giới”.

Giang Nguyễn (Theo The Korea Times)