Khi tăng trưởng của AI phải đối mặt với những thách thức về năng lượng, công ty đang tập trung vào hiệu quả năng lượng — với khả năng chạy mô hình 14 tỷ tham số trên một thẻ AI và chip chỉ với 45W
ĐÀI BẮC, ngày 16 tháng 5 năm 2025 /PRNewswire/ – Khi nhu cầu năng lượng từ các trung tâm dữ liệu AI được thiết lập để tăng trên toàn thế giới, Neuchips, nhà cung cấp Mạch tích hợp dành riêng cho ứng dụng (ASIC) trí tuệ nhân tạo (AI) hàng đầu, đang đẩy mạnh giải quyết thách thức với trọng tâm là các giải pháp AI tiết kiệm năng lượng tại COMPUTEX 2025. Được biết đến về tính bảo mật và quyền riêng tư, công ty sẽ giới thiệu cách các giải pháp AI của mình tiết kiệm năng lượng trong khi chạy các mô hình AI lớn.
Tham gia cùng Neuchips tại gian hàng I0601a tại Trung tâm Triển lãm Nangang Đài Bắc, hội trường 1 cho COMPUTEX 2025 (ngày 20-23 tháng 5 năm 2025).
Những nỗ lực của công ty được đưa ra ngay sau khi Cơ quan Năng lượng Quốc tế (IEA) công bố báo cáo Năng lượng và AI vào tháng Tư. Các phát hiện dự báo rằng nhu cầu điện toàn cầu từ các trung tâm dữ liệu sẽ tăng hơn gấp đôi vào năm 2030, lên khoảng 945 terawatt giờ (TWh) – chỉ cao hơn một chút so với mức tiêu thụ điện năng của Nhật Bản hiện nay. Cụ thể đối với các trung tâm dữ liệu có phục vụ AI, nhu cầu điện dự kiến sẽ tăng hơn bốn lần vào năm 2030.
“Bị kẹt giữa những thách thức về năng lượng của thế giới ngày nay và tiềm năng của AI, các giải pháp AI tiết kiệm năng lượng không còn là tùy chọn – chúng là một tiêu chuẩn”, Ken Lau, Giám đốc điều hành của Neuchips cho biết. “Tại Neuchips, chúng tôi không ngừng hướng đến mục tiêu tiết kiệm năng lượng cao hơn và hiện tại các thẻ tăng tốc AI dòng Viper của chúng tôi có thể chạy mô hình 14 tỷ tham số chỉ với 45W, tương đương với một bóng đèn tiêu chuẩn. Đổi mới hiện nay phải tập trung vào hiệu suất và hiệu quả”.
Hợp tác để đổi mới tiết kiệm năng lượng
Neuchips dẫn đầu về các giải pháp phần cứng AI tiết kiệm năng lượng, mang lại khả năng bảo mật và quyền riêng tư tối đa bằng cách vận hành LLM ngoại tuyến, trao quyền cho các doanh nghiệp trong nhiều ngành khác nhau khai thác AI trong khi vẫn giữ được dữ liệu nhạy cảm. Sản phẩm của công ty có dòng chip N3000 và thẻ tăng tốc Viper PCIe, cả hai đều hỗ trợ đầy đủ cả CPU Intel® và AMD và tương thích với Ubuntu và Windows. Các sản phẩm này cũng hỗ trợ nhiều loại LLM, bao gồm Mistral Small 3 (24B), Llama 3.3 (70B), các mô hình chưng cất DeepSeek, Gemma 3 (4B) và hơn thế nữa.
Tại COMPUTEX 2025, Neuchips sẽ giới thiệu một số thỏa thuận hợp tác thông qua demo tại chỗ:
- Bước đột phá vào điện toán AI dựa trên đám mây với thỏa thuận hợp tác với NCHC mới: Công ty đã hợp tác với Trung tâm Quốc gia về Điện toán hiệu suất cao (NCHC) của Đài Loan, thuộc Viện Nghiên cứu ứng dụng Quốc gia (NIAR), để mang đến cho khách hàng sử dụng điện toán đám mây các giải pháp tiết kiệm năng lượng. Bằng cách kết hợp các sản phẩm tăng tốc AI của Neuchips với hạ tầng của NCHC, sự hợp tác này sẽ gúp giảm chi phí dịch vụ đám mây đồng thời đảm bảo tính bảo mật và quyền riêng tư của dữ liệu với kiến trúc lai NCHC.
- Hợp tác với MAPLE LEAF INFORMATION AND TECHNOLOGY và Vecow: Sự hợp tác này đã tạo ra các hệ thống nhỏ gọn có thể chạy các ứng dụng AI tạo sinh phức tạp mà không yêu cầu cấu hình năng lượng bổ sung.
- Giải pháp kết hợp với Hệ thống ShareGuru SQLPilot của GSH: Bản demo này sẽ giới thiệu công nghệ Multi-Agent của GSH với NL2SQL Agentic AI và Table-Augmented Generation (TAG) được áp dụng cho hệ thống phân tích cuộc họp AI tại chỗ có độ chính xác cao và giải pháp dịch vụ khách hàng thông minh. Bằng cách đơn giản hóa các truy vấn LLM vào các bộ dữ liệu phức tạp, các giải pháp giúp nâng cao độ chính xác, trải nghiệm người dùng, hiệu suất và thông tin phân tích chuyên sâu.
- Hợp lực với nền tảng LLM myPDA: Cũng được ghép nối với phần cứng của Neuchips, nền tảng myPDA là một nền tảng ứng dụng GenAI tích hợp đám mây-biên được thiết kế cho LLM tự chủ và tương thích với AI tác nhân.
Giới thiệu về Neuchips
Neuchips chuyên phát triển các chip tăng tốc AI tiết kiệm năng lượng, cung cấp các giải pháp suy luận đổi mới cho cả điện toán biên và trung tâm dữ liệu. Thông qua hợp tác chiến lược với các đối tác hệ sinh thái, Neuchips đang thúc đẩy quá trình dân chủ hóa và tiến bộ bền vững của công nghệ AI trong các ngành.
Để tìm hiểu thêm, vui lòng truy cập: http://www.neuchips.ai/
SOURCE Neuchips Inc.
