Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NeuReality đã công bố kết quả thú vị với Thiết bị suy luận AI NR1-S™, có thể giảm đáng kể chi phí và mức tiêu thụ năng lượng trong các trung tâm dữ liệu AI. Sự đổi mới này xuất hiện trong bối cảnh ngày càng có nhiều lo ngại về tính bền vững và nhu cầu tài chính trong việc sử dụng năng lượng của AI. NR1-S được thiết kế để hoạt động kết hợp với các bộ tăng tốc AI hiện có, chẳng hạn như GPU, nhằm cải thiện hiệu suất thay vì cạnh tranh với chúng. Thử nghiệm của NeuReality cho thấy khi kết hợp với bộ tăng tốc Qualcomm® Cloud AI 100 Ultra và Pro, NR1-S vượt trội hơn các máy chủ lấy CPU làm trung tâm truyền thống, giúp tiết kiệm chi phí và tiết kiệm năng lượng đáng kể. .

Bài đăng trên blog công nghệ gần đây của công ty nêu bật khả năng của NR1-S trong việc tiết kiệm tới 90% chi phí đối với nhiều loại dữ liệu AI, điều này rất quan trọng đối với các ứng dụng AI tổng hợp. Ngoài ra, thiết bị này còn tiết kiệm năng lượng hơn tới 15 lần so với các hệ thống tập trung vào CPU, giúp giảm đáng kể chi phí vận hành. NR1-S cũng đảm bảo tận dụng tối đa các bộ tăng tốc AI, tránh các vấn đề về hiệu suất thường gặp với các hệ thống gắn với CPU.

Về mặt thực tế, NR1-S của NeuReality đã chứng tỏ hiệu quả sử dụng năng lượng và chi phí tuyệt vời trong các ứng dụng AI trong thế giới thực. Ví dụ: trong thử nghiệm nhận dạng giọng nói tự động (ASR), chi phí xử lý 1 triệu giây âm thanh đã giảm từ 43 xu xuống chỉ còn 5 xu. Mức tiêu thụ năng lượng ASR cũng đã được cải thiện, cho phép NR1-S xử lý 7 giây âm thanh trên mỗi watt. Con số này gấp 10 lần so với các hệ thống truyền thống. Điều quan trọng là NR1-S duy trì hiệu suất ổn định bất kể số lượng bộ tăng tốc AI được sử dụng, đảm bảo cơ sở hạ tầng AI hiệu quả và có thể mở rộng.

Các giải pháp của NeuReality sẽ giúp việc áp dụng AI trở nên khả thi hơn trong nhiều ngành, bao gồm dịch vụ tài chính, chăm sóc sức khỏe và chính phủ mà không gây ra gánh nặng tài chính và môi trường. Ban lãnh đạo công ty nhấn mạnh tầm quan trọng của việc cân bằng giữa đổi mới và tính bền vững, nhằm hỗ trợ sự phát triển liên tục của AI mà không phải hy sinh các mục tiêu về chi phí hoặc năng lượng. Với NR1-S, NeuReality đang giải quyết thách thức quan trọng trong việc tạo ra suy luận AI bền vững cả về mặt kinh tế và môi trường.