Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Touchcast đã công bố mạng phân phối nội dung nhận thức (cCDN) tiên phong được thiết kế để nâng cao khả năng phân phối và khả năng mở rộng của các mô hình ngôn ngữ lớn (LLM) trên Microsoft Azure. Mạng lưới toàn cầu này trên tất cả các trung tâm dữ liệu Azure bao gồm công nghệ bộ nhớ đệm nhận thức cải tiến của Touchcast và các siêu cụm chạy mô hình dịch vụ Azure OpenAI. Nỗ lực này nhằm mục đích tối ưu hóa hiệu quả chi phí và hiệu suất của các ứng dụng AI tổng hợp (GenAI) và đảm bảo sự phù hợp với các mục tiêu của doanh nghiệp.

Cốt lõi của nền tảng mới này là công nghệ CogCache độc ​​quyền của công ty. Công nghệ này cho phép lưu vào bộ nhớ đệm thông minh và phân phối nội dung do AI tạo ra. Cách tiếp cận này giảm đáng kể tải tính toán trên LLM, dẫn đến thời gian phản hồi nhanh hơn và trải nghiệm GenAI hợp lý hơn. cCDN nhằm mục đích đáp ứng nhu cầu ngày càng tăng về LLM, vốn đang bị thách thức do thiếu tài nguyên tính toán như GPU.

Thị trường AI tổng quát dự kiến ​​sẽ nhanh chóng tăng trưởng lên 1,3 nghìn tỷ USD trong thập kỷ tới và cCDN của Touchcast là một phản ứng chiến lược đối với các nút thắt tính toán của ngành. cCDN không chỉ giảm chi phí vận hành tới 50% mà còn tăng tốc thời gian phản hồi LLM lên tới 100 lần. Cơ sở hạ tầng này sẽ cung cấp các dịch vụ hỗ trợ AI cho hàng tỷ người dùng đồng thời ưu tiên tiết kiệm năng lượng và tiết kiệm chi phí.

Sự hợp tác giữa Touchcast và Microsoft là minh chứng cho tầm nhìn chung của chúng tôi nhằm giúp GenAI dễ tiếp cận và bền vững hơn. cCDN sẵn sàng trở thành một lực lượng biến đổi trong không gian GenAI, tương tự như vai trò của CDN trong những ngày đầu của Internet, bằng cách tạo điều kiện áp dụng rộng rãi các công nghệ AI tổng hợp.