top of page

Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

logo.png

Touchcast công bố cCDN nâng cao cho Azure LLM

Generatived

24/5/23 5:21

Touchcast đã công bố mạng phân phối nội dung nhận thức (cCDN) tiên phong được thiết kế để nâng cao khả năng phân phối và khả năng mở rộng của các mô hình ngôn ngữ lớn (LLM) trên Microsoft Azure. Mạng lưới toàn cầu này trên tất cả các trung tâm dữ liệu Azure bao gồm công nghệ bộ nhớ đệm nhận thức cải tiến của Touchcast và các siêu cụm chạy mô hình dịch vụ Azure OpenAI. Nỗ lực này nhằm mục đích tối ưu hóa hiệu quả chi phí và hiệu suất của các ứng dụng AI tổng hợp (GenAI) và đảm bảo sự phù hợp với các mục tiêu của doanh nghiệp.

Cốt lõi của nền tảng mới này là công nghệ CogCache độc ​​quyền của công ty. Công nghệ này cho phép lưu vào bộ nhớ đệm thông minh và phân phối nội dung do AI tạo ra. Cách tiếp cận này giảm đáng kể tải tính toán trên LLM, dẫn đến thời gian phản hồi nhanh hơn và trải nghiệm GenAI hợp lý hơn. cCDN nhằm mục đích đáp ứng nhu cầu ngày càng tăng về LLM, vốn đang bị thách thức do thiếu tài nguyên tính toán như GPU.

Thị trường AI tổng quát dự kiến ​​sẽ nhanh chóng tăng trưởng lên 1,3 nghìn tỷ USD trong thập kỷ tới và cCDN của Touchcast là một phản ứng chiến lược đối với các nút thắt tính toán của ngành. cCDN không chỉ giảm chi phí vận hành tới 50% mà còn tăng tốc thời gian phản hồi LLM lên tới 100 lần. Cơ sở hạ tầng này sẽ cung cấp các dịch vụ hỗ trợ AI cho hàng tỷ người dùng đồng thời ưu tiên tiết kiệm năng lượng và tiết kiệm chi phí.

Sự hợp tác giữa Touchcast và Microsoft là minh chứng cho tầm nhìn chung của chúng tôi nhằm giúp GenAI dễ tiếp cận và bền vững hơn. cCDN sẵn sàng trở thành một lực lượng biến đổi trong không gian GenAI, tương tự như vai trò của CDN trong những ngày đầu của Internet, bằng cách tạo điều kiện áp dụng rộng rãi các công nghệ AI tổng hợp.

Chia sẻ bài viết này:

Tin tức mới nhất
Thông báo mở rộng AI của Dell Technologies Communications

Thông báo mở rộng AI của Dell Technologies Communications

24/11/15 4:30

Dell Technologies (Round Rock, Texas) thông báo đã mở rộng chương trình "Dell AI for Telecom" dành cho các công ty viễn thông.

Hỗ trợ triển khai Generative AI Lancers bắt đầu

Hỗ trợ triển khai Generative AI Lancers bắt đầu

24/11/15 4:30

Lancers (Shibuya-ku, Tokyo) đã ra mắt "Giải pháp Generative AI Lancers" để hỗ trợ các công ty giới thiệu Generative AI .

Hỗ trợ Trung tâm cuộc gọi AI của Công nghệ hệ thống Nhật Bản

Hỗ trợ Trung tâm cuộc gọi AI của Công nghệ hệ thống Nhật Bản

24/11/15 4:30

Japan System Technologies (Osaka) đã tích hợp "BIZTEL" của Link và AI Messenger Voicebot của AI Shift vào hoạt động nội bộ của hệ thống hỗ trợ kinh doanh dành cho các công ty bảo hiểm "iBss".

Hỗ trợ chính quyền địa phương AI của thành phố Imakuraie Goto

Hỗ trợ chính quyền địa phương AI của thành phố Imakuraie Goto

24/11/15 4:30

Imacrie (Minato-ku, Tokyo) đã bắt đầu cung cấp "gói Generative AI exaBase cho hoạt động của chính quyền địa phương" cho Thành phố Goto.

Copyright © 2024 Generatived - All right Reserved.

Chia sẻ bài viết này:

Chia sẻ bài viết này:

Generatived

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

  • Facebook
  • X

Hãy theo dõi chúng tôi

Ngôn ngữ

Tin tức mới nhất
Thông báo mở rộng AI của Dell Technologies Communications

Thông báo mở rộng AI của Dell Technologies Communications

24/11/15 4:30

Dell Technologies (Round Rock, Texas) thông báo đã mở rộng chương trình "Dell AI for Telecom" dành cho các công ty viễn thông.

Hỗ trợ triển khai Generative AI Lancers bắt đầu

Hỗ trợ triển khai Generative AI Lancers bắt đầu

24/11/15 4:30

Lancers (Shibuya-ku, Tokyo) đã ra mắt "Giải pháp Generative AI Lancers" để hỗ trợ các công ty giới thiệu Generative AI .

Hỗ trợ Trung tâm cuộc gọi AI của Công nghệ hệ thống Nhật Bản

Hỗ trợ Trung tâm cuộc gọi AI của Công nghệ hệ thống Nhật Bản

24/11/15 4:30

Japan System Technologies (Osaka) đã tích hợp "BIZTEL" của Link và AI Messenger Voicebot của AI Shift vào hoạt động nội bộ của hệ thống hỗ trợ kinh doanh dành cho các công ty bảo hiểm "iBss".

Hỗ trợ chính quyền địa phương AI của thành phố Imakuraie Goto

Hỗ trợ chính quyền địa phương AI của thành phố Imakuraie Goto

24/11/15 4:30

Imacrie (Minato-ku, Tokyo) đã bắt đầu cung cấp "gói Generative AI exaBase cho hoạt động của chính quyền địa phương" cho Thành phố Goto.

bottom of page