top of page
Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
logo.png

Cerebras Mencapai Kecepatan Inferensi AI yang Terobosan

Generatived

25/1/31 5:00

Cerebras Systems mengumumkan peningkatan signifikan dalam kinerja AI, mencapai lebih dari 1.500 token per detik pada inferensi DeepSeek-R1-Distill-Llama-70B. Kecepatannya dilaporkan 57 kali lebih cepat daripada solusi berbasis GPU yang ada, sehingga mempercepat pemrosesan tugas AI yang kompleks secara signifikan. Hagay Lupesko, SVP AI Cloud di perusahaan tersebut, menyoroti transformasi proses inferensi yang panjang menjadi respons yang hampir instan, dengan mengatakan bahwa hal ini dapat mengubah cara pengembang dan bisnis memanfaatkan model AI tingkat lanjut.

Didukung oleh Cerebras Wafer Scale Engine, platform perusahaan tersebut telah mengalami peningkatan dramatis dalam kinerja di dunia nyata. Misalnya, perintah pengodean standar yang memerlukan waktu 22 detik pada platform lain dapat diselesaikan hanya dalam waktu 1,5 detik pada Cerebras, yang menunjukkan peningkatan waktu respons sebesar 15 kali lipat. Peningkatan ini diharapkan dapat memfasilitasi penerapan praktis model inferensi tingkat lanjut yang biasanya memerlukan sumber daya komputasi yang signifikan.

Cerebras telah mengintegrasikan kemampuan inferensi tingkat lanjut dari model Mixture of Experts (MoE) 671B parameter milik DeepSeek ke dalam arsitektur Llama yang dikembangkan oleh Meta. Ukuran parameter 70B yang efisien dari model tersebut masih mengungguli model yang lebih besar dalam tugas matematika dan pengodean yang rumit. Lupesko juga menyoroti komitmen perusahaan terhadap keamanan dan privasi, dengan mencatat bahwa semua permintaan inferensi diproses dalam pusat data yang berbasis di AS dan memiliki kebijakan penyimpanan data nol yang ketat, yang memastikan data tetap berada di AS dan berada di bawah kepemilikan tunggal pelanggan.

Model DeepSeek-R1-Distill-Llama-70B saat ini tersedia melalui Cerebras Inference, dengan akses API yang diberikan kepada pelanggan terpilih melalui program pratinjau pengembang. Pihak yang berminat untuk memanfaatkan kemampuan inferensi instan ini untuk aplikasi mereka dapat mengunjungi situs web Cerebras untuk informasi lebih lanjut. Cerebras Systems terus mendukung berbagai klien, termasuk perusahaan terkemuka, lembaga penelitian, dan lembaga pemerintah, dalam pengembangan model dan aplikasi AI yang inovatif.

Bagikan artikel ini:

Tin tức mới nhất
Nishika Digital Transformation Pameran Umum EXPO Kebangkitan AI

Nishika Digital Transformation Pameran Umum EXPO Kebangkitan AI

25/2/27 4:30

Nishika akan memamerkan perangkat lunak transkripsi suara AI on-premise "SecureMemo" di Digital Transformation General EXPO 2025 Spring Tokyo.

Simposium Pendidikan Matematika AI Universitas Okayama diadakan

Simposium Pendidikan Matematika AI Universitas Okayama diadakan

25/2/27 4:30

Universitas Okayama (Kita-ku, Kota Okayama) akan menyelenggarakan Simposium Pendidikan AI dan Ilmu Data Matematika di Co-education and Co-creation Commons di Kampus Tsushima pada tanggal 13 Maret 2025.

Mengungkap rahasia di balik kesuksesan NVIDIA

Mengungkap rahasia di balik kesuksesan NVIDIA

25/2/27 4:30

"The Nvidia Way," sebuah buku non-fiksi yang mengeksplorasi rahasia kesuksesan Nvidia (California), akan dirilis pada tanggal 26 Februari.

Survei kesadaran pemasar Generative AI Keymake Lab

Survei kesadaran pemasar Generative AI Keymake Lab

25/2/27 4:30

Keyword Marketing (Chuo-ku, Tokyo) melakukan "Survei tentang Kesadaran Pemasar terhadap Generative AI" yang menargetkan 301 manajer pemasaran.

Copyright © 2024 Generatived - All right Reserved.

Bagikan artikel ini:

Bagikan artikel ini:

Generatived

Hãy theo dõi chúng tôi

  • Facebook
  • X

Bahasa

Generatived là dịch vụ cung cấp thông tin và xu hướng chuyên về Generative AI. Chúng tôi sẽ cố gắng hết sức để cung cấp thông tin về thế giới đang thay đổi nhanh chóng.

Generatived AI Logo

Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.

  • Facebook
  • X

Ikuti kami

Bahasa

Berita terkini
Nishika Digital Transformation Pameran Umum EXPO Kebangkitan AI

Nishika Digital Transformation Pameran Umum EXPO Kebangkitan AI

25/2/27 4:30

Nishika akan memamerkan perangkat lunak transkripsi suara AI on-premise "SecureMemo" di Digital Transformation General EXPO 2025 Spring Tokyo.

Simposium Pendidikan Matematika AI Universitas Okayama diadakan

Simposium Pendidikan Matematika AI Universitas Okayama diadakan

25/2/27 4:30

Universitas Okayama (Kita-ku, Kota Okayama) akan menyelenggarakan Simposium Pendidikan AI dan Ilmu Data Matematika di Co-education and Co-creation Commons di Kampus Tsushima pada tanggal 13 Maret 2025.

Mengungkap rahasia di balik kesuksesan NVIDIA

Mengungkap rahasia di balik kesuksesan NVIDIA

25/2/27 4:30

"The Nvidia Way," sebuah buku non-fiksi yang mengeksplorasi rahasia kesuksesan Nvidia (California), akan dirilis pada tanggal 26 Februari.

Survei kesadaran pemasar Generative AI Keymake Lab

Survei kesadaran pemasar Generative AI Keymake Lab

25/2/27 4:30

Keyword Marketing (Chuo-ku, Tokyo) melakukan "Survei tentang Kesadaran Pemasar terhadap Generative AI" yang menargetkan 301 manajer pemasaran.

bottom of page