top of page
Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
logo.png

Google Cloud Umumkan Trillium TPU, VM A3 Ultra

Generatived

25/1/17 4:30

Akhir tahun 2024 menyaksikan pengumuman serangkaian kemajuan dalam infrastruktur AI, termasuk peluncuran Trillium, TPU generasi keenam, dan A3 Ultra VM dengan GPU NVIDIA H200. Perkembangan ini juga memperkenalkan dukungan untuk kluster node berskala di Google Kubernetes Engine dan peluncuran Parallelstore, sistem file terdistribusi yang dirancang untuk komputasi performa tinggi dan beban kerja AI. Alat-alat ini diharapkan dapat meningkatkan kemampuan pengembang untuk menciptakan solusi AI.

Google juga memperkenalkan komputer hiper AI, sistem komprehensif yang menggabungkan perangkat keras yang dioptimalkan, perangkat lunak terbuka, dan model konsumsi yang fleksibel. Pendekatan ini memungkinkan pengembang untuk memilih berbagai komponen infrastruktur agar selaras dengan persyaratan beban kerja spesifik mereka, menyediakan platform serbaguna untuk mengembangkan solusi AI di Google Cloud.

Pembaruan mencakup ketersediaan umum VM A3 Ultra dan Hypercompute Cluster untuk mendukung beban kerja terdistribusi. Didukung oleh GPU NVIDIA H200, VM A3 Ultra menyediakan bandwidth dan memori jaringan GPU-ke-GPU yang lebih besar, sementara Hypercompute Cluster menyediakan platform layanan komputasi super yang menyederhanakan penerapan dan pengelolaan sejumlah besar akselerator.

LG Research telah mulai memanfaatkan layanan baru ini, dan Jiyeon Jung, insinyur infrastruktur AI senior di perusahaan tersebut, memuji peningkatan kinerja dan skalabilitas yang dihadirkan oleh VM A3 Ultra dan kluster hypercomputing untuk proyek AI mereka. Ia juga menyebutkan kemudahan dalam menyiapkan dan menjalankan kluster sebagai peningkatan yang signifikan.

Selain itu, Trillium TPU diperkenalkan untuk meningkatkan throughput inferensi bagi agen AI, dengan peningkatan 3x lipat dari generasi sebelumnya. Google Cloud menawarkan berbagai cara untuk memanfaatkan TPU ini, termasuk Vertex AI dan alat lain yang dirancang khusus untuk Cloud TPU. Dukungan eksperimental untuk vLLM pada TPU dengan PyTorch/XLA 2.5 juga diumumkan, yang memungkinkan pengguna untuk mengeksplorasi manfaat performa Cloud TPU dalam pengaturan yang ada.

Bagikan artikel ini:

Berita terkini
Seminar movFree untuk mengatasi kekurangan tenaga kerja

Seminar movFree untuk mengatasi kekurangan tenaga kerja

25/1/17 4:30

mov (Shibuya-ku, Tokyo) akan berbicara di seminar offline pada tanggal 31 Januari.

FutureIn mengumumkan layanan AI baru

FutureIn mengumumkan layanan AI baru

25/1/17 4:30

Future-in (Nagoya, Prefektur Aichi) merilis layanan Generative AI baru yang disebut "KeepMIRAI" pada 8 Januari 2025.

Pembaruan AI estoma meningkatkan efisiensi bisnis

Pembaruan AI estoma meningkatkan efisiensi bisnis

25/1/17 4:30

Estoma (Chuo-ku, Tokyo) telah memperbarui fungsi AI-nya agar lebih efisien dalam menangani tanggapan terhadap lembaga pemeringkat seperti CDP, DJSI, dan FTSE.

Konsultasi Gratis Cloud AI Pelanggan Dimulai

Konsultasi Gratis Cloud AI Pelanggan Dimulai

25/1/17 4:30

Customer Cloud (Shinjuku-ku, Tokyo) telah mulai menawarkan konsultasi gratis tentang transformasi model bisnis menggunakan AI "Gemini" dan ".Ai" yang tertanam di Google Workspace.

Copyright © 2024 Generatived - All right Reserved.

Bagikan artikel ini:

Bagikan artikel ini:

Generatived

Ikuti kami

  • Facebook
  • X

Bahasa

Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.

Generatived AI Logo

Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.

  • Facebook
  • X

Ikuti kami

Bahasa

Berita terkini
Seminar movFree untuk mengatasi kekurangan tenaga kerja

Seminar movFree untuk mengatasi kekurangan tenaga kerja

25/1/17 4:30

mov (Shibuya-ku, Tokyo) akan berbicara di seminar offline pada tanggal 31 Januari.

FutureIn mengumumkan layanan AI baru

FutureIn mengumumkan layanan AI baru

25/1/17 4:30

Future-in (Nagoya, Prefektur Aichi) merilis layanan Generative AI baru yang disebut "KeepMIRAI" pada 8 Januari 2025.

Pembaruan AI estoma meningkatkan efisiensi bisnis

Pembaruan AI estoma meningkatkan efisiensi bisnis

25/1/17 4:30

Estoma (Chuo-ku, Tokyo) telah memperbarui fungsi AI-nya agar lebih efisien dalam menangani tanggapan terhadap lembaga pemeringkat seperti CDP, DJSI, dan FTSE.

Konsultasi Gratis Cloud AI Pelanggan Dimulai

Konsultasi Gratis Cloud AI Pelanggan Dimulai

25/1/17 4:30

Customer Cloud (Shinjuku-ku, Tokyo) telah mulai menawarkan konsultasi gratis tentang transformasi model bisnis menggunakan AI "Gemini" dan ".Ai" yang tertanam di Google Workspace.

bottom of page