Generatif (Beta) |. Memberikan berita dan tren terkini dalam AI generatif
Google Cloud Umumkan Trillium TPU, VM A3 Ultra
Generatived
25/1/17 4:30
Akhir tahun 2024 menyaksikan pengumuman serangkaian kemajuan dalam infrastruktur AI, termasuk peluncuran Trillium, TPU generasi keenam, dan A3 Ultra VM dengan GPU NVIDIA H200. Perkembangan ini juga memperkenalkan dukungan untuk kluster node berskala di Google Kubernetes Engine dan peluncuran Parallelstore, sistem file terdistribusi yang dirancang untuk komputasi performa tinggi dan beban kerja AI. Alat-alat ini diharapkan dapat meningkatkan kemampuan pengembang untuk menciptakan solusi AI.
Google juga memperkenalkan komputer hiper AI, sistem komprehensif yang menggabungkan perangkat keras yang dioptimalkan, perangkat lunak terbuka, dan model konsumsi yang fleksibel. Pendekatan ini memungkinkan pengembang untuk memilih berbagai komponen infrastruktur agar selaras dengan persyaratan beban kerja spesifik mereka, menyediakan platform serbaguna untuk mengembangkan solusi AI di Google Cloud.
Pembaruan mencakup ketersediaan umum VM A3 Ultra dan Hypercompute Cluster untuk mendukung beban kerja terdistribusi. Didukung oleh GPU NVIDIA H200, VM A3 Ultra menyediakan bandwidth dan memori jaringan GPU-ke-GPU yang lebih besar, sementara Hypercompute Cluster menyediakan platform layanan komputasi super yang menyederhanakan penerapan dan pengelolaan sejumlah besar akselerator.
LG Research telah mulai memanfaatkan layanan baru ini, dan Jiyeon Jung, insinyur infrastruktur AI senior di perusahaan tersebut, memuji peningkatan kinerja dan skalabilitas yang dihadirkan oleh VM A3 Ultra dan kluster hypercomputing untuk proyek AI mereka. Ia juga menyebutkan kemudahan dalam menyiapkan dan menjalankan kluster sebagai peningkatan yang signifikan.
Selain itu, Trillium TPU diperkenalkan untuk meningkatkan throughput inferensi bagi agen AI, dengan peningkatan 3x lipat dari generasi sebelumnya. Google Cloud menawarkan berbagai cara untuk memanfaatkan TPU ini, termasuk Vertex AI dan alat lain yang dirancang khusus untuk Cloud TPU. Dukungan eksperimental untuk vLLM pada TPU dengan PyTorch/XLA 2.5 juga diumumkan, yang memungkinkan pengguna untuk mengeksplorasi manfaat performa Cloud TPU dalam pengaturan yang ada.
Bagikan artikel ini:
Berita terkini
Google Cloud Umumkan Trillium TPU, VM A3 Ultra
25/1/17 4:30
Akhir tahun 2024 menyaksikan pengumuman serangkaian kemajuan dalam infrastruktur AI, termasuk peluncuran Trillium, TPU generasi keenam, dan VM A3 Ultra dengan GPU NVIDIA H200.
Microsoft mengumumkan peran AI dalam upaya keberlanjutan global
25/1/17 4:30
Microsoft baru-baru ini menerbitkan makalah komprehensif berjudul, "Mempercepat Keberlanjutan dengan AI: Berinovasi untuk Future yang Lebih Baik."
Berkeley Lab mengembangkan AI untuk menemukan sumur terlantar
25/1/17 4:30
Para peneliti di Lawrence Berkeley National Laboratory telah mengembangkan model AI untuk menemukan sumur minyak yatim piatu yang tidak tercatat (UOW) di seluruh Amerika Serikat.
Copyright © 2024 Generatived - All right Reserved.
Bagikan artikel ini:
Bagikan artikel ini:
Kategori
Berita
AI dan hukum/peraturan/masyarakat
Generatived adalah layanan yang memberikan informasi dan tren khusus dalam AI Generatif. Kami akan melakukan yang terbaik untuk menyampaikan informasi tentang dunia yang berubah dengan cepat.
Profil perusahaan
Berita terkini
Google Cloud Umumkan Trillium TPU, VM A3 Ultra
25/1/17 4:30
Akhir tahun 2024 menyaksikan pengumuman serangkaian kemajuan dalam infrastruktur AI, termasuk peluncuran Trillium, TPU generasi keenam, dan VM A3 Ultra dengan GPU NVIDIA H200.
Microsoft mengumumkan peran AI dalam upaya keberlanjutan global
25/1/17 4:30
Microsoft baru-baru ini menerbitkan makalah komprehensif berjudul, "Mempercepat Keberlanjutan dengan AI: Berinovasi untuk Future yang Lebih Baik."
Berkeley Lab mengembangkan AI untuk menemukan sumur terlantar
25/1/17 4:30
Para peneliti di Lawrence Berkeley National Laboratory telah mengembangkan model AI untuk menemukan sumur minyak yatim piatu yang tidak tercatat (UOW) di seluruh Amerika Serikat.