bening
Jakarta – Intel merilis dua solusi infrastruktur AI terbarunya, yaitu prosesor Xeon 6 dan akselerator Gaudi 3.
Dua solusi ini memperkuat komitmen Intel untuk menyediakan sistem artificial intelligence/AI yang kuat dengan performa per watt yang optimal dan total biaya kepemilikan (total cost of ownership/TCO) yang lebih rendah.
“Permintaan AI mengakibatkan transformasi besar-besaran di pusat data, dan industri ini menginginkan pilihan untuk hardware, software dan tool pengembang,” kata Executive Vice President dan GM Data Center and Artificial Intelligence Group Intel, Justin Hotard.
“Dengan peluncuran Xeon 6 dengan P-cores dan AI accelerator Gaudi 3, Intel menghadirkan ekosistem terbuka yang memungkinkan para pelanggan kami mengimplementasikan semua beban kerja mereka dengan performa, efisiensi dan keamanan yang lebih besar”.
Intel Xeon 6 dengan P-cores didesain untuk menangani beban kerja yang butuh daya komputasi tinggi dengan efisien.
Xeon 6 dijanjikan punya performa dua kali lebih tinggi dibanding generasi sebelumnya, fitur core count yang lebih tinggi, bandwidth memori yang digandakan, serta kemampuan akselerasi AI di setiap core.
Prosesor ini dirancang untuk memenuhi kebutuhan performa tinggi untuk AI, dari mulai lingkungan edge hingga pusat data dan cloud.
Intel Gaudi 3 AI Accelerator dioptimalkan khusus untuk AI generatif berskala besar. Ia dilengkapi prosesor Tensor dengan 64 core (Tensor processor core/TPC) dan 8 matrix multiplication engine (MME) untuk mengakselerasi komputasi deep neural network.
Dilengkapi memori HBM2e 128GB untuk pelatihan dan inferensi, port Ethernet 24 200Gb untuk jaringan skalabel.
Baru-baru ini, Intel juga berkolaborasi dengan IBM untuk menjalankan AI accelerator Intel Gaudi 3 sebagai layanan di IBM Cloud.
Melalui kolaborasi ini, Intel dan IBM menargetkan untuk mengurangi total biaya kepemilikan dalam memanfaatkan dan menskalakan AI, sekaligus meningkatkan performa.
Intel pun bermitra dengan OEM terkemuka, meliputi Dell Technologies dan Supermicro untuk sama-sama mengembangkan sistem yang khusus dirancang untuk kebutuhan pelanggan yang spesifik supaya penerapan AI-nya menjadi lebih efektif.
Dell Technologies saat ini sama-sama merancang solusi berbasis RAG dengan memanfaatkan Gaudi 3 dan Xeon 6.
Transisi solusi AI generatif (Gen AI) dari prototipe ke sistem yang siap produksi memiliki beberapa tantangan dalam monitoring secara real-time, penanganan error, logging, keamanan dan skalabilitas.
Intel mengatasi tantangan tersebut melalui upaya co-engineering dengan OEM dan para mitra untuk menyediakan solusi retrieval-augmented generation (RAG) yang siap produksi.
Solusi yang dikembangkan di platform Open Platform Enterprise AI (OPEA) ini, mengintegrasikan layanan mikro berbasis OPEA ke dalam sistem RAG yang skalabel, yang dioptimalkan untuk Xeon dan sistem AI Gaudi, didesain supaya pelanggan dapat dengan mudah mengintegrasikan aplikasi dari Kubernetes, Red Hat OpenShift AI, dan Red Hat Enterprise Linux AI. (adm)
Sumber: detik.com
