“Maaf itu berantakan, karena kami para ilmuwan gila di sini,” canda Rami Sinno, direktur teknik di Annapurna Labs.
Di dalam hub Austin Annapurna, saya berkeliling pusat saraf dari apa yang dulunya adalah startup chip kecil Israel – dihapuskan oleh Amazon untuk $ 350 juta pada tahun 2015 – yang sekarang memberi daya ambisi AI raksasa teknologi.
Saya dipimpin menjadi dua garasi yang dipenuhi gigi yang dipenuhi dengan papan sirkuit, rak server, dan peralatan pengujian. Satu kamar adalah bengkel yang tenang, dengan seorang insinyur mem -boot chip di papan uji untuk melihat apakah mereka berjalan dengan benar dan yang lain mengintip melalui mikroskop dengan besi solder di tangannya, dengan hati -hati menyesuaikan komponen chip kecil. Kamar lain sangat berisik sehingga membutuhkan penyumbat telinga, dengan kipas besar mendinginkan udara di dalamnya sebagai staf Annapurna stres-test chip AI di server tujuh kaki yang memberi daya jaringan global pusat data yang luas, beberapa di antaranya sebesar delapan bidang sepak bola.
Di sinilah Annapurna merancang dan menguji beberapa semikonduktor paling canggih di dunia untuk divisi AWS Cloud yang sangat penting dari Amazon dan pelanggannya. Sekarang membawa bobot dorongan taruhan tinggi Amazon untuk membuat chip buatan sendiri untuk melatih dan menjalankan model AI-nya dan dengan demikian mengimbangi saingan seperti alfabet Google, Facebook MetaDan Microsoft.
Upaya ini dimaksudkan untuk mengurangi ketergantungan Amazon Nvidiayang mendominasi pasar untuk chip itu kekuatan AI. Chip AI Nvidia, yang disebut GPU, masing -masing berharga hingga $ 40.000. Mempertimbangkan bahwa puluhan ribu chip ini mungkin diperlukan untuk pusat data tunggal, biaya keseluruhan adalah astronomi. Dengan mengembangkan chipnya sendiri, Amazon mendapatkan kendali yang lebih besar dan kemampuan untuk menawarkan alternatif kompetitif kepada pelanggan di AWS.
Semua ini sangat penting sekarang karena Amazon bersandar pada Annapurna untuk membantu supercharge Amazon Investasi $ 8 miliar dalam antropik startup AI. Amazon’s AWS adalah penyedia cloud utama Anthropic, yang berarti bahwa antropik menggunakan chip in-house Amazon untuk melatih dan menggunakan model seperti chatbot Claude AI yang populer.
Kemitraan Amazon-Antropik mencakup kolaborasi yang baru diumumkan Project Rainiersuperkomputer besar yang dirancang oleh Annapurna Labs yang akan menggunakan ratusan ribu chip Falium2 yang dirancang Annapurna. Amazon dan Anthropic mengatakan Project Rainier akan memberikan lebih dari lima kali daya komputasi yang digunakan untuk melatih generasi model AI terkemuka saat ini.
Memiliki kelompok komputasi yang begitu besar masih dilihat oleh banyak orang di industri AI sebagai keharusan bagi mereka yang berharap untuk tetap berada di tepi pendarahan pengembangan model AI. Tetapi beberapa analis telah mulai mempertanyakan apakah infrastruktur besar seperti itu benar -benar diperlukan mengikuti kemajuan dari perusahaan Cina Deepseek awal tahun ini. Perusahaan itu muncul dari ketidakjelasan relatif untuk menunjukkan bahwa dimungkinkan untuk membangun model AI yang sangat berkemampuan dengan biaya lebih murah dan membutuhkan chip yang jauh lebih sedikit. Ini merilis model open-source yang cocok atau mengungguli beberapa tolok ukur model AI dari perusahaan yang jauh lebih besar-meskipun dilatih dengan kekuatan komputasi yang jauh lebih sedikit.
Nafea Bshara, pendiri Annapurna Labs, memberi tahu Harta benda bahwa timnya dengan sengaja tetap berada di luar sorotan. Ini sangat kontras dengan Nvidia, yang memegang peristiwa heboh yang dipimpin oleh CEO Rockstar, lengkap dengan jaket kulit hitam khas. “Anda tidak melihat banyak tentang kami – kami ingin membiarkan produk dan nilai berbicara sendiri, bukan hal -hal yang mencolok,” kata Bshara.
Tetapi kemitraan Amazon-Anthropic telah membangkitkan rasa ingin tahu segar ke dalam pekerjaan Annapurna: Apakah benar-benar ada ruang di pasar untuk chip Amazon yang solid dan hemat biaya, yang menurut analis cenderung menjadi generasi di belakang NVIDIA dalam hal kinerja? Amazon juga dilaporkan mencoba Untuk secara signifikan meremehkan nvidia pada harga chip AI – tetapi apakah itu akan benar -benar meyakinkan pelanggan cloud AWS untuk memilih firium?
Annapurna Labs tidak mulai mengerjakan AI
Annapurna Labs, didirikan pada 2011 oleh tiga Intel Dan Broadcom Veteran, tidak mulai fokus pada chip AI untuk Amazon. Pekerjaan awalnya untuk perusahaan adalah semua tentang cloud: membangun chip khusus untuk meningkatkan bagaimana AWS menangani hal -hal seperti penyimpanan data, lalu lintas jaringan, dan komputasi rutin. Pada tahun 2018, itu telah mengumpulkan kemenangan untuk AWS dengan Graviton, keluarga chip yang digunakan oleh lebih dari 90% pelanggan AWS untuk infrastruktur cloud. Tetapi dalam beberapa tahun terakhir, ketika NVIDIA GPU menjadi chip untuk AI, penyedia cloud besar seperti AWS Amazon, Google Cloud, dan Microsoft Azure mulai membangun chip AI mereka sendiri untuk mengurangi ketergantungan pada NVIDIA dan menyesuaikan perangkat keras untuk kinerja yang lebih baik pada infrastruktur cloud mereka sendiri. Google membuat chip TPU AI pertamanya tersedia di cloud -nya pada tahun 2018, misalnya, sementara Annapurna Labs meluncurkan chip AI Inferentia pertamanya untuk AWS pada tahun 2019 dan kemudian Fatium pada tahun 2020. FRAILIUM2 terbaru, diluncurkan pada tahun 2023 dan sekarang umumnya tersedia.
Sinno menunjukkan kepada saya contoh-contoh tentang bagaimana chips fatium2 bersarang ke papan buatan khusus, yang dimasukkan ke rak yang ditumpuk ke dalam server tinggi yang hidup di pusat data AWS. Pelanggan AWS mengakses chip ini melalui cloud, sementara Annapurna terus memantau chip dan memastikan semuanya bekerja di bawah kap. Ini menetapkan tegangan dan frekuensi yang tepat, melacak kesehatan chip, papan, dan sistem penuh, dan mencari sinyal bahwa sesuatu mungkin gagal.
“Kami mencari peringatan dini yang akan memberi tahu kami jika sebuah chip akan menyebabkan pengalaman pelanggan yang buruk,” kata Sinno. “Jika mereka mendeteksi risiko, sistem secara otomatis menutup chip itu dan memutar yang lain di tempatnya.”
Opsi biaya yang efisien dan lebih rendah untuk pelanggan AWS
Gil Luria, Kepala Penelitian Teknologi di Firma Perbankan Investasi Da Davidson, katakan Harta benda Amazon itu beruntung telah masuk ke bisnis chip satu dekade yang lalu, karena membangun chip kompetitif membutuhkan pengembangan dan iterasi bertahun -tahun. Ini juga bukan hanya tentang memproduksi chip. Salah satu keunggulan terbesar Nvidia adalah menghabiskan waktu bertahun -tahun membangun arsitektur dan sistem perangkat lunak baru, yang disebut CUDA, untuk membantu pengembang dan peneliti bekerja dengan chip AI mereka.
Seandainya Annapurna Labs memulai upaya chip AI-nya untuk Amazon setengah dekade kemudian, masih akan bertahun-tahun lagi dari produk jadi, Luria menjelaskan. Tapi sekarang, dengan chip inferentia dan feliumnya, AWS dapat menawarkan kepada pelanggan pilihan. Chip in-house Amazon mungkin tidak lebih bijaksana daripada GPU terbaru NVIDIA, tetapi untuk beberapa pekerjaan AI, mereka lebih efisien, berbiaya lebih rendah, dan terintegrasi sepenuhnya ke dalam sisa tumpukan teknologi AWS. Dalam ekonomi komputasi awan yang kompleks, itu adalah pembeda penting.
Nvidia sadar bahwa penyedia cloud besar, yang juga merupakan beberapa pelanggan terbesarnya, bekerja lembur untuk mengurangi ketergantungan mereka pada GPU -nya, kata Daniel Newman, CEO firma analis The Futurum Group. Faktanya, pada konferensi GTC baru-baru ini Nvidia, untuk pertama kalinya CEO NVIDIA Jensen Huang memoleskan kemitraan lama perusahaannya dengan Amazon, Google, dan Microsoft, sebagai gantinya berfokus pada kemitraannya dengan generasi baru perusahaan komputasi awan, termasuk Coreweave dan Lambda Labs. “Itu adalah semacam awal untuk mempersiapkan hidup di luar (penyedia cloud besar),” kata Newman.
Namun, sementara Graviton sukses besar bagi AWS untuk chip komputasi awan murni, Newman mengatakan juri keluar pada penawaran AI Annapurna. Sejauh ini, Inferentia dan Flielium telah paling sukses untuk penggunaan internal Amazon sendiri, jelasnya.
Sementara dominasi Nvidia sebagian besar didorong oleh perannya dalam melatih model AI besar-besaran-tugas yang sangat intensif-Amazon telah mengambil pendekatan tersegmentasi. Inferentia, dikembangkan secara khusus untuk menghasilkan output dari model yang telah dilatih (apa yang dikenal di industri sebagai “inferensi”), dan digunakan untuk suara di Alexa Amazon, serta AI yang digunakan dalam pencarian dan rekomendasi Amazon.com. Blok bangunan Fatium, di sisi lain, dimaksudkan untuk inferensi dan pelatihan-termasuk model pembelajaran mendalam Amazon sendiri, seperti yang baru saja dirilis yang baru saja dirilis Nova.
Hubungan yang saling menguntungkan dengan antropik
Annapurna Labs ‘Bshara mengatakan bahwa ketika waktu tunggu untuk memberikan chip AI mutakhir baru sangat lama-18-36 bulan-kunci keberhasilan adalah bekerja dengan perusahaan yang mendorong amplop pada teknologi. “Untuk itu, antropik sejauh ini adalah yang terbaik dalam pandangan saya,” katanya, juga mengutip tim Amazon yang bekerja pada kecerdasan umum buatan, atau AI yang mampu seperti manusia pada tugas -tugas tertentu, serta pengembang sumber terbuka yang mengembangkan dan menggunakan model AI pada Flielium sebagai juga memberikan umpan balik yang berharga.
Gadi Hutt, Direktur Produk dan Teknik Pelanggan di Annapurna Labs, mengatakan hubungan dengan antropik dimulai pada tahun 2022. Tim antropik yang didedikasikan untuk meningkatkan kinerja pelatihan model AI meminta Annapurna untuk memberinya fasium untuk dimainkan. “Biasanya, ketika kami berbicara dengan pelanggan, kami ingin memahami apa yang akan mereka bangun sehingga kami dapat membimbing mereka,” katanya. “Tapi mereka berkata, ‘Tidak, berikan saja kepada kita.’ Mereka kembali dengan laporan lengkap tentang tes yang telah mereka jalankan selama akhir pekan. ”
Tom Brown, kepala petugas komputasi dan salah satu pendiri Anthropic, mengenang Annapurna memberinya akses ke felium pada hari Jumat, dan dia mencoba menerapkan beberapa jaringan saraf kecil (jenis model AI yang digunakan untuk pembelajaran mendalam, dasar model bahasa besar). Tetapi beberapa fungsi dasar tidak berfungsi dengan benar. “Saya mendokumentasikan masalah dan mengirimkan umpan balik saya,” katanya Harta benda melalui email. “Mereka secara iteratif meningkatkan sistem saat kami terus mengujinya … mereka menanggapi persyaratan kami dengan serius.”
Brown menambahkan bahwa kolaborasi Anthropic dengan Annapurna lebih terintegrasi daripada hubungan vendor yang khas. “Kami sering berkomunikasi dalam segala hal mulai dari pekerjaan optimisasi tingkat rendah hingga keputusan arsitektur tingkat tinggi untuk chip generasi berikutnya,” katanya. “Ini saling menguntungkan – kami berdua perlu bekerja sama untuk membangun perangkat keras yang tidak hanya efektif untuk model saat ini, tetapi juga untuk model yang akan datang bertahun -tahun di jalan.”
Di Amazon’s Re: Invent Cloud Computing Conference pada bulan Desember, Antropik dilaporkan Bahwa telah mengoptimalkan model Claude untuk menjalankan pada falium2, dan mendapat 60% kinerja lebih cepat dari garis dasar untuk model claude haiku 3.5.
Tekanan akan menyala untuk Annapurna Labs dan Anthropic
BSHARA ANNAPURNA mengaku merasakan banyak tekanan untuk memberikan pelanggan antropik dan AWS lainnya. Dan itu bukan hanya karena kompetisi dengan Nvidia, tambahnya. “Banyak pelanggan bertaruh pada kami dan kami harus terus mendapatkan kepercayaan mereka, baik pada kualitas produk, skala produk (dan) filosofi peta jalan,” kata Bshara.
Luria setuju bahwa antropik harus berhasil bagi Amazon, melalui Annapurna Labs, atau antropik untuk memenangkan perlombaan AI. “Jika model Anthropic tidak terus menjadi lebih besar, lebih kuat dan lebih populer dengan pengguna, tidak ada perusahaan yang akan menang,” katanya.
Newman tetap bullish di Investasi Annapurna Labs Amazon ketika datang ke AI. Kinerja chip sangat mengesankan, katanya, dan meskipun pengembang antropik dan Amazon mungkin lebih suka chip Nvidia mutakhir, tim bisnis-yang menginginkan efisiensi dan biaya yang lebih rendah-biasanya menang.
“Di mata saya, ini adalah tembakan,” katanya. “Nvidia tidak akan membuat seluruh pasar tidak terbantahkan.” Dan, ini masih relatif awal untuk Annapurna Labs, Newman menambahkan. “Nvidia menghabiskan dua dekade, TPU Google memakan waktu 10 tahun lebih,” katanya. “Annapurna beberapa tahun dalam permainan. Pengembangan chip sulit.”
Kisah ini awalnya ditampilkan Fortune.com
ADVERTISEMENT:
Hai, para pengemar slots pernahkah mendengar semboyan “slot gaco”? Kalau tidak, siap-siap jatuh hati dengan program ini. slot gacor adalah mesin slot yang selalu memberi win. Ya, slot-slot ini bisa disebut adalah andalannya buat membawa come back cuan. tapi, cemana sih tekniknya nemuin slot gacor yang tepat? Santuy Bro, kita beri santai saja di tempat ini
Game terpopuler waktu ini satu-satunya di Indonesia yaitu akan memberikan imbal hasil terbaik
Daftarkanlah dengan di :
Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah KING SLOT atau Raja slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
situs slot terbaru
situs slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
slot terbaru
slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
soda96 permainan paling top dan garansi imbal balik hasil besar bersama soda96.com
sparta88 permainan paling top dan garansi imbal balik hasil besar bersama sparta88.biz
sugesbola88 permainan paling top dan garansi imbal balik hasil besar bersama sugesbola88.org
tektok7777 permainan paling top dan garansi imbal balik hasil besar bersama tektok7777.com
tektok88 permainan paling top dan garansi imbal balik hasil besar bersama tektok88.biz
toinktoto88 permainan paling top dan garansi imbal balik hasil besar bersama toinktoto88.com
tokek888slot permainan paling top dan garansi imbal balik hasil besar bersama tokek888slot.com
topslot888 permainan paling top dan garansi imbal balik hasil besar bersama topslot888.biz
tuanslot888 permainan paling top dan garansi imbal balik hasil besar bersama tuanslot888.club
uang88 permainan paling top dan garansi imbal balik hasil besar bersama uang88.biz
uang8888 permainan paling top dan garansi imbal balik hasil besar bersama uang8888.com
userslot88 permainan paling top dan garansi imbal balik hasil besar bersama userslot88.info
uus88 permainan paling top dan garansi imbal balik hasil besar bersama uus88.biz
waslot88 permainan paling top dan garansi imbal balik hasil besar bersama waslot88.asia
wayantogel88 permainan paling top dan garansi imbal balik hasil besar bersama wayantogel88.com
zona666 permainan paling top dan garansi imbal balik hasil besar bersama zona666.biz
zona88 permainan paling top dan garansi imbal balik hasil besar bersama zona88.biz
slot96 permainan paling top dan garansi imbal balik hasil besar bersama slot96.biz
arjuna69 permainan paling top dan garansi imbal balik hasil besar bersama arjuna69.com
hqtoto88 permainan paling top dan garansi imbal balik hasil besar bersama hqtoto88.com
bangshun88 permainan paling top dan garansi imbal balik hasil besar bersama bangshun88.com
btc999 permainan paling top dan garansi imbal balik hasil besar bersama btc999.org
supraslot888 permainan paling top dan garansi imbal balik hasil besar bersama supraslot888.net
sortoto88 permainan paling top dan garansi imbal balik hasil besar bersama sortoto88.net
logamtoto88 permainan paling top dan garansi imbal balik hasil besar bersama logamtoto88.net
goslot777 permainan paling top dan garansi imbal balik hasil besar bersama goslot777.info
gebyar88 permainan paling top dan garansi imbal balik hasil besar bersama gebyar88.biz
botak88 permainan paling top dan garansi imbal balik hasil besar bersama botak88.biz
ibis88 permainan paling top dan garansi imbal balik hasil besar bersama ibis88.asia
autobot777slot permainan paling top dan garansi imbal balik hasil besar bersama autobot777slot.com
jwmarriott88 permainan paling top dan garansi imbal balik hasil besar bersama jwmarriott88.com
reddoorz88 permainan paling top dan garansi imbal balik hasil besar bersama reddoorz88.com
hotelharris88 permainan paling top dan garansi imbal balik hasil besar bersama hotelharris88.com
novotel88 permainan paling top dan garansi imbal balik hasil besar bersama novotel88.com
orientalplay88 permainan paling top dan garansi imbal balik hasil besar bersama orientalplay88.com
oyo88 permainan paling top dan garansi imbal balik hasil besar bersama oyo88.live
agoda88 permainan paling top dan garansi imbal balik hasil besar bersama agoda88.asia
tiket88 permainan paling top dan garansi imbal balik hasil besar bersama tiket88.asia
santika88 permainan paling top dan garansi imbal balik hasil besar bersama santika88.org
grandaston88 permainan paling top dan garansi imbal balik hasil besar bersama grandaston88.com
booking88 permainan paling top dan garansi imbal balik hasil besar bersama booking88.org
grandmercure88 permainan paling top dan garansi imbal balik hasil besar bersama grandmercure88.com
tripadvisor88 permainan paling top dan garansi imbal balik hasil besar bersama tripadvisor88.com
hotelmulia88 permainan paling top dan garansi imbal balik hasil besar bersama hotelmulia88.com
aryaduta88 permainan paling top dan garansi imbal balik hasil besar bersama aryaduta88.com
shangrila88 permainan paling top dan garansi imbal balik hasil besar bersama shangrila88.com
holidayinn88 permainan paling top dan garansi imbal balik hasil besar bersama holidayinn88.com
antam88 permainan paling top dan garansi imbal balik hasil besar bersama antam88.info
