Come può Amazon utilizzare chip AWS personalizzati per recuperare Microsoft e Google nel campo AI?
Secondo la CNBC, il team di Amazon sta progettando due chip, Inferentia e formazione in codice, per la formazione e l'accelerazione dell'intelligenza artificiale generativa.Questi chip offrono un'opzione alternativa per i clienti AWS di Amazon Cloud Services per formare modelli di grandi dimensioni invece di processori grafici NVIDIA.Attualmente, l'approvvigionamento di GPU è diventato sempre più difficile e costoso e questi chip personalizzati possono fornire ai clienti AWS soluzioni alternative per la formazione di modelli di grandi dimensioni su chip Nvidia.
Adam Selipsky, CEO di Amazon Cloud Technology, ha dichiarato nel giugno di quest'anno: "Il mondo spera di avere più chip per l'intelligenza artificiale generativa, che si tratti di chips auto-sviluppato di Amazon che stiamo progettando
Tuttavia, altre società hanno intrapreso un'azione più veloce e hanno investito più fondi per ottenere affari dall'ondata di intelligenza artificiale generativa.Quando Openai ha lanciato CHATGPT nel novembre dello scorso anno, Microsoft ha attirato un'attenzione diffusa per i suoi chatbot e $ 13 miliardi di investimenti in Openi.La società ha rapidamente aggiunto modelli di intelligenza artificiale generativa ai suoi prodotti e li ha uniti a Bing nel febbraio di quest'anno.
Nello stesso mese, Google ha lanciato il proprio modello linguistico su larga scala, Bard, e successivamente ha investito $ 300 milioni in Openai Concorrector Antropic.
Non è stato fino a aprile che Amazon ha annunciato il lancio della sua serie di modelli di linguaggio di grandi dimensioni (chiamato Titan) e un servizio di Bedlock per aiutare gli sviluppatori a utilizzare software generativo di potenziamento dell'IA.
Amazon non è abituato a inseguire il mercato.Amazon è abituato a creare il mercato.Penso che per la prima volta da molto tempo, si sono trovati in svantaggio e stanno lavorando duramente per recuperare il ritardo ", ha affermato Chirag Dekate, vicepresidente analista di Gartner.
Meta ha recentemente pubblicato i propri modelli Llama 2.Questo concorrente Open Source CHATGPT può ora essere testato sul cloud pubblico di Azure di Microsoft.
I chip sono "vera differenziazione"
DeKate ha affermato che a lungo termine, i chip personalizzati di Amazon possono dargli un vantaggio nel campo dell'intelligenza artificiale generativa,
Penso che la vera differenziazione risieda nelle capacità tecniche che esercitano, poiché Microsoft non ha chip personalizzati per la formazione o l'inferentia
AWS ha iniziato a produrre chip personalizzati già nel 2013, utilizzando un hardware specializzato chiamato Nitro, che ora è il chip AWS più venduto.Amazon afferma che ogni server AWS ne ha almeno uno, con un utilizzo totale di oltre 20 milioni.
Nel 2015, Amazon ha acquisito la startup di chip israeliani Annapurna Labs.Nel 2018, Amazon ha lanciato il server CHIP Server Based Based, che è un concorrente di CPU X86 da giganti come AMD e Intel.
Il braccio può tenere conto di un'unica cifra o anche del 10% delle vendite totali del server, con una grande porzione proveniente da Amazon.Pertanto, stanno andando abbastanza bene in termini di CPU ", ha affermato Stacy Rasgon, analista senior di Bernstein Research.
Sempre nel 2018, Amazon ha lanciato chips incentrato sull'intelligenza artificiale.Due anni fa, Google ha annunciato il lancio della sua prima unità di processore (TPU).Microsoft non ha ancora annunciato che sta sviluppando Athena AI Chip, che secondo quanto riferito è sviluppato in collaborazione con AMD.
Matt Wood, vicepresidente di Amazon Products, ha spiegato gli usi delle chip di formazione e inferi.
L'apprendimento automatico è diviso in queste due diverse fasi.Pertanto, si allena modelli di apprendimento automatico e quindi si deduce questi modelli addestrati ", ha detto Wood. Rispetto a qualsiasi altro metodo di allenamento di modelli di apprendimento automatico su AWS, la formazione ha migliorato la sua efficacia in termini di costi di circa il 50%
Dopo il rilascio di Inferentia nel 2019 (attualmente nella sua seconda generazione), la formazione è stata lanciata per la prima volta nel 2021.
Inferentia "fornisce inferenza di apprendimento automatico a basso costo, ad alto rendimento e a bassa latenza, il che significa che quando si inserisce un prompt in un modello di intelligenza artificiale generativa, tutte le previsioni vengono elaborate qui per dare una risposta", ha affermato Wood.
Tuttavia, attualmente, la GPU di Nvidia è ancora il re in termini di modelli di addestramento.Nel luglio di quest'anno, AWS ha lanciato un nuovo hardware di accelerazione AI supportato da Nvidia H100.
Rasgon ha dichiarato: "I chip Nvidia hanno un enorme ecosistema software e, negli ultimi 15 anni, l'ecosistema software costruito attorno a loro non è stato eguagliato da altre società. Attualmente, il più grande vincitore dell'intelligenza artificiale è Nvidia
Sfruttare i vantaggi del cloud
Tuttavia, il dominio del cloud di AWS è un importante fattore di differenziazione per Amazon.
Amazon non ha bisogno di alcuna attenzione extra.Amazon ha già una fondazione di installazione cloud molto forte.Tutto quello che devono fare è capire come consentire ai clienti esistenti di sfruttare l'intelligenza artificiale generativa per estendersi alle attività di creazione di valore ", ha affermato Dekate.
Quando si sceglie l'intelligenza artificiale generativa tra Amazon, Google e Microsoft, milioni di clienti AWS potrebbero essere attratti da Amazon in quanto hanno già familiarità con Amazon ed eseguono altre applicazioni e archiviano i dati lì.
Mai Lan Tomsen Bukovec, vicepresidente della tecnologia AWS, ha spiegato: "Questa è una questione di velocità. La velocità con cui queste aziende possono sviluppare queste applicazioni di intelligenza artificiale generativa dipende da come iniziano con i dati in AWS e utilizzano gli strumenti di informatica e di apprendimento automaticofornire per guidarlo
Secondo Gartner Data, AWS è il più grande fornitore di cloud computing al mondo, con una quota di mercato del 40% nel 2022. Sebbene l'utile operativo di Amazon sia diminuito di anno in anno per tre trimestri consecutivi, AWS rappresentava ancora il 70% dei $ 7,7 miliardi di AmazonProfitto operativo nel secondo trimestre.Dal punto di vista storico, il margine di profitto operativo di AWS è molto più alto di Google Cloud.
Inoltre, AWS ha anche un portafoglio crescente di strumenti per sviluppatori incentrati sull'intelligenza artificiale generativa.Swami Sivasubramanian, vicepresidente del database, analisi e machine learning presso AWS, ha detto: "Torniamo indietro l'orologio, anche prima di Chatgpt. Non è come dopo, improvvisamente ci siamo precipitati fuori con un piano perché non puoi progettare un nuovo pianoChip in quel digiuno, figuriamoci stabilire un servizio di base in 2-3 mesi
Bedlock può fornire ai clienti AWS l'accesso a grandi modelli di linguaggio sviluppati da Antiic, Stability AI, AI21 Labs e Amazon Titan.Sivasubramanian ha dichiarato: "Non crediamo che un modello dominerà il mondo. Vogliamo che i nostri clienti abbiano modelli all'avanguardia da più fornitori perché sceglieranno gli strumenti giusti per il lavoro giusto
Uno degli ultimi prodotti di intelligenza artificiale di Amazon è AWS HealthScribe, che è stato lanciato a luglio e mira ad aiutare i medici a redigere i riassunti delle visite ai pazienti usando l'intelligenza artificiale generativa.Amazon ha anche un centro di apprendimento automatico chiamato SageMaker, che fornisce servizi come algoritmi e modelli.
Un altro strumento importante è Codewhisperer, che afferma Amazon ha aumentato la velocità di completamento delle attività degli sviluppatori in media del 57%.L'anno scorso, Microsoft ha anche riferito che il suo strumento di codifica Github Copilot ha migliorato l'efficienza del lavoro.
Nel giugno di quest'anno, AWS ha annunciato un investimento di $ 100 milioni per stabilire un centro di innovazione di intelligenza artificiale generativa.Adam Selipsky, CEO di AWS, ha dichiarato: "Abbiamo molti clienti che desiderano una tecnologia di intelligenza artificiale generativa, ma potrebbero non sapere necessariamente cosa significhi per loro nel proprio contesto aziendale. Pertanto, introdurremo architetti, ingegneri, strateghi,e i data scientist che lavorano con loro uno contro uno
Sebbene AWS si sia finora concentrato principalmente sullo sviluppo di strumenti anziché sulla costruzione di concorrenti per CHATGPT, un'e -mail interna di recente trapelata mostra che il CEO di Amazon Andy Jassy sta supervisionando direttamente un nuovo team centrale che sta anche costruendo modelli di grandi dimensioni scalabili.
Durante il secondo trimestre della teleconferenza finanziaria, Jia Xi ha dichiarato che una "parte significativa" dell'attività di AWS è ora guidata dall'intelligenza artificiale e dal suo supporto per più di 20 servizi di apprendimento automatico, con clienti tra cui Philips, 3M, Old Mutual e HSBC.
La crescita esplosiva dell'intelligenza artificiale ha portato a una serie di problemi di sicurezza, poiché le aziende sono preoccupate che i dipendenti incorporeranno informazioni proprietarie nei dati di formazione utilizzati nel modello comune di grandi dimensioni.
Adam Selipsky ha detto: "Non posso dirti quante aziende Fortune 500 ho contattato hanno disabilitato Chatgpt. Pertanto, attraverso i nostri metodi di intelligenza artificiale generativa e servizi di bidlock, qualsiasi cosa tu faccia e tramite Bedlock sarà nel tuo ambiente cloud privato virtuale indipendente. Sarà crittografato e avrà lo stesso controllo di accesso AWS
Al momento, Amazon sta solo accelerando la promozione dell'intelligenza artificiale generativa, sostenendo che i clienti "oltre 100000" stanno attualmente utilizzando l'apprendimento automatico su AWS.Sebbene ciò rappresenti solo una piccola parte dei milioni di clienti di AWS, gli analisti affermano che questa situazione potrebbe cambiare.
Non vediamo le aziende che dicono: 'Oh, aspetta un minuto, Microsoft è già conducendo nell'intelligenza artificiale generativa.Usciamo e cambiamo la nostra strategia di infrastruttura, spostando tutto su Microsoftware.Se sei già un cliente di Amazon, è probabile che esplorerai più ampiamente l'ecosistema di Amazon. "
Adam Selipsky, CEO di Amazon Cloud Technology, ha dichiarato nel giugno di quest'anno: "Il mondo spera di avere più chip per l'intelligenza artificiale generativa, che si tratti di chips auto-sviluppato di Amazon che stiamo progettando
Tuttavia, altre società hanno intrapreso un'azione più veloce e hanno investito più fondi per ottenere affari dall'ondata di intelligenza artificiale generativa.Quando Openai ha lanciato CHATGPT nel novembre dello scorso anno, Microsoft ha attirato un'attenzione diffusa per i suoi chatbot e $ 13 miliardi di investimenti in Openi.La società ha rapidamente aggiunto modelli di intelligenza artificiale generativa ai suoi prodotti e li ha uniti a Bing nel febbraio di quest'anno.
Nello stesso mese, Google ha lanciato il proprio modello linguistico su larga scala, Bard, e successivamente ha investito $ 300 milioni in Openai Concorrector Antropic.
Non è stato fino a aprile che Amazon ha annunciato il lancio della sua serie di modelli di linguaggio di grandi dimensioni (chiamato Titan) e un servizio di Bedlock per aiutare gli sviluppatori a utilizzare software generativo di potenziamento dell'IA.
Amazon non è abituato a inseguire il mercato.Amazon è abituato a creare il mercato.Penso che per la prima volta da molto tempo, si sono trovati in svantaggio e stanno lavorando duramente per recuperare il ritardo ", ha affermato Chirag Dekate, vicepresidente analista di Gartner.
Meta ha recentemente pubblicato i propri modelli Llama 2.Questo concorrente Open Source CHATGPT può ora essere testato sul cloud pubblico di Azure di Microsoft.
I chip sono "vera differenziazione"
DeKate ha affermato che a lungo termine, i chip personalizzati di Amazon possono dargli un vantaggio nel campo dell'intelligenza artificiale generativa,
Penso che la vera differenziazione risieda nelle capacità tecniche che esercitano, poiché Microsoft non ha chip personalizzati per la formazione o l'inferentia
AWS ha iniziato a produrre chip personalizzati già nel 2013, utilizzando un hardware specializzato chiamato Nitro, che ora è il chip AWS più venduto.Amazon afferma che ogni server AWS ne ha almeno uno, con un utilizzo totale di oltre 20 milioni.
Nel 2015, Amazon ha acquisito la startup di chip israeliani Annapurna Labs.Nel 2018, Amazon ha lanciato il server CHIP Server Based Based, che è un concorrente di CPU X86 da giganti come AMD e Intel.
Il braccio può tenere conto di un'unica cifra o anche del 10% delle vendite totali del server, con una grande porzione proveniente da Amazon.Pertanto, stanno andando abbastanza bene in termini di CPU ", ha affermato Stacy Rasgon, analista senior di Bernstein Research.
Sempre nel 2018, Amazon ha lanciato chips incentrato sull'intelligenza artificiale.Due anni fa, Google ha annunciato il lancio della sua prima unità di processore (TPU).Microsoft non ha ancora annunciato che sta sviluppando Athena AI Chip, che secondo quanto riferito è sviluppato in collaborazione con AMD.
Matt Wood, vicepresidente di Amazon Products, ha spiegato gli usi delle chip di formazione e inferi.
L'apprendimento automatico è diviso in queste due diverse fasi.Pertanto, si allena modelli di apprendimento automatico e quindi si deduce questi modelli addestrati ", ha detto Wood. Rispetto a qualsiasi altro metodo di allenamento di modelli di apprendimento automatico su AWS, la formazione ha migliorato la sua efficacia in termini di costi di circa il 50%
Dopo il rilascio di Inferentia nel 2019 (attualmente nella sua seconda generazione), la formazione è stata lanciata per la prima volta nel 2021.
Inferentia "fornisce inferenza di apprendimento automatico a basso costo, ad alto rendimento e a bassa latenza, il che significa che quando si inserisce un prompt in un modello di intelligenza artificiale generativa, tutte le previsioni vengono elaborate qui per dare una risposta", ha affermato Wood.
Tuttavia, attualmente, la GPU di Nvidia è ancora il re in termini di modelli di addestramento.Nel luglio di quest'anno, AWS ha lanciato un nuovo hardware di accelerazione AI supportato da Nvidia H100.
Rasgon ha dichiarato: "I chip Nvidia hanno un enorme ecosistema software e, negli ultimi 15 anni, l'ecosistema software costruito attorno a loro non è stato eguagliato da altre società. Attualmente, il più grande vincitore dell'intelligenza artificiale è Nvidia
Sfruttare i vantaggi del cloud
Tuttavia, il dominio del cloud di AWS è un importante fattore di differenziazione per Amazon.
Amazon non ha bisogno di alcuna attenzione extra.Amazon ha già una fondazione di installazione cloud molto forte.Tutto quello che devono fare è capire come consentire ai clienti esistenti di sfruttare l'intelligenza artificiale generativa per estendersi alle attività di creazione di valore ", ha affermato Dekate.
Quando si sceglie l'intelligenza artificiale generativa tra Amazon, Google e Microsoft, milioni di clienti AWS potrebbero essere attratti da Amazon in quanto hanno già familiarità con Amazon ed eseguono altre applicazioni e archiviano i dati lì.
Mai Lan Tomsen Bukovec, vicepresidente della tecnologia AWS, ha spiegato: "Questa è una questione di velocità. La velocità con cui queste aziende possono sviluppare queste applicazioni di intelligenza artificiale generativa dipende da come iniziano con i dati in AWS e utilizzano gli strumenti di informatica e di apprendimento automaticofornire per guidarlo
Secondo Gartner Data, AWS è il più grande fornitore di cloud computing al mondo, con una quota di mercato del 40% nel 2022. Sebbene l'utile operativo di Amazon sia diminuito di anno in anno per tre trimestri consecutivi, AWS rappresentava ancora il 70% dei $ 7,7 miliardi di AmazonProfitto operativo nel secondo trimestre.Dal punto di vista storico, il margine di profitto operativo di AWS è molto più alto di Google Cloud.
Inoltre, AWS ha anche un portafoglio crescente di strumenti per sviluppatori incentrati sull'intelligenza artificiale generativa.Swami Sivasubramanian, vicepresidente del database, analisi e machine learning presso AWS, ha detto: "Torniamo indietro l'orologio, anche prima di Chatgpt. Non è come dopo, improvvisamente ci siamo precipitati fuori con un piano perché non puoi progettare un nuovo pianoChip in quel digiuno, figuriamoci stabilire un servizio di base in 2-3 mesi
Bedlock può fornire ai clienti AWS l'accesso a grandi modelli di linguaggio sviluppati da Antiic, Stability AI, AI21 Labs e Amazon Titan.Sivasubramanian ha dichiarato: "Non crediamo che un modello dominerà il mondo. Vogliamo che i nostri clienti abbiano modelli all'avanguardia da più fornitori perché sceglieranno gli strumenti giusti per il lavoro giusto
Uno degli ultimi prodotti di intelligenza artificiale di Amazon è AWS HealthScribe, che è stato lanciato a luglio e mira ad aiutare i medici a redigere i riassunti delle visite ai pazienti usando l'intelligenza artificiale generativa.Amazon ha anche un centro di apprendimento automatico chiamato SageMaker, che fornisce servizi come algoritmi e modelli.
Un altro strumento importante è Codewhisperer, che afferma Amazon ha aumentato la velocità di completamento delle attività degli sviluppatori in media del 57%.L'anno scorso, Microsoft ha anche riferito che il suo strumento di codifica Github Copilot ha migliorato l'efficienza del lavoro.
Nel giugno di quest'anno, AWS ha annunciato un investimento di $ 100 milioni per stabilire un centro di innovazione di intelligenza artificiale generativa.Adam Selipsky, CEO di AWS, ha dichiarato: "Abbiamo molti clienti che desiderano una tecnologia di intelligenza artificiale generativa, ma potrebbero non sapere necessariamente cosa significhi per loro nel proprio contesto aziendale. Pertanto, introdurremo architetti, ingegneri, strateghi,e i data scientist che lavorano con loro uno contro uno
Sebbene AWS si sia finora concentrato principalmente sullo sviluppo di strumenti anziché sulla costruzione di concorrenti per CHATGPT, un'e -mail interna di recente trapelata mostra che il CEO di Amazon Andy Jassy sta supervisionando direttamente un nuovo team centrale che sta anche costruendo modelli di grandi dimensioni scalabili.
Durante il secondo trimestre della teleconferenza finanziaria, Jia Xi ha dichiarato che una "parte significativa" dell'attività di AWS è ora guidata dall'intelligenza artificiale e dal suo supporto per più di 20 servizi di apprendimento automatico, con clienti tra cui Philips, 3M, Old Mutual e HSBC.
La crescita esplosiva dell'intelligenza artificiale ha portato a una serie di problemi di sicurezza, poiché le aziende sono preoccupate che i dipendenti incorporeranno informazioni proprietarie nei dati di formazione utilizzati nel modello comune di grandi dimensioni.
Adam Selipsky ha detto: "Non posso dirti quante aziende Fortune 500 ho contattato hanno disabilitato Chatgpt. Pertanto, attraverso i nostri metodi di intelligenza artificiale generativa e servizi di bidlock, qualsiasi cosa tu faccia e tramite Bedlock sarà nel tuo ambiente cloud privato virtuale indipendente. Sarà crittografato e avrà lo stesso controllo di accesso AWS
Al momento, Amazon sta solo accelerando la promozione dell'intelligenza artificiale generativa, sostenendo che i clienti "oltre 100000" stanno attualmente utilizzando l'apprendimento automatico su AWS.Sebbene ciò rappresenti solo una piccola parte dei milioni di clienti di AWS, gli analisti affermano che questa situazione potrebbe cambiare.
Non vediamo le aziende che dicono: 'Oh, aspetta un minuto, Microsoft è già conducendo nell'intelligenza artificiale generativa.Usciamo e cambiamo la nostra strategia di infrastruttura, spostando tutto su Microsoftware.Se sei già un cliente di Amazon, è probabile che esplorerai più ampiamente l'ecosistema di Amazon. "