La partnership con Microsoft OpenAI è nata dall'invidia di Google

Si scopre che il panorama odierno dell’intelligenza artificiale può essere ricondotto alla paura, alla gelosia e all’intensa ambizione capitalista. Innanzitutto le email rivelate nel caso antitrust del Dipartimento di Giustizia contro Google menzionato di Interessato al commercio, mostra i dirigenti Microsoft che esprimono il loro fastidio e la loro invidia per i progressi di Google nel campo dell'intelligenza artificiale. Ciò ha creato un’urgenza che ha portato il produttore di Windows a effettuare un investimento iniziale di 1 miliardo di dollari nel suo partner ormai indispensabile, OpenAI.

In una serie di e-mail del 2019 pesantemente redatta intitolata “Thoughts on OpenAI”, il CEO di Microsoft Satya Nadella invia una lunga lettera dal CTO Kevin Scott al CFO Amy Hood. “Un'ottima email che spiega perché voglio che lo facciamo… e anche perché poi garantiremo che il nostro personale infrastrutturale lo faccia”, ha scritto Nadella.

Scott ha scritto di essere “profondamente preoccupato” per la rapida crescita delle capacità di intelligenza artificiale di Google. Dice di aver inizialmente rifiutato gli “eccitanti giochi di gameplay” dell'azienda, probabilmente un riferimento ai modelli AlphaGo di Google. Uno di loro ha battuto il campione del mondo Go Ke Jie nel 2017, un’impresa impressionante per l’epoca. (I modelli successivi di Google andarono oltre questo modello, eliminando del tutto la necessità di formazione umana.)

Ma Scott sostiene che ignorare i progressi di Google nel settore dei videogiochi “è stato un errore”. “Quando hanno rilevato tutte le infrastrutture che avevano costruito [natural language] “I modelli che non potevamo replicare facilmente hanno iniziato a prendere le cose più sul serio”, ha scritto Scott. “Mentre scavavo più a fondo nel tentativo di capire dove fossero tutti i divari di capacità tra noi e Google in termini di formazione modulare, mi sentivo molto, molto preoccupato.”

Scott racconta come Microsoft abbia faticato a copiare il grande modello BERT di Google, il modello di intelligenza artificiale che decodifica il significato e il contesto delle parole in una frase. Scott ha attribuito la colpa ai progressi infrastrutturali compiuti dal suo concorrente, cosa che Microsoft non ha fatto.

“Si è scoperto che replicare semplicemente il grande modello BERT non era facile per noi. “Anche se avevamo il modello in atto, ci sono voluti circa 6 mesi per addestrarlo perché la nostra infrastruttura non era all'altezza del compito”, il CTO di Microsoft. ha scritto. “Google aveva avuto BERT per almeno sei mesi prima, quindi nel tempo impiegato per mettere insieme la capacità di addestrare un modello di parametri 340M, hanno avuto un anno per capire come metterlo in produzione e andare avanti. a modelli più ampi e interessanti.

Ha anche espresso la sua ammirazione e invidia per le funzionalità di completamento automatico di Gmail di Google, affermando che sono “diventate spaventosamente buone”. Ha commentato che Microsoft era “diversi anni indietro rispetto alla concorrenza in termini di… [machine learning] Volume.” Ha commentato la crescita “interessante” di OpenAI, DeepMind e Google Brain.

Scott ha elogiato le persone “molto intelligenti” di Microsoft nei suoi team di machine learning, ma ha affermato che le loro ambizioni sono frenate. “Ma i team principali di deep learning all’interno di ciascuno di questi grandi team sono molto piccoli e anche le loro ambizioni sono state limitate, il che significa che anche quando iniziamo a fornire loro risorse, devono comunque passare attraverso un processo di apprendimento per ampliare il lavoro”, Scott ha scritto. “E siamo diversi anni indietro rispetto alla concorrenza in termini di scala del machine learning.”

Dopo che Hood ha sottolineato che le preoccupazioni di Scott erano “perché voglio che facciamo questo?”, vale a dire investire in OpenAI, la società ha realizzato i desideri del suo CEO. Microsoft ha investito 1 miliardo di dollari nella startup guidata da Sam Altman nel 2019, e il resto è storia in rapida evoluzione. (Adesso ha investito 13 miliardi di dollari.) È una tecnologia che fa cose incredibili ma minaccia di distruggere il mercato del lavoro e offre ai predicatori lo strumento più potente mai creato in quella che era già un’era di disinformazione dilagante.