ElevenLabs, startup che sviluppa strumenti basati sull’intelligenza artificiale per creare e modificare voci, ha annunciato di aver concluso una fase di finanziamento di Serie B da 80 milioni di dollari, co-guidata da investitori di spicco tra cui l’azienda statunitense di Venture Capital Andreessen Horowitz, l’ex CEO di GitHub Nat Friedman e l’imprenditore Daniel Gross.
La fase di finanziamento, alla quale hanno partecipato anche Sequoia Capital, Smash Capital, SV Angel, BroadLight Capital e Credo Ventures, porta il totale raccolto da ElevenLabs a 101 milioni di dollari e valuta l’azienda oltre 1 miliardo di dollari (rispetto ai circa 100 milioni di dollari dello scorso giugno).
Il Ceo Mati Staniszewski ha dichiarato che il nuovo capitale verrà utilizzato per lo sviluppo del prodotto, l’espansione dell’infrastruttura e del team di ElevenLabs, la ricerca sull’intelligenza artificiale e il potenziamento delle misure di sicurezza per garantire uno sviluppo responsabile ed etico della tecnologia IA. “Abbiamo raccolto nuovi fondi per consolidare la posizione di ElevenLabs come leader globale nella ricerca e nello sviluppo di prodotti di intelligenza artificiale per la voce”, ha dichiarato Staniszewski in un’intervista a Reuters.
Cosa fa la startup
Fondata nel 2022 da Piotr Dabkowski, ex ingegnere di machine learning di Google, e da Mateusz Staniszewski, ex stratega di implementazione di Palantir, ElevenLabs è stata lanciata in versione beta circa un anno fa. Staniszewski afferma che lui e Dabkowski, entrambi cresciuti in Polonia, sono stati ispirati a creare strumenti di clonazione vocale dai film americani con doppiaggi di scarsa qualità.
Gli utenti possono iscriversi rapidamente al servizio e iniziare a generare voci. L’azienda offre anche la “clonazione professionale”, in grado riprodurre qualsiasi accento, tono, e cadenza.
Tra i suoi clienti ci sono creatori di contenuti e aziende come Storytel, Paradosso interattivo e il Washington Post. L’AD di Elevenlabs ha detto a Reuters che lo staff delle campagne politiche negli Stati Uniti sta utilizzando proprio il sistema messo a punto dalla startup londinese per raggiungere gli elettori che parlano lingue straniere.
Tra i suoi strumenti ci sono AI Speech Classifier, che aiuta a identificare i contenuti audio generati dall’intelligenza artificiale e una serie di prodotti per il doppiaggio di film, ed è al lavoro su un prodotto che consente agli utenti di generare voci artificiali e guadagnare concedendole in licenza.
Oggi, ElevenLabs è probabilmente nota soprattutto per la sua applicazione di generazione vocale basata sul browser che può creare voci realistiche con regolatori regolabili per intonazione, emozione, cadenza e altre caratteristiche vocali chiave. Gli utenti possono inserire gratuitamente del testo e ottenere una registrazione di quel testo letto ad alta voce da una delle diverse voci predefinite. I clienti a pagamento possono caricare campioni vocali per creare nuovi stili utilizzando la clonazione vocale di ElevenLabs.
Il problema Deepfake
Ad inizio 2023, dopo un paio di settimane dopo il lancio della piattaforma Prime Voice Ai di ElevenLabs, gli utenti hanno iniziato ad usate le voci di personaggi famosi per trasmettere messaggi razzisti e violenti.
Su 4Chan, un utente ha pubblicato una clip di Emma Watson che legge un passaggio di Mein Kampf. Poi la voce di Ben Shapiro che lancia commenti razzisti su Alexandria Ocasio-Cortez, e Rick Sanchez della serie animata Rick & Morty- Le clip spaziano dall’innocuo, al violento, al transfobico, all’omofobo, al razzista, dentro il frullatore fake sono finiti anche personaggi anime e di videogiochi.
Crazy weekend – thank you to everyone for trying out our Beta platform. While we see our tech being overwhelmingly applied to positive use, we also see an increasing number of voice cloning misuse cases. We want to reach out to Twitter community for thoughts and feedback!
— ElevenLabs (@elevenlabsio) January 30, 2023
EvenLabs ha twittato ”Weekend folle, grazie a tutti per aver provato la nostra piattaforma beta. Mentre vediamo che la nostra tecnologia viene applicata in modo schiacciante per un uso positivo, vediamo anche un numero crescente di casi di uso improprio della clonazione vocale”. ElevenLabs ha aggiunto che sta esplorando ulteriori misure di sicurezza, “queste includono la richiesta di informazioni, di pagamento o identificazione dell’ID completo”.